Auch wenn sich mittlerweile viele Unternehmen mit Agententechnik zur Automatisierung von Geschäftsprozessen beschäftigen: Der Weg in die Multi-Agenten-Zukunft ist noch weit. Er macht organisatorische Umwälzungen nötig, die allen Stakeholdern viel abverlangen. Lesen Sie, worauf es ankommt.

Von Heinrich Vaske

Die Zeiten, in denen sich Unternehmen mit Assistive AI begnügt und Prompts ausschließlich zum Erstellen und Zusammenfassen von Texten verwendet haben, gehen zu Ende. Dank der Co-Pilot-Initiativen von Anbietern wie SAP, Salesforce und ServiceNow sind viele Betriebe dazu übergegangen, im Zusammenhang mit ihren Kernanwendungen domänenspezifische Assistenten und Agenten zu nutzen – auch wenn diese Lösungen durchaus Fragen etwa zu den Kostenmodellen bei API-Calls oder auch zum Thema Vendor-Lock-in aufgeworfen haben.

„SAP Joule“ etwa verspricht, bei der Navigation durch komplexe ERP-Masken zu helfen und Buchungen anzustoßen sowie Lieferketten- und Lagerbestände zu prüfen. Das Tool erklärt laut Anbieter Finanzkennzahlen, fasst Abweichungsberichte zusammen und deckt Anomalien in Beschaffungs- oder Rechnungsdaten auf. Und im Personalbereich hilft es Stellenbeschreibungen und Mitarbeiterziele in SuccessFactors zu generieren.

Auf die Incident- & Ticket-Automatisierung hat ServiceNow sein „Now Assist“ zugeschnitten: Komplexe Störungsfälle im IT Service Management, so verspricht der Hersteller, lassen sich automatisiert zusammenfassen, außerdem werden Lösungen aus der Knowledge Base vorgeschlagen und Übergabeprotokolle formuliert.

Ganz auf das CRM-Thema ist „Agentforce“ von Salesforce abgestellt. So werden Vertriebler mit automatisiert erstellten Kunden-E-Mails und Kundenhistorien unterstützt. Service- und Support-Mitarbeitende können sich Lösungsvorschläge generieren lassen, manche Serviceanfragen beantworten autonome Agenten auch im Alleingang. Und für das Marketing kann die KI anhand von Live-Daten aus der Salesforce Data Cloud zielgruppenspezifisch Kampagneninhalte erstellen.

So weit, so gut – aber KI-Agenten können noch viel mehr. Große Konzerne nähern sich einer Multi-Agenten-Welt, in der KI-Agenten komplexe Geschäftsprozesse weitgehend autonom steuern und menschliche Eingriffe auf Kontroll- und Freigabeentscheidungen reduzieren. In solchen Szenarien arbeiten Planungs-, Ausführungs- und Kontrollinstanz Hand in Hand. Anwendungsbeispiele sind etwa die vorausschauende Planung der Disposition in einer verzweigten Lieferkette oder die automatisierte Analyse und Erkennung von Betrugsversuchen.

Das AI Center of Excellence soll auch Rechts- und Datenschutzfragen bündeln

In diesem Beitrag wollen wir der Frage nachgehen, wie sich Unternehmen aufstellen, wenn sie weitreichende Schreib- und Ausführungsrechte an KI-Agenten übertragen wollen. Momentan sind folgende Muster zu beobachten:

1. Einrichtung eines AI Center of Excellence (AI CoE): Hier bündeln große Konzerne die benötigten Kompetenzen. Experten mit Domain-Know-how bewerten Anwendungsfälle strukturiert nach Risikoklassen. Im Idealfall werden dabei alle wichtigen Fragestellungen von der IT über juristische Zusammenhänge bis hin zu Datenschutz und Compliance (Stichwort EU AI Act) berücksichtigt.
2. Human-in-the-Loop: Die Betriebe stecken den KI-Agenten enge Grenzen, in denen sie vollständig autonom arbeiten dürfen. Werden diese überschritten, greift ein Mensch als Freigabe-Instanz ein. Das kann zum Beispiel der Fall sein, wenn eine Transaktion ein definiertes Budget überschreitet oder eine sicherheitskritische Systemkonfiguration berührt wird.
3. Semantische Datenaufbereitung: Mit bunt zusammengewürfelten Datensilos kommen Agenten nicht zurecht. Die meisten Unternehmen investieren deshalb in Vektordatenbanken, saubere REST-APIs und unternehmensweite Rechtemodelle, damit Agenten auf einen validierten Geschäftskontext zugreifen können.
4. Sicherheit: Während klassische Firewalls Ports, IP-Adressen und bekannte technische Schadcode-Muster überwachen, verlagert sich die Bedrohung bei LLM-basierten Systemen und Agentic AI auf die semantische Ebene. Angriffe erfolgen über eine scheinbar legitime natürliche Sprache. Um sie abzuwehren, sind Leitplanken (Guardrails) gegen Prompt-Injections nötig, ebenso die automatische Maskierung personenbezogener Daten (PII = Personally Identifiable Information). Auch rollenbasierte Schreib- und Löschrechte sind unverzichtbar.

Keine Fehlertoleranz: Agenten in Finanzen und Gesundheit

Wenn Unternehmen Agentensysteme einführen, beginnen sie nicht mit ihrem Kernprodukt. Sie schauen vielmehr nach hohen Datenvolumina, repetitiven Aufgaben und Szenarien mit kalkulierbaren Ausfallrisiken. Deshalb bilden fast immer der Kundenservice und der interne IT-Service-Desk den Auftakt.

Hier qualifizieren die Agenten Anfragen vor, lösen Standardprobleme autonom per API-Trigger und schaffen es so, die Teams spürbar zu entlasten. Parallel dazu etablieren sich überall Coding-Agenten im Software-Engineering. Sie coden, entwerfen und dokumentieren Testfälle und schließen Sicherheitslücken.

Erst in der zweiten Welle folgen Marketing und Vertrieb, wo zum Beispiel Lead-Recherchen und Angebotserstellung automatisiert werden. Auch in den HR- und Finance-Abteilungen kommt agentische KI zum Einsatz. Sie wird etwa für Dokumentenprüfungen oder Onboarding-Prozesse genutzt.

Das Schlusslicht bilden hochregulierte Kernbereiche, beispielsweise die automatisierte Kreditvergabe in der Finanzwirtschaft oder kritische Entscheidungen im medizinischen Bereich. Hier ist die Fehlertoleranz am geringsten.

Die Architektur: Nicht alles geht mit Standardlösungen

In der Architekturfrage hat sich eine Hybrid-Strategie etabliert: Für standardisierte Arbeitsplatz- und Supportprozesse setzen Unternehmen auf die Ökosysteme, die sie ohnehin nutzen: Microsoft Copilot Studio, ServiceNow Now Assist, SAP Joule oder Salesforce Agentforce. Ein wesentlicher Vorteil liegt darin, dass auf bestehenden Identitäts- und Berechtigungskonzepten aufgesetzt werden kann, statt diese grundlegend neu zu bauen.

Ein Großteil des Nutzungsvolumens lässt sich mit solchen Standards abdecken. Interessanter ist aber der andere Teil, in dem es um wettbewerbskritische Vorhaben geht oder in dem komplexe Multi-System-Workflows eingerichtet werden sollen. Die KI-Vorreiter greifen hier zu Frameworks wie LangGraph und CrewAI sowie zu den Cloud-Plattformen von Amazon, Google und Microsoft. So behalten sie die Hoheit über Logik, Modelle und geistiges Eigentum.

Organisation: Berichtslinie von CAIO zu CIO birgt Risiken

Wenn KI-Vorhaben in Unternehmen scheitern, liegt das in aller Regel an einer schlechten Organisation. Fachbereiche beklagen dann die Bremsmanöver der IT, CIOs fürchten unkontrollierte Insellösungen und CISOs warnen vor hohen Sicherheitsrisiken. Das AI CoE wird auch deshalb eingesetzt, weil es helfen soll, gegen alle Widerstände zur industriellen Skalierung zu gelangen. Es soll die technische Infrastruktur mit betriebswirtschaftlicher Wertschöpfung verknüpfen.

Weltweit hat sich die Umsetzung nach dem Hub-and-Spoke-Prinzip (Nabe und Speichen) weitgehend durchgesetzt: Plattform und Governance bilden dabei den institutionellen Kern (Hub). Hier werden unternehmensweite Standards beschlossen, Infrastruktur wie Cloud-Ressourcen, Vektordatenbanken oder API-Gateways beschafft und betrieben sowie semantische Leitplanken definiert. Der Hub verhandelt auch die zentralen Lizenzverträge.

Menschen aus den Fachbereichen bilden die „Speichen“: Sie arbeiten in Fachbereichen wie Marketing, Vertrieb, Finanzen oder Produktion. Ihre Aufgabe ist es, Use Cases zu identifizieren und zu priorisieren, operative Schmerzpunkte zu erkennen und gemeinsam mit dem Hub Lösungen zu pilotieren.

Die Leitung des AI CoE liegt in der Regel bei einem eigens berufenen Chief AI Officer (CAIO) oder dem Chef des Excellence Centers. Seine wichtigste Aufgabe ist die des Übersetzers. Akademisch-mathematische Profile greifen hier oft zu kurz. Gesucht sind Führungskräfte, die ein tiefes technologisches Verständnis von Large Language Models, Datenarchitektur und Agentensystemen haben. Gleichzeitig brauchen sie betriebswirtschaftliches Know-how, müssen sich schnell in Prozesslandschaften hineindenken können und sollten auch in puncto RoI-Bewertung Bescheid wissen.

Der CAIO berichtet manchmal an den CIO oder CDO, oft aber auch direkt an den CEO oder COO. Der erste Fall birgt das Risiko, dass KI-Investitionen der Logik von IT-Kostenstellen folgen. Eine wirkungsvollere Variante ist die direkte Anbindung an den CEO oder COO, insbesondere wenn transformative Programme umgesetzt werden sollen. Dann hat der KI-Chef einen direkten Vorstandsauftrag und muss sich nicht mit Grabenkämpfen zwischen Fachabteilungen herumschlagen. Die Abstimmung mit Rechts- und Compliance-Abteilungen verläuft meist schneller, und Change-Initiativen erhalten das nötige politische Gewicht.

Team: Auch an mögliche Widerstände denken

Ein AI CoE benötigt Kompetenzen, die aus verschiedenen Abteilungen zusammengezogen werden müssen. So braucht es erfahrene Business-Analysten und Prozessmanager, die geschäftliche Probleme in algorithmische Anforderungen übersetzen können. Ebenso sind Spezialisten für den Aufbau von RAG-Pipelines, API-Schnittstellen, Context-Fenster-Management und das Monitoring von Latenzen und Token-Kosten gefragt.

Eine weitere Rolle ist die des Agent Engineers. Dabei handelt es sich um Entwickler, die sich auf Tool-Calling-Logik, Prompt-Chains und Multi-Agenten-Orchestrierung (zum Beispiel via LangGraph oder herstellereigene Agenten-Frameworks) spezialisiert haben. Auch Juristen und Datenschutzbeauftragte müssen in das AI CoE eingebunden sein. Ihre Aufgabe ist es, Compliance-Aufgaben wie etwa die Einhaltung des EU AI Act oder die DSGVO-konforme PII-Maskierung von Anfang an mitzudenken. Last, but not least runden HR- und Change-Spezialisten das Team ab. Sie müssen Schulungsprogramme steuern und mögliche Widerstände in der Belegschaft rechtzeitig adressieren.

Volle Durchdringung: Auf Champions setzen

Ohne eine breite Akzeptanz in den Fachabteilungen werden KI-Initiativen keinen Erfolg haben. In der Praxis haben sich folgende vier Hebel bewährt:

• „AI Champions“-Netzwerk: In jeder Fachabteilung werden Tech-affine Mitarbeitende rekrutiert und für einen Teil ihrer Arbeitszeit (oft 20 Prozent) für KI-Themen freigestellt. Sie können am besten Optimierungspotenziale erkennen und, wenn sie richtig ausgewählt wurden, die Kolleginnen und Kollegen auf Augenhöhe schulen.
• Strukturierter Freigabeprozess: Wenn im Business Use-Case-Wünsche aufkommen, durchlaufen diese einen Bewertungsfilter, um Ressourcenverschwendung zu verhindern. Wichtigstes Kriterium ist der zu erwartende wirtschaftliche Nutzen (bezogen auf Kosten, Umsatz, Durchlaufzeit). Zudem wird die technische und organisatorische Machbarkeit hinterfragt: Ist das Ganze überhaupt technisch umsetzbar? Wie steht es um Datenreife, API-Verfügbarkeit etc.?

  Und schließlich erfolgt mithilfe der Juristen und Datenschützer eine Risiko- und Haftungsprüfung: Fällt der Use Case unter eine Hochrisiko-KI (nach dem EU AI Act)? Das wäre beispielsweise bei einer automatischen Lebenslauf-Sortierung im Personalbereich der Fall oder bei einer Überprüfung der Kreditwürdigkeit. Werden personenbezogene Daten verarbeitet? Und welche Schäden können entstehen, wenn die KI Fehler macht oder halluziniert? Ein fehlerhafter Steuerabgleich oder eine falsche Dosierungsempfehlung in der Medizin können geschäftskritisch werden.

• Sichere Experimentierräume: Ohne praktische Tests verpufft jede Initiative. Das CoE stellt deshalb unternehmensweite, datenschutzkonforme Sandbox-Umgebungen bereit, in denen Mitarbeitende risikolos mit internen Daten und den führenden Sprachmodellen arbeiten können, ohne einen Datenabfluss befürchten zu müssen.

• Training für alle: Schulungen sind dann erfolgreich, wenn sie zielgruppenspezifisch aufgesetzt werden. Das Top-Management etwa lernt strategisches Risikomanagement und die Neugestaltung von Prozessen, während sich die breite Belegschaft mit Verifikationstechniken und kritischem Prompting beschäftigt. Hinzu können einige Power-User kommen, die für die Ausbildung fachspezifischer KI-Assistenten trainiert werden.

Fazit: Neuorganisation statt Technikprojekt

Der Aufbau eines AI CoE ist keine technische Initiative, sondern ein umfassendes Reorganisationsprogramm. Unternehmen müssen massiv daran arbeiten, Organisation, zentrale Plattform-Governance und die individuelle Ausbildung der Menschen erfolgreich zu verzahnen. Nur dann werden sie den Übergang zur autonomen Prozesswelt in einer angemessenen Geschwindigkeit meistern können.