Bestehende IT-Governance reicht für KI-Agenten meist nicht aus, weil sie für menschliche Entscheidungen in Wochen- und Monatszyklen gebaut ist. Ein KI-Agent handelt selbstständig und kann Tausende Aktionen am Tag auslösen. Ob Ihre Governance trägt, zeigt ein Stresstest mit einem extremen, aber plausiblen Szenario. Typische Anpassungen sind eigene Agenten-Identitäten, feste Handlungsgrenzen, Stoppbedingungen und laufende Überwachung.
Warum stößt klassische IT-Governance bei KI-Agenten an Grenzen?
Klassische IT-Governance stößt bei KI-Agenten an Grenzen, weil sie Menschen als Entscheider voraussetzt. Freigaben, Berechtigungen und Kontrollen sind auf das Tempo von Personen ausgelegt, die wenige Entscheidungen am Tag treffen. KI-Agenten handeln in Sekunden, rund um die Uhr und mit Ergebnissen, die nur mit einer gewissen Wahrscheinlichkeit richtig sind.
Das Rahmenwerk ITIL AI Governance von PeopleCert beschreibt den Effekt mit einem Vergleich. Eine Governance, die Hunderte menschliche Entscheidungen im Monat zuverlässig steuert, kann versagen, wenn ein KI-System Tausende Entscheidungen am Tag trifft. Die Schwachstellen bleiben im Normalbetrieb unsichtbar und zeigen sich erst unter extremen Bedingungen.
Besonders betroffen sind Freigabeprozesse. Ein Änderungsgremium, das alle zwei Wochen tagt, kann Aktionen nicht prüfen, die ein Agent im Minutentakt ausführt. Auch Berechtigungskonzepte geraten unter Druck, wenn ein Agent mit den Rechten eines Menschen arbeitet und diese Rechte vollständig ausschöpft.
Das gilt nicht für jeden KI-Einsatz. Schlägt ein Assistent nur Antworten vor und ein Mensch bestätigt jede Aktion, greifen bestehende Kontrollen in der Regel weiter. Kritisch wird es, sobald der Agent ohne Bestätigung in produktive Systeme schreibt.
Was verraten gescheiterte Agentenprojekte über fehlende Kontrollen?
Gescheiterte Agentenprojekte verraten, dass Unternehmen Nutzen und Risiken oft erst nach dem Start klären. Das Analystenhaus Gartner erwartet, dass bis Ende 2027 über 40 Prozent der Projekte mit agentischer KI eingestellt werden. Als Gründe nennt Gartner steigende Kosten, unklaren Geschäftswert und unzureichende Risikokontrollen.
Gartner warnt zudem vor sogenanntem Agent Washing. Anbieter benennen dabei bestehende Assistenten oder Chatbots in Agenten um. Von den Tausenden Anbietern hält Gartner nur rund 130 für echte Agentenanbieter. Für die Governance heißt das: Erst klären, ob ein Werkzeug tatsächlich selbstständig handelt.
In Deutschland steht der breite Einsatz noch bevor. Laut Bitkom setzen 2026 elf Prozent der Unternehmen, die KI nutzen, planen oder diskutieren, bereits KI-Agenten ein. Weitere 29 Prozent planen den Einsatz, 31 Prozent diskutieren ihn. In den meisten Unternehmen laufen also noch keine Agenten produktiv. Lücken lassen sich mit einem Stresstest vorher finden.
Was ist ein KI-Agent, und welche Governance-Fragen wirft er auf?
Ein KI-Agent wirft vor allem Fragen nach Identität, Handlungsgrenzen und Verantwortung auf. Konkret braucht er eigene Zugänge, klar begrenzte Befugnisse und eine verantwortliche Person. Zudem muss nachvollziehbar sein, was der Agent getan hat und warum, auch Wochen später bei einer Prüfung oder Beschwerde.
Ein KI-Agent ist ein KI-System, das ein vorgegebenes Ziel selbstständig in Teilschritte zerlegt und dafür Werkzeuge und Systeme aufruft. Er führt Aktionen aus, ohne dass ein Mensch jeden Schritt freigibt. Ein Chatbot beantwortet Fragen, ein Agent erledigt Aufgaben, etwa Angebote anfordern oder Tickets schließen. Die folgende Tabelle zeigt, welche Annahmen heutiger IT-Governance sich dadurch verschieben.
| Governance-Bereich | Annahme heutiger IT-Governance | Veränderung durch KI-Agenten |
|---|---|---|
| Entscheidungstakt | Hunderte Entscheidungen pro Monat, Freigaben im Wochenrhythmus | Tausende Aktionen pro Tag, jeweils in Sekunden |
| Berechtigungen | Rollen für Personen, Rezertifizierung einmal im Jahr | eigene technische Identität, Rechte je Aufgabe und zeitlich begrenzt |
| Kontrolle | Stichproben und Audits im Nachhinein | laufende Überwachung mit automatischen Stoppbedingungen |
| Verantwortung | die Person, die entschieden hat | benannte Verantwortliche für Ziel, Rechte und Grenzen des Agenten |
| Änderungen | Softwarestand ändert sich nur mit einem Release | Verhalten ändert sich auch durch neue Modelle, Daten oder Anweisungen |
Quelle: Eigene Darstellung von AFFINITY auf Basis von ITIL AI Governance (PeopleCert), Kapitel 5, und OWASP Top 10 for Agentic Applications 2026.
Ein Agent kann sich anders verhalten, obwohl niemand seinen Code geändert hat, etwa nach einem Modellwechsel des Anbieters. Änderungen an Modell, Anweisungen und Datenquellen gehören deshalb in das reguläre Änderungsmanagement im IT-Service.
Wie testen Sie Ihre Governance Schritt für Schritt auf Agententauglichkeit?
Ihre Governance testen Sie auf Agententauglichkeit mit einem Stresstest in sechs Schritten. Sie konfrontieren die bestehenden Regeln mit einem extremen, aber plausiblen Agenten-Szenario und dokumentieren, wo sie brechen. ITIL AI Governance beschreibt diesen Test als ersten Schritt seines Verbesserungsmodells, dem Anforderungen, Umsetzung und laufende Pflege folgen.
- Szenario wählen: Beschreiben Sie einen realistischen Agenten-Einsatz in seiner extremen Form, etwa einen Agenten, der Erstattungen ohne menschliche Prüfung auszahlt.
- Governance-Muster bestimmen: Ermitteln Sie, wie zentral oder verteilt in Ihrem Unternehmen heute entschieden und kontrolliert wird.
- Merkmale durchspielen: Prüfen Sie das Szenario gegen die zehn Governance-Merkmale aus ITIL AI Governance, etwa Entscheidungsgeschwindigkeit und Risikotoleranz.
- Beteiligte einbeziehen: Holen Sie Fachbereich, Kundenservice, IT-Sicherheit, Datenschutz und Betriebsrat von Beginn an dazu.
- Bruchstellen dokumentieren: Halten Sie fest, welche Regel an welcher Stelle versagt und welche Folgen das für Kunden und Beschäftigte hätte.
- Anpassungen ableiten: Übersetzen Sie jede Bruchstelle in eine konkrete Anforderung mit Verantwortlichem und Termin.
Wo bricht Ihre Governance bei KI-Agenten?
AFFINITY berät IT-Organisationen in Deutschland seit 2013 zu IT-Governance und ITIL. Ein Erstgespräch klärt, welches Agenten-Szenario sich für Ihren ersten Stresstest eignet.
Ein harmloses Szenario bestätigt nur, was ohnehin funktioniert. Das zeigt auch das Fallbeispiel einer Autovermietung in ITIL AI Governance. Dieselbe Governance beherrscht dort assistierte KI gut, versagt aber, sobald der Agent selbstständig Gebühren berechnet und Abläufe auslöst.
Wann darf ein KI-Agent selbstständig handeln und wann nur vorschlagen?
Ein KI-Agent darf selbstständig handeln, wenn seine Aktionen begrenzt, umkehrbar und laufend überwacht sind. Vorschlagen sollte er nur, wenn Aktionen Menschen spürbar betreffen, schwer rückgängig zu machen sind oder unter die Hochrisiko-Bereiche des EU AI Act fallen. Die Grenze legt die Governance vorab fest, nicht der Agent im Einzelfall.
Für zentral gesteuerte Organisationen empfiehlt das Rahmenwerk vorab genehmigte Handlungsgrenzen, nach Risiko gestufte Freigabewege und verbindliche Stoppbedingungen. Bei sehr dezentral arbeitenden Teams setzt das Rahmenwerk auf freigegebene Werkzeuge, automatische Überwachung, klare Übergaberegeln an Menschen und die Möglichkeit, Aktionen zurückzunehmen.
- Wählen Sie den eigenständig handelnden Agenten, wenn der Agent wiederkehrende Routinefälle innerhalb eines festen Betragsrahmens bearbeitet und jede Aktion protokolliert und umkehrbar ist.
- Wählen Sie den vorschlagenden Agenten, wenn Entscheidungen Rechte oder Ansprüche von Kunden und Beschäftigten berühren oder Fehler erst spät auffallen würden.
Der Übergang muss nicht endgültig sein. Möglich ist ein Start im Vorschlagsmodus, bis Fehlerquote und Eskalationsverhalten bekannt sind. Erst danach erweitert die Governance die Befugnisse schrittweise und dokumentiert jede Erweiterung.
Wie passen Sie Ihre IT-Governance konkret für KI-Agenten an?
Ihre IT-Governance passen Sie für KI-Agenten an, indem Sie jedem Agenten eine eigene Identität mit minimalen Rechten geben und seine Handlungsgrenzen technisch durchsetzen. Hinzu kommen eine lückenlose Protokollierung, Stoppbedingungen mit Abschaltmöglichkeit und ein benannter Verantwortlicher. Jeder Agent gehört außerdem in das KI-Register Ihres Unternehmens.
Am Anfang steht die eigene Identität. Arbeitet ein Agent mit dem Konto eines Menschen, lassen sich seine Aktionen weder sauber protokollieren noch gezielt sperren. Ein eigenes Konto erlaubt Rechte, die nur für eine Aufgabe und eine begrenzte Zeit gelten. Auch das OWASP Gen AI Security Project nennt in seinen Top 10 for Agentic Applications vom Dezember 2025 den Missbrauch von Werkzeugen und Berechtigungen.
Der EU AI Act regelt KI-Agenten nicht als eigene Kategorie. Die Pflichten richten sich nach dem Einsatzzweck. Setzt ein Unternehmen einen Agenten in einem Hochrisiko-Bereich nach Anhang III ein, gelten nach der Änderung durch den Digital Omnibus ab dem 2. Dezember 2027 unter anderem Pflichten zur menschlichen Aufsicht.
Die Anpassungen sollten in Ihre Technologie- und Plattformstrategie einfließen, damit jeder neue Agent dieselben Mindeststandards erfüllt. Einzelne Projektlösungen für Identität und Protokollierung lassen sich später oft nur mit hohem Aufwand vereinheitlichen.
Häufige Fragen
Gegenüber Kunden und Partnern bleibt in der Regel das Unternehmen verantwortlich, das den Agenten einsetzt. Intern sollte für jeden Agenten eine Person benannt sein, die für Ziel, Rechte und Grenzen einsteht. Haftungsfragen im Einzelfall klären Sie mit Ihrer Rechtsabteilung.
Wiederholen Sie den Stresstest bei jedem neuen Einsatzfall, bei einem Wechsel des zugrunde liegenden Modells und bei größeren Änderungen der Befugnisse. Unabhängig davon empfiehlt sich mindestens eine jährliche Überprüfung, weil sich Technik und Rechtslage schnell verändern.
Ja, Agenten können Aufgaben aneinander übergeben oder sich gegenseitig aufrufen. Für die Governance erhöht das die Komplexität, weil Fehler sich über mehrere Agenten fortpflanzen können. Legen Sie deshalb fest, welche Agenten miteinander kommunizieren dürfen und wer die gesamte Kette verantwortet.
Das hängt vom Einsatz ab. Verarbeitet der Agent Daten über Verhalten oder Leistung von Beschäftigten, ist in der Regel die Mitbestimmung nach § 87 Abs. 1 Nr. 6 BetrVG berührt. Binden Sie den Betriebsrat deshalb früh in den Stresstest ein.
Wie AFFINITY bei der Governance für KI-Agenten unterstützt
AFFINITY prüft Ihre bestehende Governance auf Agententauglichkeit und verankert die Ergebnisse in Ihrer IT-Strategie.
- Szenario-Workshop: Gemeinsam mit Fachbereich und IT entsteht ein extremes, aber plausibles Szenario für Ihren ersten Agenten-Einsatz.
- Stresstest: Wir prüfen Ihre Governance gegen die zehn Merkmale aus ITIL AI Governance und dokumentieren jede Bruchstelle.
- Anforderungskatalog: Jede Bruchstelle wird zu einer Anforderung mit Verantwortlichem und Termin.
- Mindeststandards: Für alle Agenten gelten dieselben verbindlichen Vorgaben, die nicht in jedem Projekt neu verhandelt werden.
Sprechen Sie uns über das Kontaktformular an, wenn Sie KI-Agenten planen oder bereits einsetzen und wissen wollen, ob Ihre Governance trägt.