KI-Agenten werden zunehmend aus Pilotprojekten in den Produktivbetrieb überführt. Sie können Dokumente durchsuchen, E-Mails entwerfen, Datensätze aktualisieren, Workflows auslösen und mit Kunden interagieren. Das macht sie zwar nützlich, aber es macht auch die Governance entscheidend wichtig.
Governance bedeutet, klare Regeln festzulegen, auf welche Daten ein KI-Agent zugreifen darf und welche Handlungen ihm gestattet sind.
Gartner, ein Unternehmen für Geschäfts- und Technologieanalysen, prognostiziert, dass bis 2027 40 Prozent der Unternehmen autonome KI-Agenten herabstufen oder außer Betrieb nehmen werden, da Lücken in der Governance erst nach Vorfällen im Produktivbetrieb entdeckt werden.
Die Warnung ist konkret: KI-Agenten-Projekte können scheitern, wenn Unternehmen Governance als “Alles-oder-Nichts” betrachten. Manche Agenten sind so stark eingeschränkt, dass sie kaum noch nutzbar sind. Anderen wird zu schnell zu viel Zugriff gewährt. Gartner weist darauf hin, dass die Governance je nach Autonomiegrad, Zugriffsumfang und den dem Agenten erlaubten Aufgaben variieren sollte.
Unternehmen sollten das angemessene Maß an Governance für verschiedene Agenten bei der Implementierung festlegen, nicht erst nach dem Einsatz.
Was Gartner empfiehlt
Gartner empfiehlt eine proportionale Governance. Einfach ausgedrückt: Der Grad der Kontrolle sollte dem Grad der Autonomie entsprechen.
Ein schreibgeschützter Agent, der Dokumente zusammenfasst, benötigt nicht dieselben Kontrollen wie ein Agent, der ERP-Daten ändern, E-Mails an Kunden versenden oder systemübergreifende Aktionen auslösen kann. Je mehr ein Agent eigenständig tun kann und je mehr Systeme er nutzen darf, desto strenger müssen die Kontrollen sein.
Gartner unterteilt KI-Agenten in vier Autonomieebenen.
Stufe 1: Beobachten
Auf der ersten Stufe verfügt der Agent über Lesezugriff. Er kann auf definierte Informationen zugreifen und eine Ausgabe erstellen, darf jedoch keine Systeme ändern, keine Nachrichten versenden und keine Aktionen auslösen.
Beispiele hierfür sind Dokumentenzusammenfassungen, interne Suche, Vertragsprüfung oder Wissensabruf.
Die wichtigsten Kontrollmaßnahmen sind Zugriffsbeschränkungen, Authentifizierung, Protokollierung und Ausgabekontrollen. Dies ist in der Regel der sicherste Ausgangspunkt.
Stufe 2: Beraten
Auf der zweiten Stufe erstellt der Agent Empfehlungen oder Entwürfe. Er verfügt weiterhin über Lesezugriff, hat jedoch keinen Schreibzugriff auf Geschäftssysteme.
Beispiele hierfür sind E-Mail-Entwürfe, die Erstellung von Angeboten, Berichtsentwürfe oder Entscheidungsunterstützung.
Eine Person überprüft die Ausgabe und entscheidet, wie es weitergeht. Die wichtigsten Kontrollmaßnahmen sind Überprüfungsschritte, Qualitätskontrollen und eine klare Zuständigkeit für die endgültige Entscheidung.
Stufe 3: Handeln mit Genehmigung
Auf der dritten Stufe kann der Agent eine Maßnahme vorbereiten und diese erst nach menschlicher Genehmigung ausführen.
Beispiele hierfür sind die Aktualisierung von CRM-Daten, das Anlegen von ERP-Datensätzen, das Versenden vorbereiteter Kunden-E-Mails oder die Bearbeitung von Tickets.
Dies erfordert strengere Kontrollen: Genehmigungsworkflows, Prüfpfade, Sicherheitstests und Rollback-Optionen. Der Genehmigungsschritt muss sinnvoll sein und darf nicht automatisch erfolgen.
Stufe 4: Autonom handeln
Auf der vierten Stufe kann der Agent innerhalb definierter Grenzen eigenständig Aktionen ausführen.
Dies ist die Kategorie mit dem höchsten Risiko, da der Agent ohne menschliche Genehmigung handeln kann.
Diese Agenten erfordern eine kontinuierliche Überwachung, festgelegte Sicherheitsgrenzen, Ausnahmebehandlung, Rollback-Mechanismen und klare Zuständigkeiten. Für die meisten mittelständischen Unternehmen sollte dies nicht der Ausgangspunkt sein.
Unsere Empfehlungen für kleine und mittelständische Unternehmen
brainbot vertritt die Ansicht, dass die meisten Mittelstandsunternehmen nicht mit vollständig autonomen Agenten beginnen sollten.
Der sicherere Ausgangspunkt ist in der Regel Stufe 1 oder Stufe 2: Agenten, die lesen, zusammenfassen, recherchieren, Entwürfe erstellen und Arbeiten vorbereiten können, aber weder Geschäftssysteme eigenständig ändern noch extern kommunizieren dürfen.
Auch dies schafft bereits einen Mehrwert. Ein Agent kann ein Angebot erstellen, ohne es zu versenden. Er kann eine Kundenakte zusammenfassen, ohne sie zu ändern. Er kann eine Rechnung prüfen, ohne sie zu verbuchen. Er kann eine Support-Antwort entwerfen, ohne den Kunden zu kontaktieren.
Bevor Unternehmen zu Agenten mit höherer Autonomie übergehen, sollten sie Zugriffsrechte, Genehmigungsworkflows, Protokollierung, Rollback-Optionen und die Verantwortung für das Endergebnis definieren.
Das Ziel ist nicht, KI-Agenten zu blockieren. Das Ziel ist, ihnen das richtige Maß an Autonomie für den Prozess zu geben, den sie unterstützen.
Arbeiten Sie mit uns zusammen
Wenn Sie prüfen möchten, wo KI-Agenten in Ihren Geschäftsprozessen sicher eingesetzt werden können, wenden Sie sich an das brainbot-Team.
Wir unterstützen mittelständische Unternehmen bei der Konzeption und Implementierung von KI-Agenten mit klaren Arbeitsabläufen, Berechtigungen und Datenkontrolle.
Quellen
Gartner. “Gartner Says Applying Uniform Governance Across AI Agents Will Lead to Enterprise AI Agent Failure.” https://www.gartner.com/en/newsroom/press-releases/2026-05-26-gartner-says-applying-uniform-governance-across-ai-agents-will-lead-to-enterprise-ai-agent-failure