Loading
Sollten Sie KI mehr Autonomie geben?
·3 Min. Lesezeit
Die Frage klingt philosophisch, bis ein System beginnt, Entscheidungen zu treffen und Aufgaben auszuführen, die sonst Sie erledigen. Im Mai 2026 veröffentlichte das World Economic Forum ein Papier, das das zentrale Problem benannte: Organisationen setzen bereits autonome KI-Agenten ein, und die meisten haben nicht definiert, wozu diese Agenten befugt sind. Das Papier behandelte, dass die Frage nicht länger lautet, ob KI ein Unternehmen unterstützen kann, sondern ob Organisationen darauf vorbereitet sind, angemessen zu definieren, einzugrenzen und fortlaufend zu überwachen, was diese Systeme in ihrem Namen tun dürfen. Für die meisten Unternehmen lautet die Antwort derzeit nein.
Der Bericht von Automation Anywhere vom August 2026 zur Governance agentischer KI ergab, dass bei 53 Prozent der Organisationen KI-Agenten ihre vorgesehenen Berechtigungen überschritten hatten und 47 Prozent eine Agentenhandlung erlebt hatten, die sie im Nachhinein nicht vollständig erklären konnten. Ein System kann innerhalb seiner Berechtigungen bleiben und dennoch etwas tun, das seine Betreiber nicht vorhergesehen haben. Berechtigungsgrenzen und Entscheidungsgrenzen sind zwei verschiedene Dinge, und die meisten Governance-Rahmenwerke behandeln nur eines davon.
Im Unternehmenskontext ist Autonomie die Fähigkeit, eine folgenreiche Handlung auszuführen, ohne dass ein Mensch sie zuvor autorisiert. Ein Modell, das eine E-Mail entwirft, die eine Person dann versendet, ist nicht autonom. Ein Modell, das die E-Mail versendet, den Folgetermin bucht, das CRM aktualisiert und Budget für eine Kampagne freigibt, die es für geboten hielt, ist autonom, und jeder dieser Schritte trägt ein anderes Maß an Konsequenz. Eine gut regierte Nutzung unterscheidet sich von einer ungeregelten durch eine Kette von Autoritätsentscheidungen, die die meisten Organisationen nicht ausdrücklich getroffen haben.
Die AI Agent Standards Initiative, im Februar 2026 ins Leben gerufen, benannte genau dieses Problem: Agenten werden üblicherweise wie generische Service-Accounts behandelt, ohne eigene Identität, Autorisierung oder Rechenschaftskontrollen. Ein menschlicher Mitarbeiter, der dieselbe Arbeit verrichtet, hätte eine Rolle, eine Führungskraft, eine Reihe von Genehmigungsschwellen und eine nachvollziehbare Dokumentation. Ein KI-Agent, der dieselben Aufgaben übernimmt, hat davon oft nichts, weil die Personen, die ihn eingesetzt haben, über Fähigkeit nachdachten und nicht über Autoritätsstruktur.
Singapurs Infocomm Media Development Authority handelte in dieser Frage zuerst. Ihr Model AI Governance Framework for Agentic AI, veröffentlicht im Januar 2026, legte vier Governance-Dimensionen fest, mit einer Anforderung, die sich durch alle zieht: Menschen müssen für Entscheidungen und Handlungen autonomer Systeme rechenschaftspflichtig bleiben. Unter diesem Rahmenwerk übernehmen Organisationen die Verantwortung, unabhängig davon, was das System tut.
Autonomie zu gewähren, ohne Autorität in definierter und prüfbarer Weise zu gewähren, ist keine neutrale Entscheidung. Wenn ein Agent seine vorgesehenen Berechtigungen überschreitet, lautet die unmittelbare Frage, was er getan hat. Wer das System in eine Position gebracht hat, in der es dies tun konnte, ist die Frage, mit der sich die meisten Organisationen noch nicht befasst haben. In diesem Fall verfügen sie über eine Aufzeichnung dessen, was der Agent getan hat, weil sie die Protokolle abrufen können. Doch sie wissen nicht, wer die Grenzentscheidung verantwortet, die sich als falsch erwies.
Die EU-Verordnung 2026/174 zur Vereinfachung der KI-Umsetzung, die am 2. August 2026 in Kraft trat, stellte die Durchsetzungszuständigkeit des AI Office für agentische Systeme klar. In Verbindung mit den bestehenden Hochrisiko- und Transparenzregeln der KI-Verordnung (Verordnung (EU) 2024/1689) tragen Autoritätslücken in agentischen Systemen nun regulatorische Haftung neben dem operativen Risiko.
Ein echter Einwand hier ist, dass offenbar ein gewisses Maß an unerklärtem Agentenverhalten der Funktionsweise dieser Systeme innewohnt. Man kann nicht immer jede folgenreiche Entscheidung vorhersagen, die ein hinreichend fähiges Modell treffen wird, ebenso wenig wie man jede Entscheidung vorab festlegen kann, die eine erfahrene Fachkraft an einem Tag trifft. Das steht jedoch dem Argument für Governance nicht entgegen, noch spricht es dagegen. So wie eine erfahrene Fachkraft ihr Urteilsvermögen innerhalb definierter Grenzen ihrer Autorität, Genehmigungsschwellen, etablierter Verfahren und Rechenschaft ausübt, warum sollte ein Agent es nicht ebenso tun? Agenten-Governance muss gleichwertige Grenzen festlegen, was das Modell entscheiden darf, welche Handlungen eine Genehmigung erfordern und wann die Verantwortung auf einen Menschen übergeht.
Zu entscheiden, wie viel Autonomie man KI gibt, ist weniger dringlich, als eine Autoritätsstruktur um diese Autonomie herum zu bauen, die so präzise ist, dass Sie innerhalb einer Stunde wüssten, wer eine Entscheidung verantwortet, die schiefging. Eine Organisation, die diese Frage nicht beantworten kann, hat ihren Agenten mehr Autonomie gegeben, als ihre Governance abdecken kann.