Thema · AI-Agenten

Agenten handeln. Also müssen sie geführt werden.

Agenten führen Arbeitsschritte selbstständig aus. Damit ändert sich, wer welche Arbeit prüft und wer für das Ergebnis geradesteht.

Ein Agent verfolgt ein Ziel über mehrere Schritte und nutzt dabei Werkzeuge, die in Systeme schreiben, Nachrichten versenden oder Bestellungen auslösen. Die Prüfung verschiebt sich damit von der Frage „Ist die Antwort richtig?“ zu „Darf dieser Schritt ohne Freigabe passieren?“.

Bevor der erste Agent live geht, braucht es deshalb einen Ordnungsrahmen. Er legt fest, welche Aufgabe ein Agent übernimmt, welche Berechtigungen er bekommt, wer ihn beaufsichtigt und wie sich seine Arbeit später nachvollziehen lässt. Die Begründung steht in unserem Beitrag „Agenten sind Mitarbeitende ohne Arbeitsvertrag“.

Einordnung

Was sich ändert und wie wir es sehen

Was sich verändert hat

Agentenfunktionen stecken inzwischen in verbreiteten Büro- und Entwicklungswerkzeugen. Offene Standards erleichtern den Anschluss an Unternehmenssysteme, etwa das Model Context Protocol (MCP), das Anthropic im November 2024 veröffentlicht hat und das seit Dezember 2025 bei der Agentic AI Foundation der Linux Foundation liegt. Damit wird es auch leichter, einem Agenten mehr Zugriff zu geben, als seine Aufgabe braucht.

Wo die Risiken liegen

Die OWASP-Liste der zehn wichtigsten Risiken für Anwendungen mit Sprachmodellen (Ausgabe 2025) führt übermäßige Handlungsbefugnis („Excessive Agency“) als eigenes Risiko und nennt drei Ursachen: zu viele Funktionen, zu weite Berechtigungen, zu viel Autonomie. Dazu kommt die Manipulation über Inhalte, die ein Agent liest, etwa präparierte E-Mails oder Webseiten (Prompt Injection). Gegen beides helfen vor allem Grenzen außerhalb des Modells, also Berechtigungen im Zielsystem und Freigaben durch Menschen.

Unsere Sicht

Welcher Agent technisch der beste ist, halten wir für zweitrangig. Wichtiger ist, welche Schritte er ohne Freigabe gehen darf und wer für ihn einsteht. Wir empfehlen, einen Agenten einzuführen wie eine neue Kollegin oder einen neuen Kollegen, mit Aufgabenbeschreibung, begrenzten Berechtigungen, einer verantwortlichen Person und einer Probezeit, nach der seine Autonomie stufenweise wächst.

Worauf es ankommt

Regeln für die Praxis

  1. Autonomie stufen

    Jeder Agent bekommt eine Stufe, vom Vorschlag bis zum eigenständigen Handeln in einem klar umrissenen Bereich. Höher eingestuft wird er erst, wenn er sich bewährt hat.

  2. Berechtigungen begrenzen

    Ein Agent erhält eine eigene Identität im Berechtigungssystem und nur die Zugriffe, die seine Aufgabe erfordert.

  3. Jede Aktion protokollieren

    So lässt sich jede Entscheidung später erklären.

Entscheidungsfragen

Was Sie klären sollten

  1. Welche Schritte darf ein Agent ohne Freigabe gehen?

    Schritte, die sich rückgängig machen lassen und deren Schaden im Fehlerfall begrenzt ist. Alles andere legt er einem Menschen vor, bis er sich auf der niedrigeren Stufe bewährt hat.

  2. Wer ist intern für einen Agenten verantwortlich?

    Eine benannte Person im Fachbereich, die für Aufgabe und Ergebnis geradesteht, und eine Stelle in der IT, die Berechtigungen und Betrieb verantwortet.

  3. Woran erkennen wir, dass ein Agent mehr darf?

    An Prüfgrößen, die vor dem Start feststehen, etwa dem Anteil der Vorschläge, die Menschen korrigieren mussten. Die Schwellen legen Sie fest, wir helfen bei der Wahl.

  4. Was gilt für Agenten im Personalbereich?

    AI-Systeme, die Bewerbungen auswählen oder bewerten, gelten nach dem EU AI Act als Hochrisiko-Systeme (Anhang III). Ihre Pflichten greifen nach der Änderung vom Juli 2026 ab dem 2. Dezember 2027, die Mitbestimmung des Betriebsrats gilt schon heute.