Agenten sind Mitarbeitende ohne ArbeitsvertragAgenten legen Vorgänge an, ändern Daten und versenden Nachrichten. Vier Autonomiestufen, eine Probezeit mit festen Prüfgrößen und ein Steckbrief auf einer Seite schaffen Ordnung.AI-AgentenWeiterlesen
Thema · AI-Agenten
Agenten handeln. Also müssen sie geführt werden.
Agenten führen Arbeitsschritte selbstständig aus. Damit ändert sich, wer welche Arbeit prüft und wer für das Ergebnis geradesteht.
Ein Agent verfolgt ein Ziel über mehrere Schritte und nutzt dabei Werkzeuge, die in Systeme schreiben, Nachrichten versenden oder Bestellungen auslösen. Die Prüfung verschiebt sich damit von der Frage „Ist die Antwort richtig?“ zu „Darf dieser Schritt ohne Freigabe passieren?“.
Bevor der erste Agent live geht, braucht es deshalb einen Ordnungsrahmen. Er legt fest, welche Aufgabe ein Agent übernimmt, welche Berechtigungen er bekommt, wer ihn beaufsichtigt und wie sich seine Arbeit später nachvollziehen lässt. Die Begründung steht in unserem Beitrag „Agenten sind Mitarbeitende ohne Arbeitsvertrag“.
Einordnung
Was sich ändert und wie wir es sehen
Was sich verändert hat
Agentenfunktionen stecken inzwischen in verbreiteten Büro- und Entwicklungswerkzeugen. Offene Standards erleichtern den Anschluss an Unternehmenssysteme, etwa das Model Context Protocol (MCP), das Anthropic im November 2024 veröffentlicht hat und das seit Dezember 2025 bei der Agentic AI Foundation der Linux Foundation liegt. Damit wird es auch leichter, einem Agenten mehr Zugriff zu geben, als seine Aufgabe braucht.
Wo die Risiken liegen
Die OWASP-Liste der zehn wichtigsten Risiken für Anwendungen mit Sprachmodellen (Ausgabe 2025) führt übermäßige Handlungsbefugnis („Excessive Agency“) als eigenes Risiko und nennt drei Ursachen: zu viele Funktionen, zu weite Berechtigungen, zu viel Autonomie. Dazu kommt die Manipulation über Inhalte, die ein Agent liest, etwa präparierte E-Mails oder Webseiten (Prompt Injection). Gegen beides helfen vor allem Grenzen außerhalb des Modells, also Berechtigungen im Zielsystem und Freigaben durch Menschen.
Unsere Sicht
Welcher Agent technisch der beste ist, halten wir für zweitrangig. Wichtiger ist, welche Schritte er ohne Freigabe gehen darf und wer für ihn einsteht. Wir empfehlen, einen Agenten einzuführen wie eine neue Kollegin oder einen neuen Kollegen, mit Aufgabenbeschreibung, begrenzten Berechtigungen, einer verantwortlichen Person und einer Probezeit, nach der seine Autonomie stufenweise wächst.
Worauf es ankommt
Regeln für die Praxis
Autonomie stufen
Jeder Agent bekommt eine Stufe, vom Vorschlag bis zum eigenständigen Handeln in einem klar umrissenen Bereich. Höher eingestuft wird er erst, wenn er sich bewährt hat.
Berechtigungen begrenzen
Ein Agent erhält eine eigene Identität im Berechtigungssystem und nur die Zugriffe, die seine Aufgabe erfordert.
Jede Aktion protokollieren
So lässt sich jede Entscheidung später erklären.
Entscheidungsfragen
Was Sie klären sollten
Welche Schritte darf ein Agent ohne Freigabe gehen?
Schritte, die sich rückgängig machen lassen und deren Schaden im Fehlerfall begrenzt ist. Alles andere legt er einem Menschen vor, bis er sich auf der niedrigeren Stufe bewährt hat.
Wer ist intern für einen Agenten verantwortlich?
Eine benannte Person im Fachbereich, die für Aufgabe und Ergebnis geradesteht, und eine Stelle in der IT, die Berechtigungen und Betrieb verantwortet.
Woran erkennen wir, dass ein Agent mehr darf?
An Prüfgrößen, die vor dem Start feststehen, etwa dem Anteil der Vorschläge, die Menschen korrigieren mussten. Die Schwellen legen Sie fest, wir helfen bei der Wahl.
Was gilt für Agenten im Personalbereich?
AI-Systeme, die Bewerbungen auswählen oder bewerten, gelten nach dem EU AI Act als Hochrisiko-Systeme (Anhang III). Ihre Pflichten greifen nach der Änderung vom Juli 2026 ab dem 2. Dezember 2027, die Mitbestimmung des Betriebsrats gilt schon heute.
Wie wir unterstützen
Passende Kompetenzen
- Strategy & Consulting · EntscheidenEntscheiden, wo AI sich lohnt, und wo nicht.
- AI-Strategie und Roadmap
- Use-Case-Portfolio und Business Cases
- Betriebsmodell (Operating Model)
- AI-Governance
- Engineering · BauenWir bauen, was wir empfehlen.
- Agenten und Automatisierung
- Plattformen und Integration
- Robotik und Edge AI
Insights
Passende Beiträge
Agenten sind Mitarbeitende ohne ArbeitsvertragAgenten legen Vorgänge an, ändern Daten und versenden Nachrichten. Vier Autonomiestufen, eine Probezeit mit festen Prüfgrößen und ein Steckbrief auf einer Seite schaffen Ordnung.AI-AgentenWeiterlesen
Prototypen, die Entscheidungen erzwingenEin guter Prototyp beantwortet eine Frage, die man ohne ihn nicht beantworten kann. Vier Regeln und eine Vereinbarung auf einer Seite sorgen dafür, dass am Ende entschieden wird.Generative AIWeiterlesen
EU AI Act ohne AufregungSeit Juli 2026 gelten ein geänderter Zeitplan und in Deutschland eine neue Aufsicht. Was Unternehmen, die AI einsetzen, jetzt tun müssen und was bis 2027 Zeit hat.AI-Governance & RegulierungWeiterlesen