KI-Agenten brauchen eine Personalakte, keine Softwarelizenz

Wer KI-Agenten einführen will, sollte sie wie neue Mitarbeitende behandeln und nicht wie eine weitere Softwarelizenz. Ein KI-Agent ist ein System, das ein Ziel verfolgt, Werkzeuge nutzt und mehrere Arbeitsschritte selbst ausführt. Deshalb braucht er, was jeder neue Kollege bekommt: eine klare Rolle, festgelegte Befugnisse, eine Führungskraft und regelmäßiges Feedback. Das Thema drängt, weil Unternehmen ihren Agenten mehr Freiheit geben wollen, als ihre Kontrollen bisher tragen.

Laut dem Applied AI Index 2026 der Boston Consulting Group (BCG) erwarten 42 Prozent der Unternehmen, dass ihre Agenten bis 2030 ohne menschliche Freigabe entscheiden. Die passenden Kontrollen hätten bisher nur fünf Prozent eingerichtet, so BCG. Unternehmen mit allen sechs untersuchten Kontrollmechanismen erzielten demnach dreimal so viel Wert aus agentischer KI wie Unternehmen mit nur einem.

Die Bilanz bisheriger KI-Vorhaben mahnt zur Sorgfalt. Nach einer Auswertung von S&P Global Market Intelligence unter mehr als 1.000 Befragten brachen 2025 rund 42 Prozent der Unternehmen den Großteil ihrer KI-Initiativen ab. Ein Jahr zuvor waren es 17 Prozent. Im Schnitt endeten 46 Prozent der Machbarkeitsnachweise, bevor sie in den Betrieb gingen.

Woran scheitert es, wenn Unternehmen KI-Agenten einführen?

Selten an der Technik. KI-Vorhaben scheitern meist, weil Unternehmen ein Werkzeug kaufen, bevor sie das Problem verstanden haben, weil sie keine Ausgangswerte messen und weil sie alte Abläufe unverändert lassen. Ein Agent, der einen fehlerhaften Prozess übernimmt, macht ihn schneller, aber nicht besser.

Die Reihenfolge entscheidet. Wer mit einer beeindruckenden Demo beginnt und danach einen Anwendungsfall sucht, dreht sie um. Erfolgreiche Projekte starten beim operativen Engpass und messen zuerst, wie lange ein Prozess dauert, wie viele Menschen beteiligt sind und was ein Fehler kostet. Ohne diese Ausgangswerte lässt sich der Nutzen später nicht belegen.

Und ohne belegten Nutzen bleibt ein Projekt im Pilotstadium hängen.

Wie groß der Hebel eines Prozessumbaus ist, zeigt die Umfrage The State of AI von McKinsey aus dem November 2025. Rund sechs Prozent der knapp 2.000 Befragten zählen dort zu den High Performern, die mindestens fünf Prozent ihres operativen Ergebnisses auf KI zurückführen. Diese Unternehmen gestalten ihre Arbeitsabläufe laut McKinsey fast dreimal so häufig grundlegend neu wie andere.

BCG fasst die Gewichtung in einer Faustregel zusammen, dem 10-20-70-Modell. Zehn Prozent des Aufwands gehörten in die Algorithmen, 20 Prozent in Technologie und Daten und 70 Prozent in Veränderungen bei Menschen, Organisation und Prozessen. Genau bei diesen 70 Prozent setzt die Personalakte an.

Was gehört in die Personalakte eines KI-Agenten?

Die Personalakte eines KI-Agenten ist seine verbindliche Stellenbeschreibung. Sie legt fest, wofür der Agent zuständig ist, welche Werkzeuge und Daten er nutzen darf, wie er kommuniziert und wann er an einen Menschen übergibt. Technisch steckt sie im Systemprompt, also in den Grundanweisungen an das Sprachmodell, und in der Konfiguration der Zugriffsrechte.

KI-generiert

Die Personalakte schafft zuerst Akzeptanz. Mitarbeitende wissen, was der Agent kann, wo er aufhört und wer für ihn verantwortlich ist. Ein Agent mit erkennbarem, gleichbleibendem Charakter senkt außerdem die Hemmschwelle für Beschäftigte, die wenig Erfahrung mit KI haben.

Aber Achtung: Zu menschlich darf der Agent nicht wirken. Simuliert er Mitgefühl oder Persönlichkeit zu überzeugend, prüfen Nutzer seine Ergebnisse weniger kritisch und blenden seine Grenzen aus. Bei Kolleginnen und Kollegen kann ein scheinbar fehlerfreier digitaler Kollege zudem das Gefühl auslösen, ersetzbar zu sein. Die Personalakte sollte deshalb festschreiben, dass der Agent nahbar formuliert, sich aber stets als Maschine zu erkennen gibt.

Die zweite Aufgabe ist Sicherheit. Agenten greifen über Programmierschnittstellen und das Model Context Protocol (MCP), einen offenen Standard zur Anbindung von Werkzeugen, auf Unternehmenssysteme zu. Bindet die Personalakte jedes Werkzeug an die Aufgabenbeschreibung und setzt ein zentrales KI-Gateway diese Regeln technisch durch, erhält jeder Agent nur die Rechte, die er wirklich braucht.

Dieses Prinzip der minimalen Rechte begrenzt den Schaden, wenn ein Agent eine Anweisung falsch versteht oder über versteckte Befehle in Dokumenten manipuliert wird.

Wer führt den digitalen Kollegen?

Die Führungskraft im Fachbereich, nicht die IT-Abteilung. Sie definiert die Rolle des Agenten, liefert den nötigen Kontext, prüft die ersten Ergebnisse und entscheidet, wann er mehr Spielraum bekommt. Die IT stellt Plattform und Sicherheit bereit. Ob ein Team seine Arbeitsweise tatsächlich ändert, entscheidet sich aber in der Linie.

Wie stark Vorgesetzte die Nutzung prägen, zeigen Daten des Meinungsforschungsinstituts Gallup. Beschäftigte, die voll zustimmen, dass ihre Führungskraft den KI-Einsatz im Team aktiv unterstützt, nutzen KI demnach mit 2,1-facher Wahrscheinlichkeit mehrmals pro Woche. Diese Unterstützung erleben allerdings nur 28 Prozent der Beschäftigten in Unternehmen, die bereits KI einführen.

Die Einarbeitung eines Agenten ähnelt der eines Berufseinsteigers. Seine ersten Ergebnisse werden streng geprüft. Korrigiert die Führungskraft einen Fehler, dokumentiert sie das Feedback so, dass es in die Wissensbasis des Agenten zurückfließt. Erst wenn der Agent Routineaufgaben verlässlich erledigt, bekommt er mehr Verantwortung.

Bei Systemen mit Retrieval-Augmented Generation (RAG), die Antworten aus unternehmenseigenen Dokumenten erzeugen, heißt das ganz praktisch: Die korrigierte Regel landet in genau diesen Dokumenten.

In Projekten zeigt sich häufig ein pragmatischer Einstieg. Der erste Agent entlastet die Führungskräfte selbst, etwa bei Statusberichten oder der Nachverfolgung offener Punkte. Wer den Zeitgewinn im eigenen Alltag erlebt, wird eher zum Fürsprecher. Die Rolle des mittleren Managements verschiebt sich dabei: weg vom Sammeln und Weiterreichen von Informationen, hin zur Verantwortung für Entscheidungen, die auf Vorschlägen von Agenten beruhen.

Autonomie muss sich ein Agent verdienen

Autonomie wird in Stufen vergeben. Im Modus Human-in-the-Loop schlägt der Agent einen Schritt vor, ein Mensch prüft und gibt ihn frei. Im Modus Human-on-the-Loop arbeitet der Agent selbstständig, während ein Mensch Kennzahlen überwacht und bei Auffälligkeiten eingreift. Der Wechsel zwischen beiden Stufen ist eine Führungsentscheidung, die auf Leistungsdaten beruht.

KI-generiert

Bei hohem Volumen reicht menschliche Kontrolle allein nicht aus. Ein verbreitetes Architekturmuster ist das Akteur-Kritiker-Prinzip: Ein zweiter Agent prüft jede geplante Aktion des ersten gegen die Regeln der Personalakte, bevor sie ausgeführt wird. Verstößt ein Vorschlag gegen eine Regel, blockiert der Prüfagent ihn, begründet das und fordert eine Korrektur an. So erreichen Fehler weder Kunden noch angebundene Systeme.

Für das regelmäßige Feedbackgespräch eignen sich drei Prüffragen. Hält sich der Agent an die Vorgaben seiner Personalakte? Bleibt er über lange Gespräche hinweg in seiner Rolle, oder verwässert sein Profil? Trifft er den vorgesehenen Ton?

Wie schnell ein Agent wirkt und wo seine Grenzen liegen, zeigt der Zahlungsdienstleister Klarna. Das Unternehmen teilte im Februar 2024 mit, sein KI-Assistent habe im ersten Monat 2,3 Millionen Gespräche geführt, zwei Drittel aller Kundenservice-Chats. Kunden lösten ihre Anliegen nun in unter zwei Minuten statt in elf Minuten.

Im Mai 2025 räumte Klarna-Chef Sebastian Siemiatkowski in einem Interview ein, Kosten seien bei der Organisation des Kundenservice ein zu dominantes Kriterium gewesen, das Ergebnis sei geringere Qualität. Klarna begann daraufhin, wieder eigene Kundenservice-Mitarbeitende einzustellen. Kunden sollten jederzeit mit einem Menschen sprechen können, wenn sie das wollen.

Die Lehre daraus: Der Agent übernimmt die Routine, Menschen übernehmen Ausnahmen, Beschwerden und emotional schwierige Fälle. Dieser Eskalationsweg gehört von Anfang an in die Personalakte.

Was verlangt der EU AI Act von KI-Agenten?

Das hängt vom Einsatzzweck ab. Agenten im Personalwesen, etwa bei der Bewerberauswahl oder der Leistungsbewertung, sowie bei der Kreditwürdigkeitsprüfung gelten nach Anhang III der KI-Verordnung als Hochrisiko-Systeme. Für sie gelten die zusätzlichen Pflichten ab dem 2. Dezember 2027. Transparenzpflichten greifen bereits heute, unabhängig von der Risikoklasse.

Den Termin hat der sogenannte Digital Omnibus verschoben, ein Änderungspaket der EU. Er ist als Verordnung (EU) 2026/1744 am 24. Juli 2026 im Amtsblatt erschienen. Ursprünglich hätten die Hochrisiko-Pflichten nach Anhang III ab dem 2. August 2026 gegolten. Für Hochrisiko-KI in Produkten, die unter EU-Produktvorschriften nach Anhang I fallen, gilt nun der 2. August 2028.

Die Pflichten für Hochrisiko-Systeme decken sich weitgehend mit dem, was Personalakte und Feedback-Kreislauf ohnehin leisten sollen:

• Risikomanagement (Artikel 9): Risiken über den gesamten Lebenszyklus erkennen und mindern.
• Daten-Governance (Artikel 10): Qualität und Herkunft der Trainings- und Testdaten prüfen und dokumentieren.
• Dokumentation und Protokollierung (Artikel 11 und 12): Funktionsweise beschreiben und Vorgänge automatisch aufzeichnen.
• Menschliche Aufsicht (Artikel 14): Menschen müssen Ergebnisse verstehen, übersteuern und das System anhalten können.
• Robustheit und Cybersicherheit (Artikel 15): Das System muss Manipulationsversuchen standhalten.

Die meisten Pflichten treffen den Anbieter. Anbieter ist, wer ein KI-System entwickelt oder entwickeln lässt, Betreiber, wer es einsetzt. Wer ein zugekauftes Hochrisiko-System wesentlich verändert oder unter eigenem Namen vertreibt, kann nach Artikel 25 selbst zum Anbieter werden.

Für Kundenservice-Agenten zählt vor allem Artikel 50, der seit dem 2. August 2026 gilt. KI-Systeme, die direkt mit Menschen interagieren, müssen so gestaltet sein, dass diese erkennen, mit einer KI zu sprechen, sofern das nicht offensichtlich ist. Wie sich die eigenen Agenten einstufen lassen, klärt eine Beratung zum EU AI Act.

Was Unternehmen jetzt tun sollten

1. Einen Engpass auswählen, nicht ein Werkzeug. Gemeint ist ein Prozess, der messbar Zeit oder Geld kostet. Dauer, Beteiligte und Fehlerkosten werden vorab erfasst.
2. Den Ablauf neu zeichnen, bevor der Agent ihn übernimmt. Freigaben, Übergaben und Sonderfälle gehören auf den Prüfstand.
3. Die Personalakte schreiben: Rolle, Werkzeuge nach dem Prinzip der minimalen Rechte, Tonalität, Eskalationswege und Kennzahlen.
4. Eine verantwortliche Führungskraft benennen, die Ergebnisse prüft und Korrekturen in die Wissensbasis zurückführt.
5. Im Modus Human-in-the-Loop starten und vorab festlegen, ab welchen Werten der Agent selbstständiger arbeiten darf.
6. Ein KI-Inventar anlegen und jeden Agenten nach der KI-Verordnung einstufen, Anwendungen im Personalwesen zuerst.

Welcher Prozess sich für den ersten Agenten eignet, lässt sich in einem KI-Workshop gemeinsam mit den Fachbereichen herausarbeiten. Wie daraus eine tragfähige Roadmap für mittelständische Unternehmen in Baden-Württemberg wird, beschreibt die Seite zur KI-Beratung für den Mittelstand.

Das heißt: Der Engpass bei KI-Agenten liegt selten im Modell. Er liegt in der Frage, ob ein Unternehmen bereit ist, einem neuen Kollegen klare Aufgaben, feste Grenzen und eine Führungskraft zu geben. Wer das von Beginn an regelt, kann die Autonomie schrittweise ausweiten, statt nach den ersten Fehlern zurückzurudern.