Autonome KI-Agenten: Haftung bleibt beim CFO

6 Min. Lesezeit

79 Prozent der Unternehmen geben an, KI-Agenten bereits eingeführt zu haben – tatsächlich in Produktion betreiben sie nur 11 Prozent. Zwischen diesen beiden Zahlen liegt die Aufgabe des Finanzchefs: Er muss Investitionen in autonome Systeme bewerten, deren Ankündigungen der Realität um Jahre vorauslaufen. Die entscheidende Frage lautet dabei nie, was der Agent kann. Sie lautet, wer die Buchung verantwortet, wenn er falsch liegt.

Verwandt:Wenn der Agent die Eingangsrechnung selbst bucht  /  GPAI wird zur Doku-Falle im Mittelstand

Agent-Washing: Der Markt verkauft schneller, als er liefert

Gartner hat für das Phänomen einen Begriff geprägt: Agent-Washing. Bestehende Produkte werden als agentisch umetikettiert, ohne dass substanzielle autonome Fähigkeiten dahinterstehen – von tausenden Anbietern am Markt stuft das Analystenhaus nur rund 130 als echte Agentic-AI-Anbieter ein. Für Einkauf und Finanzplanung heißt das: Die Bezeichnung auf dem Angebot sagt wenig über die Investition aus.

Wer prüfen will, ob ein Agent diesen Namen verdient, stellt drei Fragen. Trifft das System eigenständige Entscheidungen über den nächsten Prozessschritt oder führt es ein festes Skript aus? Protokolliert es jede Aktion mit Begründung und Datenbasis? Und lässt sich sein Handlungsspielraum granular begrenzen – nach Betrag, Vorgangstyp und Eskalationsregel? Dreimal nein bedeutet: klassische Automatisierung mit neuem Etikett. Die kann sich trotzdem rechnen, aber zu anderen Preisen.

Die Kontrollfragen vor der Technikfrage

Im Rechnungswesen gilt: Jede Buchung braucht einen nachvollziehbaren Beleg und einen Verantwortlichen. Ein autonomer Agent ändert daran nichts – er verschärft die Anforderung. Die GoBD verlangen Nachvollziehbarkeit und Unveränderbarkeit unabhängig davon, ob ein Mensch oder ein System gebucht hat. Ab August nimmt zusätzlich der AI Act Unternehmen in die Pflicht, menschliche Aufsicht über KI-gestützte Abläufe nachzuweisen.

Konkret bedeutet das drei Anforderungen an jede Agent-Einführung im Finanzumfeld. Erstens ein lückenloser Audit-Trail: jede Agent-Aktion mit Zeitstempel, Datengrundlage und Begründung, revisionssicher abgelegt. Zweitens eine eigene, eindeutige Identität pro Agent im Berechtigungssystem – Microsoft etwa führt dafür eigene Agent-Identitäten ein, über die sich Rechte vergeben und Aktivitäten forensisch nachvollziehen lassen. Drittens definierte Freigabestufen: Bis zu welchem Betrag agiert der Agent allein, ab wann prüft ein Mensch, wer wird bei Auffälligkeiten alarmiert.

„
Ein Agent ohne Audit-Trail ist keine Automatisierung. Er ist eine Prüfungsfeststellung mit Vorlaufzeit.

Was die Rechnung wirklich enthält

Die Wirtschaftlichkeitsrechnung autonomer Agenten wird oft an der falschen Stelle geführt. Auf der Nutzenseite stehen eingesparte Bearbeitungsminuten. Auf der Kostenseite gehören neben Lizenzen drei Posten, die in Anbieterkalkulationen selten auftauchen: die Human-in-the-Loop-Kosten für Prüfung und Freigabe, der Aufbau des Kontrollrahmens samt Protokollierung und die laufende Qualitätsmessung der Agent-Entscheidungen.

Ehrlich gerechnet lohnen sich Agenten deshalb zuerst in Prozessen mit hohem Volumen, klaren Regeln und niedrigen Fehlerfolgekosten – Rechnungsvorerfassung, Stammdatenabgleich, Mahnwesen-Vorbereitung. Prozesse mit hohen Fehlerfolgekosten bleiben länger in der Freigabestufe. Das ist keine Schwäche des Konzepts, sondern seine betriebswirtschaftlich sinnvolle Reihenfolge.

Autonomie in Stufen einkaufen

Der belastbare Einführungspfad hat vier Stufen. Stufe eins: Der Agent bereitet vor, der Mensch entscheidet jede Position. Stufe zwei: Der Agent entscheidet Routinefälle unterhalb einer Betragsgrenze, Stichproben sichern die Qualität. Stufe drei: Die Betragsgrenze steigt entlang der gemessenen Fehlerquote. Stufe vier: Vollautonomie in eng definierten Prozessen mit Alarmregeln. Jede Stufe braucht einen Messzeitraum und ein dokumentiertes Abbruchkriterium – dieselbe Logik, mit der ein Kreditlimit vergeben wird.

Wer diesen Pfad geht, hat auf die Gartner-Prognose eine gelassene Antwort: Abgebrochen werden Projekte, die Autonomie als Sprung kaufen. Wer sie als Stufenleiter einkauft, kann auf jeder Stufe stehen bleiben und hat trotzdem einen messbaren Effekt realisiert. Erfahrungen aus der Praxis helfen bei der Stufenplanung – Implementierungspartner wie der Microsoft-Spezialist Prodware, der Assistenz- und Agentenfunktionen im eigenen Haus erprobt, können den Unterschied zwischen Prospekt-Autonomie und Produktions-Autonomie aus erster Hand einordnen.

Häufige Fragen

Mehr aus dem MBF Media Netzwerk

Bildquelle: KI-generiert (Juli 2026)

Quelle Titelbild: KI-generiertes Stimmungsbild – keine Produktabbildung