Bayerns Modernisierungsgesetz: Blaupause für KI in Unternehmen

6 Min. Lesezeit

Im Kreditprozess gibt KI für die Sachbearbeitung das Limit frei, weil 80 Vorgänge warten. In der Personalabteilung landet nur die KI-kuratierte Bewerbenden-Shortlist. Im Shop setzt die KI den Rabatt. Überall zeichnet ein Mensch ab. Nirgendwo ist klar, ob er die Entscheidung noch zurücknehmen kann. Bayerns Landtag hat am 21. Juli 2026 ein Gesetz beraten, das diese Schwelle nun auch für Ämter öffnet.

Verwandt:Der AI Act hat längst begonnen – nicht erst im August  /  AI Act ab August 2026: Hochrisiko-KI im Mittelstand

Was ist wirksame Aufsicht? Wirksame Aufsicht liegt vor, wenn ein Mensch das Ergebnis einer KI beurteilen, verwerfen und den Verlauf ändern kann. Zeit, Daten, Fachkompetenz und ein vorgesehener Widerspruch gehören dazu. Ein Name im Organigramm ohne diese Eingriffsrechte ist Makulatur.

Bayerns Sammelgesetz lässt die Bundesschranke weg

Im neuen Gesetzesentwurf zur Modernisierung der Verwaltung in Bayern stehen zwei Sätze, die weit über die Amtstür hinausreichen. Der geplante Art. 10 Satz 3 BayVwVfG soll lauten: „Die Durchführung von Verwaltungsverfahren mittels vollständig automatischer Einrichtungen und der Einsatz von Künstlicher Intelligenz sind vorbehaltlich anderer Vorgaben zulässig.“ Art. 35 Satz 3: „Ein Verwaltungsakt kann vollständig durch automatische Einrichtungen erlassen werden.“ Das berichtet die Legal Tribune Online. Der BR hat die erste Lesung am 21. Juli 2026 begleitet.

Bemerkenswert ist, was in diesem Entwurf fehlt. Im Bund gilt seit 2017 § 35a VwVfG: Vollautomation ja, sofern weder Ermessen noch Beurteilungsspielraum besteht. Bayern hat diese Norm nie ins Landesrecht übernommen und übernimmt jetzt nur den ersten Halbsatz. Die Schranke bleibt weg. In der ersten Lesung haben CSU und Freie Wähler Ermessensentscheidungen ausdrücklich im Blick. Staatskanzleichef Florian Herrmann nennt den Schritt laut LTO „Rechtsgeschichte, weil es das bisher noch nicht gab“. Genannte Felder: standardisierte Massenverfahren, Bau- und Veranstaltungsgenehmigungen, Kfz-Zulassungen, Sozialrecht.

Der Widerspruch kam prompt. Mario Martini, Professor für Verwaltungsrecht an der Universität der Bundeswehr München, hält es laut LTO nach heutigem Stand in der Regel für rechtsdogmatisch nicht sachgerecht, Ermessen einer KI zu überlassen. Horst Arnold, rechtspolitischer Sprecher der SPD-Fraktion, formuliert es schärfer: „Die KI entscheidet auf der Basis von Wahrscheinlichkeitsrechnungen. Sie kennt kein Ermessen.“

Diese Einwände treffen einen Punkt. Die Grundsatzfrage, ob KI Ermessen ausüben darf, entscheidet das Ganze trotzdem nicht. Eine Landesnorm trägt das System nicht allein.

Der AI Act sitzt schon in der Architektur

Wo eine Behörde mit KI über Ansprüche auf öffentliche Leistungen befindet – Gewährung, Einschränkung, Entzug, Rückforderung – stuft der EU AI Act das System als Hochrisiko-KI ein. Daran hängen Risikomanagement, Daten-Governance, Transparenz und für Behörden eine Grundrechte-Folgenabschätzung. Vor allem greift Artikel 14: Menschen müssen das System überwachen, Ergebnisse verwerfen und eingreifen können. Für Hochrisiko-Systeme nach Anhang III gilt das ab dem 2. Dezember 2027. Es ist Unionsrecht. Kein Landesgesetz ersetzt das oder senkt es ab. Der Vorbehalt „vorbehaltlich anderer Vorgaben“ im bayerischen Satz hält genau diese Tür offen.

In der öffentlichen Debatte kommt diese Dimension kaum vor. Diskutiert wird eine Grundsatzfrage, während die praktische Antwort in einer Verordnung steht. Für Betriebe ist das der gleiche Text, der schon die Kompetenzpflicht trägt: Der Stichtag verschiebt nichts an der Architektur, die jetzt gebaut wird.

Die Akte bleibt zu, der Haken sitzt

Damit verschiebt sich der Maßstab. Maßgeblich ist, ob die Beteiligung des Menschen wirksam ist. Ein Name im Prozessdiagramm reicht nicht.

Der Europäische Gerichtshof hat das im SCHUFA-Verfahren C-634/21 klargestellt: Auch eine bloße Entscheidungsvorbereitung durch ein System fällt unter das Verbot automatisierter Einzelentscheidungen, wenn der Mensch das Ergebnis faktisch nur abzeichnet. Die Grenze zwischen Assistenz und Entscheidung ist normativ. Sie verläuft dort, wo tatsächlich noch etwas anders ausgehen kann. Das Organigramm allein sagt das nicht.

Prozesse müssen also eine wirkliche Revision durch einen Menschen vorsehen. Nur den Haken zu setzen und die Akte zu schließen, ist nicht zulässig. Das gilt auch in jedem Unternehmen, das KI in Entscheidungen einbaut.

Kreditlimit, Bewerberliste und Preis laufen über dieselbe Schwelle

Ein Fertiger mit 200 Leuten lässt das Limit im ERP nach Score und Zahlungsstock vorschlagen. Die Sachbearbeitung gibt die mittels KI-erstellte Vorauswahl frei, weil in der Warteschlange noch 80 Fälle warten. Am Freitagnachmittag bleibt für den Einzelfall keine individuelle Prüfung. Der Score war grün, der Haken sitzt. Ob der Mensch die Entscheidung noch hätte zurücknehmen können und wollen, steht in keiner Auswertung.

Ein Großhändler filtert Bewerbungen automatisiert vor. Die Personalleitung sieht nur noch die Shortlist. Wer es nicht auf die Liste geschafft hat, existiert im Bewerbungsprozess nicht.

Ein Händler lässt die KI den Rabatt im Shop setzen. Der Klick bestätigt den Vorschlag, weil der Tag 200 SKUs hat.

In allen drei Situationen trifft ein KI-System Vorentscheidungen mit Folgen für Menschen. Überall gilt derselbe Maßstab: Aufsicht ist nötig, die den Prozess noch ändern kann.

Bei enthus sehen wir genau das in vielen Mittelstandsprojekten: Die Frage nach wirksamer Aufsicht bleibt offen, obwohl das System längst produktiv läuft. Im Kern ist das eine Betriebsfrage. Wer betreibt das System, wer überwacht es, wer weist die Konformität nach? Das lässt sich nicht nachträglich anbauen. Es liegt in der Architektur. Ein Geschäftsführer, der dem Gesellschafter „wir haben KI in die Kredit-Entscheidung eingebaut“ verkauft, braucht am nächsten Morgen die drei Nachweise: Wer darf die Entscheidung zurücknehmen, welche Nachweise bleiben, welcher Name steht für Fehler ein?

Drei Fragen vor der ersten produktiven Entscheidung

Erstens: Kann der aufsichtführende Mensch das Ergebnis beurteilen? Hat er Zeit, Information, Fachkompetenz, die Befugnis zu widersprechen – und einen Prozess, in dem Widerspruch vorgesehen ist? Eine Widerspruchsquote von null ist kein Qualitätsnachweis. Sie ist ein Warnsignal.

Zweitens: Lässt sich in sechs Monaten rekonstruieren, warum diese Entscheidung so ausgefallen ist? Welches Modell, welcher Stand, welche Datenbasis, welche Regeln, welche Beteiligten. Ohne diese Spur läuft jede Überprüfung ins Leere, vor Gericht wie in der internen Revision.

Drittens: Wer trägt die Verantwortung, wenn das System falsch liegt? Eine Rolle, eine Person, klar benennbar.

Ob Bayern diesen Weg geht oder der Landtag das Modernisierungsgesetz nachschärft, ist eine politische Entscheidung.

Auch Betriebe, die KI in Kreditvergabe, Personalentscheidungen oder Preisbildung einbauen, müssen sich entscheiden. Das Ob geben Markttrend und Wettbewerber vor, das Wie entscheidet darüber, ob KI rechtskonform und sicher im System eingebaut ist.

Christian Uhl ist CEO der enthus GmbH. Das Unternehmen begleitet mittelständische Unternehmen, Gesundheitseinrichtungen und öffentliche Organisationen bei Einführung, Betrieb und Absicherung von KI-Systemen – bis zur Frage, wer für das Ergebnis einsteht.

Häufige Fragen

Bildquelle: KI-generiert (August 2026)