Grenzen der KI: Warum Ermessen Menschensache bleibt

2,5 Billionen US-Dollar fließen laut Prognose des Marktforschungsunternehmens Gartner im Jahr 2026 weltweit in Künstliche Intelligenz. Allein die deutsche Bundesregierung hat 2025 rund 1,6 Milliarden Euro in KI investiert – mehr als in fast jede andere Technologie. Parallel dazu wird KI in Sonntagsreden, auf LinkedIn und in Digitalisierungsstrategien als Lösung für nahezu jedes Verwaltungsproblem verkauft.

Was in dieser Debatte fast vollständig fehlt: die Frage nach der Grenze. Wo kann KI unterstützen – und wo muss am Ende ein Mensch entscheiden, weil die Entscheidung selbst eine moralische ist und keine mathematische?

Als Fachgebietsleiter in einer Kreisverwaltung arbeite ich täglich mit genau dieser Grenze. Sie verläuft nicht entlang technischer Leistungsfähigkeit, sondern entlang der Frage, wer für eine Entscheidung Verantwortung trägt. Zwei Bereiche zeigen das besonders deutlich: der Straßenverkehr und das Verwaltungsrecht. Beide haben die Antwort bereits gefunden – nur spricht kaum jemand darüber.

Die Größenordnung der aktuellen KI-Investitionswelle ist real. Gartner beziffert die weltweiten KI-Ausgaben für 2026 auf über 2,5 Billionen US-Dollar, mit weiterem Wachstum auf 3,3 Billionen bis 2029. Diese Summen fließen überwiegend in Recheninfrastruktur, Sprachmodelle und Unternehmenssoftware – also in Bereiche, in denen KI Muster erkennt, Texte generiert oder Prozesse beschleunigt.

Was diese Investitionssummen nicht zeigen: Geld kauft keine Entscheidungsfähigkeit in Situationen, für die es keine eindeutige Regel gibt. Genau dort, wo Politik und Verwaltung KI am dringendsten bräuchten – bei komplexen Einzelfallentscheidungen –, ist die Technologie strukturell überfordert. Nicht, weil die Modelle nicht leistungsfähig genug wären, sondern weil die Aufgabe selbst eine andere ist als Mustererkennung.

Ein einfaches Beispiel macht das greifbar. Enge Straße, zwei Fahrzeuge, keine Beschilderung, gleichberechtigte Kreuzung. Menschen lösen diese Situation über Blickkontakt, Tempo und ein kurzes Handzeichen – in Sekundenbruchteilen, ohne Regelbuch. Allein 2024 ging diese Entscheidung in Deutschland 45.489 Mal zwischen Menschen schief: So viele Unfälle gehen laut Statistischem Bundesamt auf Vorfahrtsfehler zurück, die zweithäufigste Unfallursache nach Fehlern beim Abbiegen.

Diese Fehlerquote ist kein Argument für die Maschine, sondern für eine ehrliche Bestandsaufnahme: Auch automatisierte Systeme müssen mit Unsicherheit, Ambiguität und fehlenden Regeln umgehen – und genau hier wird es ethisch heikel, nicht technisch.

Deutschland hat diese Frage bereits 2017 ernsthaft verhandelt. Die vom damaligen Bundesverkehrsminister Alexander Dobrindt eingesetzte Ethikkommission „Automatisiertes und vernetztes Fahren" unter Vorsitz des ehemaligen Bundesverfassungsrichters Udo di Fabio hat 20 Leitlinien erarbeitet. Die zentralen Aussagen:

Diese Leitlinien sind keine technische Spezifikation. Sie sind eine Wertentscheidung, die Philosophen, Juristen und Verfassungsrechtler getroffen haben – nicht Ingenieure. Genau das ist der Punkt, der in der aktuellen KI-Debatte untergeht: Die schwierigste Aufgabe bei automatisierten Entscheidungen ist nicht die Berechnung, sondern die vorgelagerte ethische Festlegung, nach welchen Werten überhaupt entschieden werden darf. Diese Festlegung kann keine KI selbst treffen – sie kann nur das umsetzen, was Menschen ihr vorgeben.

In der öffentlichen Verwaltung ist diese Grenze nicht nur ethisch diskutiert, sondern seit 2017 geltendes Recht. § 40 VwVfG erlaubt Behörden, bei bestimmten Entscheidungen Ermessen auszuüben – also innerhalb des gesetzlichen Rahmens abzuwägen, welche von mehreren rechtmäßigen Lösungen dem Einzelfall am besten gerecht wird. Eine Sozialleistung kürzen oder stunden, eine Ausnahmegenehmigung erteilen oder versagen, eine Fördermaßnahme bewilligen oder ablehnen: Überall dort, wo das Gesetz der Behörde einen Spielraum lässt, ist Ermessen gefragt.

Der Gesetzgeber hat für genau diesen Fall bereits eine klare Antwort formuliert. § 35a VwVfG, eingeführt 2016 im Zuge der Modernisierung des Besteuerungsverfahrens, regelt den vollständig automatisierten Erlass von Verwaltungsakten – und zieht dabei eine scharfe Linie:

Ein Verwaltungsakt kann vollständig durch automatische Einrichtungen erlassen werden, sofern dies durch Rechtsvorschrift zugelassen ist und weder ein Ermessen noch ein Beurteilungsspielraum besteht.

Im Umkehrschluss heißt das: Überall dort, wo eine Behörde abwägen muss, ist die vollständige Automatisierung gesetzlich ausgeschlossen. Der Gesetzgeber begründet das damit, dass Ermessen und Beurteilungsspielraum eine individuelle Abwägung und Willensbetätigung erfordern, die ein Rechner – jedenfalls nach heutigem Stand – nicht leisten kann. Das ist keine vage politische Position. Das ist seit acht Jahren kodifiziertes Verwaltungsverfahrensrecht.

Was KI in diesem Rahmen sehr wohl leisten kann: Sachverhalte aufbereiten, Akten vorstrukturieren, Vergleichsfälle recherchieren, Fristen überwachen, Entwürfe vorbereiten. Was sie nicht darf: die Abwägung selbst übernehmen und damit die Entscheidung treffen. Diese Unterscheidung – Unterstützung ja, Substitution nein – ist die praktisch wichtigste Leitplanke für jede Kommune, die jetzt über KI-Einsatz in der Sachbearbeitung nachdenkt.

Diese nationale Rechtslage trifft 2026 auf eine neue europäische Ebene. Der EU AI Act stuft in Anhang III KI-Systeme, die über den Zugang zu wesentlichen öffentlichen Leistungen entscheiden – etwa Sozialleistungen, Gesundheitsdienste oder Notrufpriorisierung –, grundsätzlich als Hochrisiko-KI ein. Ab dem 2. August 2026 gelten für Betreiber solcher Systeme verschärfte Pflichten: dokumentierte menschliche Aufsicht, Nachweis der Systemgenauigkeit unter realen Bedingungen und Schutz vor Manipulation.

Für Landkreise und Kommunen bedeutet das konkret: Wer jetzt KI-gestützte Software für Sozialleistungen, Förderbescheide oder andere Ermessensentscheidungen evaluiert, muss diese Einstufung von Anfang an mitdenken – nicht als nachträgliche Compliance-Übung, sondern als Designprinzip. Governance-Regeln, die heute fehlen, lassen sich im August nicht über Nacht nachrüsten.

Drei Leitplanken lassen sich aus alldem ableiten, die in keiner Digitalisierungsstrategie fehlen sollten:

Erstens: KI darf vorbereiten, nie entscheiden, wo Ermessen besteht. Das ist keine politische Vorsicht, sondern seit § 35a VwVfG geltendes Recht.

Zweitens: Verantwortung muss vor dem Einsatz geklärt sein, nicht danach. Die Ethikkommission von 2017 hat das für den Straßenverkehr vorgemacht – wer entscheidet, muss dokumentiert sein, bevor ein Schaden eintritt, nicht erst im Streitfall.

Drittens: Die Frist 2. August 2026 ist näher, als sie wirkt. Wer öffentliche Leistungen mit KI-Unterstützung plant, sollte die Hochrisiko-Anforderungen jetzt in die Beschaffung einpreisen.

Die Frage ist nicht, ob Künstliche Intelligenz Verwaltung und Verkehr verändert. Das tut sie bereits. Die eigentliche Debatte, die in der aktuellen KI-Euphorie fehlt, ist eine andere: Wo haben wir als Gesellschaft längst entschieden, dass eine Entscheidung beim Menschen bleiben muss – und halten wir uns auch dann daran, wenn die Technik vorgibt, es besser zu können?

§ 35a VwVfG und die Leitlinien der Ethikkommission von 2017 geben darauf bereits Antworten. Sie verdienen mehr Aufmerksamkeit als die nächste Investitionsschlagzeile.