logo

Are you need IT Support Engineer? Free Consultant

KI-Governance im öffentlichen Sektor: Wie Behörden Kontrolle und Automatisierung in Einklang bringen

  • By sujay
  • 17/11/2026
  • 18 Views

Die Diskussion über KI in der öffentlichen Verwaltung dreht sich oft um die falsche Frage. Nicht „Können wir KI einsetzen?” ist das Problem. Sondern: „Wie stellen wir sicher, dass wir wissen, was unsere KI-Agenten tun und dass wir jederzeit Rechenschaft darüber ablegen können?”

Das ist keine rhetorische Frage. Für Behörden hat sie handfeste rechtliche Konsequenzen: EU AI Act, Begründungspflicht im Verwaltungsverfahren, Anforderungen aus dem Datenschutz. Wer KI in Verwaltungsprozessen einsetzt, ohne Governance von Anfang an mitzudenken, baut auf Sand.

In einem Demo-Szenario, dem Forderungsmanagement einer öffentlichen Verwaltung, haben wir gezeigt, wie ein vollständiger, geschlossener Kreislauf aus Identifikation, Automatisierung und Kontrolle in der Praxis aussieht. Was dabei entstanden ist, ist kein Pilotprojekt für übermorgen. Es ist ein Modell, das heute funktioniert und auf jeden Verwaltungsprozess übertragbar ist.

Schritt 1: Erst verstehen, wo KI wirklich hilft

1 Pca Mockup.jpg

Bevor überhaupt ein KI-Agent ins Spiel kommt, steht eine nüchterne Analyse: Wo verliert der Prozess aktuell Zeit? Und wo wäre Automatisierung sinnvoll und nicht nur technisch möglich?

Der Process Consulting Agent von SAP Signavio beantwortet genau diese Frage. Er analysiert Prozessdaten in natürlicher Sprache, identifiziert Engpässe und bewertet, welche Prozessschritte das größte Automatisierungspotenzial haben. In unserem Szenario war die Empfehlung eindeutig: Der Schritt „Stundungsantrag prüfen” im Forderungsprozess ist regelbasiert, wiederkehrend und blockiert den gesamten nachgelagerten Ablauf.

Für die Verwaltungsleitung ist das ein entscheidender Schritt: kein Bauchgefühl, kein internes Überzeugungsarbeit ohne Datenbasis. Sondern eine belegbare Grundlage dafür, warum KI an genau dieser Stelle Sinn ergibt und wie hoch der erwartete Mehrwert ist.


Schritt 2: Den Prozess sehen, wie er wirklich ist

2 Pint Dashboard.jpg

Empfehlungen brauchen Beweise. Das Process Intelligence Dashboard von SAP Signavio liefert genau das: eine Visualisierung des Forderungsprozesses, wie er tatsächlich abläuft.

Das Ergebnis ist sofort lesbar: Der Schritt „Stundungsantrag prüfen” ist der größte Flaschenhals im gesamten Ablauf. Die Durchlaufzeit liegt weit über dem Zielwert. Und weil dieser Schritt mitten im Prozess sitzt, verzögert er alles, was danach kommt: die Bescheiderstellung, die Buchung, den Abschluss des Falls.

Das ist der Moment, in dem aus einer Vermutung eine Entscheidungsgrundlage wird. Und in dem klar wird: Hier nicht zu automatisieren hat einen Preis: in Zeit, in Personalkapazität, in Bürger:innenzufriedenheit.


Schritt 3: Den Agenten bauen mit dem Wissen der Verwaltung

3 Joule Studio Agenten Erstellung.jpg

Mit dieser Grundlage geht es in Joule Studio. Hier entsteht der KI-Agent, der den Prüfungsschritt übernimmt. In einem Low-Code-Werkzeug, das Fachbereich und IT gemeinsam nutzen können.

Der Agent führt dieselben Schritte durch, die auch ein Mensch durchführen würde: Antrag lesen, Zahlungshistorie prüfen, geltende Regelwerke berücksichtigen, Entscheidung ableiten, Bescheid vorbereiten. Bei Grenzfällen (z.B. zu hoher Betrag, Vorbelastungen, besondere Umstände) übergibt er an eine Sachbearbeiterin. Diese Eskalationslogik ist explizit definiert, nicht dem Zufall überlassen.

Der Agent handelt dabei nicht im Vakuum. Er greift auf das Wissen der Verwaltung zu in Form von Prozessmodellen, Entscheidungsregeln oder kommunalen Satzungen. Das sogenannte Company Memory ist eine strukturierte, zentrale Wissensbasis, die KI-Agenten einer Organisation mit demselben institutionellen Kontext versorgt. Ändert sich eine Regelung, kann diese Änderung zentral gepflegt und gezielt an alle Agenten weitergegeben werden  ohne jeden Agenten einzeln anpassen zu müssen.

Hinweis: Company Memory befindet sich aktuell in einer Closed-Beta Phase.

Das ist der Unterschied zwischen einem Agenten, der Aufgaben erledigt, und einem, der sie im Rahmen des geltenden Verwaltungsrechts erledigt.


Schritt 4: Der Agent im Einsatz und warum Transparenz keine Kür ist

4 Stundungs Agent Live.jpg

Der Agent läuft. Frau Müller, die um eine Ratenzahlung für ihren Gebührenbescheid gebeten hat, bekommt schneller eine Antwort als je zuvor.

Aber was dabei wirklich zählt, ist nicht die Geschwindigkeit. Es ist die Nachvollziehbarkeit. Jede Entscheidung des Agenten ist vollständig dokumentiert: Welche Daten wurden geprüft? Welche Regelgrundlage wurde herangezogen? Warum wurde dem Antrag stattgegeben, oder warum nicht?

Im öffentlichen Sektor ist das keine optionale Zusatzleistung. Es ist die rechtliche Voraussetzung für jeden Verwaltungsakt. Und es ist exakt das, was der EU AI Act für KI-Systeme mit Auswirkungen auf natürliche Personen einfordert: Transparenz, Erklärbarkeit, Nachvollziehbarkeit.

Der Stundungsantrag ist nur ein Beispiel. Dieselbe Logik gilt für Baugenehmigungen, Sozialleistungen, Vergabeverfahren, Personalvorgänge. Was bleibt, ist immer dieselbe Anforderung: Wenn ein Algorithmus eine Entscheidung vorbereitet, muss jeder Schritt rekonstruierbar sein.


Schritt 5: Den Überblick behalten für heute und für morgen

5 Ai Agent Hub.jpg

Ein Agent ist der Anfang. Die eigentliche Herausforderung beginnt, wenn es zehn werden. Oder zwanzig. Agenten für Forderungen, Genehmigungen, Beschaffung, HR. Jeder mit eigener Logik, eigenen Systemzugriffen, eigenem Verhalten.

Der SAP AI Agent Hub ist die Antwort auf genau diese Komplexität: eine herstellerunabhängige Schaltzentrale für alle KI-Agenten einer Organisation. Von hier aus ist auf einen Blick erkennbar, welche Agenten aktiv sind, welche Sprachmodelle sie nutzen, welche Berechtigungen sie haben und ob sie verifiziert und konform sind.

Was dabei besonders wichtig ist: Der Agent Hub funktioniert für alle Agenten, unabhängig davon, woher sie kommen. SAP-eigene Agenten, selbst entwickelte Agenten aus Joule Studio, Lösungen von Drittanbietern, alle landen im selben Inventar, alle werden nach denselben Standards bewertet. Ein Rahmen für alles.

Das ist Governance, wie sie der EU AI Act einfordert: nicht als Momentaufnahme beim Go-Live, sondern als fortlaufende Praxis mit klaren Zuständigkeiten, Versionierung, Lifecycle-Management von der Einführung bis zur Ablösung.


Schritt 6: Den Kreis schließen mit Agent Mining

6 Agent Mining.jpg

Der letzte Schritt ist der, der am häufigsten vergessen wird und der den Unterschied macht zwischen einem Pilotprojekt und einer nachhaltigen Governance-Praxis.

SAP Signavio Agent Mining überträgt die bewährte Logik des Process Mining auf KI-Agenten selbst. Wie verhält sich der Agent im laufenden Betrieb? Welche Entscheidungspfade nimmt er? Hält er sich an die definierten Prozessgrenzen? Gibt es Muster, die auf Regelungslücken hindeuten, oder auf veränderte Rahmenbedingungen, die der Agent noch nicht kennt?

Im Fall des Stundungsantrags bedeutet das: Sechs Monate nach dem Go-Live lässt sich datenbasiert beantworten, ob die Bearbeitungszeit tatsächlich gesunken ist, ob der Agent in bestimmten Fällen systematisch eskaliert und ob dieser Befund auf ein Problem in den Entscheidungsregeln oder auf eine Lücke im Company Memory hinweist.

Das ist keine Kontrolle um der Kontrolle willen. Es ist die Grundlage dafür, dass KI-Agenten besser werden und dass die Verwaltung bei der nächsten Revision, der nächsten Prüfung, der nächsten politischen Anfrage antworten kann: Ja, wir wissen, was unser Agent tut. Und wir können es belegen.

Was das für Ihre Behörde bedeutet

Das Szenario mit dem Stundungsantrag ist austauschbar. Was bleibt, ist der Rahmen: Verstehen, wo KI Mehrwert bringt. Bauen, was gebraucht wird mit dem institutionellen Wissen der Verwaltung. Kontrollieren, was im Einsatz ist. Und kontinuierlich lernen, ob die Wirkung der Erwartung entspricht.

Die Bausteine dafür sind heute verfügbar. Sie sind so gestaltet, dass sie die Anforderungen des öffentlichen Sektors ernst nehmen: Transparenz, Begründungspflicht, Datenschutz, EU AI Act.

Behörden, die diesen Kreislauf heute einführen, schaffen mehr als schnellere Prozesse. Sie zeigen, wie verantwortungsvolle Digitalisierung im öffentlichen Sektor aussieht.

Source link

Leave a Reply

Your email address will not be published. Required fields are marked *

Chat with us on WhatsApp!