Die schwierigste Frage vor einem KI-Vorhaben ist selten eine technische. Sie betrifft das Haus selbst: Kann es belastbar beschreiben, wie in ihm tatsächlich gearbeitet wird? Fünf Fragen, die vorher beantwortet sein sollten, und die Reihenfolge, in der das sinnvoll ist.
Am Anfang eines Vorhabens steht meist eine technische Frage. Welches Modell, welcher Anbieter, welcher Betrieb, welche Rechtsgrundlage? Diese Frage ist berechtigt, und sie lässt sich in den vergangenen Jahren deutlich besser beantworten. Es gibt Beschaffungswege, Betriebsmodelle innerhalb der Europäischen Union und geübte Verfahren für die Datenschutz-Folgenabschätzung und die Beteiligung der Personalvertretung. Das sind anspruchsvolle Aufgaben, aber ihre Lösungswege sind bekannt.
Häufiger bleiben Vorhaben an einer Frage hängen, die davor liegt und seltener als Projektfrage behandelt wird. Wie wird in diesem Haus tatsächlich gearbeitet? Welche Abläufe gibt es, wer entscheidet an welcher Stelle, welche Regel greift wann, und wo laufen geschriebene und gelebte Praxis auseinander?
Diese Lücke ist kein Versäumnis. Jede gewachsene Organisation hat sie, in der Wirtschaft ebenso wie im öffentlichen Dienst. In der Verwaltung wiegt sie schwerer, weil hier drei Dinge nicht zur Disposition stehen, die anderswo Ermessenssache sind. Zuständigkeit ist zugewiesen, Entscheidungen sind zu begründen, und der Vorgang ist aktenmäßig zu führen. Ein System, das in diese Ordnung hineingebaut wird, ohne dass die Ordnung beschrieben vorliegt, trifft im Betrieb auf Anforderungen, die im Projekt nie zur Sprache kamen.
Fünf Fragen lassen sich vor dem Start verhältnismäßig leicht klären, im laufenden Projekt nur mit erheblichem Aufwand.
1. Läuft der Ablauf so, wie er beschrieben ist?
Jede Automatisierung braucht einen Ablauf, an dem sie ansetzt. Dafür wird genommen, was vorliegt: eine Dienstanweisung, ein Organisationshandbuch, eine Verfahrensbeschreibung aus der letzten Zertifizierung. Diese Dokumente beschreiben den Soll-Ablauf, in aller Regel sorgfältig.
Der Ist-Ablauf ist selten identisch damit, und das hat gute Gründe. Eine Vertretungsregelung ist zur Dauerlösung geworden. Eine Rückfrage bei der Fachabteilung steht in keinem Dokument, ohne sie wäre aber ein erheblicher Teil der Fälle nicht entscheidungsreif. Meist sind es Anpassungen, die die Arbeit besser machen. Sie sind nur nirgends aufgeschrieben.
Wo Soll und Ist auseinanderlaufen, automatisiert man mit dem Soll-Ablauf eine Fiktion. Das Ergebnis ist technisch nicht falsch, es passt nur nicht zu dem, was im Haus geschieht. Der Aufwand, es passend zu machen, fällt dann nach dem Projekt an statt davor.
Mit „Haben wir den Prozess dokumentiert?" ist die Frage deshalb noch nicht beantwortet. Entscheidend ist, ob wir wissen, wo die Dokumentation von der Praxis abweicht, und ob die Abweichung ein Mangel oder eine stillschweigende Verbesserung ist.
2. Wer ist zuständig, und was heißt „übernehmen"?
Über KI-Agenten heißt es, sie könnten Routineaufgaben übernehmen. In einem Unternehmen ist das eine organisatorische Aussage. In der Verwaltung ist es eine rechtliche.
Zuständigkeit wird hier zugewiesen, durch Gesetz, Verordnung, Geschäftsverteilungsplan und Zeichnungsrecht. Wer eine Aufgabe übernimmt, übernimmt eine Zuständigkeit. Ob ein System die Tätigkeit technisch bewältigt, ist deshalb nur die halbe Frage. Die andere Hälfte lautet, ob die Tätigkeit überhaupt übertragbar ist, an wen sie im Zweifel zurückfällt und wer am Ende zeichnet.
Das schließt weniger aus, als es klingt. Vorbereiten, Zusammenstellen, auf Vollständigkeit prüfen und einen begründeten Vorschlag unterbreiten gehen einer Entscheidung voraus, ohne sie zu sein. Die Grenze zwischen Vorbereitung und Entscheidung zieht das Recht, und sie muss für jeden einzelnen Arbeitsschritt vorher bekannt sein. Ein allgemeines Bekenntnis zum Menschen in der Schleife ersetzt das nicht.
3. Lässt sich jeder Vorschlag auf eine Quelle zurückführen?
Aktenmäßigkeit, Nachvollziehbarkeit und Begründungspflicht gehören zum Verwaltungshandeln und sind älter als jedes System, das sie erfüllen soll. In einem Lastenheft lassen sie sich nicht einfach ankreuzen. Eine Entscheidung ist zu begründen, eine Begründung beruht auf etwas, und was ihr zugrunde liegt, gehört in den Vorgang.
Ein System, dessen Ausgaben sich nicht auf eine benennbare Quelle zurückführen lassen, gerät damit im Kern in Konflikt, nicht nur am Rand. Das Ergebnis ist im Vorgang nicht verwendbar, so plausibel es auch klingen mag.
Praktisch heißt das: Lässt sich zu jeder Aussage die Stelle benennen, aus der sie stammt, also das Dokument, der Absatz oder der Datensatz? Und ist diese Angabe belastbar genug, dass sie in die Akte gehört, statt danebenzuliegen?
4. Wo liegen die Daten, und woran lernt das System?
Der offensichtliche Teil ist inzwischen gut verhandelbar: Betrieb innerhalb der Europäischen Union, kein Training auf den eigenen Beständen, ein Löschkonzept, das diesen Namen verdient. Solche Zusagen gibt es am Markt. Zu klären bleibt, ob sie im konkreten Fall vertraglich zugesichert und technisch nachprüfbar sind und für welche Teile des Dienstes sie gelten, denn Anmeldung, Support und Unterauftragsverarbeiter liegen nicht immer am selben Ort wie die Daten.
Der unbequemere Teil liegt auf der eigenen Seite. Datensparsamkeit setzt voraus, dass man weiß, was vorhanden ist: welche Ablagen, Laufwerke, Postfächer und Altbestände ein Vorhaben berührt und welche personenbezogenen Daten in Unterlagen stehen, die niemand mehr für personenbezogen hält. Diese Bestandsaufnahme ist mühsam und unspektakulär. Sie entscheidet darüber, ob die Zusagen des Anbieters sich auf den richtigen Gegenstand beziehen.
5. Was steht nur in den Fachverfahren?
Ein erheblicher Teil dessen, was ein Vorhaben wissen müsste, steckt in den Fachverfahren: in Feldbezeichnungen, Statusmodellen, Pflichtfeldern, Prüfregeln und Fristenlogiken. Diese Systeme sind über Jahre gewachsen, oft über mehrere Ablösungen hinweg. Sie enthalten Entscheidungen, deren Begründung niemand mehr aufschreiben würde, weil sie selbstverständlich geworden ist.
An diese Bestände heranzukommen ist unbequem. Schnittstellen fehlen oder sind teuer, Verträge regeln den Zugriff nicht, und wer das Verfahren wirklich kennt, wird ohnehin überall gebraucht. Ein Vorhaben, das die Fachverfahren ausspart, arbeitet mit der halben Information, und gerade in dieser Hälfte liegen die Ausnahmen.
Was ein solches System nicht leistet
Es wäre bequem zu behaupten, ein System könne eine Organisation verstehen. Das kann es nicht. Es liest, was vorliegt, und legt es zusammen. Heraus kommt ein Vorschlag mit Quellenangabe, nachvollziehbar bis zu der Stelle, aus der er stammt. Erkenntnis wird daraus erst, wenn Menschen im Haus ihn prüfen, korrigieren und benutzen. Diese Grenze bestimmt, wie solche Systeme gebaut sein müssen.
Widersprüche sollten ebenfalls nicht geglättet werden. Sagt die Dienstanweisung etwas anderes als das Fachverfahren, ließe sich ein sauberes Modell erzeugen, indem man sich für eine Seite entscheidet. Das ergäbe ein besseres Schaubild und ein schlechteres Ergebnis. Die Stellen, an denen sich zwei Beschreibungen widersprechen, sind fast immer die, an denen ein Vorhaben später hängt. Sie gehören benannt.
Die Reihenfolge
Keine dieser fünf Fragen richtet sich gegen den Einsatz von KI in der Verwaltung. Sie beschreiben die Bedingungen, unter denen er trägt, und sie haben eine Richtung: Verstehen kommt vor Automatisieren.
Diese Reihenfolge lässt sich auch mit einem größeren Modell nicht umkehren. Ein Haus, das nicht belastbar sagen kann, wie es arbeitet, kann seine Arbeit weder automatisieren noch nachweisen noch auf ein neues Verfahren umstellen. An den Werkzeugen liegt das nicht. Es fehlt die Grundlage, auf der sie greifen.
Diese Grundlage geht nicht verloren, wenn ein Vorhaben verschoben wird. Eine belastbare Beschreibung der eigenen Abläufe wird für die Fachverfahrensablösung ebenso gebraucht wie für den Auditnachweis und die Einarbeitung. Sie bleibt vom Vorhaben übrig, auch wenn sich die Technik noch einmal ändert.
Weiterlesen
Die Theorie dahinter steht unter Thinking. Wie die Lösungen von aiio aufeinander aufbauen, steht in „Warum aus einer Lösung drei wurden".