Automatisierung in der Verwaltung: Transparenzfalle oder Effizienzsprung?

In Städten wie Bern, Basel und Zürich nutzen Mitarbeitende der Verwaltung die Software «Citysoftnet» zur digitalen Fallbearbeitung in der Sozialhilfe und im Kindesschutz. Doch der Einsatz der Software ist nicht unumstritten. Medienberichte, darunter Berichte der NZZ, thematisierten jüngst technische Mängel und Verzögerungen bei der Auszahlung von Sozialleistungen. Bürgerinnen und Bürger verstehen oft nicht, weshalb Anträge abgelehnt oder verzögert bearbeitet werden – ein Problem, das in einer zunehmend digitalisierten Verwaltung zur Vertrauensfrage wird. 

Dabei ist «Computational Law», also die Kodierung von Rechtsnormen in Software, längst mehr als ein Experiment. Von Indien über Dänemark und die Niederlande bis nach Michigan in den USA oder Neuseeland: überall sollen Verwaltungsprozesse effizienter und objektiver werden, indem Software etwa automatisch prüft, ob jemand Anspruch auf Sozialhilfe hat – die Basis bildet also die Implementierung eines rechtlichen Sachverhalts in Form von Software-Code. Doch wenn Bürgerinnen und Bürger nicht nachvollziehen können, wie Entscheidungen zustande kommen, droht ein Akzeptanzproblem. 

Mit Blick auf die USA und Elon Musks Vision: KI statt Verwaltung? 

Die Diskussion um «Computational Law» gewinnt zusätzliche Brisanz durch eine radikale Vision von Tesla- und SpaceX-Chef Elon Musk. Gemäss Medienberichten wie zum Beispiel in der Tagesschau und dem Tages-Anzeiger kündigte er an, US-Verwaltungsangestellte durch Künstliche Intelligenz (KI) zu ersetzen. Auch in der öffentlichen Verwaltung könnten durch KI-basierte Automatisierung erhebliche Personaleinsparungen möglich werden – ein Szenario, das nicht nur Arbeitsplätze, sondern auch staatliche Kontrollmechanismen infrage stellt. Musk argumentiert, dass KI kostengünstiger, schneller und weniger fehleranfällig als menschliche Bürokraten sei. Kritiker hingegen warnen, dass ein völliger Verzicht auf menschliches Ermessen zu inhumanen Entscheidungen führen könnte: Algorithmen bewerten Daten, sie verstehen dadurch aber keine individuellen Schicksale. 

Wie verantwortungsvoll muss Verwaltungssoftware sein? 

Forschende der School of Computer Science an der Universität St.Gallen (HSG) und der Universität Lausanne (UNIL) haben den Einsatz von KI in der öffentlichen Verwaltung untersucht – insbesondere im Bereich der sogenannten «Legal AI». Sie identifizieren verschiedene technische, rechtliche, politische und bildungspolitische Herausforderungen und analysieren diese im Einzelnen:

Technische Herausforderungen:
In den vergangenen Jahrzehnten gab es erhebliche Fortschritte darin, Rechtsnormen als Software zu implementieren. Dennoch bleiben zentrale Probleme bestehen. Gesetze lassen oft mehrere legitime Interpretationen zu, die je nach Argumentation gültig sein können. Diese Mehrdeutigkeit in Software abzubilden stellt nach wie vor eine Herausforderung dar. Zudem fehlt es an der nötigen Flexibilität, um Änderungen in Gesetzen und ihrer Auslegung angemessen zu berücksichtigen.

Rechtliche Herausforderungen:
Damit die Entscheidungen solcher Systeme nachvollziehbar bleiben, wäre es essenziell, die zugrunde liegenden Prozesse offenzulegen – insbesondere, um sie überprüfen und gegebenenfalls anfechten zu können. Doch genau diese Transparenz fehlt oft. Das erschwert nicht nur den Schutz vor systematischen Verzerrungen (z.B. gegenüber besonders vulnerablen Gruppen), sondern erhöht auch das Risiko öffentlicher Skandale. Die 
Einhaltung bestimmter ethischer Standards könnte dem entgegenwirken.

Politische Herausforderungen:
Der Einsatz von «Legal AI» in der öffentlichen Verwaltung wirft viele politische und demokratiepolitische Fragen auf. Beispielsweise sind zahlreiche Gesetze für Laien schwer verständlich – im Widerspruch zur Rechtsmaxime «Unkenntnis des Gesetzes schützt nicht vor Strafe». KI könnte jedoch auch gerade dafür eingesetzt werden, das Recht zugänglicher zu machen. Damit stellt sich die Frage: Sollte der Staat gezielt in Anwendungen investieren, die den Zugang zum Recht erleichtern, statt primär auf Effizienzsteigerung zu setzen? Ein weiteres Thema betrifft die Anpassung von Gesetzen an digitale Verwaltungsprozesse: Sollte der Staat Gesetze bereits während der Gesetzgebung so formulieren, dass sie sich leichter in Software umsetzen lassen («digitally-ready legislation») – beispielsweise durch die Vermeidung von Mehrdeutigkeiten – und ist das erstrebenswert und umsetzbar?

Bildungspolitische Herausforderungen:
Da «Legal AI» immer mehr Einfluss auf den Alltag hat, ist es wichtig, die demokratische Beteiligung der Bürgerinnen und Bürger zu gewährleisten. Dazu gehört, dass grundlegende Kenntnisse über «Computational Law» in schulischen Lehrplänen integriert werden – sowohl auf der Ebene der Primar- und Sekundarschule als auch in der Hochschulbildung. 

Effizienz oder Intransparenz?

Wie sich zeigt, ist der Einsatz von KI in der öffentlichen Verwaltung keine reine Effizienzfrage. Transparenz, ethische Leitlinien und klare Verantwortlichkeiten sind essentiell, um Bürgerrechte zu wahren. Gleichzeitig könnten Algorithmen – wenn sie verantwortungsvoll eingesetzt werden – helfen, Verwaltungskosten zu senken und Prozesse fairer zu gestalten. 

Die Frage bleibt: Ist der propagierte Fokus auf die Automatisierung von rechtlichen und administrativen Prozessen durch KI der einzig richtige Weg? Oder öffnet dies einer kalten, unverständlichen, distanzierten und intransparenten Bürokratie Tür und Tor? Die kommenden Jahre werden zeigen, ob Transparenzmassnahmen und gesetzliche Rahmenbedingungen Schritt halten können mit dem technologischen Wandel – oder ob Musks Vision einer KI-gesteuerten Verwaltung am Ende doch Realität wird. Die Forschenden haben ihre aktuellen Erkenntnisse zu diesen Themen – insbesondere zu den oben genannten vier Herausforderungen von Technologie bis Bildungspolitik – in einem neuen Buch mit dem Titel «AI and Law: How Automation is Changing the Law» für eine breitere Öffentlichkeit zugänglich gemacht. Im Buch besprechen sie nicht nur anhand von konkreten Beispielen von «Legal AI» im weltweiten Einsatz die genannten Herausforderungen sondern identifizieren vordringlich wichtige Themengebiete und geben konkrete Leitfäden und Vorschläge zum verantwortungsvollen Einsatz von KI in der Verwaltung und zur bildungstechnischen Vorbereitung der nächsten Generationen auf «Computational Law».

Die Autoren des Buches «AI and Law: How Automation is Changing the Law» sind namentlich Dr. Clement Guitton, Postdoktorand an der School of Computer Science (SCS-HSG) der Universität St.Gallen, Prof. Dr. Aurelia Tamò-Larrieux, Assoziierte Professorin für Privatrecht an der Universität Lausanne (UNIL), und Prof. Dr. Simon Mayer, Ordentlicher Professor für Interaktions- und Kommunikationsbasierte Systeme an der School of Computer Science (SCS-HSG). 

 
 Bild: Adobe Stock / Andrey Popov