Warum KI in der Justiz mehr braucht als gute Technologie

Verwaltung der Zukunft: Bei welchen Anwendungsfällen sehen Sie aktuell den größten praktischen Nutzen von KI? Und wo zeigt sich, dass eher generische KI-Lösungen in der Praxis an ihre Grenzen stoßen?

Eckard Schindler: Das große Potenzial liegt dort, wo es um den Umgang mit Dokumenten und Texten geht. In der Justiz geht es im Kern um die Bearbeitung von Schriftstücken. Dieses Potenzial nutzen wir bisher erst ansatzweise.

Meine Beobachtung ist, dass der Nutzen derzeit vor allem dort entsteht, wo die KI möglichst nah an einem konkreten Problem und den Bedürfnissen der Anwender entwickelt wird.

Das war beispielsweise bei OLGA für die Dieselverfahren so, aber auch bei JANO, dem Anonymisierungsassistenten, der in Baden-Württemberg und Hessen bereits im operativen Betrieb ist. Die Lösung nimmt den Beschäftigten signifikant Arbeit ab: Die Nutzer berichten, dass sie weniger als ein Fünftel der Zeit benötigen. Und wenn man das auf Zehntausende von Urteilen überträgt, entsteht ein enormer Effekt.

Ein weiteres Beispiel ist die Lösung IntAkt, die wir aktuell gemeinsam mit Baden-Württemberg für die Geschäftsstellen der Justiz entwickeln. Dort geht es darum, Informationen aus Dokumenten und Anhängen von Nebenverfahren, z.B. die Kostenfestsetzung, herauszufiltern und damit händische Arbeit zu reduzieren. Auch hier schauen wir uns einen konkreten Geschäftsprozess an und prüfen, wo KI entlang der bestehenden Systeme wie die eAkte und das Fachverfahren die Arbeit erleichtern und beschleunigen kann.

Weniger Potenzial sehe ich dagegen vorerst bei generischen Richterassistenten oder großen Sprachmodellen, ohne konkretes Ziel eingesetzt werden sollen. Einzelne Anwender können davon durchaus profitieren. Für eine ganze Organisation mit Tausenden unterschiedlich qualifizierten Beschäftigten und heterogenen technischen Rahmenbedingungen entsteht daraus jedoch nicht automatisch ein systematischer Effizienzgewinn, der die Organisation als Ganzes spürbar entlastet.

Eine KI-Lösung für die Justiz von der Stange, die man einfach am Markt beschafft und die dann für die gesamte Organisation einen echten Effizienzgewinn bringt, wird es aus meiner Sicht so schnell nicht geben.

VdZ: Viele Digitalprojekte funktionieren als Pilot, scheitern aber beim Übergang in den Regelbetrieb. Was ist bei KI in der Justiz der häufigste Grund dafür?

Schindler: Studien zeigen industrieübergreifend, dass der Übergang vom Pilotprojekt in die Skalierung häufig scheitert. So liefert nur ein Viertel der begonnenen KI-Projekte den erwarteten Nutzen.

Ein möglicher Grund ist, dass Projekte manchmal eher aus Begeisterung für die Technik aufgesetzt werden, ohne den Kundennutzen oder ein konkretes Problem ausreichend in den Blick zu nehmen. Dann stellt man fest, dass die Lösung in der Fläche doch nicht so interessant ist oder sich nicht skalieren lässt – und der nächste Schritt bleibt aus, etwa weil das Geld fehlt oder der Nutzen nicht groß genug ist. Entscheidend ist deshalb, die KI konsequent an konkreten Problemstellungen auszurichten.

Es ist also weniger ein technisches Problem, denn technisch ist praktisch alles möglich. Vielmehr liegt es daran, dass Projekte falsch oder zu isoliert aufgesetzt werden, sich nicht in die bestehende Verfahrenslandschaft, IT und Organisation integrieren lassen oder die Organisation selbst noch nicht so weit ist, die KI in ihren Geschäftsprozessen und ihrer Kultur zu verankern.

Wenn wir auf die Justiz schauen, so stehen viele bekannte Projekte noch an der Schwelle zum Regelbetrieb. Ob und wo der Übergang gelingt, wird sich erst zeigen.

VdZ: Kann eine Anwendung formal nur „assistieren“ und trotzdem faktisch erheblichen Einfluss auf eine Entscheidung nehmen? Wie lässt sich das in der Praxis erkennen und kontrollieren?

Schindler: In der Justiz gibt es einen breiten Konsens: KI soll und darf nur eine Assistenzfunktion übernehmen. Die Entscheidung muss am Ende immer beim Menschen liegen.

Ob ein Assistenzsystem eine Entscheidung tatsächlich beeinflusst, hängt natürlich stark davon ab, was die Anwendung macht. Wenn eine KI beispielsweise Dokumente kategorisiert, wie bei den Dieselverfahren, hat sie keinen direkten Einfluss auf die Entscheidung. OLGA gilt in EU-Kreisen als Best-Practice-Beispiel für eine KI-Anwendung, die gerade kein Hochrisiko-System ist.

Anders sieht es aus, wenn die KI etwa einen Urteilsentwurf erstellt. Auch wenn der Richter den Tenor und die Argumente vorgibt, könnte es passieren, dass er den Entwurf übernimmt, weil er plausibel klingt, ohne ihn ausreichend zu prüfen. Ist der Richter dann bereits beeinflusst?

Am Ende kommt es deshalb auf den Menschen an, der die Verantwortung für die Entscheidung trägt. Heute vertrauen wir darauf, dass Richter in ihren Entscheidungen frei und verantwortungsvoll urteilen. Dieses Vertrauen muss auch in der KI-Welt gelten. Bis dahin ist allerdings eine Transformation nötig, die nicht nur die Richter betrifft, sondern auch Kläger, Beklagte und die Anwaltschaft. Es geht nicht allein um einen Lernvorgang, etwa darum, mit den neuen Werkzeugen umzugehen und die Ergebnisse kritisch zu prüfen. Alle Beteiligten müssen die Regeln im Umgang mit KI kennen und dabei positive Erfahrungen machen. Diese Wegstrecke müssen alle gemeinsam gehen.

Deswegen sage ich immer, die Justiz braucht eine KI-Governance, die weit über die Organisation der Justiz hinausgeht.

VdZ: Wann wird aus einer KI-Anwendung in der Justiz aus Ihrer Sicht ein Hochrisiko-System und was ändert sich dann ganz praktisch für die Verantwortlichen?

Schindler: Das hängt stark vom jeweiligen Einsatzbereich ab. Bleiben wir beim Beispiel des Urteilsentwurfs, wo der Richter oder die Richterin den Tenor vorgibt und die KI den Urteilstext erstellt.

Bei Massenverfahren, etwa Verkehrsordnungswidrigkeiten oder Fluggastrechten, geht es oft um ähnliche Sachverhalte und vergleichsweise niedrige monetäre Forderungen. Der Einsatz eines Urteilsassistenten birgt hier aus meiner Sicht ein niedriges Risiko, da er Standardformulierungen folgt, die heute in der Arbeitspraxis ohnehin per „Copy & Paste“ verwendet werden. Bei nicht nur eher monetären Klagen, etwa Kündigungen im Miet- oder Arbeitsrecht, ist das ganz anders: Das menschliche und gesellschaftliche Risiko ist dort deutlich höher.

Selbst ein und dieselbe KI-Anwendung kann je nach Rechtsgebiet ein ganz unterschiedliches Risiko bedeuten. Damit unterscheidet sich auch die Wegstrecke der KI-Transformation: Das eine gleicht einem Sonntagsspaziergang, das andere einer Bergtour, bei der man genau auf den Weg achten muss und das Ziel am Anfang noch nicht erkennbar ist. Dort muss man sich fragen, ob der Einsatz von KI zunächst stärker eingeschränkt werden muss.

Mit diesen Fragen muss sich die Justiz beschäftigen. Das ist aus meiner Sicht die eigentliche KI-Transformation, die sie jetzt angehen muss. Die Technologie ist da und könnte vieles bereits leisten. Entscheidend ist, zu klären, wo und unter welchen Bedingungen man sie einsetzen will.

VdZ: Und was bedeutet das für den späteren Betrieb? Welche Nachweise, Kontrollen und Dokumentationspflichten müssen Behörden dauerhaft leisten?

Schindler: Die Kontrolle in der Justiz hat klare Grenzen. Wie kontrollieren wir heute die Richterschaft? Wie Richterinnen und Richter im Einzelfall entscheiden, liegt in ihrer unabhängigen Verantwortung. Da gibt es in der Bevölkerung ein Grundvertrauen, dass Richterinnen und Richter ihre Entscheidungen verantwortungsvoll treffen. Dieses Vertrauen muss im digitalen KI-Zeitalter aber neu gedacht und erlernt werden. Das geht nicht von heute auf morgen.

Man kann allerdings das organisatorische Fundament absichern. Die EU-KI-Verordnung (AI Act) sieht dafür unter anderem vor, dass man bei jeder KI-Anwendung prüft, ob sie ein Hochrisiko-System ist. Das ist ein Abwägungsprozess, der von der konkreten Anwendung und ihrem Einsatzbereich abhängt. Ein Urteilsentwurf für Verkehrsverfahren ist anders zu bewerten als ein Einsatz im Familienrecht.

Dafür müssen Organisationen eine entsprechende KI-Governance etablieren, die den Einsatz der KI-Systeme systematisch und regelmäßig überwacht, dokumentiert und auch Änderungen erfasst. Wenn ein Urteilsgenerator beispielsweise nicht mehr nur in Verkehrsverfahren, sondern auch im Mietrecht eingesetzt werden soll, muss diese Änderung erneut geprüft und dokumentiert werden. Dazu gehören klare Prozesse und Verantwortlichkeiten sowie die Einbindung der relevanten Beteiligten.

Wir haben dazu in diesem Jahr im Rahmen unserer KI-Innovationspartnerschaft mit Baden-Württemberg einen Proof of Concept für eine KI-Governance-Plattform entwickelt, die genau das IT-technisch entlang der Anforderungen des AI Acts unterstützt: die Dokumentation des Einsatzes von KI-Services, die systemgestützte Risikobewertung und die Steuerung der entsprechenden Workflows zur Freigabe und Kontrolle innerhalb einer Organisation.

Eine solche KI-Governance ist nicht nur wegen der Anforderungen des AI Acts bei Hochrisiko-Anwendungen sinnvoll. Grundsätzlich sollte jeder KI-Service erfasst werden. Für jede Organisation, die KI in größerem Umfang einführen und skalieren will, ist das aus meiner Sicht notwendig.

VdZ: Welche Fehler sollten Verwaltungen bei der Beschaffung von KI unbedingt vermeiden?

Schindler: Ein Fehler wäre die Vorstellung, dass man KI von der Stange am Markt beschaffen kann und damit alle Probleme gelöst sind. Das wird so nicht funktionieren. Oft zeigt sich, dass ein generalisierter KI-Assistent am Ende kaum genutzt wird, weil er den Anwendern nicht wirklich hilft.

Wichtig ist bei der Beschaffung, dass die besonderen Anforderungen der öffentlichen Hand berücksichtigt werden. Dazu gehört vor allem, sich die Möglichkeit offenzuhalten, KI im eigenen Rechenzentrum zu betreiben, auch die Sprachmodelle selbst. Im nächsten Schritt sollte man dann auch eigene Daten nutzen können, um die KI weiter zu spezialisieren und zu trainieren. Das reduziert natürlich auch die Risiken. Betrieb und Datenhoheit beziehungsweise Datensouveränität müssen also gewährleistet sein. 

VdZ: Wenn wir 5 Jahre nach vorn schauen: Welche Anwendung wird dann in der Justiz selbstverständlich sein, die heute noch wie ein Pilotprojekt wirkt?

Schindler: Ich glaube, dass in den nächsten Jahren in bestimmten Massen- oder Bagatellverfahren der Entwurf des Urteils mithilfe von KI kommen wird. Etwa bei Verkehrsordnungswidrigkeiten, wo das Urteil nach Vorgaben des Richters oder der Richterin in der typischen Struktur und Textform erstellt wird. Texterstellung oder -optimierung mit KI wird einfach zum Standard in unserer Lebens- und Arbeitsrealität.