Mehr als die Hälfte (53 Prozent) der deutschen Unternehmen setzen laut einer aktuellen SAS Studie bereits künstliche Intelligenz und Machine Learning ein, der Anteil liegt damit über dem weltweiten Durchschnitt (44 Prozent). Bei der öffentlichen Verwaltung kann von solchen Zahlen noch keine Rede sein, obwohl die Basis dafür vorhanden wäre: der Zugang zu sehr großen Mengen an Daten. Aber vor dem Einsatz von KI & Co. stehen im Verwaltungsumfeld zahlreiche Auflagen und bislang offensichtlich schwer kalkulierbare Risikoszenarien – insbesondere, wenn es um sensible Bereiche wie den Bezug von Sozialleistungen geht. Gleichzeitig betreffen Transaktionen mit staatlichen oder kommunalen Einrichtungen sämtliche Bürger/innen, der Einsatz von KI hat also viel Potenzial, aber auch weitreichende Auswirkungen.
Eine „Blackbox“, wie sie großenteils noch in aktuell gehypten generativen KI-Anwendungen wie ChatGPT zu sehen ist, kommt für Verwaltung und Behörden deshalb keinesfalls infrage. Wenn KI in Betracht gezogen werden soll, dann muss sie zwingend verantwortungsvoll und nachvollziehbar eingesetzt werden – Bürger/innen müssen Vorteile erkennen und die Funktion verstehen können. Aber ist das überhaupt ein realistisches Ziel? Kann KI wirklich vertrauenswürdig sein?
Transparente KI gegen Benachteiligung
Im Hinblick auf Datenethik gilt es, vier Schlüsselfaktoren zu beachten, wenn Behörden und öffentliche Einrichtungen KI-Anwendungen implementieren:
- Rückgriff auf Best Practices, bewährte Methoden, Tools und Kollaboration
- Etablieren standardisierter Normen für Datenethik
- Minimieren von negativen Auswirkungen auf marginalisierte Personengruppen
- Konsistenter, koordinierter Ansatz über alle Fachbereiche und Verwaltungsbezirke hinweg
Spätestens wenn anhand von Daten KI-basierte Entscheidungen getroffen werden sollen, sind Transparenz und Nachvollziehbarkeit Pflicht. Gerade für Bereiche, in denen das Risiko für Bias (Voreingenommenheit in den Daten) besonders hoch ist. So ist es beispielsweise wenig akzeptabel, wenn bestimmte gesellschaftliche Gruppen aufgrund von unausgewogenen Daten etwa im Bereich der Grundsicherung benachteiligt oder – im entgegengesetzten Fall – ungerechtfertigt steuerlich entlastet werden.
Überall dort, wo Gesundheit, Sicherheit, Finanzen oder die persönliche Freiheit ins Spiel kommen, ist es zwingend erforderlich, dass die aus KI abgeleiteten Entscheidungen plausibel sind. Es gilt, Vorannahmen zu verhindern, die vulnerable Personengruppen beispielsweise aufgrund von Geschlecht, Herkunft, Alter, körperlicher oder geistiger Einschränkungen benachteiligen könnten. Hierfür sind strenge Kontrollen und sorgfältige Regulierung erforderlich.
Ethische Verwendung von Anfang an im Blick
Alle Organisationen, die KI einsetzen, müssen sich in erster Instanz fragen: Steht der Mensch stets im Mittelpunkt? Ebenso wichtig ist es, ein diverses Team mit der Entwicklung von KI-Anwendungen zu beauftragen. Dabei sollte immer wieder hinterfragt werden, ob eine Gefahr besteht, dass die Daten und die KI Vorurteile reproduzieren oder sogar verstärken.
Ethische Aspekte sind nicht erst beim Einsatz von KI wichtig, sie sind an jedem Punkt des Technologielebenszyklus zu berücksichtigen – von der ersten Idee für ein Anwendungsszenario bis hin zur Überwachung der KI-Modelle. Ethisches Verhalten verringert das Risiko, unabsichtlich bestimmte soziale Gruppen zu vernachlässigen oder zu diskriminieren, was letztlich das Vertrauen in KI-basierte Dienstleistungen verringern kann.
Die folgenden Grundprinzipien für ethische (oder vertrauenswürdige) KI gelten übergreifend für alle Fachbereiche: Menschlichkeit, Inklusion, Verantwortung, Stabilität, Transparenz sowie Datenschutz und Sicherheit. Die technische Voraussetzung für einen verantwortungsvollen KI-Einsatz ist eine durchgängige Cloud-native Analytics-Plattform, die jeden Schritt der Entscheidungsfindung transparent und überprüfbar macht – beispielsweise indem Anwender Vorannahmen aufgrund von Verzerrungen in den Daten erkennen können. Die statistischen Modelle lassen sich also aktiv überwachen, die Einhaltung von Governance ist sichergestellt, und Verantwortlichkeiten sind klar. Bias kann während des gesamten KI-Prozesses in verschiedenen Formen auftreten. Daher benötigen KI-Plattformen unbedingt Funktionen, die solche Fehlentwicklungen bereits beim Datenmanagement und bei der Modellierung identifizieren.
Die erfolgreiche Einführung von KI hängt vor allem von drei Faktoren ab: die passenden Mitarbeiter, Technologien und Richtlinien. Wichtig ist, dass man in Deutschland ein breiteres Verständnis für KI schafft, um Angst und Verunsicherung zu begegnen. Diese resultieren oft aus einem Informationsmangel oder aus Kontroversen rund um Hype-Technologien wie aktuell um die generative KI ChatGPT. Ein Großteil der Bevölkerung braucht also noch Grundlagenwissen darüber, was KI wirklich kann.
Fazit
Die Anwendung von KI ist in der öffentlichen Verwaltung noch nicht so weit fortgeschritten wie im privaten Sektor. Damit bleibt großes Potenzial hinsichtlich Verwaltungseffizienz und Bürgerservice bisher ungenutzt. Dieser „Rückstand“ kann aber auch zum Vorteil werden: Während andere Branchen bereits mit der Technologie experimentiert haben, gescheitert sind und daraus Schlüsse für Verbesserungen gezogen haben, können die Kolleg/innen im öffentlichen Sektor von diesem Erfahrungsvorsprung profitieren – auch was den verantwortungsvollen Umgang mit KI angeht.
Jüngst ist mit dem Artificial Intelligence Act (AIA) der EU-Kommission zudem ein Gesetzentwurf für den konkreten Umgang mit KI in Forschung und Wirtschaft veröffentlicht worden. Das Regelwerk soll als Rahmen dienen, um die Vorteile der Technologie nutzen zu können und gleichzeitig ein Umfeld zu schaffen, in dem sich alle Bürger/innen sicher und geschützt fühlen. Behörden und öffentliche Einrichtungen, die sich an Best Practices der Wirtschaft orientieren und die AIA-Richtlinien nachweislich umsetzen, haben somit die besten Voraussetzungen, um sich das Vertrauen der Bürger/innen für KI-basierte Serviceleistungen zu sichern.
Wie „Trustworthy AI“ aussehen kann, diskutiert auch ein aktuelles E-Book.
Intelligent durch die Stadt
Dass KI auch im öffentlichen Bereich sinnvoll eingesetzt werden kann, um Lebensbedingungen zu verbessern, zeigt das Beispiel der Stadt Istanbul – in diesem Fall in Verbindung mit dem Internet of Things (IoT). Mit intelligenter Technologie versucht die Stadt, der Bevölkerungsexplosion der vergangenen 20 Jahre etwas entgegenzusetzen, da diese eine enorme Belastung für das Verkehrsnetz bedeutet. Eines der weltweit höchsten Verkehrsaufkommen führt zu regelmäßigen Staus, in verwinkelten Nebenstraßen genauso wie auf modernen Autobahnen und Brücken.
Über eine digitale Smart-City-Infrastruktur will die Istanbul Metropolitan Municipality (IMM) die Situation entschärfen. Mithilfe einer Analyse der im Verkehrsgeschehen anfallenden Daten können Ingenieure und Planer die Verkehrsprobleme der Stadt besser verstehen, vorhersagen und bewältigen. Im Kern basiert das neue System auf KI und Machine Learning, ausgeführt auf der Analytics-Plattform SAS Viya. Es analysiert historische Verkehrsdaten und bezieht Live-Daten aus einem wachsenden Netzwerk von Datenquellen mit ein, darunter Verkehrskameras, Sensoren, Datenleser, mobile Anwendungen und Zahlungs-Gateways.
Anhand der Ergebnisse lassen sich die Fahrstrecken von Bussen optimieren, was besseren Service und eine höhere Verfügbarkeit der Routen bedeutet. Darüber hinaus kann der IMM-Straßenbetrieb dank der Auswertung von Streckendichte, Fahrverhalten und Fahrkarten Verkehrsleitsysteme besser steuern und die Fahrer/innen über digitale Beschilderung und mobile Apps informieren, sodass diese beispielsweise Staus vermeiden. Letztlich tragen diese Maßnahmen dazu bei, die Umweltverschmutzung zu verringern und die Lebensqualität in der Stadt zu verbessern. So fördert das System von SAS die Nachhaltigkeitsziele Istanbuls, stärkt das Vertrauen der Allgemeinheit in den öffentlichen Nahverkehr und sichert die Mobilität der Bevölkerung.
