THINK Blog DACH

Die öffentliche Verwaltung bietet diverse Einsatzmöglichkeiten für KI. Es besteht ein riesiges Potential, diesen Sektor mit Technologien effizienter zu gestalten. Digitalisierung und dabei insbesondere der Umgang mit KI ist schon lange ein Hype- und Reizthema im Verwaltungsbereich – nicht erst seit dem großen Wahljahr 2021. Auf der einen Seite gibt es sehr hohe Erwartungen daran, was KI in Behörden leisten kann. Andererseits bestehen Bedenken, welche – vor allem ethischen – Konsequenzen der Einsatz von KI für den einzelnen Menschen und eine freiheitliche, demokratische Gesellschaft insgesamt hat.

Dieser Artikel ist ein Auszug aus dem Whitepaper Künstliche Intelligenz im Öffentlichen Sektor

Autor_innen: Elisabeth Goos, Stefan Mück, Rebecca Riebeling, Milena Rösch (alle IBM Consulting)

Was kann KI heute leisten?

Es gibt eine Reihe von KI-Anwendungsfeldern im öffentlichen Sektor, die heute mit hohem Reifegrad umgesetzt werden können. Dazu gehören:

• Digitale Assistenten, die Kund_innen- bzw. Bürger_innen-Services unterstützen – z.B. bei der Beantwortung häufiger Fragen zu Verwaltungsvorgängen bis hin zur vollen Abwicklung einer Dienstleistung
• Intelligente Suchmaschinen, die die Bearbeitung anspruchsvoller Vorgänge beschleunigen und über die alle relevanten Quellen angebunden und erschlossen werden können (z.B. Nachhaltigkeitsberichterstattung)
• Klassifikationsmodelle, die aus der großen Menge an Daten Einzelfälle herausfiltern, die es zu prüfen gilt (z.B. Indizien für Sozialbetrug)
• Vorhersagemodelle und Optimierungsmethoden, die bei der politischen Entscheidungsfindung oder Planung und Steuerung von Ressourcen helfen (z.B. Analysen, die eine intelligentere Verkehrssteuerung in Städten unterstützen)
• Klassifikationsmodelle, die Ähnliches miteinander in Verbindung bringen können (z.B. ein Abgleich von Job-Angeboten mit Lebensläufen)

Welche Herausforderungen gilt es zu meistern?

So viele mögliche Anwendungsfelder es bereits gibt, so steht die öffentliche Verwaltung beim Einsatz von KI auch noch vor einer Vielzahl an Herausforderungen. Drei wesentliche Hürden, die es noch zu überwinden gilt, sind:

• Fehlende und qualitativ minderwertige Daten

KI kann ohne eine solide Datenbasis für Training und Betrieb der KI-Lösung nicht funktionieren. Die begrenzte Konnektivität und Verknüpfung deutscher Behördendaten erschwert die Schaffung geeigneter Datensätze und schränkt somit eine flächendeckende Implementierung KI-basierter Lösungen ein. Qualitativ minderwertige Daten oder zu kleine Datensätze enthalten zudem häufig ein Bias (Verzerrung), so dass die Analysen und Folgerungen der KI nicht verlässlich genug sind.  Zudem sind sie schwerer zu anonymisieren.

• Ethische Vorbehalte von Bürger_innen

Oft bestehen bei Bürger_innen Ängste, dass KI-Systeme bestehende Formen der Diskriminierung im gesellschaftlichen Kontext widerspiegeln und adaptieren könnten. Die datenschutzrechtlichen und ethischen Erwartungen an Organisationen aus dem öffentlichen Sektor sind dabei höher als an Unternehmen aus der Privatwirtschaft.

• Die Ängste von Mitarbeitenden

Mitarbeiter_innen befürchten häufig, dass KI zukünftig ihre Arbeit übernehmen könnte. Die Möglichkeiten, KI als unterstützende Funktion zu nutzen, redundante Tätigkeiten zu erleichtern und den Bürgerservice zu verbessern werden deshalb nicht als Chance erkannt. Dies führt häufig zu langwierigen Entscheidungs- und Umsetzungsprozessen.

Wie kann die öffentliche Verwaltung mit der Nutzung von KI starten?

Es ist keine Überraschung: Auch bei der Einführung einer KI-Lösung ist es hilfreich, zunächst zu überlegen, wo die Reise hingeht, damit man nicht am Ende dort ankommt, wo man gar nicht hin wollte. Die Strategie entwickelt das Gesamtbild und entwirft den Weg der Umsetzung. Die folgenden Maßnahmen helfen Organisationen dabei, KI in ihrer Strategie zu verankern:

Eine Datenstrategie aufbauen

Eine klare Datenstrategie ist Grundlage für die effektive Umsetzung von KI-Anwendungsfällen. Eine strukturierte Übersicht vorhandener Daten und eine zentrale Datenplattform, auf der die Daten sicher gespeichert und bereinigt werden, sind hierfür unabdingbar.

Von der Strategie aus rückwärts denken

Bevor das Thema KI betrachtet wird, sollten Organisationen die strategischen Geschäftsziele definieren sowie die strategische Planung der damit einhergehenden kurz-, mittel- und langfristigen Geschäftsziele abgeschlossen haben. So können KI-basierte Lösungen entwickelt werden, die direkt zur Erreichung der Kern-Ziele beitragen.

Die Eignung von KI evaluieren

Nicht immer ist KI die optimale Wahl zur Lösung eines Problems. Mögliche Anwendungsfälle sollten also im Vorhinein unvoreingenommen geprüft werden: Stehen ausreichend Daten zur Verfügung? Ist das vorliegende Problem strategisch wichtig genug, um die Investition in KI zu rechtfertigen? So zeigt sich, ob geplante Anwendungsfälle realisierbar sind oder besser auf den Einsatz von KI verzichtet wird. Gegebenenfalls sollte der Einsatz auf auf einen späteren Zeitpunkt verschoben werden, wenn die derzeitigen Bedingungen noch nicht überzeugend sind – z.B. aufgrund mangelnder Datenqualität.

Offene und modulare Architekturen verwenden

Noch über viele Jahre ist mit einem weiteren rasanten Fortschritt in der KI zu rechnen. Deshalb sollten die neuen durch KI digital unterstützten Arbeitsabläufe so modular sein, dass ein KI-Modell bei Bedarf regelmäßig durch ein besseres ersetzt werden kann. Dafür muss geprüft werden, ob Anwendungsfälle und KI-Lösungen sich für eine behördenübergreifende Wiederverwendung eignen.

Datenethische Grundsätze definieren

Für den Aufbau von Vertrauen nach innen und außen ist es für Verwaltungen unabdingbar, verbindliche Datenethik- und KI-Ethik-Richtlinien zu formulieren. Diese müssen den Menschen in den Mittelpunkt des Handelns stellen. Ausgehend vom gesetzlichen Auftrag sollte der Einsatz von KI dem Wohl der Menschen und der Gesellschaft dienen. Auch die letzte Entscheidung sollte immer der Mensch treffen, nicht die KI. Transparenz und Erklärbarkeit der KI-Lösung helfen dabei, eine verantwortungsvolle Entscheidung zu treffen. Die Ergebnisse der KI müssen zudem für Nutzende nachvollziehbar sein: Auf Basis welcher Daten, welcher KI-Architektur, welcher Trainingsdaten wird eine Entscheidung vorgeschlagen? Darüber hinaus muss der Schutz der Privatsphäre im Umgang mit sensiblen Daten stets gewährleistet sein. Hierfür braucht es Cybersicherheit, einen umfassenden Schutz der Dateninfrastruktur in der gesamten Verwaltungsorganisation.