THINK Blog DACH

Ob generativ oder traditionell, KI wird immer häufiger eingesetzt, auch in Behörden. Die Möglichkeiten, Bürger und Bürgerinnen effizienter und produktiver zu Diensten zu sein, sind beträchtlich. Allerdings müssen die Führungskräfte sicherstellen, dass sie die neue Technologie verantwortungsvoll zu nutzen verstehen. IBM Technologie unterstützt sie dabei.  

Kürzlich hat das Oberlandesgericht Stuttgart einen von IBM entwickelten KI-gestützten Assistenten zur Bearbeitung von Massenverfahren in Dieselabgasverfahren pilotiert. Dieses KI-System ermöglicht eine effiziente und zuverlässige Bearbeitung von Dokumenten, wodurch die Parteien schneller eine Entscheidung erhalten und die Gerichte deutlich entlastet werden. Die KI-gestützte Fallkategorisierung hat das Potenzial, die Bearbeitungszeit einer bereits heute fünfstelligen und weiter ansteigenden Zahl von Berufungen erheblich zu verkürzen. 

Das KI-System für die OLG Stuttgart, das übrigens im IBM Watson Center Munich zu sehen ist, zeigt, wie KI in Behörden verantwortungsvoll eingesetzt werden kann, insbesondere wenn es um den verantwortungsvollen Umgang mit den zugrundeliegenden Daten geht. Für 2024 erwarten wir, dass der fortschreitende Prozess der Digitalisierung die Effizienz von Regierungsprogrammen und die Effektivität von Richtlinien weiter verbessern wird. KI wird bei der Wertschöpfung aus Daten im Dienste der Bürger eine zentrale Rolle spielen – eine Entwicklung, die durch den Erfolg von generativer KI sicher noch beschleunigt wird. Daher ist es von entscheidender Bedeutung, dass die Führungskräfte des öffentlichen Sektors diese Technologie verantwortungsvoll einsetzen. 

Generative und traditionelle KI

Um die Herausforderungen der generativen KI im Vergleich zur traditionellen KI zu verstehen, ist es hilfreich, die grundlegenden Unterschiede zu kennen. Traditionelle KI basiert hauptsächlich auf großen, markierten Datensätzen und Mustererkennung, um Modelle durch maschinelles Lernen zu trainieren. Diese Modelle können auf der Grundlage von Mustern und vordefinierten Regeln Empfehlungen geben oder bestimmte Verhaltensweisen erkennen. Traditionelle Anwendungen von KI sind beispielsweise die Verbesserung von Spam-Filtern, Film- und Produktempfehlungen oder virtuelle Assistenten für Rechercheaufgaben.

Generative KI hingegen ist eine Lösung zur Automatisierung und Verbesserung von Routine- und repetitiven Verwaltungsaufgaben. Generative KI stützt sich auf Basismodelle, die aus großen neuronalen Netzen bestehen. Diese werden mit einer großen Menge unstrukturierter Daten trainiert und an verschiedene Aufgaben angepasst. Auf diese Weise kann die generative KI effektiv Inhalte aus großen Datenmengen identifizieren, zusammenfassen, umwandeln, vorhersagen und generieren. Der Einsatz dieser Technologie im öffentlichen Sektor kann die Effizienz erheblich steigern und Organisationen in die Lage versetzen, ihre täglichen Aufgaben mit einem Bruchteil des Aufwandes zu erledigen.

Generative KI bietet somit eine beispiellose Chance, verschiedene Aspekte der Verwaltungstätigkeit und der Dienstleistungen für die Bürger zu verbessern. Sie kann z. B. Behördenmitarbeiter mit leistungsfähigeren Werkzeugen für die Beantwortung von Bürgeranfragen oder die Durchführung von Recherchen unterstützen. Wichtige, zeitaufwändige Aufgaben wie die Erstellung und Verwaltung von Verträgen können durch generative KI erheblich erleichtert werden.

Verantwortungsbewusste Implementierung generativer KI

Diese bemerkenswerten Fähigkeiten werfen jedoch auch Fragen über die verantwortungsvolle Nutzung im öffentlichen Sektor auf. So müssen beispielsweise die für die öffentliche Auftragsvergabe Verantwortlichen sicherstellen, sämtliche Vorgaben hinsichtlich Wettbewerbsbeschränkungen und Vergabeverordnung eingehalten werden. 

In der Öffentlichkeit ist generative KI in letzter Zeit vor allem durch Tools bekannt geworden, die bereits vorhandene Texte, Bilder, Videos und Audiodateien nutzen, um maßgeschneiderte Inhalte nach Bedarf zu erstellen. Der Detailgrad, mit dem einige dieser Modelle trainiert werden, kann jedoch unzureichend sein, insbesondere für große Unternehmen oder stark regulierte Branchen, die auf das Vertrauen der Öffentlichkeit angewiesen sind. 

Um verantwortungsvolle KI zu entwickeln und ihr volles Potenzial auszuschöpfen, müssen die Verantwortlichen im öffentlichen Sektor ihre internen Daten sorgfältig aufbereiten. Es ist wichtig, dass die Regierung von Anfang an verantwortungsvolle Standards festlegt. Diese sollten nicht erst im Nachhinein berücksichtigt werden. Teil dieser Aufgabe ist die menschliche Kontrolle, um die Genauigkeit der von künstlicher Intelligenz generierten Inhalte zu gewährleisten und Verzerrungen zu vermeiden.

Grundpfeiler für verantwortungsvolle KI in der Behörde

IBM konzentriert sich bei der Entwicklung vertrauenswürdiger KI-Lösungen auf fünf Aspekte, die von Führungskräften im öffentlichen Sektor priorisiert werden sollten: 

Fairness in einem KI-System bezieht sich auf dessen Fähigkeit, Einzelpersonen oder Gruppen je nach Kontext, in dem das KI-System eingesetzt wird, gleich zu behandeln. Dies bedeutet, dass Vorurteile bekämpft und Diskriminierungen in Bezug auf geschützte Merkmale wie Geschlecht, Rasse, Alter und Veteranenstatus verhindert werden.

Datenschutz bezieht sich auf die Fähigkeit eines KI-Systems, dem Schutz der Privatsphäre und den Rechten der Verbraucher Vorrang einzuräumen und diese zu schützen und gleichzeitig die geltenden Vorschriften für die Erfassung, Speicherung, den Zugang und die Offenlegung von Daten einzuhalten. 

Erklärbarkeit meint, dass jedes auf dem Markt befindliche KI-System, das Entscheidungen oder Empfehlungen mit potenziell bedeutenden Auswirkungen für den Einzelnen trifft, in der Lage sein sollte, zu erklären und zu kontextualisieren, wie und warum es zu einer bestimmten Schlussfolgerung gelangt ist und auf welche Daten es sich dabei bezieht.  

Transparenz bedeutet, dass ein KI-System Informationen über den Entwurf und die Entwicklung des Systems sowie über die verwendeten Daten oder Datenquellen enthalten und bereitstellen muss.

Robustheit ist die Fähigkeit eines KI-Systems, mit Ausnahmebedingungen wie Anomalien in der Eingabe effektiv umzugehen. Dies trägt zur Gewährleistung konsistenter Ergebnisse bei. 

IBM watsonx, eine integrierte KI-, Daten- und Governance-Plattform, verkörpert diese Grundsätze, indem sie einen nahtlosen, effizienten und verantwortungsvollen Ansatz für die KI-Entwicklung in verschiedenen Umgebungen bietet. Insbesondere die kürzlich erfolgte Einführung von IBM watsonx.governance hilft Teams im öffentlichen Sektor, diese Bereiche zu automatisieren und zu adressieren, um die KI-Aktivitäten ihrer Organisation zu steuern, zu verwalten und zu überwachen. Das Tool bietet transparente Prozesse, die es Organisationen ermöglichen, Risiken proaktiv zu erkennen und zu mindern und gleichzeitig ihre Compliance-Programme im Einklang mit internen KI-Richtlinien und Branchenstandards zu halten. So unterstützt IBM watsonx.governance auch dabei, den Anforderungen des EU AI Acts gerecht zu werden. 

Während Führungskräfte versuchen, KI und Automatisierung verstärkt einzusetzen, ist es wichtig, das Vertrauen in und die Transparenz von KI-Lösungen aufrechtzuerhalten. Teams sollten in der Lage sein, den Lebenszyklus von KI zu verstehen und zu steuern. Die aktive Umsetzung verantwortungsvoller KI-Praktiken bietet uns allen die Chance zur Verbesserung. 

Weitere Informationen zur digitalen Transformation bei Behörden finden Sie hier.