Frau und Mann arbeiten an einem Schreibtisch.

Hype, Risiko, Gamechanger? Künstliche Intelligenz in der öffentlichen Verwaltung

Veröffentlicht am 22.03.2024

Spätestens seit der Veröffentlichung des KI-Chatbots ChatGPT Ende 2022 ist das Thema Künstliche Intelligenz (KI) in aller Munde. Und der Hype nährt die Hoffnung, dass Routineaufgaben oder aufwendige Recherchen künftig von Maschinen erledigt werden können. Auch in der Verwaltung ist das Thema KI längst angekommen und doch herrscht noch viel Unklarheit. Wovon sprechen wir genau bei Künstlicher Intelligenz? Welche Anwendungen eignen sich für Behörden? Wie können sie die Arbeitsweisen verändern? Und was muss die Verwaltung tun, um Potenziale von KI wirklich für sich zu nutzen?

Wie KI in der Verwaltung ankommt

Der Durchbruch von KI kam scheinbar über Nacht. Die Veröffentlichung von ChatGPT löste einen regelrechten Boom aus, der weit über die Grenzen der IT-Welt hinausreicht. Auch wenn die Entwicklung auf dem Gebiet der Künstlichen Intelligenz schnell voranschreitet – neu ist das Thema nicht. Seit Ende der 1950er Jahre forschen Wissenschaftler und Wissenschaftlerinnen an Künstlicher Intelligenz. Und selbst der öffentliche Dienst hat das Thema bereits vor einigen Jahren für sich entdeckt. Strategien zum Thema KI in der Verwaltung gibt es mittlerweile auf Bundes- wie auf Landesebene. Viele KI-Anwendungen werden in Behörden bereits prototypisch entwickelt und getestet. Doch bevor es um die Möglichkeiten von KI in Verwaltungen geht, zunächst ein kurzer Überblick darüber, was sich hinter dem Megatrend überhaupt verbirgt.

Künstliche Intelligenz der dritten Welle

Die Fähigkeit zum Lernen, Planen und rationalen Entscheiden scheint nicht länger nur den Menschen vorbehalten zu sein. Mit der heutigen Generation an KI-Anwendungen sind wir bereits in der dritten Welle angekommen. Sie zeichnet sich dadurch aus, dass die Programme nicht nur Daten analysieren und Muster erkennen, sondern auch selbst lernen und Entscheidungsprozesse anpassen können. Die Systeme können Aufgaben automatisieren und menschliche Fähigkeiten wie Spracherkennung, Bildanalyse oder sogar kreatives Denken imitieren.

Verschiedene Arten von Künstlicher Intelligenz

Rund um KI fallen häufig Begriffe wie maschinelles Lernen, neuronale Netze oder natürliche Sprachverarbeitung. Sie werden oft synonym benutzt, jedoch stecken unterschiedliche Technologien dahinter. Oft werden die Ansätze kombiniert, um leistungsfähige und vielseitige KI-Systeme zu schaffen.

Maschinelles Lernen

Darunter versteht man den Lernprozess eines KI-Systems, der auf einer Datenanalyse basiert. Auf Grundlage der Daten kann die KI-Muster erkennen und Schlüsse daraus ziehen. Es gibt verschiedene Arten des maschinellen Lernens. Dazu gehören überwachtes Lernen, unüberwachtes Lernen und bestärkendes Lernen. Beim Deep Learning verarbeitet und analysiert die KI besonders große Datenmengen. Anders als beim klassischen maschinellen Lernen können Deep-Learning-Modelle selbstständig lernen.

Neuronale Netze

Deep-Learning-Modelle nutzen neuronale Netze. Diese wiederum sind eine spezielle Art des maschinellen Lernens. Die mathematischen Modelle imitieren die Struktur des menschlichen Gehirns und bestehen aus miteinander verbundenen künstlichen Neuronen. Sie können die Informationen verarbeiten und gewichten. Neuronale Netze sind besonders gut darin, komplexe Muster in großen Datenmengen zu erkennen.

Sprachmodell

Ein Sprachmodell basiert auf der Technologie der natürlichen Sprachverarbeitung. Ziel des Sprachmodells ist es, menschliche Sprache zu verstehen und darauf zu reagieren. Sprachmodelle kommen in der Texterkennung oder bei Übersetzungsdiensten zum Einsatz. Das bekannteste Beispiel heißt Generative Pre-trained Transformer, kurz GPT, und legt die Basis für den wohl berühmtesten Chatbot der Welt. Aufgrund der Masse an Parametern und Trainingsdaten gilt das GPT-Modell als Large Language Model (LLM). Die aktuelle Version GPT-4 zeichnet sich zudem durch Multimodalität aus. Das heißt: Sie kann neben Text weitere Datenarten wie Bilder, Videos oder Audiomaterial verarbeiten. Das deutsche Start-up Aleph Alpha, das für seine KI-Anwendungen in der Verwaltung bekannt ist, verwendet verschiedene multimodale LLMs.

Generative KI

Dabei handelt es sich um KI-Modelle, die eigenständig neue Inhalte wie Texte, Bilder, Audiomaterial oder Videos erzeugen können. Generative KI steht nicht im Gegensatz zu Machine Learning, neuronalen Netzen oder Sprachmodellen, sondern nutzt sie, um den Menschen zu imitieren. Zu den generativen KI-Anwendungen gehören ChatGPT, Aleph Alphas Chatbot Luminous, aber auch Bildgeneratoren wie Midjourney oder DALL-E.

Vorteile von KI für Deutschlands Verwaltung

KI wird in den kommenden Jahren stärker in den Fokus öffentlicher Verwaltungen rücken. Auch vor dem Hintergrund des sich verschärfenden Fachkräftemangels und der Tatsache, dass bis 2030 etwa 1,3 Millionen Beschäftigte aus dem öffentlichen Dienst in den Ruhestand gehen, müssen die Verwaltungen entlastet und modernisiert werden. Automatisierung kann dabei helfen, Arbeitsprozesse zu optimieren und bei Routinetätigkeiten mit repetitiven Aufgaben und hohem Datenbestand zu entlasten. Mitarbeitende gewinnen wertvolle Zeit, die sie für komplexere Aufgaben nutzen können. Doch auch bei diesen anspruchsvollen Aufgaben kann KI in der Verwaltung einen Mehrwert bringen – beispielsweise indem sie Ordnung in die Datenflut bringt und Daten analysiert. Die datenbasierten Recherche-Ergebnisse unterstützen beispielsweise bei Gesprächsunterlagen, Sachständen und Entscheidungsvorlagen. Nutzt die Verwaltung den durchaus vorhandenen Datenschatz, kann sie effizienter, effektiver und vorausschauend handeln.

Chatbots und andere automatisierte Kommunikationssysteme können rund um die Uhr schnelle Orientierung bei häufigen Fragen bieten, zum Beispiel bei der Kfz-Zulassung. Virtuelle Assistenten unterstützen bei der Terminvergabe oder beim Ausfüllen von Formularen und Anträgen. Künftig könnten sie durch komplexe Verwaltungsprozesse führen und Bürgern und Bürgerinnen dabei helfen, gut informierte Entscheidungen zu treffen. Über die ressourcensparende Automatisierung von Prozessen hinaus eröffnet der Einsatz von KI zahlreiche Möglichkeiten, den Bürgerservice zu verbessern.

Auch im öffentlichen Dienst gibt es Routineaufgaben – Daten erfassen, prüfen, ob Anträge komplett sind, dokumentieren, Protokolle anfertigen. KI kann Verwaltungsmitarbeitende bei derlei Routineaufgaben entlasten. Stichwort: Automatisierung. Laut Bundes-CIO Dr. Markus Richter habe sich gezeigt, dass automatisierte Verfahren oft auch die Fehlerquote reduzieren. Die Landesregierung Baden-Württemberg testete 2023 das Unterstützungssystem „F13“, das Verwaltungsmitarbeitenden viel Textarbeit abnehmen soll. Nach der Evaluation könnte aus dem Prototyp bald ein marktfähiges Produkt werden. F13 kann Texte in verschiedenen Komprimierungsstufen zusammenfassen, bei der Recherche unterstützen und dabei Fragen zu hochgeladenen Dokumenten beantworten. Über die „Vermerkomat“-Funktion können Mitarbeitende F13 anweisen, Dokumente oder Texte zusammenzuführen und sogar unter einen bestimmten Themenfokus zu stellen. Als Beispiel nennt Richter den Befehl: „Führe den Sachstand der Analyse zum Thema Verkehrswende zusammen.“

Ein weiteres Beispiel, wie Künstliche Intelligenz zur Arbeitsentlastung in Verwaltungen beitragen kann, ist die KI-basierte Texterkennung. Sie filtert Informationen aus unstrukturierten Daten – zum Beispiel aus eingescannten Dokumenten –, klassifiziert sie und übersetzt sie in eine Form, die technische Systeme direkt weiterverarbeiten können. Eine eingebundene Stichwortsuche vereinfacht den Mitarbeitenden die Suche nach benötigten Informationen. Auch das arbeitsaufwendige Anfertigen von Protokollen oder Berichten kann die KI-Texterkennung automatisiert erledigen.

Der Nutzen von KI im öffentlichen Dienst geht indes weit über die Effizienzsteigerung hinaus. Sie kann der Verwaltung als Entscheidungshilfe dienen, indem sie auf Grundlage umfassender historischer Trainingsdaten Vorhersagen trifft oder Trends und Muster aufzeigt. Derartige KI-basierte Prognosemodelle oder Decision-Support-Systeme können Verwaltungshandeln noch evidenzbasierter und damit zielgerichteter machen. Und davon würde so gut wie jedes Politikfeld profitieren – auf allen Verwaltungsebenen. So fasst ein Bericht des Ausschusses für Bildung, Forschung und Technikfolgenabschätzung des Deutschen Bundestags vom 26. September 2022 zusammen: „Auf Bundesebene können KI-basierte Prognosemodelle proaktives und präventives staatliches Handeln stärken, z. B. in Bezug auf die Sicherheit, die Versorgung, den Umweltschutz, die Verkehrsplanung, den Verbraucherschutz oder auch die Migration.“

Mit PLAIN ist seit 2023 eine Plattform im Einsatz, die der Bundesverwaltung KI-basierte Datenanalyse ermöglicht. In der Landespolitik könne Prognose-KI laut Bericht dazu beitragen, Schul- und Kitaplätze zu planen oder zukunftsgerichtete Steuerschätzungen vorzunehmen. Die Kommunen könnten zum Beispiel bei der Infrastrukturplanung profitieren, „mit den Schwerpunkten Energie-, Schadstoff- und Kosteneffizienz“, wie der Ausschuss erklärt.

Was ist nötig, um KI in die Verwaltung zu bringen?

Das Potenzial ist groß, erste Anwendungsbeispiele gibt es ebenfalls. Bis KI-Technologien sich im Verwaltungsalltag etablieren, ist allerdings noch einiges zu tun. Einerseits in technischer Hinsicht: Ministerien und Ämter müssen die nötige Infrastruktur vorhalten, Datenbestände erschließen und KI-Systeme im Einklang mit strenger Regulierung aufsetzen. Andererseits muss der oder die Einzelne willens und fähig sein, mit den neuen Technologien zu arbeiten.

Ein Mann und eine Frau arbeiten gemeinsam an einem Computer.

Das Bild zeigt einen Mann und eine Frau, die gemeinsam an einem Computer arbeiten.

Eine Frage der Organisation: Wie KI im öffentlichen Dienst ankommt

Wie so oft beginnt der Wandel beim Menschen. Beschäftigte der Verwaltung müssen nicht nur für KI-Lösungen sensibilisiert werden – der Einsatz und die Nutzung verlangen von ihnen auch besondere digitale Kompetenzen. So müssen Mitarbeitende lernen, routiniert mit KI umzugehen. Dafür ist laut einer Studie der Bertelsmann Stiftung von 2023 weit mehr notwendig als reines IT-Know-how. So nennt „Orientierung im Kompetenzdschungel“ insgesamt sieben Arten von Kompetenzen, die es zu schärfen gilt, um Künstliche Intelligenz erfolgreich in Behörden zu implementieren. Zu ihnen gehören ein technisches Verständnis von KI-Systemen, organisatorische und kommunikative Fähigkeiten, aber auch der Blick für gesellschaftlich-ethische Aspekte.

Schritt eins für KI in der Verwaltung: Daten erfassen

Um KI in die Anwendung zu bringen, müssen Behörden Daten aber zunächst einmal in ausreichender Qualität erfassen, um die KI zu trainieren. Zwar verfügt Deutschlands Verwaltung über Massen an Daten, allerdings liegen diese viel zu häufig noch nicht digitalisiert vor. Beziehungsweise: Das, was digitalisiert wurde, ist in den seltensten Fällen so aufbereitet, dass Informationen strukturiert zugänglich sind. Der Erkenntnisgewinn: im besten Fall übersichtlich. Die einfachste Lösung lautet: OCR (Optical Character Recognition). OCR-Erfassungssysteme erkennen gescannten Text und wandeln diesen automatisiert in auslesbaren Text um. Jener Prozess, die sogenannte Informations- oder Datenextraktion, klassifiziert die ausgelesenen Informationen zudem. Das heißt: Die OCR-Software liefert neben Text auch Kontext, kann also unterscheiden, worauf sich die Informationen beziehen.

Schritt zwei: Daten finden und zugänglich machen

Die interne Datenerfassung ist indes nur der erste Schritt, um Künstliche Intelligenz mit Trainingsdaten zu füttern. KI braucht einen wahren Schatz an Trainingsdaten. Und der ist meist an mehreren Orten zu heben. Das gilt insbesondere für die Bundesverwaltung, wo ein Politikfeld oder Thema auf verschiedene Quellen verteilt ist. Entsprechend unübersichtlich und unstrukturiert geht es mit Blick auf die Datenbestände zu. Informationen zu finden, erfordert aktuell eine zeitaufwendige, manuelle Recherche. Die Bundesdruckerei GmbH erarbeitete im Auftrag des Bundesfinanzministeriums einen Wegweiser. Im Projekt „Datenatlas“ ist ein Prototyp für die Übersicht über die Datenbestände der Finanzverwaltung entstanden. Er zeigt Mitarbeitenden mit einem Metadatenkatalog, wo Daten zu einem bestimmten Thema existieren, um welche Datenart es sich handelt, auf welcher rechtlichen Grundlage ihre jeweilige Erhebung beruht und wer Ansprechperson ist.

Schritt drei: Daten für KI aufbereiten

Eine Lösung wie der Datenatlas mag Daten auffindbar machen, bereit für KI-Systeme sind sie in der bestehenden Form aber nur selten. Künstliche Intelligenz kann nur so genau sein wie die Daten, mit denen man sie füttert. Sind sie nicht hochwertig, lautet die Formel: „Garbage in, garbage out“. Damit die Qualität stimmt, müssen Daten aufbereitet werden. Und das bedeutet vor allem, sie auf Vollständigkeit und Konsistenz zu prüfen oder sie zu bereinigen, etwa um Duplikate oder fehlerhafte Daten ausfindig zu machen. Datenaufbereitung heißt zugleich, sie anzureichern, zu kombinieren, sie zu gruppieren und mehr. Diese Menge an To-dos zeigt: Der Prozess erfordert viel Zeit und Expertise. Und gerade in Zeiten des Fachkräftemangels fehlt es der Verwaltung an Personal, um die Aufbereitung selbst durchzuführen.

Schritt vier: Daten nutzen – wie KI die Bundesverwaltung erobert

Und diese Prämisse gilt ebenso für die Nutzung von Daten in KI-Projekten. Auch hier kann die Verwaltung nur dann selbstbestimmt handeln, wenn sie über eigene Lösungen verfügt. Genau deshalb gibt es seit 2023 das Projekt Platform Analysis and Information System (PLAIN ). Mit PLAIN hat die Bundesverwaltung eine zentrale Plattform für KI-gestützte Datenanalyse. Ressorts können hier riesige Datensätze in individuellen Anwendungen auswerten und visualisieren. Am Ende sollen politische Entscheidungen profitieren. Hinter der Plattform, die den Ministerien Software, Plattform und Infrastruktur als Service bereitstellt (SaaS, PaaS und IaaS), stehen die Auslands-IT des Auswärtigen Amts und die Bundesdruckerei GmbH.

KI-KC und BeKI: Befähiger für KI in der Bundesverwaltung

Bevor ein Ministerium KI nutzt, bedarf es einer klaren Vorstellung davon, wo diese in welcher Form überhaupt einen Mehrwert bringen kann. Und selbst wenn diese Vorstellung existiert, bleiben Hürden: Denn um Use Cases zu entwickeln und Lösungen zu testen, muss die Verwaltung personelle Ressourcen investieren und Umsetzungskompetenz aufbauen. Hierbei hilft das KI-Kompetenz-Center, das die Bundesdruckerei GmbH für das Bundesfinanzministerium aufgebaut hat. Es dient der Bundesverwaltung als Vernetzer, hilft dabei, Potenziale zu erkennen und technologische Kompetenzen aufzubauen. Im engen Austausch mit der jeweiligen Behörde entwickelt das KI-KC nutzerzentrierte Prototypen. Im Vordergrund stehen also das Ausprobieren und Austesten. Das Beratungszentrum für Künstliche Intelligenz (BeKI) im Bundesministerium des Innern und für Heimat wiederum möchte auf Bundesebene vor allem Synergien schaffen und dafür sorgen, dass der Aufbau von KI-Kompetenz koordiniert abläuft, zum Beispiel mit einem „Marktplatz der KI-Möglichkeiten“.

KI in den Strategien der Bundesregierung

Die Service- und Support-Angebote zeigen: Gerade auf Bundesebene passiert gerade einiges in Sachen Künstliche Intelligenz. Jenes Engagement hat die Bundesregierung schon vor Jahren festgeschrieben. Im Rahmen ihrer KI-Strategie investiert Deutschland bereits seit 2018 in die Erforschung, Entwicklung und Anwendung von Künstlicher Intelligenz. Unter der Überschrift „KI in der öffentlichen Verwaltung“ nennt das Papier mögliche Einsatzbereiche, zum Beispiel bei der Abwehr von Cybergefahren, in Sicherheitsbehörden, im Bevölkerungsschutz oder in der Nachhaltigkeitspolitik. Realisiert wurde dabei bereits das „Anwendungslabor KI und Big Data“, das im Umweltbundesamt angesiedelt ist.

Das Bild zeigt das Kanzleramt in Berlin.

Das Bild zeigt das Kanzleramt in Berlin.

Mit der 2023 beschlossenen Weiterentwicklung der Datenstrategie will die Bundesregierung jetzt die Datengrundlage für KI-Systeme optimieren. Daten sollen den KI-Anwendungen in besserer Qualität und in größerem Umfang zur Verfügung stehen. Speziell mit Blick auf KI in der Verwaltung heißt es: „Wir prüfen, ob und inwieweit LLMs in der öffentlichen Hand sinnvoll und unter Wahrung des Datenschutzes zum Einsatz kommen sollten.“ So soll es beispielsweise einfacher werden, unstrukturierte Daten für LLMs zu nutzen und Datensilos innerhalb der Verwaltung aufzubrechen. Um dabei den Datenschutz zu wahren, könnten „Privacy-enhancing Technologies“ (PET) Verwendung finden.

Regulierung, Datenschutz und Datenethik

Mit dem Verweis auf den Datenschutz und PET macht die Datenstrategie der Bundesregierung zudem den viel zitierten Elefanten im Raum sichtbar. Bei allem Nutzen bereitet Künstliche Intelligenz vielen Sorgen. Kritische Stimmen warnen vor einer KI, die keiner Kontrolle unterliegt. Demokratische Werte und Transparenz müssen stets gewährleistet sein. Nicht ohne Grund spricht sich Richter für einen wohlüberlegten Einsatz von KI aus – überall da, wo es einen Ermessensspielraum gebe, sei die Verwendung von KI aktuell ausgeschlossen. Ohne Frage: Es braucht genug Raum für Innovationen, um eine positive Entwicklung von KI zu fördern. Genauso braucht es aber auch Regeln, die Gefahren eindämmen und Bürgerrechte schützen. Das gilt in besonderem Maße für KI als Teil der Verwaltung.

Die DSGVO und Künstliche Intelligenz

Derartige Regeln liefert nicht zuletzt die DSGVO – nämlich dann, wenn personenbezogene Daten zum Einsatz kommen. Das heißt: alle Daten, anhand derer man Rückschlüsse auf natürliche Personen ziehen könnte. In der Verwaltung könnte das vor allem beim Trainieren der KI ein Thema sein. In der DSGVO regelt Artikel 6 Absatz 1, wann genau eine Organisation personenbezogene Daten verarbeiten darf. Dass der oder die Betroffene explizit einwilligt (Buchstabe a des Absatzes), persönliche Informationen zu KI-Trainingszwecken beizusteuern, scheint utopisch. Eher könnten die Buchstaben c und f von Artikel 6 Absatz 1 Anwendung finden.

Demnach wäre die KI notwendig, damit die Behörde ihre rechtliche Verpflichtung (c) erfüllen oder im Rahmen eines berechtigten Interesses (f) handeln kann, das stärker wiegt als die Interessen, Grundfreiheiten oder Grundrechte der betroffenen Personen. Klingt kompliziert, ist kompliziert und damit offensichtlich ein Fall für die Datenschutzbeauftragten. Und möglicherweise für Datentreuhänder. Denn als neutraler Vermittler zwischen Datengebenden und -nutzenden kann dieser alles, was auf konkrete Identitäten schließen lässt, pseudonymisieren oder anonymisieren. Nutzen Bürger und Bürgerinnen eine von der Verwaltung angebotene Künstliche Intelligenz, die personenbezogene Daten verarbeitet, kommt hingegen die klassische Einwilligungsregel infrage.

„Da [beim Einsatz personenbezogener Daten] wäre es zum Beispiel wichtig, solche Daten klar zu pseudonymisieren oder zu anonymisieren, bevor sie als Trainingsdaten verwendet werden, damit nachher auch nicht die Gefahr besteht, dass eben doch Erkenntnisse über eine Person über bestimmte Wege wieder aus einem KI-System herausgenommen werden können.“  (Quelle: dpa) 

Dr. Ulrich Kelber, Bundesbeauftragter für den Datenschutz und die Informationsfreiheit
Dr. Ulrich Kelber, Bundesbeauftragter für den Datenschutz und die Informationsfreiheit
Quelle: Deutscher Bundestag / Achim Melde

Ebenfalls relevant mit Blick auf den KI-Einsatz ist Artikel 22 der DSGVO. Diesem zufolge hat eine natürliche Person „das Recht, nicht einer ausschließlich auf einer automatisierten Verarbeitung – einschließlich Profiling – beruhenden Entscheidung unterworfen zu werden, die ihr gegenüber rechtliche Wirkung entfaltet oder sie in ähnlicher Weise erheblich beeinträchtigt.“ Das Besondere an Artikel 22: Hier geht der Datenschutz beinahe schon in das verwandte Feld der Datenethik über.

Der EU AI Act – für KI im Verwaltungskontext hochrelevant

Dem KI-Einsatz Grenzen zu setzen, ist auch ein wichtiges Vorhaben der KI-Verordnung der Europäischen Union (AI Act). Mit dem bislang umfangreichsten Gesetz seiner Art unternimmt die EU einen Versuch, Künstliche Intelligenz zu regulieren, in sichere Bahnen zu lenken und Innovation zu fördern. Im Kern bewertet die Verordnung KI-Anwendungen nach ihrem Risiko, die Sicherheit und die Rechte der EU-Bürger und -Bürgerinnen zu gefährden. Dafür etabliert sie vier Risikostufen. Je höher das Risiko, desto strenger sind die Verpflichtungen, die KI-Anwendungen erfüllen müssen. Systeme mit „inakzeptablem Risiko“ sind grundsätzlich verboten. Dazu gehört Social Scoring, das Rechte an gewünschte Verhaltensweisen knüpft. Ebenso untersagt ist – bis auf wenige Ausnahmen – die biometrische Echtzeit-Gesichtserkennung im öffentlichen Raum.

KI-Systeme mit „hohem Risiko“ stellen per se keine Bedrohung dar. Weil sie aber in sensiblen Bereichen wie in Strafverfolgungsbehörden oder Kritischen Infrastrukturen zum Einsatz kommen, müssen sie strenge Auflagen erfüllen. Auch KI-Anwendungen, die über die Bewilligung staatlicher Leistungen entscheiden, fallen in diese Kategorie. Von Chatbots geht indes eher „begrenztes Risiko“ aus, Spamfilter und KI-gestützte Computerspiele gelten als KI-Systeme mit „minimalem Risiko“. Darüber hinaus schreibt die Verordnung vor, dass KI-generierte oder -manipulierte Inhalte wie Bilder, Videos oder Texte in der Regel als solche gekennzeichnet werden müssen.

KI in der Verwaltung: auch eine Frage ethischer Grundsätze

Der AI Act versucht die Gefahren, die von KI ausgehen, einzudämmen, möchte ihren Einsatz aber dennoch fördern. Schließlich kann der Mehrwert für die Bürger und Bürgerinnen immens sein . Ggerade wenn die Verwaltung durch Künstliche Intelligenz effizienter handelt. Allerdings entsteht wirklicher gesellschaftlicher Nutzen nur, wenn KI-Systeme gewissen Werten Rechnung tragen. Sie dürfen niemanden diskriminieren, etwa, weil gewisse Gruppen in den Trainingsdaten unterrepräsentiert sind. Sie müssen erklärbar sein, sodass nachvollziehbar bleibt, wie Ergebnisse entstehen. Ebenso wichtig sind die Sicherheit vor Cyberangriffen und die Möglichkeit, dass der Mensch jederzeit eingreifen kann.

Die Bundesdruckerei-Gruppe folgt bei ihren Projekten rund um generative KI vier konkreten Prämissen:

  • Faktentreue: KI-Systeme dürfen Antworten weder erfinden noch interpretieren.
  • Erklärbarkeit: Es braucht volle Transparenz rund um Datenquellen und die rechtlichen Grundlagen von Antworten.
  • Datenhoheit: Die Verwaltung muss über den kompletten Datenzyklus die Kontrolle über sämtliche genutzten Daten behalten.
  • Unabhängigkeit: Die KI-Systeme dürfen nicht zu Abhängigkeiten führen, insbesondere nicht von nicht europäischen Unternehmen.

KI in Behörden: maßvoll zum Erfolg

Liegt das richtige Werteset zugrunde, steht die Datenbasis und sind Mitarbeitende befähigt, dürften KI-Anwendungen in der Verwaltung zu einer echten Win-win-Situation führen. Übernimmt Künstliche Intelligenz Routineaufgaben, bekommen Behördenmitarbeitende mehr Zeit fürs Wesentliche: die Bürger und Bürgerinnen. Und KI-basierte Datenanalyse- und Decision-Support-Systeme kommen der Gesellschaft zugute, weil sie eine zielgerichtete Politik fördern. Zielgerichtete Politik ist allerdings ebenso gefordert, wenn es um die Planung von KI-Projekten in Behörden geht. Hier sind eine koordinierte übergreifende Zusammenarbeit zwischen den Ministerien und die Schaffung von Synergien gefragt. Mit dem BeKI, dem KI-KC und PLAIN zeigt Deutschlands oberste Verwaltungsebene, dass sie diese Maßgabe verstanden hat.

Artikel
Artikel