Wie ein KI-Transparenzregister Wirklichkeit werden kann

Künstliche Intelligenz (KI) kann enorme politische Macht entfalten, dieses neue Phänomen sahen vor vier Jahren die Niederlande notgedrungen – denn dort stürzte die gesamte Regierung über Fehler einer KI. "Da sieht man, was ein einzelner Algorithmus anrichten kann", sagt Jonas Botta mit Blick auf die "Toeslagenaffaire", in der eine KI über Jahre hinweg rund 20.000 Empfänger von Kinderbeihilfen fälschlicherweise des Betrugs bezichtigte und teils zehntausende Euro zurückgefordert wurden – "der Algorithmus hatte Personen ohne die niederländische Staatsbürgerschaft und Doppelstaatsbürger als Risikofaktoren eingestuft", sagt der promovierte Jurist und Forschungsreferent am Deutschen Forschungsinstitut für öffentliche Verwaltung. "Er war vorurteilsgetrieben." Als man die Vorgänge entdeckte, trat das Kabinett 2021 zurück.

Bottas Projektarbeit besteht in der Schilderung, wie diese Idee Rechtswirklichkeit werden kann, er entwirft eine Art Wegekarte hin zu einem KI-Transparenzregister. Diesen rechtlichen Rahmen flankiert die Informatikerin Alina Lorenz von "NExT", indem sie ein technisches und organisatorisches Konzept entwirft, also die Umsetzung umreißt; "NExT" ist ein Netzwerk von Beschäftigten im öffentlichen Dienst, welche die digitale Transformation der Verwaltung vorantreiben wollen. Schließlich ermöglicht "AlgorithmWatch" im Trio einen Austausch mit der Politik zum Positionieren der Handlungsempfehlungen. "Akademische Ideenschmiede trifft auf das politische Tagesgeschäft einer NGO und auf das Insiderwissen eines Verwaltungsnetzwerks wie NExT", umreißt Botta die transdisziplinäre Arbeit im Projekt. "Das hat gut funktioniert." 

Damit drückt das Teamwork dieser drei Player das Ziel der von der VolkswagenStiftung initiierten Förderinitiative "Transformationswissen über Demokratien im Wandel" aus: Durch das Zusammenbringen verschiedener Ansätze kann Wissenschaft schneller konkrete Lösungsvorschläge für die drängenden Probleme unserer Zeit finden und in öffentlichen Diskursen besser gehört werden. Am Ende dieses Projekts wird ein Policy Paper (Download des Policy Papers) zur Verfügung gestellt werden. Botta: "Wir wollen damit eine wichtige Debatte anstoßen."

Vorschläge solch eines Registers kursieren in europäischen Zivilgesellschaften seit ein paar Jahren. Die Städte Amsterdam und Helsinki präsentierten im Jahr 2020 erstmals offene Register. Ursprünglich überlegte das Trio rund um Botta, einen Prototyp dafür zu entwerfen. Doch im Januar dieses Jahres startete das Bundesinnenministerium (BMI) ein Beratungszentrum für KI (BeKI), das auf freiwilliger Basis 182 KI-Systeme verzeichnete.

"Das ist auf jeden Fall eine Verbesserung", sagt Botta. "Aber die Kurzbeschreibungen sind oft mit dem Titel identisch, und es fehlt an Transparenz bei der Risikoeinstufung." Und so machte er sich an die rechtliche Überprüfung der Register, denn auch die EU-Kommission hat für 2026 eine Datenbank für Hochrisiko-KI-Systeme (KI-VO) angekündigt. "Das erhöht schon das Transparenz-Niveau in der Verwaltung", sagt er, "aber ein neuer Gold-Standard etabliert sich dadurch nicht." Ihm schwebt Substanzielleres vor: Einen umfassenden und niedrigschwelligen Einblick in positive und negative Effekte bei der Verwendung von KI in Verwaltungen. Einen, der Risiken und Chancen abwägt und Arbeitsweisen in der Verwaltung offenlegt. "Das dient dem offenen Prozess politischer Meinungsbildung", ist er sich sicher. "Das Vertrauen in einen funktionsfähigen Staat ist entscheidend für das Vertrauen in das demokratische System." Botta sieht immer mehr Defizite, weil immer mehr Menschen denken und fühlen würden, dass sie dieser Funktionsfähigkeit nicht mehr vertrauen könnten. 

Eine KI kann diese erhöhen. Aber bei fehlender Transparenz kann sie für Entfremdung sorgen. Für Botta ist klar: "Solch ein KI-Transparenzregister ist im Interesse der Verwaltung, aber es aufzulegen, ist Aufgabe des Gesetzgebers." Sein Rechtsgutachten kommt zum Schluss, dass solch ein Register rechtlich möglich ist, auch vereinheitlicht und auf nationaler wie auch auf EU-Ebene vernetzt.

"Wissen ist zentral für die Akzeptanz." Und dafür brauche es seiner Erkenntnis nach ein formelles Gesetz über eine Verfassungsänderung – oder einen Staatsvertrag, den Bund und Länder auf Grund des Föderalismus schließen müssten. "Wenn die Exekutive einfach ein Register online stellt, kann es nur freiwillig sein, bleibt oberflächlich und unbekannt." Darin sähe er eine verlorene Chance. In einer Kennzeichnungspflicht und in einer betroffenenzentrierten Erläuterung des Funktionierens aber erkennt er einen Schmierstoff der Demokratie. "Solch ein proaktiver Open-Government-Ansatz ersetzt eine Holschuld der Bürger durch eine Bringschuld des Staates."

Einen Grundpfeiler des Projekts bildeten Workshops, die "AlgorithmWatch" mit wichtigen Stakeholdern abhielt und auf denen auf denen die Projektpartner die rechtlichen, inhaltlichen und organisatorischen Vorgaben an ein KI-Transparenzregister zur Diskussion stellten. "Damit ergänzten sich nicht nur unterschiedliche Fachkenntnisse. Damit maximieren wir auch die Wahrscheinlichkeit, dass relevante Gruppen am Ende zustimmen." In einem Workshop etwa hätten sie sich die Frage gestellt: Was ist für die Verwaltung wichtig?

"Es soll eben nicht nur ein bürokratischer Mehraufwand für den Staat entstehen, der dann den Bürgern auch noch wenig bringt." Auch das Trio wolle einen intelligenteren Staat und keine ineffizienten Doppelstrukturen. "KI kann bürokratische Hürden senken: Programme könnten Behördenschreiben ersetzen oder übersetzen." Als ein Beispiel sieht Botta das Bildungs- und Teilhabepaket des Bundes, welches nur von einer Minderheit der Berechtigten abgerufen wird. "Da ist vom Bekanntheitsgrad her noch Luft nach oben." Fehlende Transparenz sei auch für den Staat nachteilhaft, da dies den zwischenbehördlichen Austausch von Nutzungserfahrungen erschwere. Schließlich sieht er die Möglichkeit, dass KI in der Verwaltung Ressourcen freisetzt, die zu mehr analogen Kontaktmöglichkeiten genutzt werden könnten.

Und wie findet er die Zusammenarbeit im Projekt? "Ich habe viel über Wissenschaftskommunikation gelernt." Er als Jurist habe von den technischen und digitalethischen Kompetenzen von Alina Lorenz profitiert und von AlgorithmWatch besser erfahren, wie Policy Papers verfasst werden. "Die Inhalte müssen ja in der Politik ankommen." Die Zeit dafür sei jetzt. "Von den 182 beim BMI gelisteten KI-Systemen sind viele noch nicht in Betrieb", sagt er. "Wir sind noch weit entfernt vom digitalen Staat." Ein guter Anlass, nun über ein Register nachzudenken, bevor jede Behörde ihre eigene Lösung bastelt. Was Transparenz angehe, schließt er, "ist dies dem Staat bei der Verwaltungsdigitalisierung erst mäßig gelungen."