Wann wird Künstliche Intelligenz politisch?

Wie sieht Ihr Zugriff auf das Thema KI aus?  

Müller-Mall: Mich interessiert, was sich grundsätzlich durch KI ändert. Wie verstehen wir diese Veränderungen – manche sprechen ja von einer Revolution – und wie können wir damit umgehen? Und vor allem: Wie wollen wir unter diesen neuen Bedingungen die Beziehungen zwischen den Menschen organisieren und gestalten? Es stellt sich also die grundsätzliche Frage nach dem Politischen.

Sind Algorithmen selbst denn nicht neutral und damit unpolitisch?

Müller-Mall: Nein, Algorithmen, mit denen die meisten KI-Technologien operieren, sind nicht neutral oder objektiv, sondern gehen von Annahmen aus, die Wertungen enthalten: Etwa, dass ein Tweet, der viele Reaktionen hervorruft, relevanter ist als andere. Oder, dass – im Falle des Kreditscorings – die Einschätzung der Kreditwürdigkeit eines Menschen eher mit seiner sozialen Umgebung, mit seinem Wohnort als mit seiner individuellen Lebenssituation zusammenhängt.

Woman is reflected in glass facade
Sabine Müller-Mall hat an der TU Dresden eine Professur für Rechts- und Verfassungstheorie mit interdisziplinären Bezügen inne. Die Fotos entstanden in Berlin.

Indem Algorithmen solche Annahmen verarbeiten und über ihre Anwendungen in soziale Zusammenhänge einschreiben, wirken sie selbst normativ. KI-Technologien machen nicht nur Vorschläge, wie wir zwischenmenschliche Beziehungen organisieren könnten, sondern sie gestalten mit und bringen ihre Bewertungen als normative Grundierung in unser Handeln ein. 

Gleichzeitig sind sie für die meisten von uns unzugänglich und auch nicht lesbar. Das wiederum löst, ob beim Umgang mit Sprachassistenten oder den Sozialen Medien, ein Gefühl der Unsicherheit aus. Mein Ansatz ist es, die Perspektive nicht bei den Folgen, sondern früher anzulegen, vor der Anwendung. Das bedeutet, auf die Programmierung der KI-Technologien selbst zu schauen: Welche logischen Modelle werden dort verwendet, welche Annahmen stecken dahinter und schreiben sich in unsere soziale Welt ein?

"Codification 3.0 – Die Verfassung Künstlicher Intelligenz" ist der Titel ihres Projekts. Mit "Verfassung" assoziiert man Gesetze. Sind Algorithmen wie Gesetze in der Welt der KI?

Key visual Themenschwerpunkt künstliche Intelligenz
Themenschwerpunkt "Künstliche Intelligenz und die Gesellschaft von morgen" der VolkswagenStiftung

Müller-Mall:  Algorithmen sind natürlich im juristischen Sinne keine Gesetze. Aber ähnlich wie Gesetze steuern sie unser Verhalten, sie beeinflussen die Art und Weise, wie wir die Welt wahrnehmen und bewerten. Sie sind in formalisierter Sprache verfasst und durchziehen alle Lebensbereiche. Algorithmen erheben zwar nicht wie Gesetze den Anspruch, allgemeingültig zu sein. Weil sie sich aber überall in unser Handeln, unsere Wahrnehmung und in unsere Kommunikation einschreiben, gewinnt ihre geteilte Grundannahme, dass nämlich Entscheidungen und Handlungen berechenbar und in Schrittfolgen übersetzbar sind, doch so etwas wie Allgemeingültigkeit.

Viele Algorithmen zielen ja direkt darauf, unser Verhalten zu lenken – etwa bei Online-Kaufportalen, die uns mit Angeboten regelrecht "stalken". Wie ist das zu beurteilen?

Müller-Mall: Verhaltenssteuerung ist wie gesagt häufig auch das Ziel von Rechtsgesetzen – allerdings unterscheiden sich die jeweiligen Annahmen grundsätzlich: Liberale Verfassungssysteme beruhen auf einem starken Autonomieverständnis – dass also alle Menschen frei handeln und jederzeit Meinung und Verhalten ändern können, ganz unabhängig von der Frage, ob es tatsächlich so etwas wie einen freien Willen gibt. Algorithmen dagegen gehen häufig von beobachtbaren Gesetzmäßigkeiten menschlichen Handelns aus, sie lernen etwa, Muster zu erkennen. Algorithmische Verhaltenssteuerung stellt das wahrscheinliche Handeln von Menschen in den Mittelpunkt, nicht das unerwartbare oder neue. Sie normalisiert Handeln, Wahrnehmung und Kommunikation. Insofern könnte man sagen, wird algorithmische Normalisierung zu einem Wert und tritt damit in eine Art normative Konkurrenz zu unserem verfassten Autonomieverständnis.

Liegt auch darin die politische Dimension von Algorithmen?

Genau. Wenn Wahrscheinlichkeiten und Gesetzmäßigkeiten einerseits und Berechnung als Prinzip der Weltdeutung andererseits das Soziale beherrschen, verschieben sich die Räume des Politischen, die Möglichkeiten von Freiheit und die Vorstellung von Gleichheit. Insofern bedeutet die Algorithmisierung des Alltags nicht einfach, technologisch fortzuschreiten, sondern auch, dass wir uns in einem Sinne politisch neu verfassen, den es zu ergründen gilt.

Was unterscheidet Algorithmen darüber hinaus grundlegend von Gesetzen – um bei dem Vergleich zu bleiben?

Müller-Mall: Die Entwicklung von Algorithmen durchläuft nicht den gleichen Prozess wie Gesetze. Denn deren politischer Entstehungsprozess ist weitgehend transparent, rechtlich strukturiert und außerdem sind wir daran beteiligt. Wir können die zugrundliegenden Annahmen und Ziele politisch diskutieren und auch beeinflussen. Algorithmen dagegen werden in der Regel von privaten Anbietern entwickelt und sind für uns nicht transparent.

Ein weiterer Unterschied liegt schließlich in der Anwendung: Gesetze werden von Gerichten angewendet, von Richterinnen und Richtern, die auch um der Einzelfallgerechtigkeit willen Abwägungen vornehmen können, neben aller Expertise auch Lebenserfahrung und Empathie einbringen. Weil KI-Technologien Algorithmen maschinell anwenden, fehlt diese Ebene, die das Urteil von der bloßen Entscheidung unterscheidet. 

Algorithmen entscheiden also immer nach "Schema F"?

Müller-Mall:  So würde ich das nicht nennen. Viele Algorithmen sind lernfähig und sehr komplex. Aber sie folgen einer rationalen Struktur und werden typischerweise mit kollektiven Datensätzen gespeist, die dann häufig statistisch für Einzelfallentscheidungen ausgewertet werden. Ein Beispiel wäre das Scoring der Schufa: Wenn ich in einem Stadtviertel wohne, in dem gemäß der Datenlage die Wahrscheinlichkeit sehr hoch ist, dass Kredite zurückgezahlt werden, habe ich eher die Chance, einen Kredit zu bekommen als in einem sozial schwachen Viertel. Mit Hilfe von KI ordnet die Schufa mich einer bestimmten Gruppe zu, klassifiziert mich – ich werde zum Objekt und nicht als Individuum wahrgenommen. Das gilt auch für das in manchen Ländern genutzte "predictive policing", das Falldaten zur Berechnung der Wahrscheinlichkeit zukünftiger Straftaten auswertet und etwa für Haftprüfungsentscheidungen heranzieht. 

Wie sollten wir als mündige Bürger also mit Künstlichen Intelligenzen umgehen?

Müller-Mall:  Indem wir grundsätzlich darüber sprechen, welche Aufgaben wir auf welche Weise an KI übertragen wollen – oder eben nicht. Indem wir also die politischen Dimensionen der KI auch politisch behandeln. Kulturpessimismus und strikte Regulierungen halte ich für den falschen Weg. 
 

Das Interview entstand für die aktuelle Ausgabe des Impulse-Magazins der VolkswagenStiftung zum Thema "Künstliche Intelligenz". Das Magazin können Sie unter "Impulse 2020" herunterladen oder kostenlos bestellen per E-Mail an rosengart-kamburis(a)volkswagenstiftung.de.

Hintergrund: Sabine Müller-Mall

Prof. Dr. Sabine Müller-Mall hat an der TU Dresden eine Professur für Rechts- und Verfassungstheorie mit interdisziplinären Bezügen inne. Sie wurde mit ihrem Projekt "Codification 3.0 – Die Verfassung Künstlicher Intelligenz" von der Stiftung in der Initiative "Originalitätsverdacht?" gefördert. Die Ergebnisse erscheinen, wie bei dieser Initiative erwünscht, in Form eines Essays: im Herbst 2020 bei Reclam.