"Wenn die Maschine Unsinn macht, zieh den Stecker raus"

Frau Molnár-Gábor, alle reden drüber. Wir heute auch – aber worüber eigentlich genau? Wie würden Sie "künstliche Intelligenz" definieren?

Molnár-Gábor: Ich habe bisher eigentlich nur Tagungen besucht, bei denen wir uns nicht auf eine Definition einigen konnten. Manche sagen, bereits die Biostatistik sei eine Form von KI gewesen und die KI daher nicht wirklich etwas Neues. Ich selbst würde die KI am ehesten darüber definieren, dass sie Entscheidungen und Aktionen maschinell übernehmen kann, die bisher Menschen getroffen und ausgeführt haben. 

Schütte: Im Digitalrat der Bundesregierung sagt mir eine junge Unternehmerin: "Immer wenn wir nicht wissen, womit wir es zu tun haben, nennen wir es KI. Wenn wir es wissen, dann benennen wir es genauer, etwa als Mustererkennung von Gesichtern, also Gesichtserkennung, oder auf Röntgenbildern zur Krebsdiagnose." Ich finde, das charakterisiert die aktuelle gesellschaftliche Debatte sehr gut. Das Wort wird so allgemein benutzt, dass es bisweilen nicht mehr greifbar ist. 

Ist diese mangelnde Greifbarkeit der Grund, warum sich in Teilen der Gesellschaft eine kritische Haltung gegenüber der KI aufgebaut hat? 

Schütte:  Es hilft, wenn wir das "Wer" der Betroffenen durch das "Was" der Betroffenheit ersetzen. Dass wir anstatt abstrakt über "Künstliche Intelligenz" zum Beispiel konkret über Roboter in der industriellen Produktion reden. Dann sind wir in der Lage, vorhandene Ängste zu adressieren und die real vorhandenen Gefahren einzuordnen. Gefahren, die damit anfangen, dass Roboter nicht mehr im Käfig agieren, sondern direkt mit Menschen zusammenarbeiten. Es geht also um die Frage, wie sich die Arbeitswelt verändert und wie wir die Sicherheit der Menschen am Arbeitsplatz sichern können. Darauf kann man dann konkrete Antworten geben. 
 

Dann machen wir es doch mal konkret. Frau Molnár-Gábor, woran forschen Sie gerade?

Molnár-Gábor: Da erzähle ich Ihnen am besten von einem von der VolkwagenStiftung geförderten Projekt, das ich an der Heidelberger Akademie der Wissenschaften bearbeite und das Genombiologen, Ärzte und Juristen in Berlin und Heidelberg vereint. In Deutschland werden jedes Jahr rund 60.000 Prostata-Krebserkrankungen registriert. Wir unterstützen die Sammlung und Verarbeitung von individuellen Informationen über die einzelnen Studienteilnehmer, um daraus präzise Therapien für sie zu entwickeln. Dafür sequenzieren und entschlüsseln Biologen und Ärzte das Genom gesunder und kranker Menschen, sie verknüpfen klinische Daten mit weiteren Angaben über die Lebensführung, um mehr über die Ursachen der Erkrankungen zu erfahren. Um zu prognostizieren, auf welche Form der Behandlung wer am besten reagiert. Und, ganz wichtig, mithilfe einer Plattform ermöglichen wir den Patienten, sich untereinander zu vernetzen. All das kann mithilfe von KI erheblich vorangebracht werden.

Im Videointerview erzählt Fruzsina Molnár-Gábor worauf ihr KI-Forschungsprojekt abzielt und wer beteiligt ist. (Video: VolkswagenStiftung)

Vielleicht haben wir es weniger mit Urängsten und mehr mit einem zutiefst mitteleuropäischen, deutschen Angst-Syndrom zu tun?

Molnár-Gábor: KI-Anwendungen wie Social Scoring schaffen für viele Chinesen tatsächlich mehr Vertrauen. In den USA sind die Menschen für die Vorteile, die sie sich von KI erwarten, tendenziell bereit, größere Risiken einzugehen. Nach dem Motto: Solange die Schädlichkeit nicht nachgewiesen ist, greifen wir gar nicht ein. In Europa wollen wir möglichst viele Eventualitäten vorher bedenken. Das spiegelt sich in den rechtlichen Regulierungen wider.

Experten warnen, die EU werde von anderen Weltregionen beim Thema KI abgehängt. 

Schütte: In der grundlagenorientierten KI-Forschung spielen wir in der ersten Liga, die hohen Zahlen wissenschaftlicher Publikationen belegen das. Wir sind auf vielen Feldern vorn mit dabei, zum Beispiel beim Einsatz Künstlicher Intelligenz in der Biologie oder in den Lebenswissenschaften. Doch eines müssen wir uns immer fragen: Setzen wir die richtigen Schwerpunkte? Laut Expertenkommission Forschung und Innovation wird in China und in den USA zum Beispiel massiv an der neuronalen Künstlichen Intelligenz geforscht, und ja, auf diesem Feld laufen wir nach Einschätzung der Experten tatsächlich etwa fünf Jahre hinterher. Wo wir in Deutschland und Europa schwach sind: in der Innovation, an der Schnittstelle zwischen wissenschaftlicher Erkenntnis und unternehmerischer oder sozialer Anwendung. 

Molnár-Gábor: Zum Glück tut sich da in letzter Zeit einiges, gerade in Deutschland. Es wurden viele Initiativen gestartet, von der Regulierung über die Forschungsförderung und die Einrichtung zusätzlicher KI-Professuren bis zur Unterstützung für Startups – Initiativen die jetzt allerdings auch gebündelt werden müssen, und dann werden sie neue Innovationen auslösen. 
 

Zuletzt hörte man häufiger, die Amerikaner, Südkoreaner und Chinesen seien zwar technisch weiter, dafür aber entwickle Europa neue ethische Positionen und Rechtsgrundlagen für die KI. Klingt nach einer Form von Selbsttröstung. 

Molnár-Gábor: Diese Trennung zwischen technologischen Innovationen und gesellschaftlichen Antworten halte ich für künstlich. Einige der vielversprechendsten, aber noch unerforschten Felder liegen in der interaktiven KI und in der sogenannten "Social AI". Wie kommuniziere ich als Mensch mit der Maschine und mit deren Algorithmen? Wie kann die Maschine das menschliche Miteinander entschlüsseln? Das sind Fragen, bei denen die Ethik eine entscheidende Rolle spielen kann. Natürlich kann man kritisch sehen sagen: Ethik verkauft sich nicht. Aber ich glaube, das ist zu kurz gedacht.

Key visual Themenschwerpunkt künstliche Intelligenz
Themenschwerpunkt "Künstliche Intelligenz und die Gesellschaft von morgen" der VolkswagenStiftung

Schütte: Wenn wir wettbewerbsfähig bleiben wollen in Deutschland und Europa, müssen wir die Technologie beherrschen. Die besseren Regulierer zu sein und die Wertschöpfung der Technologie anderen zu überlassen, das kann es nicht sein. Aber wir können einen Schritt weitergehen und fragen: Was müssen die Prozesse, die Produkte, die Dienstleistungen mitbringen, die KI-basiert sind, welche Eigenschaften müssen sie haben, um die Akzeptanz der Menschen zu finden, von Patientinnen und Patienten in der Medizin, im Verkehr, in der Arbeitswelt? Die wissenschaftlichen Disziplinen bewegen sich längst aufeinander zu.

Herr Schütte, Sie sind Kommunikationswissenschaftler, Frau Molnár-Gábor, Sie sind Rechtswissenschaftlerin. Was antworten Sie aus ihren fachlichen Perspektiven Informatikern, die von sich behaupten, sie hätten mehr Expertise beim Thema KI? 

Molnár-Gábor: Natürlich haben Informatiker immer noch die Hoheit über die Programmierung. Aber wenn wir Lösungen für die Gesellschaft finden wollen, dann sind die Hoheiten sehr schnell sehr breit zwischen der Informatik, den Natur-, Geistes- und Sozialwissenschaften verteilt. Mein Eindruck ist, dass die meisten Informatiker dieses Zusammenspiel inzwischen suchen, von gemeinsamen Lehrprojekten und Studiengängen bis hin zu interdisziplinären Forschungsprogrammen. Ich mache da nur gute Erfahrungen. 

Schütte: Traditionell ist die deutsche Informatik stark aus der angewandten Mathematik, der Elektrotechnik und den Ingenieurwissenschaften herausgewachsen. Doch je stärker die Informatik globale gesellschaftliche Trends ausgelöst hat, desto mehr Anlass haben wir, in Deutschland selbstkritisch zu sein und neue Wege zu gehen. Anders gesagt: Der Problemdruck ist so groß geworden, dass die Disziplinen gar keine andere Wahl haben, als sich für einander zu öffnen. Stiftungen können sie dabei ein Stückweit unterstützen. Die Herausforderungen bei der KI machen diese Notwendigkeit der Vernetzung zwar besonders deutlich, wie in einem Brennglas. Doch dieselbe Interdisziplinarität brauchen wir auch auf anderen Forschungsfeldern.

Magazincover

Impulse 2020 mit Schwerpunkt KI

Das Interview entstand für die aktuelle Ausgabe des Impulse-Magazins der VolkswagenStiftung zum Thema "Künstliche Intelligenz". Das Magazin können Sie unter "Impulse 2020" herunterladen oder kostenlos bestellen per E-Mail an rosengart-kamburis(a)volkswagenstiftung.de.

Fruzsina Molnár-Gábor

Die Juristin forscht und lehrt in Heidelberg, zudem ist sie Sprecherin der AG "Künstliche Intelligenz" in der Jungen Akademie. Die VolkswagenStiftung unterstützt MolnárGábor in dem Projekt "Individualisierung und Demokratisierung der Versorgung von Krebspatienten mittels Künstlicher Intelligenz" im Rahmen der Förderinitiative "Künstliche Intelligenz".