Ethik für Nerds

Sarah Sterz (25) machte den Bachelor in Informatik, wechselte zum Master in die Philosophie und steuert jetzt dort die Promotion an. Nikolai Käfer (25) blieb bei Informatik, steht vor dem Master und will später bei Tech-Unternehmen arbeiten, wenn sie sich ihrer "ethischen Verantwortung bewusst" sind. Sterz und Käfer haben zwei Dinge gemeinsam. Sie studierten Informatik an der Universität Saarbrücken und sie belegten "Ethics for Nerds". Die Vorlesung und die dazu gehörende Übung eröffnete den beiden neue Horizonte. Das dort vermittelte Wissen aus der Moralphilosophie, der Technikfolgenabschätzung, der Maschinenethik und der Argumentationstheorie änderte ihre Sichtweisen, ihr Bewusstsein und ihr Selbstverständnis.

Bei Ethics for Nerds ist mir bewusst geworden, wie viel Macht wir haben und welche Verantwortung wir tragen.

"Bei Ethics for Nerds ist mir bewusst geworden, wie viel Macht wir haben und welche Verantwortung wir damit eben auch zu tragen haben", sagt Käfer. Und seine Kommilitonin meint: "Es kann nicht sein, dass Informatikerinnen und Informatiker ihre Hochschulen verlassen, ohne je etwas von Moral oder Verantwortung gehört zu haben." Die zwei Stimmen aus Saarbrücken stehen für einen weltweiten Trend. Inmitten der KI-Goldgräberstimmung stellen sich immer mehr Tekkies die Gewissensfrage: Wie soll ich arbeiten und was darf ich tun? Big Data, Algorithmen und Künstliche Intelligenz lassen die Grenzen zwischen Licht und Schatten verschwimmen, machen eine scharfe Trennung zwischen Gut und Böse schier unmöglich. Dual Use lauert überall, Unbedarftheit führt ins Off. Der rassistische Seifenspender zum Beispiel: Entwickelt mit weißen Testpersonen reagierten die Sensoren nicht, als eine nicht-weiße Person den Spender nutzen wollte.  

Die Initiatoren im Videointerview

Bildlink zur Download-Seite für das Impulse-Magazin
Weitere Artikel zum Thema Künstliche Intelligenz bietet das Stiftungsmagazin "Impulse".

Tatsächlich haben Ethik-Kurse in der Informatik Konjunktur an deutschen Hochschulen. Die Universitäten in Bamberg oder Potsdam sprangen genauso auf den Zug auf wie die Technischen Universitäten in Kaiserslautern oder München. Treiber der Bewegung war und ist die Gesellschaft für Informatik (GI): "Programmierende müssen die möglichen Auswirkungen ihrer Arbeit mitbedenken. Der Standpunkt, sich nicht für die gesellschaftlichen Folgen interessieren zu müssen, ist überholt", sagt GI-Präsident Hannes Federrath. Eine "Herzensangelegenheit" sei es ihm, das ethische Bewusstsein in der Informatik zu stärken.

So wie Federrath denken viele. In der GI gibt es ein Team zur Künstlichen Intelligenz, eines zu Informatik und Gesellschaft, und es gibt eine Fachgruppe Informatik und Ethik, die sich mit Forderungen nach der völkerrechtlichen Ächtung autonomer Waffensysteme auch politisch klar positioniert. In den "Gewissensbits" auf der GI-Webseite werden konkrete Problemfälle und Dilemmata beschrieben, in die Informatikerinnen und Informatiker in der Praxis geraten. Den vorläufig größten Meilenstein erreichte die GI im März 2016. Nach kontroversen Debatten reformierte sie ihre Curriculum-Empfehlungen. Seitdem sollte Ethik in Studiengängen der reinen Informatik enthalten sein. Eigentlich. Tatsächlich ist das längst nicht überall der Fall. Die Empfehlungen sind eben nur Empfehlungen, keine durchsetzbare Vorschrift.

Äpfel am Baum
Seit dem Mittelalter wird der „Baum der Erkenntnis von Gut und Böse“ in Darstellungen des Sündenfalls meist als Apfelbaum dargestellt. (Foto: Gerda Arendt - CC-BY-SA-4.0 - Wikimedia Commons)

In Saarbrücken gehört "Ethics for Nerds" zu den sogenannten Wahlpflichtangeboten. Studierende können den Kurs belegen und ECTS-Punkte erwerben, sie können es aber auch lassen. "Ethics for Nerds beruht auf Freiwilligkeit – und ist vielleicht deshalb so beliebt und erfolgreich", sagt Hermanns. Die Lehrenden seien intrinsisch motiviert, das spürten die Studierenden. "Sie zur Teilnahme zu verdonnern, wäre möglicherweise kontraproduktiv." Auch wenn sich Hermanns ein "verpflichtendes Ethik-Angebot" für reine Informatiker "gut vorstellen" kann, wirft die Umsetzung für ihn Fragen auf, auf die er selbst keine Antwort weiß. Eine davon: Welcher Pflichtstoff soll für die Ethik weichen? "Die klassische Informatik in Saarbrücken ist extrem erfolgreich, auch weil ihre Inhalte genau aufeinander abgestimmt sind", gibt Hermanns zu bedenken und steht damit nicht allein.  

Ein Studium mit fachfremden Inhalten zu versehen, kann nach hinten losgehen

"Ein Studium mit fachfremden Inhalten zu versehen, kann nach hinten losgehen", sagt Armin Grunwald. Der Technikphilosoph am KIT leitet das Büro für Technikfolgenabschätzung des Bundestags, verfolgt den Diskurs seit längerem, rät zur Gelassenheit und Arbeitsteilung: Studierende müssten in erster Linie gute Ingenieurinnen und Ingenieure werden, das dürfe "aber nicht heißen, sie nicht mit ethischen Fragestellungen und den Folgen ihrer Arbeit zu konfrontieren." Die "Nerd-Ethik", die Grunwald vorschwebt, lässt sich dort am besten verankern, wo Ethiker, Philosophen, Technik- und Ingenieurwissenschaftler "ihre Kompetenzen themenbezogen und punktuell in die Lehre" von Ingenieurwissenschaften und Informatik einbringen. Im Klartext: "Es geht um Kooperationen in der Lehre".

Brückenschlag durch Lehre

Genau das wäre eine wissenschaftspolitische Sensation. Während interdisziplinäre Kooperationen bislang vor allem über die Forschung laufen, könnte die KI-Entwicklung über die Lehre neue Brücken zwischen den Fakultäten schlagen. Doch das ist im real existierenden Hochschulalltag alles andere als einfach. Bringen Forschungskooperationen in der Regel Geld und Reputation, gibt es für interdisziplinäre Lehreinsätze bislang keinerlei Gratifikation. Die Zusammenarbeit in der Lehre steht und fällt mit dem guten Willen der Professorenschaft – und deren Kapazitäten. 

Ausschnitt aus der Weltchronik Fulda, die Vertreibung aus dem Paradies.
Sündenfall und Vertreibung aus dem Paradies, Ausschnitt aus "Weltchronik. Böhmen (Prag)", Rudolf von Ems, 14. Jahrhundert (Hochschul- und Landesbibliothek Fulda). (Foto: Wikimedia Commons - public domain - Anonymous)

"Ethik in KI-relevanten Fächern zu lehren, ist wichtig", sagt der Vorsitzende des Philosophischen Fakultätentages, Michael Sommer. Die Expertise hätten nur die Philosophen, "die mit ihren Lehrstühlen in den philosophischen Fakultäten beheimatet" wären. Die steigende Nachfrage nach Ethik-Kursen müsste Sommer zufolge also zwangsläufig mit zusätzlichen Ethik-Professuren begegnet werden. Nur: "Innerhalb der Universitäten nehme ich im Moment leider die Tendenz wahr, Professuren der Philosophie bei Neubesetzungen umzuwidmen und in KI-relevanten Fächern anzusiedeln. Das schwächt die Philosophie – und macht die KI eben nicht stärker." 

So klar Sommers Position auch ist, die Logik überzeugt nicht alle. "Wir müssen sehr genau überlegen, wie "Ethik für Informatik" aussehen kann und wie sie am besten vermittelt werden kann", erklärt Martina Schraudner vom Vorstand der Akademie der Technikwissenschaften acatech. Es müsse darum gehen, die Studierenden "zu sensibilisieren", ihnen ethische Leitlinien und ein Wissen darüber zu vermitteln, wann ein interdisziplinärer Austausch notwendig und zielführend ist. "Ein Zweitstudium Philosophie für alle", macht Schraudner klar, könne jedenfalls "nicht das Ziel sein."

Ein Zweitstudium Philosophie für alle kann nicht das Ziel sein

So sieht das auch Dominik Herrmann. Der Professor für Privatsphäre und Internetsicherheit an der Universität Bamberg sitzt im Präsidium der Gesellschaft für Informatik und gibt seit einiger Zeit schon Ethik-Kurse für Techies. "Ethik zählt bei Informatikern als Laberfach", sagt er. Um dabei zu bleiben, brauchten sie einen "besonders praxisnahen Zugang". Als Semester-Aufgabe sieht Herrmann deshalb vor, dass sie eine Personalauswahl-Software programmieren müssen. "Da landen sie ganz schnell in Dilemmata und stoßen auf Diskriminierungsrisiken."

Key visual Themenschwerpunkt künstliche Intelligenz
Themenschwerpunkt "Künstliche Intelligenz und die Gesellschaft von morgen" der VolkswagenStiftung

Praxisnahe, aktuelle Fälle sind es auch, die die Studierenden bei "Ethics for Nerds" loben. Konzipiert werden die Programmieraufgaben von den Technikern um Holger Hermanns. Die Philosophen steuern die nötige Wissensdosis an Moralphilosophie, Argumentationstheorie und Ethik bei. Das alles klappt in Saarbrücken genauso reibungslos wie die Finanzierung. Das Geld für den Kurs geben Professoren wie Hermanns von ihren Lehrstuhlmitteln ab. 

"Hürden gab es nicht", erinnert er sich an die Anfänge. Heute schreiben Studierende der Informatik Bachelor- und Masterarbeiten bei den Philosophen und umgekehrt. Und manche promovieren über "Ethik und KI". "Ethics for Nerds", der kleine Kurs, erwies sich in Saarbrücken letztlich als Beginn einer interdisziplinären Forschungsfreundschaft. "Das ist richtig genial", sagt Hermanns. Interdisziplinäre Forschungsprojekte gibt es schon, weitere sind geplant.

Professor Holger Hermanns
Holger Hermanns lehrt Informatik an der Universität des Saarlandes. (Foto: VolkswagenStiftung)

Professor Hermanns zur Vorgeschichte: "Ethische Fragestellungen waren für mich lange kein Thema. Ins Stutzen kam ich vor einigen Jahren. Ich war damals an der Vorbereitung eines großen Forschungsantrages beteiligt, bei dem sich sehr spät herausstellte, dass eine der wesentlichen Anwendungsstudien die "kontrollierte Terminierung nicht-kooperierender Weltraumobjekte" werden sollte. Es blieb unklar, ob es da um Weltraumschrott oder Krieg der Sterne gehen sollte. Ich war alarmiert, sprach mit Kollegen. Das war die Initialzündung zu "Ethics for Nerds"."