Künstliche Intelligenz – wo macht sie Sinn, wo sollten wir vorsichtig sein?

Die Wissenschaftsjournalistin Manuela Lenzen diskutierte auf dem Podium des diesjährigen Forschungsgipfels mit, wie sich Künstliche Intelligenz (KI) auf die Gesellschaft auswirkt. Ein Interview mit der Autorin von "KI – Was sie kann und was uns erwartet" über grundlegende Fragen zum Thema.

Small robots in a white room
Bei "Künstlicher Intelligenz" geht es nicht um Intelligenz im menschlichen Sinne, stellt Manuela Lenzen klar. (Foto: Isabel Winarsch für VolkswagenStiftung)

Jakob Vicari führte das Gespräch mit der Philosophin Dr. Manuela Lenzen, die als freie Wissenschaftsjournalistin über Digitalisierung, Künstliche Intelligenz und Kognitionsforschung schreibt.

Müssen wir alle heute wissen, was Künstliche Intelligenz (KI) ist?

Man sollte es sich ansehen. Es heißt immer, der Mensch soll sich auf das konzentrieren, was den Menschen ausmacht. Aber das könnte den Konzernen so passen, dass wir ihnen das Feld einfach so überlassen und uns nur noch um Kreatives und Soziales kümmern. Jeder sollte beurteilen können, welche Diskussionen, die da geführt werden, Panikmache sind und was wirklich gefährlich ist.

Es gibt einen Hype um das Thema. Sie schreiben, KI ist wie ein Etikett, das Maschinen aller Art interessant macht. Wo fängt für Sie KI an?

Es gibt tatsächlich keine Definition für KI. Nicht überall, wo das Etikett draufklebt, steckt Künstliche Intelligenz auch drin. Der Begriff Künstliche Intelligenz geht auf den Mathematiker John McCarthy zurück. Im Jahr 1955 reichte er bei der Rockefeller-Stiftung einen Antrag zur Förderung einer Tagung ein. Er wollte mit Kollegen herausfinden, wie Maschinen Probleme lösen, Sprache benutzen und lernen können. Und der Begriff blieb. Künstliche Intelligenz, das ist einfach griffig. Auch wenn man immer dazu sagen sollte, dass es eben nicht um Intelligenz im menschlichen Sinne geht. Heute benutzt man den Begriff vor allem für Maschinelles Lernen.

Portrait of the author Manuela Lenzen
Manuela Lenzen ist promovierte Philosophin und schreibt als freie Wissenschaftsjournalistin über Digitalisierung, Künstliche Intelligenz und Kognitionsforschung. (Foto: privat/Manuela Lenzen)

Sie verfolgen das Gebiet schon fast 20 Jahre. Wie sehen Sie die derzeitige gesellschaftliche Debatte?

Die hat sich zum Guten entwickelt. Als ich vor zwei Jahren begann, mein Buch zu schreiben, waren viele Artikel noch mit dem Terminator bebildert. Da hieß es dann: "Die Superintelligenz nimmt uns die Macht und sperrt uns in den Kaninchenstall". Das ist großer Quark. Denn was die Künstliche Intelligenz macht, darüber entscheiden wir. Heute wird eher darüber diskutiert, was der Mensch mit der KI macht. Das finde ich gut. Wenn wir über die Gefahr autonomer Waffensysteme diskutieren oder die Überwachungs- und Manipulationsmöglichkeiten.

Wie gehen wir mit KI um?

Schon wenn Systeme mit uns sprechen, triggern sie Anthropomorphismus. Das heißt, wir wollen in ihnen ein verständiges Gegenüber sehen. Menschen sprechen ja auch mit ihren Autos und ihren Hunden. Wir unterhalten uns mit Maschinen, selbst wenn sie gar nicht viel können. Der Sprachassistent Alexa ist so ein Beispiel, bei menschenähnlichen Robotern ist der Effekt noch stärker. Ich nenne sie deshalb gerne Verwirrungsmaschinen.

Wie wird KI uns in unserem Leben begegnen?

Wir werden viele Gadgets, Spielzeuge und Assistenzsysteme sehen, die uns im Alltag helfen, beim Lernen motivieren und uns unterhalten. Nur einen Butler, der die Spülmaschine ausräumt und den Tisch deckt, sehe ich in nächster Zeit noch nicht. Obwohl ja auch daran geforscht wird.

Human and roboter in conversation
Am 14. Februar 2019 stand KI im Zentrum des von der Stiftung veranstalteten Herrenhäuser Gesprächs "Was Künstliche Intelligenz für uns Menschen bedeutet". (Foto: Halfpoint - stock.adobe.com)

Schade, so einen intelligenten Roboter bräuchte ich auch. Das wird ja oft miteinander vermengt: Robotik und Künstliche Intelligenz. Wie hängt das zusammen, was ist der Unterschied?

Natürlich gehört das eng zusammen: An den Forschungseinrichtungen sind Robotik und KI oft im selben Bereich. Aber nicht jeder Roboterarm am Fließband ist intelligent und nicht jede KI hat einen Roboterkörper. Doch wenn die Roboter flexibler werden sollen, dann müssen sie auch intelligenter werden und lernen können.

Wie kann der Laie bewerten, was KI kann?

Das ist noch sehr schwierig. Es wäre schön, wenn die Menschen wüssten, womit sie es zu tun haben. Wo gehen die Daten hin? Was kann ein System? Idealerweise gäbe es dafür eine Klassifikation, die jeder versteht. Wir müssen auch fragen: Wie ist das in der Pflege, wo Menschen mit kognitiven Einschränkungen gar nicht genau erkennen, womit sie es zu tun haben. Oder Kinder. Müssen die wissen, dass es eine Maschine ist, der sie etwas erzählen? Vielleicht kann man das über das Design lösen.

Sie sind Philosophin. Welche Fragestellungen interessieren Sie in diesem Bereich?

Da gibt es ganz viel. Allein das Thema, ob wir den Menschen besser verstehen, wenn wir versuchen, ihn nachzubauen. Aber natürlich auch, wie sich unser Menschenbild durch die Künstliche Intelligenz verändert. Wir stellen ja fest, wie schwierig es ist, den Menschen nachzuahmen. Das steigert die Achtung vor uns selbst. Begriffe wie Kreativität und Bewusstsein verschwimmen plötzlich. Das ist philosophisch hochspannend.

Illustration of a robots hand holding a human brain
Eine neue Förderinitiative der Stiftung zu KI möchte gemeinsame, integrative Forschungsansätze der Gesellschafts- und Technikwissenschaften ermöglichen. (Illustration: Phonlamai Photo - shutterstock.com)

Die KI hat ja ganz konkrete Auswirkungen. Viele Menschen fürchten, dass intelligente Maschinen bald ihre Arbeit machen. Zu Recht?

Die Menschheit arbeitet ja seit über 2000 Jahren daran, dass Maschinen ihr die Arbeit abnehmen. Und was ist passiert? Wir arbeiten immer mehr. Dabei haben wir zu wenig Zeit für alte Leute, für Kinder, für unsere Hobbys. Mein Ideal wäre, dass Künstliche Intelligenz und Digitalisierung dazu beitragen, dass wir alle weniger arbeiten müssen und mehr Zeit für die wirklich wichtigen Dinge haben. Leider geht es in der Entwicklung oft vor allem um Effizienzsteigerung.

Aber gehen Jobs verloren?

Da ist sich die Forschung uneins. Und auch die Frage, welche Jobs es sein könnten, ist umstritten. Man hört ja immer, die Maschinen nähmen Menschen die einfachen Tätigkeiten ab. Es könnte aber so kommen, dass sie vor allem die mittleren Tätigkeiten ersetzen. Und am Ende der Fertigungsstraße stehen dann die Menschen und packen die fertigen Produkte in die Kartons, weil das billiger ist.

Was können wir erwarten, etwa am Beispiel autonomes Fahren? 

Das wirklich autonome Fahren wird noch lange auf sich warten lassen, obwohl daran extrem viel geforscht wird. Die Sicherheitsanforderungen sind einfach sehr hoch und die Welt ist voller überraschender Situationen, mit denen ein autonomes Fahrzeug noch nicht zurechtkommt. Aber wir werden immer mehr Assistenzsysteme sehen, die hoffentlich dazu beitragen, die Unfallzahlen zu senken. 

Ein anderes Beispiel sind schlaue Waffensysteme. Sind da nicht eigentlich alle dagegen?

Ich glaube, die einzigen, die wirklich dagegen sind, sind die, die sie sich nicht leisten können, ansonsten herrscht die Logik des Wettrüstens: Jeder will vorbereitet sein, für den Fall, dass der andere diese Waffen hat. Und diese Entwicklung bereitet mir Sorge. Auch weil solchen Waffensystemen das Weltwissen fehlt. Was, wenn sie aufeinander treffen und so schnell entscheiden, dass da kein Mensch mehr dazwischenkommt? Dann eskaliert ein Konflikt vielleicht nur wegen eines Programmierfehlers. 

Illustration of an autonomously driving car
Das von der Stiftung konzipierte Herrenhäuser Forum "Autonomes Fahren - Segen oder Fluch" beschäftigte sich am 15. Januar 2019 mit den Risiken und Chancen der Zukunftstechnologie. (Foto: AndSus - fotolia.com)

Wie geht die deutsche Politik mit KI um? Muss sie handeln?

Die Politik versucht gerade, sehr schnell sehr viel zu lernen und zu verstehen, was alles möglich ist. Das finde ich gut. Und es wird überlegt, wie die Rahmenbedingungen sein müssen, damit etwa die Privatsphäre nicht unter die Räder kommt. Was die etwas krampfhafte Forschungs- und Wirtschaftsförderung angeht, bin ich eher skeptisch, ob das von der Politik kommen muss, oder nicht eher aus der Wirtschaft und der Forschung selbst. Und von uns.

Wie meinen Sie das?

Jeder sollte für sich überlegen, wo sie oder er solche Systeme haben will. Wir sollten uns fragen: Was sollten diese Systeme können? Wo könnten sie mir in meinem Alltag helfen? Und gleichzeitig: Wo möchte ich sie nicht? Wie kann eine bessere Welt mit der KI aussehen? Es stimmt ja nicht, dass das alles von selbst über uns kommt und man nichts machen kann. 

Dr. Manuela Lenzen hat in Philosophie promoviert und schreibt als freie Wissenschaftsjournalistin über Digitalisierung, Künstliche Intelligenz und Kognitionsforschung, unter anderem für FAZ, NZZ, Psychologie Heute, Bild der Wissenschaft und Gehirn und Geist. Ihr aktuelles Buch "Künstliche Intelligenz – Was sie kann und was uns erwartet" (C.H. Beck, München, 2018) wurde als sachliches Grundlagenwerk vielfach positiv rezensiert.

Hintergrund: Forschungsgipfel zum Thema "Künstliche Intelligenz"

Auf dem Forschungsgipfel 2019 diskutieren Expertinnen und Experten aus Wirtschaft, Wissenschaft, Zivilgesellschaft und Politik am 19. März 2019 in Berlin. Das Thema: Künstliche Intelligenz – Innovationstreiber einer neuen Generation.

Der Inner Circle 1, bei dem Manuela Lenzen teilnimmt, heißt "Die Gesellschaftliche Ebene - Bedeutung und Wirkung von Künstlicher Intelligenz auf die Gesellschaft und auf das deutsche Innovationssystem". Die Veranstaltung ist auch als Video verfügbar.