Wenn die Blackbox mit uns spricht

Sprachassistenten sind stark im Kommen, die Boxen stehen schon in vielen Haushalten. Noch sind die Dialoge mit den smarten Geräten oftmals holprig, weil sie mit vorgefertigten einprogrammierten Satzbausteinen antworten. Fachleute erwarten aber, dass diese Art der Kommunikation schon in wenigen Jahren unseren Alltag bestimmt – nicht nur zu Hause, auch im Auto oder am Arbeitsplatz. Nicht nur Experten stellen sich kritische Fragen: Wie ist sicherzustellen, dass die Inhalte aufgezeichneter Gespräche nicht missbraucht werden? Oder: Wie kann verhindert werden, dass etwa Kinder und Jugendliche zu viel von sich preisgeben?

Prof. Dr. Krämer
Prof. Dr. Nicole Krämer, hier auf dem Podium bei einem Herrenhäuser Gespräch am 14. Februar 2019 zum Thema "Künstliche Intelligenz - Herrschen die Maschinen oder beherrschen wir sie?" (Foto: Nico Herzog für VolkswagenStiftung)

Für die Sozialpsychologin Prof. Dr. Nicole Krämer von der Universität Duisburg-Essen stellt sich darüber hinaus eine viel grundsätzlichere Frage: Wie wird der tägliche Kontakt mit intelligenten Maschinen die Kommunikation in unserer Gesellschaft verändern? In einem interdisziplinären 'IMPACT Projekt' geht sie dieser Frage in den kommenden vier Jahren auf den Grund: zusammen mit Kolleginnen und Kollegen aus Ethik, Informatik und Rechtswissenschaft. "Wenn wir uns mit Menschen unterhalten, dann haben wir eine Vorstellung davon, wie der andere denkt", sagt sie. "Wenn wir aber mit einem technischen Gerät kommunizieren, unterhalten wir uns mit einer Blackbox, von der wir kein solches mentales Modell haben. Von der wir nicht wissen, wie ihre Antworten oder Entscheidungen eigentlich zustande kommen."

Das Projekt soll auch Erkenntnisse für die Weiterentwicklung von Sprachassistenten liefern. Die Informatikerinnen und Informatiker im Team arbeiten an selbstlernenden Assistenten, die keine Standardantworten liefern, sondern den Nutzer nach und nach kennenlernen – und entsprechend seiner Vorlieben und Bedürfnisse antworten. Dazu sollen im Projekt maschinelle Lernverfahren zum Einsatz kommen, die in der Lage sind, Muster und Gesetzmäßigkeiten in gesprochener Sprache zu erkennen. Und die Juristen wollen dafür sorgen, dass die Technologien von vornherein alle Anforderungen zum Beispiel an den Datenschutz erfüllen. 

Forschungsdesign und Testumgebung

Für die Informatikerin Prof. Dr. Barbara Hammer von der Universität Bielefeld und ihre Arbeitsgruppe Maschinelles Lernen ist dieses Projekt besonders, weil es so umfassend ist. Nicht nur wegen des interdisziplinären Ansatzes, sondern auch, weil gleich drei Nutzergruppen einbezogen sind: Kinder, Menschen mittleren Alters und im Rentenalter. "Das bietet uns eine einzigartige Testumgebung, um neue Technologien umfassend zu prüfen, ehe sie später in die breite Anwendung kommen", sagt Barbara Hammer.

Kinder, die es gewohnt sind, Sprachassistenten Befehle zu geben, verlernen 'bitte' und 'danke' zu sagen.

Den Projektbeteiligten geht es gemeinsam um drei Hauptaspekte: die Art der Kommunikation, die Beziehung des Menschen zur Maschine und die Frage, inwieweit transparent ist, wie oder warum eine Maschine eine bestimmte Antwort gibt. Je nach Altersgruppe und Nutzer wird ein anderer Schwerpunkt gesetzt.

"Kinder bauen schnell ein Verhältnis zu Dingen auf, wie etwa bei Kuscheltieren", erklärt Nicole Krämer. "Hier steht für uns die Frage der Beziehung im Vordergrund." Es wird untersucht, wie die Kommunikation zwischen Kind und Maschine abläuft, und zudem, ob sich das Verhalten auch im Umgang mit Menschen widerspiegelt. "In den USA hat man zum Beispiel festgestellt, dass Kinder, die es gewohnt sind, Sprachassistenten Befehle zu geben, verlernen 'bitte' und 'danke' zu sagen", sagt Krämer. Da viele Eltern ihren Kindern heute bereits einen smarten Lautsprecher ins Zimmer stellten, dränge sich die Frage auf, was das mit den Kindern mache.

Bildlink zur Download-Seite für das Impulse-Magazin
Weitere Artikel zum Thema Künstliche Intelligenz bietet das Stiftungsmagazin "Impulse".

Die Wissenschaftler wollen für eine ihrer Studien das Verhalten von 20 Kindern über mehrere Monate beobachten – bei Hausbesuchen, aber auch, indem sie deren Kommunikation mit der Kamera aufnehmen. Damit die Kinder tatsächlich des Öfteren mit den Geräten kommunizieren, entwickeln die Forscher Anreize, um diese in den Alltag der Kinder zu integrieren – etwa indem sich interessante Hörspiele abrufen lassen.

Barbara Hammer will die Chance auch nutzen, um dem Computer das Mitlernen in Echtzeit beizubringen. Das System soll nicht nur die Vorlieben der jungen Nutzer verstehen, sondern auch analysieren können, warum die Kinder etwas ablehnen. "Für ein technisches System ist das schwierig", sagt Hammer. "Kinder sagen ihre Meinung gerade heraus – zum Beispiel, dass sie etwas 'doof' finden." In einem solchen Falle müsse ein intelligentes System erkennen können, aus welchem Grund das Kind etwas ablehnt – dass es zum Beispiel Hörspiele nicht grundsätzlich 'doof' findet, sondern nur eine bestimmte Folge etwa zu langweilig. "Man kann das lösen, indem man ein System intelligent nachfragen lässt", sagt Barbara Hammer. "In diesem Falle eben in einer kindgerechten Sprache."

Anpassung ans Gegenüber

Die Frage, wie sich eine "gute" Beziehung zwischen Mensch und Maschine entwickeln kann, stellt sich auch bei älteren Menschen. Insbesondere bei jenen, die viel allein sind und sonst kaum mit jemanden sprechen. Bekannt ist, dass sich Menschen im Laufe eines Gesprächs an das Gegenüber anpassen – etwa indem sie Wortwahl, Sprachtempo oder Akzent übernehmen. Fachleute nennen das Alignment – Anpassung. "Wir gehen davon aus, dass es bei einer intensiven Kommunikation auch mit dem Sprachassistenten bereits nach kurzer Zeit zu einem Alignment kommt, indem sich der Mensch an die Befehlssprache anpasst oder in kürzeren einfachen Sätzen antwortet", sagt Nicole Krämer. Was jedoch langfristig passiert, ist noch unklar.

Key visual Themenschwerpunkt künstliche Intelligenz
Themenschwerpunkt "Künstliche Intelligenz und die Gesellschaft von morgen" der VolkswagenStiftung

Im Projekt werden zunächst Sprachassistenten eingesetzt. Später sollen dann virtuelle "Agenten" – Figuren auf einem Bildschirm – mit den Nutzern Kontakt aufnehmen. Das ist der Arbeitsschwerpunkt von Prof. Dr.-Ing. Stefan Kopp von der Universität Bielefeld; seine Sociable Agents Group war für das Bundesforschungsministerium an der Entwicklung des Avatars "Billie" beteiligt, der auch in diesem Projekt eingesetzt werden soll. Bislang antworteten solche Agenten nach starren Entscheidungsbäumen: nach einem Ja-Nein-Schema werden vorgefertigte Antworten gegeben. Im aktuellen Projekt soll der Avatar flexibler werden, indem er die Bedürfnisse der Nutzer kennenlernt. Er könnte künftig individuelle Freizeittipps geben, an Termine erinnern oder die Namen von Medikamenten nennen. 

Transparenz beim Datensammeln

Der dritte Hauptaspekt, die Transparenz, wird in dem Projekt anhand einer Gesundheits-App für Erwachsene untersucht. Die App wird die Nutzer bei der Behandlung von Rückenbeschwerden unterstützen, Tipps geben und den Trainingsverlauf kontrollieren. Zugleich erhält sie eine Schnittstelle, über die die gespeicherten Daten präsentiert werden. Das ist entscheidend, denn heutzutage sieht es meist anders aus: Websites sammeln unzählige Daten über die Nutzer, ohne dass sie das merken oder wissen, wie diese verarbeitet werden. 

Wir wollen weg von der Blackbox zu einem System, ... bei dem sich der Mensch im Umgang mit der Künstlichen Intelligenz wohl fühlt ...

Mithilfe der App soll unter anderem ermittelt werden, welche Daten die Menschen interessieren und wie man sie am besten aufbereitet. Es werden deshalb Funktionen eingebaut, die die Daten leicht verständlich erklären und darstellen. Wie detailliert und wie transparent dies sein soll, wird in verschiedenen Versionen durchgespielt. Da die Bedürfnisse der Menschen hier ganz unterschiedlich sind, ist das eine große Herausforderung. "Aus Voruntersuchungen wissen wir, dass manche Nutzer lieber gar nicht wissen wollen, was so alles über sie gespeichert ist", sagt Nicole Krämer. Andere erwarteten genauere Einblicke in die Daten. Die App müsse daher so gestaltet sein, dass sie sich den Bedürfnissen der Nutzer anpassen könne. Barbara Hammer ergänzt: "Wir wollen weg von der Blackbox zu einem System, das den Menschen mitnimmt, bei dem sich der Mensch im Umgang mit der Künstlichen Intelligenz wohl fühlt, bei dem er einen Mehrwert sieht. Und bei dem er vor allem auch die Hoheit über seine Daten behält."

Deshalb werden in dem Projekt auch Laien in die Weiterentwicklung der Forschungsfragen eingebunden, die über Zeitungsannoncen angeworben werden. In einem Ethik-Workshop können sie ihre Wünsche und Befürchtungen im Hinblick auf künftige Sprachassistenten und Dialogsysteme äußern. "Wir versprechen uns davon neue Perspektiven, an die wir als Experten vielleicht gar nicht denken", sagt Nicole Krämer. Und die Partizipation geht noch weiter. Die Workshop-Teilnehmer sollen auch Fragebögen für Interviews mit den Probanden entwickeln und gemeinsam mit dem Projektteam auswerten – auf dass am Ende tatsächlich die Grundlage für Sprachassistenten gelegt ist, die nicht nur eloquent und sicher sind, sondern von den Menschen als wirkliche Unterstützung akzeptiert werden.

 

Weitere Informationen zur Förderinitiative und über kommende Stichtage finden Sie unter "Künstliche Intelligenz – Ihre Auswirkungen auf die Gesellschaft von morgen".

Informationen zum Forschungsprojekt

Dem interdisziplinären Team des Projekts "The implications of conversing with intelligent machines in everyday life for people´s beliefs about algorithms, their communication behavior, and their relationship building" gehören neben Prof. Dr. Nicole Krämer, Prof. Dr. Barbara Hammer und Prof. Dr.-Ing. Stefan Kopp auch Prof. Dr. Arne Manzeschke, Evangelische Hochschule Nürnberg, Institut für Pflegeforschung, Gerontologie und Ethik, und Prof. Dr. Alexander Roßnagel, Universität Kassel, Institut für Wirtschaftsrecht, an. 

Das erste Policy Paper des Projektes finden Sie unter "KI-basierte Sprachassistenten im Alltag : Forschungsbedarf aus informatischer, psychologischer, ethischer und rechtlicher Sicht".

Alexa, willst du meine Frau werden? - Ein Gespräch über Sprachassistenten

Sprachassistenten geben längst nicht mehr nur Auskünfte über das Wetter oder lesen Nachrichten vor – sie werden zu Vertrauten. Ein Gespräch über neue Beziehungen mit James Vlahos, der selbst einen Chatbot programmiert hat, der wie sein verstorbener Vater spricht. Der Artikel "Alexa, willst du meine Frau werden?" ist im Wirtschaftsmagazin brand eins erschienen.