Wenn die Blackbox mit uns spricht

Sprachassistenten sind stark im Kommen, die Boxen stehen schon in vielen Haushalten. Noch sind die Dialoge mit den smarten Geräten oftmals holprig, weil sie mit vorgefertigten einprogrammierten Satzbausteinen antworten. Fachleute erwarten aber, dass diese Art der Kommunikation schon in wenigen Jahren unseren Alltag bestimmt – nicht nur zu Hause, auch im Auto oder am Arbeitsplatz. Nicht nur Experten stellen sich kritische Fragen: Wie ist sicherzustellen, dass die Inhalte aufgezeichneter Gespräche nicht missbraucht werden? Oder: Wie kann verhindert werden, dass etwa Kinder und Jugendliche zu viel von sich preisgeben?

Das Projekt soll auch Erkenntnisse für die Weiterentwicklung von Sprachassistenten liefern. Die Informatikerinnen und Informatiker im Team arbeiten an selbstlernenden Assistenten, die keine Standardantworten liefern, sondern den Nutzer nach und nach kennenlernen – und entsprechend seiner Vorlieben und Bedürfnisse antworten. Dazu sollen im Projekt maschinelle Lernverfahren zum Einsatz kommen, die in der Lage sind, Muster und Gesetzmäßigkeiten in gesprochener Sprache zu erkennen. Und die Juristen wollen dafür sorgen, dass die Technologien von vornherein alle Anforderungen zum Beispiel an den Datenschutz erfüllen. 

Forschungsdesign und Testumgebung

Für die Informatikerin Prof. Dr. Barbara Hammer von der Universität Bielefeld und ihre Arbeitsgruppe Maschinelles Lernen ist dieses Projekt besonders, weil es so umfassend ist. Nicht nur wegen des interdisziplinären Ansatzes, sondern auch, weil gleich drei Nutzergruppen einbezogen sind: Kinder, Menschen mittleren Alters und im Rentenalter. "Das bietet uns eine einzigartige Testumgebung, um neue Technologien umfassend zu prüfen, ehe sie später in die breite Anwendung kommen", sagt Barbara Hammer.

Den Projektbeteiligten geht es gemeinsam um drei Hauptaspekte: die Art der Kommunikation, die Beziehung des Menschen zur Maschine und die Frage, inwieweit transparent ist, wie oder warum eine Maschine eine bestimmte Antwort gibt. Je nach Altersgruppe und Nutzer wird ein anderer Schwerpunkt gesetzt.

"Kinder bauen schnell ein Verhältnis zu Dingen auf, wie etwa bei Kuscheltieren", erklärt Nicole Krämer. "Hier steht für uns die Frage der Beziehung im Vordergrund." Es wird untersucht, wie die Kommunikation zwischen Kind und Maschine abläuft, und zudem, ob sich das Verhalten auch im Umgang mit Menschen widerspiegelt. "In den USA hat man zum Beispiel festgestellt, dass Kinder, die es gewohnt sind, Sprachassistenten Befehle zu geben, verlernen 'bitte' und 'danke' zu sagen", sagt Krämer. Da viele Eltern ihren Kindern heute bereits einen smarten Lautsprecher ins Zimmer stellten, dränge sich die Frage auf, was das mit den Kindern mache.

Die Wissenschaftler wollen für eine ihrer Studien das Verhalten von 20 Kindern über mehrere Monate beobachten – bei Hausbesuchen, aber auch, indem sie deren Kommunikation mit der Kamera aufnehmen. Damit die Kinder tatsächlich des Öfteren mit den Geräten kommunizieren, entwickeln die Forscher Anreize, um diese in den Alltag der Kinder zu integrieren – etwa indem sich interessante Hörspiele abrufen lassen.

Barbara Hammer will die Chance auch nutzen, um dem Computer das Mitlernen in Echtzeit beizubringen. Das System soll nicht nur die Vorlieben der jungen Nutzer verstehen, sondern auch analysieren können, warum die Kinder etwas ablehnen. "Für ein technisches System ist das schwierig", sagt Hammer. "Kinder sagen ihre Meinung gerade heraus – zum Beispiel, dass sie etwas 'doof' finden." In einem solchen Falle müsse ein intelligentes System erkennen können, aus welchem Grund das Kind etwas ablehnt – dass es zum Beispiel Hörspiele nicht grundsätzlich 'doof' findet, sondern nur eine bestimmte Folge etwa zu langweilig. "Man kann das lösen, indem man ein System intelligent nachfragen lässt", sagt Barbara Hammer. "In diesem Falle eben in einer kindgerechten Sprache."

Anpassung ans Gegenüber

Die Frage, wie sich eine "gute" Beziehung zwischen Mensch und Maschine entwickeln kann, stellt sich auch bei älteren Menschen. Insbesondere bei jenen, die viel allein sind und sonst kaum mit jemanden sprechen. Bekannt ist, dass sich Menschen im Laufe eines Gesprächs an das Gegenüber anpassen – etwa indem sie Wortwahl, Sprachtempo oder Akzent übernehmen. Fachleute nennen das Alignment – Anpassung. "Wir gehen davon aus, dass es bei einer intensiven Kommunikation auch mit dem Sprachassistenten bereits nach kurzer Zeit zu einem Alignment kommt, indem sich der Mensch an die Befehlssprache anpasst oder in kürzeren einfachen Sätzen antwortet", sagt Nicole Krämer. Was jedoch langfristig passiert, ist noch unklar.

Im Projekt werden zunächst Sprachassistenten eingesetzt. Später sollen dann virtuelle "Agenten" – Figuren auf einem Bildschirm – mit den Nutzern Kontakt aufnehmen. Das ist der Arbeitsschwerpunkt von Prof. Dr.-Ing. Stefan Kopp von der Universität Bielefeld; seine Sociable Agents Group war für das Bundesforschungsministerium an der Entwicklung des Avatars "Billie" beteiligt, der auch in diesem Projekt eingesetzt werden soll. Bislang antworteten solche Agenten nach starren Entscheidungsbäumen: nach einem Ja-Nein-Schema werden vorgefertigte Antworten gegeben. Im aktuellen Projekt soll der Avatar flexibler werden, indem er die Bedürfnisse der Nutzer kennenlernt. Er könnte künftig individuelle Freizeittipps geben, an Termine erinnern oder die Namen von Medikamenten nennen. 

Transparenz beim Datensammeln

Der dritte Hauptaspekt, die Transparenz, wird in dem Projekt anhand einer Gesundheits-App für Erwachsene untersucht. Die App wird die Nutzer bei der Behandlung von Rückenbeschwerden unterstützen, Tipps geben und den Trainingsverlauf kontrollieren. Zugleich erhält sie eine Schnittstelle, über die die gespeicherten Daten präsentiert werden. Das ist entscheidend, denn heutzutage sieht es meist anders aus: Websites sammeln unzählige Daten über die Nutzer, ohne dass sie das merken oder wissen, wie diese verarbeitet werden. 

Mithilfe der App soll unter anderem ermittelt werden, welche Daten die Menschen interessieren und wie man sie am besten aufbereitet. Es werden deshalb Funktionen eingebaut, die die Daten leicht verständlich erklären und darstellen. Wie detailliert und wie transparent dies sein soll, wird in verschiedenen Versionen durchgespielt. Da die Bedürfnisse der Menschen hier ganz unterschiedlich sind, ist das eine große Herausforderung. "Aus Voruntersuchungen wissen wir, dass manche Nutzer lieber gar nicht wissen wollen, was so alles über sie gespeichert ist", sagt Nicole Krämer. Andere erwarteten genauere Einblicke in die Daten. Die App müsse daher so gestaltet sein, dass sie sich den Bedürfnissen der Nutzer anpassen könne. Barbara Hammer ergänzt: "Wir wollen weg von der Blackbox zu einem System, das den Menschen mitnimmt, bei dem sich der Mensch im Umgang mit der Künstlichen Intelligenz wohl fühlt, bei dem er einen Mehrwert sieht. Und bei dem er vor allem auch die Hoheit über seine Daten behält."

Deshalb werden in dem Projekt auch Laien in die Weiterentwicklung der Forschungsfragen eingebunden, die über Zeitungsannoncen angeworben werden. In einem Ethik-Workshop können sie ihre Wünsche und Befürchtungen im Hinblick auf künftige Sprachassistenten und Dialogsysteme äußern. "Wir versprechen uns davon neue Perspektiven, an die wir als Experten vielleicht gar nicht denken", sagt Nicole Krämer. Und die Partizipation geht noch weiter. Die Workshop-Teilnehmer sollen auch Fragebögen für Interviews mit den Probanden entwickeln und gemeinsam mit dem Projektteam auswerten – auf dass am Ende tatsächlich die Grundlage für Sprachassistenten gelegt ist, die nicht nur eloquent und sicher sind, sondern von den Menschen als wirkliche Unterstützung akzeptiert werden.