KI-Konferenz AAMAS: Mit Warmherzigkeit und Ironie gelingt der Roboter-Dialog
Zur besseren Kommunikation sollten Roboter menschliche Züge haben. In der Betreuung sollen sie warmherzig sein, aber ein Schuss Ironie darf auch nicht fehlen.
(Bild: Hannes Ritschel / Universität Augsburg)
Auf der KI-Konferenz AAMAS wurde am Mittwoch viel über Sprechen gesprochen. Dieser vielleicht wichtigste Kommunikationskanal, über den sich Menschen untereinander verständigen, soll auch für den Kontakt mit Robotern und virtuellen Agenten genutzt werden und zwar auf ähnlich vielfältige Weise: mit Warmherzigkeit, Einfühlungsvermögen, Ironie, zugleich aber auch effizient, mit nicht zu vielen Worten.
Das klingt schwierig und ist es auch. So räumte Mark Ligthart (University of Amsterdam) gleich zu Beginn seines Vortrags über Roboter, die krebskranken Kindern zur Seite stehen sollen, ein, dass die Intelligenz heutiger Roboter noch nicht ausreiche, um die dafür erforderliche langfristige Bindung aufzubauen. Aber irgendwo müsse man ja anfangen, sagte er, und das sei in diesem Fall der Moment des Kennenlernens. Menschen machten sich auf sehr unstrukturierte Weise miteinander bekannt, dabei ginge es aber immer auch darum, etwas von sich preiszugeben.
In der Studie, über die er auf der AAMAS (Autonomous Agents and Multiagent Systems) in Montréal berichtete, hätte sein Forschungsteam daher untersucht, wie ein Roboter ein Kind im Dialog dazu ermuntern kann, von sich zu erzählen. Ein solcher Dialog bewege sich beim gegenwärtigen Stand der Spracherkennung natürlich in engen Grenzen, so Ligthart. Eine Kombination aus offenen und geschlossenen Fragen habe sich gleichwohl als hilfreich erwiesen, um das Kennenlernen in Gang zu bringen.
Warmherzige Roboter
Selbstverständlich soll so ein Roboter nicht die Betreuung durch Menschen ersetzen. Ligthart wies aber darauf hin, dass es im Verlauf einer Krebstherapie Situationen gebe, etwa während Strahlenbehandlungen, bei denen Angehörige die Kinder nicht begleiten können. Insbesondere in solchen Momenten könne ein Roboter Unterstützung bieten. Wenn er dann in der kühlen Klinikumgebung etwas emotionale Wärme spenden könnte, wäre das noch schöner.
Warmherzige Agenten werden von menschlichen Gesprächspartnern jedenfalls geschätzt, berichtete Joost Broekens (TU Delft). Das habe ein Experiment ergeben, bei dem die Teilnehmer mit einem virtuellen Verkäufer über den Preis für ein Mobiltelefon verhandeln sollten. Dabei gab es einen kühler agierenden Agenten und einen wärmeren. Letzterer zeichnete sich durch offenere Gesten aus, kontinuierlichen Blickkontakt und ein angedeutetes Lächeln. Außerdem stellte er mehr Fragen und war leicht blau gefärbt. Das Gespräch mit dem wärmeren Agenten sei von den Versuchspersonen als angenehmer empfunden worden, sagte Broekens. Das Ergebnis der Verhandlungen sei dadurch aber nicht beeinflusst worden. Gleichwohl sei es eine offene Frage, ob und wie verhindert werden könne, dass solche Verfahren genutzt werden, um Kunden zum Kauf zu überreden.
Sich selbst erklärende KI
"Intelligenz ist die ultimative Dual-Use-Technik", hatte zuvor schon Subbarao Kambhampati (Arizona State University) am Ende seiner Keynote zur Eröffnung der Konferenz festgestellt. Mit ihr ließen sich gleichermaßen gute und böse Ziele verfolgen. Er hatte sich in seinem Vortrag mit der Forderung beschäftigt, dass künstliche Agenten ihr Verhalten erklären können sollten. Dafür benötigten sie nicht nur ein Modell von ihrer Umgebung, sondern auch ein Modell vom Menschen und dessen Vorstellungen. Nur dann könne etwa ein Roboter erkennen, ob sein Plan zur Lösung einer Aufgabe mit den Erwartungen des Menschen übereinstimmt, und könne entscheiden, ob der den Plan ändert oder sein Verhalten erklärt.
Unter dem Kürzel "XAI" sei sich selbst erklärende Künstliche Intelligenz (KI) zu einem heißen Thema geworden, sagte Kambhampati, aber niemand wolle Agenten, die ständig darüber reden, was sie gerade tun und warum. Um hier die richtige Balance zu finden, sei auf Seiten des Agenten ausreichende Menschenkenntnis nötig – die aber natürlich auch genutzt werden könne, um zu täuschen und zu lügen.
Seinen Vortrag beendete Kambhampati mit einem Zitat des Schriftstellers Kurt Vonnegut, wonach die Erde ein Paradies für Ingenieure sein könnte, wären da nicht die Menschen, die mit den Maschinen nicht umgehen können. Dazu bemerkte Kambhampati: "Aber einige unserer besten Freunde sind Menschen."
Ironische Roboter
Ironie ist eine Würze im Gespräch, die nicht nur den zwischenmenschlichen Kontakt bereichern kann, sondern auch den zwischen Mensch und Roboter. Das ist jedenfalls der Leitgedanke von Forschungen an der Universität Augsburg, von denen Hannes Ritschel berichtete.
Empfohlener redaktioneller Inhalt
Mit Ihrer Zustimmmung wird hier ein externes Video (Kaltura Inc.) geladen.
Ich bin damit einverstanden, dass mir externe Inhalte angezeigt werden. Damit können personenbezogene Daten an Drittplattformen (Kaltura Inc.) übermittelt werden. Mehr dazu in unserer Datenschutzerklärung.
In einer kleinen Studie mit zwölf Teilnehmern wurde getestet, inwieweit ironische Bemerkungen im Mensch-Roboter-Dialog als angenehm empfunden werden oder nicht. Die Forscher nutzten dafür den Roboter Reeti, der auch über mimische Ausdrucksmöglichkeiten verfügt. Um Ironie in den Dialog einzufügen, wurden zunächst polarisierende Begriffe im Text identifiziert und gegebenenfalls durch ihr Gegenteil ersetzt. Hinzu kamen Übertreibungen, Ausrufe, Änderungen in Tonhöhe und Sprachrhythmus sowie mimische Gesten, um die ironische Absicht zu unterstreichen.
Roboter Reeti alias "Irony Man" (4 Bilder)
Die Mehrheit der Versuchsteilnehmer bevorzugte den ironischen Roboter – den "Irony Man", der mit dieser Anspielung auf einen der ersten Rock-Songs, der Roboter thematisierte, einen Hauch von Heavy Metal durch die Räume der Concordia University schweben ließ. "Now, the time is here / For Iron Man to spread fear", heißt es darin. Ist natürlich reine Ironie. (olb)
