Undurchschaubare Software-Butler

Elektronik, die einem die Wünsche von den Augen abliest – ist dies eher ein Versprechen oder eine Drohung?

Auf der Consumer Electronic Show in Las Vegas hat Daimler ein System namens „Predictive User Experience“ vorgestellt, andere Hersteller haben ähnliche Ideen. Noch sind diese eher Gedankenspiele als Prototypen, aber sie haben schon zu engagierten Diskussionen mit Kollegen geführt. Daimlers System soll „Wünsche, Stimmungen und Vorlieben von Fahrer und Mitfahrer erkennen und proaktiv die nächsten Bedienschritte vorhersehen“. Konkret sieht das etwa so aus: Ist es frühmorgens an einem Wochentag und merkt das Auto, dass Kinder an Bord sind, stellt es automatisch die Kita als Ziel im Navi ein und bespielt die hinteren Bildschirme mit irgendwas kindgerechtem; geht der Sprit zur Neige, empfiehlt es selbstständig die nächste Tankstelle; detektiert es anhand ruppiger Lenkbewegungen eine gewisse Gereiztheit des Fahrers, legt es beruhigende Musik auf; kommt der Fahrer an seinem Lieblings-Supermarkt vorbei, macht es ihn auf aktuelle Sonderangebote aufmerksam. Je nachdem, wie sicher sich der Algorithmus ist, setzt er diese Aktionen direkt um oder schlägt sie als Option vor. Je länger die Software ihren Nutzer kennt, desto besser sollen die Vorschläge werden.

Das hätte schon einen gewissen Charme. Schon lange wünsche ich mir beispielsweise von Windows, dass es sich meine bevorzugten Ordner- Einstellungen merkt: Solange ich für das Februar-Heft arbeite, ist alles Material im Februar-Ordner, und dort hätte ich gerne immer die Detailansicht, chronologisch geordnet. So etwas zu programmieren kann ja nicht so schwer sein. Trotzdem kommt jede Anwendung wieder mit neuen Start-Ordnern und Ansichten daher.

Dennoch gruselt es mich bei der Vorstellung, Autos und andere Elektronikgeräte könnten sich künftig in vorauseilendem Gehorsam üben. Amazon-Vorschläge und Google-Werbung sind ja schon schlimm: Einmal die berühmte Rheumadecke für Oma gekauft, und schon ist man im Visier sämtlicher Rheumadeckenhändler dieses Planeten; einmal nach einem Hotel in Rom gegoogelt, und man wird noch ein halbes Jahr später mit Hotelvorschlägen traktiert.

Automatismen nehmen mir auf der einen Seite zwar mentale Arbeit ab, halsen mir aber auch zusätzliche auf. Beim Fotografieren etwa gab es früher Blende, Zeit, Fokus, und gut war’s. Heute habe ich ein Dutzend Motivprogramme, die jeweils diverse Einstellungen für Weißabgleich, Rauschunterdrückung, Serienbilder, Messverfahren und Fokus-Regelungen miteinander verknüpfen. Meistens funktioniert das gut – trotzdem muss ich immer im Hinterkopf haben, welches Motivprogramm ich gerade gewählt habe, und was es tut oder auch nicht. Schaltet sich nun der Blitz nicht zu, weil es die Kamera-Software nicht für nötig hält? Oder ist in diesem Programm ein Blitz gar nicht vorgesehen? Kann ich ihn überhaupt manuell aktivieren oder muss ich dazu das Programm wechseln?

Ein anderes Beispiel sind Navigationsgeräte. Ich nutze gerne die Einstellung „kürzeste Strecke“, weil ich so meist über hübsche Landstraßen geroutet werde. Dabei muss ich aber ständig aufpassen, mich nicht mitten durch Ortskerne schicken zu lassen, obwohl es auch eine Umgehungsstraße gäbe. Wenn ich mit dem Fahrrad unterwegs bin, nutzt es mir wenig, einfach den Fahrrad-Modus zu aktivieren, wenn ich gleichzeitig eine Karte geladen habe, die kaum einen Radweg kennt. Ich muss also immer mitdenken, was das Gerät weshalb gerade tut.

Nun könnte man erwidern, dass dies eben noch sehr grobschlächtige Algorithmen seien, künftige Generationen seien wesentlich schlauer. Doch auch dann wird es eine gute Idee bleiben, sein Misstrauen gegenüber der Software stets nachzujustieren. Denn die Empfehlungen sind ja nicht unbedingt interessensneutral beziehungsweise in meinem Interesse. Empfiehlt mir mein Wagen tatsächlich diese Tankstelle, weil sie die nächste und günstigste ist? Oder weil ein Vertragspartner dahinter steht?

Je komplexer und ausgereifter solche Software-Butler werden, desto schwieriger ist es zu durchschauen, was sie gerade aus welchem Grund tun. Und desto größer ist andererseits die Versuchung, sich ihnen bequemlichkeitshalber einfach willenlos anzuvertrauen. Insofern machen mir gute Algorithmen mehr Sorgen als schlechte. (grh)