Schlüsselfertige KI: Den Kunden besser verstehen

Richard Socher hat nach seiner Promotion am Stanford Institute die Firma MetaMind gegründet, die Methoden zur Verarbeitung natürlicher Sprache entwickelt. Seit 2016 gehört MetaMind zum CRM-Softwarehaus Salesforce. Dort arbeitet Socher als Chief Scientist unter anderem an der KI-Engine Einstein. Für deren Nutzung hat Salesforce jüngst einige Dienste auf seiner Entwicklerkonferenz TrailHeaDX vorgestellt.

c't: Herr Socher, darf man Sie als den Ziehvater von Salesforce Einstein betrachten?

Richard Socher: Meine Firma MetaMind hat viel dazu beigetragen, aber das war eine organische Entwicklung, die schon zwei Jahre, bevor wir von Salesforce gekauft worden sind, dort begonnen hat. Man hat damals traditionelles Machine Learning auch innerhalb von Salesforce benutzt. MetaMind hat dann Deep Learning zu Salesforce gebracht, insbesondere für Spracherkennung, Sprachverarbeitung und Computer Vision.

c't: Woran arbeiten Sie derzeit und was planen Sie für die Zukunft?

Socher: Wir haben aktuell Dienste zur Bildklassifizierung herausgebracht, außerdem einen Sentiment-Klassifizierer, der positive, neutrale oder negative Stimmungen erkennt, und eine Intent-Klassifizierung, die zum Beispiel eine Service-Anfrage oder eine Rechnungsfrage erkennt. Das hilft Mitarbeitern im Marketing oder Support.

In unserer Forschungsgruppe machen wir Grundlagenforschung und arbeiten zum Beispiel am Stanford Question Answering Dataset (ein Testdatensatz zum Textverständnis, Anm. d. Red.). Ich glaube, das Problem, Fragen zu beantworten, ist ein ganz allgemeines, interessantes Forschungsgebiet. Kunden reden in natürlicher Sprache mit Firmen, etwa über Produkte. Sie freuen sich oder sie ärgern sich, wenn etwas nicht läuft.

c't: Kann da nicht Unfug herauskommen, wenn Sie Leuten ohne passende Vorbildung so mächtige Funktionen wie die Nutzung neuronaler Netze ermöglichen?

Socher: Es gibt auf jeden Fall komplexe Themen, bei denen man sich weiterbilden muss, bevor man bestimmte Algorithmen benutzen kann. Wir haben eine Philosophie mit drei Stufen. Wir fangen mit sogenannten Package Apps an. Das sind Anwendungen, die funktionieren, ohne dass man groß etwas modifizieren müsste. Zum Beispiel haben wir sogenanntes Lead Scoring: Nehmen wir an, ich habe 5.000 Kunden, denen ich heute eine E-Mail schicken könnte. Die Frage ist jetzt vor dem Hintergrund aller Mails, die hin- und hergelaufen sind, und anderer Fakten – auf welche zehn Leute sollte ich mich heute konzentrieren, die auch wirklich mein Produkt kaufen wollen?

Wenn alle Daten schon im CRM-System drin sind, wird das super einfach. Da reicht es ungelogen, auf einen Knopf zu drücken, und dann bereitet der Rechner im Hintergrund alles automatisch auf. Am Ende muss man nur eine neue Tabellenspalte sortieren – zack stehen die aussichtsreichsten zehn Kundenkontakte an der Spitze.

Nun sagen alle großen Firmen, "Wir haben spezielle Prozesse, Felder und Objekte in unseer Datenbank". Dementsprechend wollen sie die Inhalte, die der Algorithmus zum Trainieren benutzt, modifizieren. Da beginnt die zweite Stufe, die Modifizierung der Algorithmen aufgrund interner Prozesse. In der dritten Stufe will ich vielleicht meinen eigenen Klassifizierer bauen, der auf irgendwelchen anderen Spalten in der Firmendatenbank aufbaut.

Wir überlegen uns natürlich auch, wie wir Leute weiterbilden können, damit ein Administrator nicht unbedingt lernen muss, wie sich ein neuronales Netz mit Stochastic Gradient Descent aktualisiert, aber schon versteht, wie man die Algorithmen bewerten und die Resultate interpretieren kann. An solchen Weiterbildungsaufgaben arbeiten wir mit unserem Lernprogramm TrailHead. An zweiter Stelle wird es gut sein, wenn alle Firmen einen Chief Data Officer und eine Gruppe von Data Scientists beschäftigen.

c't: Sie sehen diese Data Scientists also als Stabsstellen, die Expertenwissen für andere Abteilungen bereitstellen?

Socher: Auf jeden Fall!

c't: Wie muss man die Risiken einer Technik wie KI beurteilen? Was gibt es an Kontrollmöglichkeiten?

Socher: Es gibt keine allgemeine Technik der Qualitätssicherung für KI-Algorithmen. Da müssen wir konkret schauen, worum es jeweils geht, etwa um Spracherkennung oder Bilderkennung. In der Bilderkennung kann man schon analysieren, worauf zum Beispiel ein Convolutional Neural Network achtet, wenn es ein Bild anschaut.

Außerdem muss man wie bei anderen Techniken kontinuierliche Qualitätskontrollen durchführen. Wenn ein künftiger Algorithmus etwa Mail-Anfragen automatisch beantwortet, wird man regelmäßig bei einem Teil dieser Antworten prüfen müssen, ob noch alles im Lot ist.

c't: Wie lange muss man nach Ihrer Einschätzung warten, bis ein Salesforce-Dienst zum Beispiel konkret vorschlägt, ein bestimmtes Produkt weiterzuentwickeln oder einzustellen?

Socher: Darauf müssen wir noch eine Weile warten, denn die Trainingsdaten für solche Probleme sind schwierig zu sammeln. (hps)