Seite 2: "Halluzinationen sind ein noch ungelöstes Problem"

Inhaltsverzeichnis

Wenn einige dieser Versionen auf den Markt kommen und die Leute anfangen, in der realen Welt damit herumzubasteln, dann werden diese Versionen Halluzinationen haben oder einige der privaten Daten preisgeben, auf die ihre Modelle trainiert sind. Die Frage ist, inwieweit das angesichts der Trainingsdaten der Technologie inhärent ist, ob es also unvermeidlich ist. Wenn ja, wie versuchen Sie das zu begrenzen?

Sie haben Recht. Dies sind alles aktive Forschungsbereiche. Tatsächlich haben wir gerade einen Fachartikel veröffentlicht, der zeigt, wie diese Modelle durch eine Reihe von Aufforderungen Trainingsdaten offenlegen können. Halluzinationen sind ein noch ungelöstes Problem. Ich denke, wir machen alle Fortschritte, und es gibt noch viel zu tun.

Es gibt einige grundlegende Beschränkungen, die wir überwinden müssen. Ein Beispiel dafür ist Gemini Ultra. Wir arbeiten aktiv an diesen Modellen mit externen Dritten, die auf diese Dinge spezialisiert sind. In Bereichen wie der Multimodalität wollen wir mutig, und auch verantwortungsbewusst sein. Wir werden bei der Einführung multimodaler Systeme vorsichtiger sein, weil die Gefahr von Fehlanwendungen größer ist.

Aber Sie haben insofern Recht, als es sich immer noch um eine Technologie handelt, die sich in der Entwicklung befindet, weshalb sie nicht für alles sinnvoll sein wird. Deshalb gehen wir bei der Suche vorsichtiger damit um, wie wir sie einsetzen, und wann und was wir wo einsetzen und wann wir sie triggern. Sie haben erstaunliche Möglichkeiten, aber auch deutliche Schwächen. Das ist die harte Arbeit, die vor uns allen liegt.

Glauben Sie, dass dieses Problem letztendlich gelöst werden kann – die Halluzinationen oder die Aufdeckung von Trainingsdaten?

Mit der aktuellen Technologie der autoregressiven LLMs [Large Langue Models] sind Halluzinationen kein gelöstes Problem. Aber künftige KI-Systeme sehen vielleicht nicht so aus wie unsere heutigen. Dies ist nur eine Version der Technologie. Es ist wie damals, als die Leute dachten, dass man keinen Computer in die Tasche stecken kann. Es gab Leute, die vor 20 Jahren sehr eigensinnig waren.

So ähnlich ist es, wenn man diese Systeme betrachtet und sagt, dass man keine besseren Systeme entwickeln kann. Diese Ansicht teile ich nicht. Es gibt bereits viele Forschungsarbeiten, die sich mit der Frage beschäftigen, wie man diese Probleme anders lösen kann.

Sie haben davon gesprochen, wie tiefgreifend dieser Wandel ist. Bei einigen der letzten Umstellungen, etwa auf mobile Geräte, hat sich die Produktivität nicht unbedingt erhöht, sondern stagnierte lange Zeit. Man kann sogar argumentieren, dass sie die Einkommensungleichheit noch verschlimmert haben könnte. Was unternimmt Google, um sicherzustellen, dass diese Umstellung für die Gesellschaft von größerem Nutzen ist?

Das ist eine sehr wichtige Frage. Ich denke darüber auf mehreren Ebenen nach. Eine Sache, auf die wir uns bei Google schon immer konzentriert haben, ist: Wie können wir den Zugang zu Technologien so weit wie möglich verbreiten? Ich würde sagen, dass selbst im Fall von Mobiltelefonen und der Arbeit, die wir mit Android leisten, Hunderte von Millionen Menschen sonst keinen Zugang zu Computern gehabt hätten.

Wir arbeiten hart daran, ein erschwingliches Smartphone zu entwickeln, vielleicht für unter 50 Dollar. Der Rahmen, über den ich nachdenke, besteht also darin, KI für jedermann nutzbar zu machen. Wir versuchen, so vielen Menschen wie möglich den Zugang zu ermöglichen. Ich denke, das ist ein Teil des Ganzen.

Wir denken auch intensiv darüber nach, sie auf Anwendungsfälle anzuwenden, die den Menschen zugutekommen können. So haben wir zum Beispiel schon früh mit der Hochwasservorhersage begonnen, weil wir erkannt haben, dass KI hier Muster erkennen kann, und das auch noch gut.

Wir nutzen KI, um 1.000 Sprachen zu übersetzen. Wir versuchen jetzt buchstäblich, Inhalte in Sprachen zu bringen, zu denen man sonst keinen Zugang gehabt hätte. Das löst nicht alle Probleme, die Sie ansprechen. Aber man sollte sich genau überlegen, wann und wo man sich auf welche Art von Problemen konzentriert – darauf haben wir uns immer konzentriert.

Nehmen Sie Anwendungen wie AlphaFold [für die Vorhersage der 3D-Struktur von Proteinen]. Wir haben [auch] eine offene Datenbank für Viren überall auf der Welt bereitgestellt. Aber: Wer nutzt sie zuerst? Wo wird sie verkauft? KI wird nicht auf magische Weise die Dinge bei einigen der schwierigeren Themen wie Ungleichheit verbessern; sie könnte sie sogar noch verschärfen.

Wichtig ist jedoch, dass man dafür sorgt, dass die Technologie für alle zugänglich ist. Man muss sie frühzeitig entwickeln und den Menschen zugänglich machen, damit die Gesellschaft über sie nachdenken und sich darauf einstellen kann.

Bei dieser Technologie haben wir definitiv früher als bei anderen Technologien mitgemacht. Denken Sie an das jüngste britische KI-Sicherheitsforum oder die Arbeit in den USA mit dem Kongress und der Regierung. Wir versuchen, mehr öffentlich-private Partnerschaften einzugehen und gemeinnützige und akademische Einrichtungen früher einzubeziehen.

Die Auswirkungen auf Bereiche wie Arbeitsplätze müssen noch eingehend untersucht werden. Aber ich glaube, dass es überraschende positive externe Effekte, aber auch negative externe Effekte geben wird. Die Lösung der negativen externen Effekte übersteigt die Möglichkeiten eines einzelnen Unternehmens. Es ist die Aufgabe aller Beteiligten in der Gesellschaft. Ich habe also keine einfachen Antworten darauf.

Ich kann Ihnen viele Beispiele für die Vorteile nennen, die der Mobilfunk bringt. Ich denke, das wird auch hier der Fall sein. Wir haben es bereits in Bereichen wie die diabetische Retinopathie gezeigt. In vielen Teilen der Welt gibt es einfach nicht genug Ärzte, um sie zu erkennen.

Genauso wie ich denke, dass es einen positiven Unterschied gemacht hat, Menschen überall auf der Welt Zugang zur Google-Suche zu geben. Ich denke, so muss man über die Erweiterung des Zugangs zu KI denken.