Anthropics KI-System Claude liest Bücher und lange Dokumente binnen Sekunden

Inhaltsverzeichnis

Das von OpenAI-Aussteigern gegründete KI-Forschungsunternehmen Anthropic hat den hauseigenen ChatGPT-Konkurrenten beschleunigt: Claude soll nun Dokumente und Bücher mit hunderten Seiten binnen weniger Sekunden verarbeiten und analyiseren können. Wie das Start-up in einem Blogeintrag mitteilt, hat es die Kontextlänge des KI-Chatbots auf 100.000 Token erweitert, was in der englischen Sprache ungefähr 75.000 Wörtern an Textumfang entspricht.

Das ist rund drei- bis zwölfmal so viel, wie OpenAIs KI-Systeme derzeit an Kontext bieten: Bei ChatGPT auf dem Sprachmodell GPT-4 ist die maximale Kontextlänge 32.000 Token (rund 24.000 Wörter), und auch dies nur in einer eingeschränkt zugänglichen Betaversion. Der Standardkontext umfasst bei OpenAI derzeit 8.000 Token (etwa 6.000 Wörter), bei Claude waren es vor dem Update 9.000 Token.

Die Unterhaltung mit Claude könne inzwischen ebenfalls länger geführt werden, "für Stunden oder gar Tage", teilt das Unternehmen mit. Eine durchschnittliche Person vermag Text im Umfang von 100.000 Token in etwa fünf Stunden zu lesen. Zum inhaltlichen Erfassen, Einprägen, Erinnern und Auswerten der darin enthaltenen Information bräuchten Menschen noch deutlich länger.

Finde den Fehler: Ein Machine-Learning-Forscher 1925?

Als Test hatte das Entwicklungsteam dem System einen Literaturklassiker zu lesen gegeben und vorab eine Zeile darin verändert (durch das Einführen eines Software-Ingenieurs, der im Bereich Machine Learning bei Anthropic arbeitet – diese Figur taucht im Original des 1925 veröffentlichten Romans "Der großen Gatsby" von F. Scott Fitzgerald natürlich nicht auf). Das Werk umfasst 72.000 Token, reicht daher schon nahe an die derzeitige Obergrenze des verarbeitbaren Textumfangs heran. Claude-Instant wurde mit dem Text beschickt und gefragt, was daran komisch sei. Das System soll nach 22 Sekunden die korrekte Antwort ausgegeben haben.

Weitere Aufgaben, für die Claude geeicht ist, sind der Informationsgewinn aus Geschäftsunterlagen, die Wissenssynthese über lange Textstrecken hinweg und auch das Zusammenführen unterschiedlicher Dokumente soll dabei kein Hindernis sein, wie das Team schreibt. Claude eigne sich als persönlicher Assistent und befolge beim Auswerten von Texten Anweisungen, wie es auch von anderen KI-Chatsystemen bekannt ist.

Kontextlänge reicht für sechs Stunden Audiomaterial

Die neue Kontextlänge entspricht laut Team etwa sechs Stunden an Audiomaterial, und das Anthropic-Team listet weitere Anwendungsbereiche auf wie das Zusammenfassen und Erklären inhaltlich dichter und umfangreicher Dokumente (etwa Forschungspaper und Finanzanalysen), das Analysieren von Geschäftsberichten auf strategische Geschäftsrisiken und -chancen, Pro- und Contraseite in juristischen Dokumenten.

Für Entwickler von besonderem Interesse: Claude soll "hunderte Seiten Developer-Dokumentation durchlesen" und auf technische Fragen zu den Dokumenten antworten können. Auch das rasche Entwerfen von Prototypen durch Eingabe einer kompletten Codebasis sei möglich und ließe sich von dort aus weiter bearbeiten und modifizieren. Zu Claude als Programmiergehilfen hat das Team ein Kurzvideo zusammengestellt, das die Analyse einer 240 Seiten langen API-Dokumentationn vorführt.

Der verlängerte Kontext ist laut Anbieter über die API zugänglich. Um darauf zuzugreifen, benötigt man ein zahlungspflichtiges Abo. Je nachdem, ob man schon Kunde ist oder nicht, gibt es zwei unterschiedliche Informationsseiten, die am Ende des Blogbeitrags verlinkt sind.

Über Anthropic

Das 2021 von dem OpenAI-Aussteiger Dario Amodei gegründete Start-up hatte binnen kurzer Zeit rund 700 Millionen US-Dollar an Wagniskapital eingesammelt (allein in der zweiten Runde kamen 580 Millionen US-Dollar an Forschungsgeldern zusammen). Geschäftsziel ist es laut eigenen Angaben, große KI-Sprachmodelle "hilfreicher und harmloser" zu machen sowie auf menschliche Ziele und Werte anzupassen (Alignment). Amodei und einige weitere Ex-OpenAI-Mitarbeiter sollen mit der veränderten Ausrichtung des zunehmend profitorientierten, ehemals gemeinnützigen KI-Forschungsunternehmens OpenAI nicht einverstanden gewesen sein und machten im neuen Unternehmen Sicherheit und Explainable AI zum Kernanliegen. Amodei war zuvor bei OpenAI leitend in der KI-Forschung tätig gewesen, sein rund 40-köpfiges Team strebt nach besserer Steuerbarkeit von KI-Modellen.

Im Februar 2023 gab Google eine engere Partnerschaft mit Anthropic bekannt. Google hatte 2022 bereits rund 300 Millionen US-Dollar investiert und dafür eine zehnprozentige Unternehmensbeteiligung erhalten. Laut damaliger Mitteilung wolle Google Claude stärker in die Suche integrieren (bei der Hauskonferenz Google I/O war der Name Claude nicht gefallen, allerdings hatten die Google-Referenten betont, dass die Suchfunktion nicht mit dem Chatsystem Bard kombiniert, aber sehr wohl um KI-Funktionen angereichert werde). Anfang April hatte Anthropic angekündigt, für 5 Milliarden US-Dollar GPT-4 aufholen zu wollen und "ein zehnmal so starkes Modell" zu erstellen. Zum Vergleich: Die Bundesrepublik Deutschland hat 2020 die für KI-Förderung geplanten Mittel in der KI-Strategie von drei auf fünf Milliarden Euro erhöht, für sämtliche Projekte und für die gesamte Laufzeit bis 2025.

(sih)