KI-Sicherheit: Anthropic erhält 580 Millionen US-Dollar Forschungsgelder

Inhaltsverzeichnis

Anthropic hat über eine halbe Milliarde Euro an Finanzierung erhalten – eine gewaltige Summe für ein KI-Unternehmen, das erst seit rund einem Jahr existiert. Künstliche Intelligenz sicherer zu machen ist das Geschäftsanliegen: Das Ziel sind laut Anthropic-Website steuerbare, erklärbare und widerstandsfähige KI-Systeme, die menschliche Werte und Bedürfnisse berücksichtigen – gemeint ist das Alignment für den kontrollierbaren Einsatz als Assistenz für die Menschen. Dabei geht es primär um Explainable AI, also um die Erklärbarkeit und Nachvollziehbarkeit von KI, und um Techniken, die große KI-Sprachmodelle laut Anbieter "hilfreicher und harmloser" (aligned) machen sollen.

Explainable AI als Grundlage für KI-Sicherheit

Das Verhalten großer Modelle beim Matching von Mustern zur Vorhersage steht bis heute oft in der Kritik, da die Datengrundlage und verschiedene darin enthaltene Gewichtungen mitunter stärkere Verzerrungen (Bias) enthalten und im Praxiseinsatz ohne weitere Berücksichtigung möglicherweise zu unfairem Verhalten des smarten Automaten oder einer auf ihm basierenden Anwendung führen würden. Offensichtlich haben auch die Investoren im Falle von Anthropic die Relevanz und die Notwendigkeit von Explainable AI auf dem Radar und zeigen durch ihre Investition, dass sie dem Anbieter auf dem Gebiet der KI-Sicherheit einiges zutrauen.

Anthropic: Unternehmen und Fokus

Hinter Anthropic steht als Mitgründer und CEO Dario Amodei, der zuvor bei OpenAI in leitender Stellung für KI-Forschung zuständig war. Amodeis Start-up sitzt in San Francisco und besteht zurzeit aus einem Team von rund 40 Mitarbeitern. Ende Mai 2021 hatte es in der ersten Finanzierungsrunde bereits 124 Millionen US-Dollar erhalten und verfügt nun insgesamt über ein Wagniskapital von 704 Millionen US-Dollar. Auf die Frage, was Anthropic als Nächstes vorhabe, erklärte der CEO, dass er und sein Team sich primär auf die Skalierungseigenschaften großer Machine-Learning-Systeme konzentrieren wollen.

Er und sein Team wollen nachvollziehbar machen, auf welche Weise Sicherheitsprobleme bei großen neuronalen Netzen (im Milliarden-Parameter-Bereich) entstehen können. "Erste große Fortschritte haben wir beim Verständnis und bei der Steuerung des Verhaltens von KI-Systemen gemacht", teilt Co-Founderin Daniela Amodei im Firmenblog mit – sie vertritt das Unternehmen als dessen President nach außen.

Hinweise zur aktuellen Finanzierungsrunde

Es sind nicht die üblichen Deep-Tech-Geldgeber, die hinter der aktuellen Serie-B-Finanzierungsrunde für Anthropic stehen. Beteiligt haben sich unter anderem Sam Bankman-Fried, CEO einer auf den Bahamas ansässigen Handelsplattform für Kryptowährungen namens FTX. Auch Nishad Singh, der leitende Entwickler dieser Plattform, steigt ein. Zudem beteiligten sich an der Finanzierungsrunde die Investorin und CEO von Alamada Research Caroline Ellison und der estnische Programmierer und Investor Jaan Tallinn, der unter anderem als Entwickler von Skype bekannt ist und in DeepMind investiert hatte, sowie das Center for Emerging Risk Research (CERR).

Mehr Informationen zu den beiden Finanzierungsrunden lassen sich dem Blog auf der Anthropic-Website entnehmen. Dort finden sich auch Forschungsbeiträge von Anthropic-Mitarbeitern, die unter anderem zu Assistenzsystemen und dem Alignment von KI publiziert haben.

(sih)