KI-Update kompakt: Secure by Design, Russland, Inflection-2, Step-Back-Prompting
Das "KI-Update" liefert werktäglich eine Zusammenfassung der wichtigsten KI-Entwicklungen.
Künstliche Intelligenz könnte den Fachkräftemangel in Deutschland lindern, meinen Unternehmensberater. Derweil befassten sich Regierungen damit, Richtlinien für eine sichere KI zu erarbeiten. Nicht dabei: Russlands Präsident, der hat seine eigenen Pläne. Dies und mehr im neuen KI-Update.
18 Länder unterzeichnen "Secure by Design"-Richtlinien für KI-Systeme
18 Länder, einschließlich Deutschland, haben neue Richtlinien für die Entwicklung sicherer KI-Systeme unterzeichnet. Die "Guidelines for Secure AI System Development" wurden hauptsächlich von Großbritannien, den USA und Vertretern anderer Regierungen sowie der Privatwirtschaft ausgearbeitet und basieren auf den Ergebnissen des UK Safety Summit. Die Richtlinien sind nicht bindend und haben eher empfehlenden Charakter, sollen aber dennoch einen gemeinsamen Weg und eine gemeinsame Ausrichtung fördern. Sie betreffen alle KI-Anwendungen, auch solche, die auf KI-Systemen aufbauen, etwa GPT-Modelle oder Plugins.
Der Schwerpunkt der Richtlinien liegt auf Cybersicherheit und dem Prinzip "Security by Design", bei dem Systeme von Grund auf sicher konzipiert und entwickelt werden sollen. Eine offizielle Veranstaltung zur Vorstellung der Vereinbarung ist für Montagnachmittag geplant. Daran nehmen auch Unternehmen wie Microsoft teil.
Putin plant ehrgeizige KI-Strategie für Russland
Russlands Präsident Wladimir Putin will sein Land zu einer führenden KI-Macht entwickeln. Bei einer KI-Konferenz in Moskau betonte er die Wichtigkeit, dem Westen nicht das Monopol in diesem Bereich zu überlassen.
Empfohlener redaktioneller Inhalt
Mit Ihrer Zustimmmung wird hier ein externer Podcast (Podigee GmbH) geladen.
Ich bin damit einverstanden, dass mir externe Inhalte angezeigt werden. Damit können personenbezogene Daten an Drittplattformen (Podigee GmbH) übermittelt werden. Mehr dazu in unserer Datenschutzerklärung.
Laut Reuters kündigte Putin "eine ehrgeizige russische Strategie" für die KI-Entwicklung an und argumentierte, dass ein Verbot der Technologie aufgrund von ethischen und sozialen Bedenken nicht möglich sei. Er warnte davor, dass Russland zurückfallen würde, sollte es KI-Technologien verbieten.
Putin kritisierte, dass einige westliche Suchmaschinen und generative Modelle die russische Sprache und Kultur ignorieren oder sogar eliminieren würden. Er kündigte eine Ausweitung der Grundlagen- und angewandten Forschung in den Bereichen generative KI und große Sprachmodelle an.
Russischen Forschern soll ein besserer Zugang zu Supercomputern ermöglicht werden, deren Kapazitäten laut Putin erheblich erhöht werden müssten. Zusätzlich soll die wissenschaftliche Ausbildung im Bereich KI verbessert werden.
Graphcore zieht sich aus China zurück
Der britische KI-Chiphersteller Graphcore zieht sich aufgrund neuer US-Exportbestimmungen aus China zurück und streicht dabei eine unbekannte Anzahl von Arbeitsplätzen.
Das Unternehmen, das 2020 mit 2,8 Milliarden US-Dollar bewertet wurde, verzeichnete zuletzt einen Umsatzrückgang von 46 Prozent und Verluste in Höhe von 204,6 Millionen US-Dollar.
Graphcore entwickelt KI-Beschleuniger, sogenannte Intelligence Processing Units, einschließlich Serverlösungen. Trotz des Rückzugs aus China ist das Unternehmen zuversichtlich, dass die Nachfrage nach KI-Chips in anderen Ländern steigen wird. Der britische Chiphersteller arbeitet unter anderem mit dem deutschen KI-Start-up Aleph Alpha zusammen.
Inflection-2: KI-Sprachmodell übertrifft Konkurrenten und nähert sich GPT-4
Das KI-Start-up Inflection hat sein neues Sprachmodell Inflection-2 vorgestellt, das in Tests verbessertes Faktenwissen, bessere stilistische Kontrolle und eine deutlich verbesserte Argumentation zeigt. Im Vergleich zum Vorgängermodell Inflection-1, das im Juli veröffentlicht wurde, übertrifft Inflection-2 Konkurrenten wie Google PaLM-2 und Claude 2 in Standard-KI-Benchmarks. Es liegt deutlich vor GPT-3.5 und nähert sich in einigen Bereichen GPT-4.
Inflection-2 soll bald den unternehmenseigenen Chatbot "Pi" antreiben, der auf Pi.ai/talk getestet werden kann. Das Start-up wurde unter anderem von LinkedIn-Gründer Reid Hoffman und DeepMind-Mitbegründer Mustafa Suleyman gegründet und ging im März 2022 erstmals an die Öffentlichkeit. Im Juni 2023 gab Inflection eine Investitionsrunde bekannt, bei der Kapitalgeber wie Microsoft und Nvidia insgesamt 1,3 Milliarden US-Dollar investierten, was das Unternehmen auf eine Bewertung von vier Milliarden US-Dollar brachte. Ein Teil der Investition ging in den Bau eines der schnellsten KI-Supercomputer mit 22.000 Nvidia H100 GPUs.
Inflection-2 wurde auf nur 5.000 GPUs trainiert, und das Unternehmen plant, zukünftige Modelle auf der vollen Kapazität des neuen GPU-Clusters zu trainieren. Das nächste KI-Modell soll etwa zehnmal größer sein und in etwa einem halben Jahr veröffentlicht werden.
Google DeepMind entwickelt Step-Back Prompting für präzisere KI-Antworten
Google DeepMind hat eine neue Prompt-Methode namens "Step-Back Prompting" vorgestellt, die die Genauigkeit von großen Sprachmodellen wie PaLM-2L und GPT-4 erheblich steigern soll. Die Methode beinhaltet das Stellen einer allgemeinen Frage zum Thema vor der eigentlichen Aufgabe, um der KI zu ermöglichen, relevante Hintergrundinformationen abzurufen und die Hauptfrage besser einzuordnen. Zum Beispiel könnte bei einer Frage nach einer bestimmten Schulausbildung einer Person die Step-Back-Frage lauten: "Wie verlief die Bildungsgeschichte dieser Person?"
Diese einfache Anpassung führte zu einer Steigerung der Genauigkeit von PaLM-2L und GPT-4 um bis zu 36 Prozent im Vergleich zur bisherigen "Chain-of-Thought-Prompting"-Methode. Die größten Verbesserungen zeigten sich bei komplexeren Aufgaben, die mehrere Denkschritte benötigen, insbesondere in Bereichen wie Physik, Chemie und zeitbezogenen Wissensfragen.
Künstliche Intelligenz könnte Fachkräftemangel in Deutschland lindern
Eine Studie der Unternehmensberatung McKinsey & Company zeigt, dass generative Künstliche Intelligenz (GenAI), etwa Chatbots und Bildgeneratoren, den Fachkräftemangel in Deutschland spürbar reduzieren könnten. Seit 2004 hat sich die Zahl der offenen Stellen auf 800.000 im Jahr 2022 vervierfacht. Die rasche Implementierung von GenAI-Systemen in Unternehmen könnte diesem Trend entgegenwirken. Die Studie prognostiziert, dass bis 2040 das Bruttoinlandsprodukt Deutschlands um bis zu 585 Milliarden Euro oder 13 Prozent steigen könnte, wenn GenAI frühzeitig eingeführt wird.
Laut McKinsey verfügt Deutschland über eine solide Basis, um in der KI-Branche führend in Europa oder sogar weltweit zu werden. Allerdings mangelt es an Investitionen in Künstliche Intelligenz. Eine Erhebung des Statistischen Bundesamtes bestätigt dies und zeigt, dass deutsche Unternehmen KI bisher selten nutzen. Die Zurückhaltung beim KI-Einsatz liegt hauptsächlich am fehlenden Wissen, während ethische Bedenken eine untergeordnete Rolle spielen.
ChatGPT sorgt für Unruhe bei Wikipedia
Wikipedia-Gründer Jimmy Wales äußerte sich besorgt über die Verwendung von ChatGPT zum Verfassen von Artikeln auf der Plattform. Er bezeichnete einen mit GPT-4 erstellten Wikipedia-Artikel als "schrecklich" und betonte die Bedeutung von Genauigkeit und Unvoreingenommenheit in der Online-Enzyklopädie, die auch als wichtige Quelle für KI-Trainingsdaten dient.
Wales kritisierte, dass GPT-4 viele Informationen auslässt, Fehler auf plausible Weise macht, Quellen erfindet und insgesamt für Chaos sorgt. Trotz seiner Bedenken zeigt sich Wales offen für die Unterstützung von KI bei der Weiterentwicklung von Wikipedia. Er zieht Partnerschaften mit Open-Source-KI-Unternehmen in Betracht und erwägt den Einsatz von Tools, die Ungenauigkeiten in Artikeln aufdecken oder KI verwenden, um Wikipedia-Artikel auf Widersprüche und Informationslücken zu überprüfen.
(igr)
