KI-Update kompakt: AI Safety Institute, Klett-Chatbot, Proton, Midjourney
Das "KI-Update" liefert werktäglich eine Zusammenfassung der wichtigsten KI-Entwicklungen.
- Isabel Grünewald
- The Decoder
US-Institut erhält Zugang zu neuen KI-Modellen
Das U.S. Artificial Intelligence Safety Institute am National Institute of Standards and Technology (NIST) hat Kooperationsvereinbarungen mit den KI-Unternehmen Anthropic und OpenAI geschlossen. Ziel ist die Zusammenarbeit bei der Erforschung, Erprobung und Bewertung der Sicherheit von Künstlicher Intelligenz (KI).
Im Rahmen der Vereinbarungen erhält das Institut Zugang zu neuen KI-Modellen der Unternehmen vor und nach deren Veröffentlichung. So sollen Fähigkeiten und Sicherheitsrisiken der Systeme bewertet und Methoden zur Risikominderung erforscht werden. Das Institut will den Firmen auch Feedback zu möglichen Sicherheitsverbesserungen geben.
Die Evaluierungen sollen die sichere, zuverlässige und vertrauenswürdige Entwicklung und Nutzung von KI voranbringen. Sie bauen auf der KI-Verordnung der Biden-Harris-Regierung und den freiwilligen Zusagen führender KI-Entwickler auf.
Das U.S. AI Safety Institute wurde im Zuge dieser Verordnung gegründet. Es soll Tests, Bewertungen und Richtlinien entwickeln, um sichere KI-Innovationen in den USA und weltweit zu beschleunigen.
OpenAI reserviert Fertigungskapazität für eigene KI-Chips
OpenAI plant offenbar die Entwicklung eigener KI-Chips. Laut Branchenkreisen hat das Unternehmen die erste Charge von TSMCs neuestem Angstrom-Prozess A16 reserviert, der auf TSMCs Roadmap der 3-nm- und 2-nm-Produktion folgt. OpenAI will mit den US-Firmen Broadcom und Marvell zusammenarbeiten, um maßgeschneiderte ASIC-Chips zu entwickeln. Die Massenproduktion soll in der zweiten Jahreshälfte 2026 in Taiwan beginnen.
Ursprünglich verhandelte OpenAI mit TSMC über den Bau einer eigenen Waferfabrik. TSMC-CEO C.C. Wei bezeichnete die Pläne von OpenAI-Chef Sam Altman jedoch als "zu aggressiv". Die vorgeschlagene Anzahl an Fabriken sei zu hoch gewesen, um eine ausreichende Auslastung zu erreichen.
Klett stellt neuen KI-Chatbot für Lehrer vor
Der Ernst Klett Verlag in Stuttgart startet eine Testphase für ein neues, KI-gestütztes Werkzeug zur Unterrichtsplanung. Der "Klett.KI Chat" soll Lehrkräfte bei der Vorbereitung unterstützen, indem er Ideen für den Unterrichtsablauf liefert und Hintergrundinformationen bereitstellt. Während der bis Ende Februar 2025 laufenden Betaphase richtet sich das Angebot zunächst an Geografie-Lehrkräfte in Nordrhein-Westfalen, die mit den Büchern der Reihe "Terra" arbeiten.
Der Chatbot wurde ausschließlich mit verlagseigenem Material trainiert, das auf Fach, Jahrgang, Schulform und Bundesland abgestimmt ist. Ziel ist es, Lehrkräfte zu entlasten und ihnen mehr Zeit für das eigentliche Unterrichten zu geben. Die Sprachkompetenz basiert auf ChatGPT-4o, wobei die Nutzerdaten laut Verlag ausschließlich auf deutschen Servern gespeichert und nicht zum weiteren Training der KI verwendet werden.
In einem kurzen Test zeigte der Chatbot vielversprechende Ergebnisse. Er lieferte hilfreiche Ideen, erläuterte didaktische Konzepte und verwies auf relevante Inhalte der digitalen Buchausgabe. Nach der Testphase plant Klett, den Chat auch für weitere Lehrwerke und Fächer anzubieten. Ein Chatbot für Schüler zum eigenständigen Lernen ist ebenfalls in Planung.
Empfohlener redaktioneller Inhalt
Mit Ihrer Zustimmmung wird hier ein externer Podcast (Podigee GmbH) geladen.
Ich bin damit einverstanden, dass mir externe Inhalte angezeigt werden. Damit können personenbezogene Daten an Drittplattformen (Podigee GmbH) übermittelt werden. Mehr dazu in unserer Datenschutzerklärung.
Skepsis gegenüber KI-Vorgaben der EU
In deutschen Unternehmen herrscht Skepsis gegenüber der neuen EU-Verordnung zur Künstlichen Intelligenz. Nach einer aktuellen Umfrage der Unternehmensberatung Deloitte bei 500 Personen in Managementpositionen, die sich in den Unternehmen mit dem Thema beschäftigen, sehen 52 Prozent ihre Innovationsmöglichkeiten dadurch eingeschränkt, knapp 19 Prozent erwarten eine Stärkung.
"Die teils wohl bewusst unklaren Regelungen des AI Act machen eine Auslegung tatsächlich nicht immer leicht", sagt Deloitte-Partner Till Contzen. "Die Umsetzung der Anforderungen wird je nach Umfang der KI-Nutzung in einem Unternehmen einen erheblichen Aufwand mit sich bringen – zumal viele Unternehmen nicht einmal wissen, wie viel KI sie genau nutzen." Erst ein Viertel der Firmen habe sich bereits auf die Umsetzung vorbereitet. Es drohe eine Situation, vergleichbar mit der Umsetzung der Datenschutzgrundverordnung im Mai 2018.
Der EU AI Act ist seit August in Kraft und muss in den kommenden zwei Jahren in allen EU-Staaten umgesetzt werden. Bei Nichteinhaltung der Vorgaben drohen hohe Bußgelder.
Protons KI-Schreibassistent kann jetzt auch Deutsch
Der Schweizer E-Mail-Anbieter Proton hat seinen KI-Schreibassistenten Proton Scribe erweitert und unterstützt nun neben Englisch acht weitere Sprachen, darunter Deutsch. Der Dienst ist jetzt auch für Privatpersonen in bestimmten Aboplänen verfügbar, nachdem er zunächst nur für Geschäftskunden zugänglich war. Proton Scribe ist in den E-Mail-Dienst Proton Mail integriert und kann E-Mails verfassen, Texte gegenlesen und umformulieren.
Ein wichtiger Aspekt von Proton Scribe ist der Datenschutz. Laut Proton werden weder Daten aus Nutzerpostfächern zum Training verwendet, noch Nutzereingaben gespeichert oder an Dritte weitergegeben. Der Dienst basiert auf Open-Source-Code und kann unabhängig geprüft werden. Nutzer haben die Möglichkeit, Proton Scribe zu deaktivieren oder zwischen einer lokalen und einer serverbasierten Version zu wählen.
Die Erweiterung von Proton Scribe auf mehrere Sprachen und die Öffnung für Privatnutzer zeigt das wachsende Interesse an KI-gestützten Schreibhilfen. Proton reagiert damit auf die Nachfrage seiner Community und positioniert sich im Wettbewerb mit anderen E-Mail-Anbietern, die ähnliche Funktionen anbieten.
Amazons kostenpflichtiges Upgrade soll mit Claude laufen
Amazon will seine kommende Premium-Alexa offenbar mit einem externen KI-System laufen lassen. Einem Bericht von Reuters zufolge bevorzugt Amazon Claude von Anthropic gegenüber dem internen KI-Modell, das seit Jahren die normale Alexa antreibt. Offen ist aktuell, ob Claude auch bei der Standard-Variante von Alexa zum Einsatz kommen soll.
Anthropic hat den Bericht nicht kommentiert, Amazon antwortete ausweichend: Man verwende verschiedene KI-Modelle, schreib das Unternehmen an Reuters – darunter auch Eigenentwicklungen. Die Premium-Version der Sprachassistentin soll "Remarkable Alexa" heißen und wird voraussichtlich eine monatliche Gebühr kosten. Sie soll einige Zusatzfunktionen im Vergleich zur Standard-Variante bieten, die natürlichere Unterhaltungen ermöglichen sollen.
Bei einer Demo zeigte Amazon, dass Alexa etwa nicht mehr ständig mit "Alexa" angesprochen werden muss, um sich in eine Konversation einzubringen. Zudem soll die Sprachassistentin eine stärkere Persönlichkeit entwickeln.
Midjourney expandiert in den Hardware-Markt
Midjourney, Inc., bisher bekannt für seinen KI-Bildgenerator, hat überraschend angekündigt, in den Hardware-Markt zu expandieren. CEO David Holz gab auf X bekannt, dass das Unternehmen an einem neuen Hardware-Produkt arbeitet, ohne jedoch genaue Details zu nennen. Es wurde lediglich angedeutet, dass die Hardware die Leistung und Effizienz der bestehenden Softwareprodukte von Midjourney steigern soll.
Diese Expansion ist ein bedeutender Schritt für Midjourney, das bisher ausschließlich im Softwarebereich tätig war. Mit einem jährlich wiederkehrenden Umsatz von 200 Millionen US-Dollar und einer Bewertung von 10 Milliarden US-Dollar zeigt das Unternehmen ein beachtliches Wachstum. Die Einstellung des ehemaligen Neuralink-Mitarbeiters Ahmad Abbas, der auch an der Entwicklung der Apple Vision Pro beteiligt war, könnte ein Hinweis auf die Richtung des neuen Hardware-Projekts sein.
Der Eintritt in den Hardware-Markt wird als strategischer Schritt angesehen, um den Kundenstamm zu erweitern und die Marktposition zu stärken. Zusammen mit der kürzlichen Vorstellung von KI-Modellen für Video- und 3D-Generierung zeigt dies Midjourneys Ambitionen, seine Position in der Kreativbranche weiter auszubauen und sich von der Konkurrenz abzuheben.
Chinesisches Start-up stellt KI-Videogenerator vor
Das chinesische Unternehmen MiniMax hat einen KI-Videogenerator namens Video-01 veröffentlicht. Das Tool erzeugt aus Textanweisungen Videos mit einer Auflösung von 1280 x 720 Pixeln bei 25 Bildern pro Sekunde.
Aktuell sind die Videos auf sechs Sekunden begrenzt. Video-01 ist kostenlos auf der MiniMax-Website nutzbar. Eine Registrierung per Mobilfunknummer ist erforderlich. Die generierten Videos sind noch als KI-generiert erkennbar, weisen aber wenige Bildfehler auf. MiniMax plant regelmäßige Updates und weitere Funktionen wie die Eingabe von Bildern.
(igr)
