KI-Update kompakt: ShadowLeak, Nvidia & OpenAI, Siemens, DeepSeek
Das "KI-Update" liefert drei mal pro Woche eine Zusammenfassung der wichtigsten KI-Entwicklungen.
- Isabel Grünewald
- The Decoder
ChatGPT-Agent verriet Angreifern persönliche Daten aus E-Mails
Forscher des US-israelischen Unternehmens Redware konnten ChatGPTs E-Mail-Agent austricksen und private Daten stehlen. Sie schickten präparierte E-Mails mit versteckten Befehlen in weißer Schrift auf weißem Grund. Der Agent interpretierte diese als Handlungsanweisungen und durchsuchte E-Mail-Postfächer nach persönlichen Daten, kodierte sie und schickte sie an externe Server.
OpenAI wusste seit Juni von der Lücke, behob sie aber erst im August. CEO Sam Altman startete den Agent trotzdem im Juli und erwähnte den Angriff nur vage als theoretische Gefahr. Die Forscher mussten mehrere Tricks anwenden: Sie kodierten Daten im Base64-Format und tarnten ihre Befehle als dringende HR-Maßnahmen, um ChatGPTs Sicherheitsmechanismen zu umgehen.
Nvidia will 100 Milliarden US-Dollar in OpenAI investieren
Nvidia plant eine Investition von 100 Milliarden Dollar in OpenAI. Im Gegenzug soll OpenAI GPUs im gleichen Wert abnehmen. Die beiden Unternehmen wollen gemeinsam ein Rechenzentrum mit mindestens zehn Gigawatt Leistung bauen, was dem Strombedarf von neun Millionen Haushalten für ein Jahr entspricht.
Oracle hat einen ähnlichen Deal mit OpenAI geschlossen: 300 Milliarden Dollar für Rechenleistung, wobei Oracle in Vorleistung geht. Nvidia erhält für seine Investition nicht stimmberechtigte Anteile an OpenAI. Das 500 Milliarden Dollar teure Stargate-Projekt mit Softbank scheint davon unabhängig zu laufen.
Siemens und Maschinenbauer entwickeln gemeinsam KI für die Industrie
Siemens hat mit europäischen Maschinenbauern eine Datenallianz gegründet. Zu den Partnern gehören Grob, Trumpf, Chiron, Renishaw, Heller, das Werkzeugmaschinenlabor der RWTH Aachen und die Voith Group. Die Unternehmen tauschen anonymisierte Maschinendaten aus, um bessere KI-Modelle für die Industrie zu trainieren.
Industrielle KI muss verlässlicher arbeiten als allgemeine Modelle, da Fehler teure oder gefährliche Folgen haben können. Die Allianz will einen offenen Standard für den Austausch von Maschinendaten etablieren und sieht darin eine Chance für Europa, im Bereich industrieller KI aufzuholen.
Problem "Workslop"
Eine MIT-Studie zeigt: 95 Prozent der befragten Unternehmen sehen keine messbaren positiven Effekte durch KI. Von 30 bis 40 Milliarden Dollar Investitionen in generative KI brachten nur fünf Prozent der Anwendungsfälle Millioneneinnahmen. Forscher von Betterup Labs identifizierten "Workslop" als Hauptproblem: schnell erstellte KI-Texte und Berichte, die gut aussehen, aber Mehrarbeit für Kollegen bedeuten.
Das Problem schadet der Teamstimmung und Zusammenarbeit. Die Forscher empfehlen durchdachte KI-Strategien und Schulungen. KI sollte die Zusammenarbeit fördern, nicht als Abkürzung dienen.
Abu Dhabi plant die erste KI-Regierung der Welt
Abu Dhabi will bis 2027 seine komplette Verwaltung auf künstliche Intelligenz umstellen. Die Regierung investiert 3,5 Milliarden Dollar und plant über 200 KI-Lösungen in allen Regierungsdiensten. Das Ziel: ein proaktiver, agiler und vollständig technologiegestützter Staatsapparat.
Die Mohamed bin Zayed University of Artificial Intelligence entwickelt die Systeme, das Advanced Technology Research Council steuert Sprachmodelle bei, und G42 liefert die KI-Infrastruktur. Die Investitionen sollen 6,5 Milliarden Dollar zum Bruttoinlandsprodukt beitragen und 5.000 neue Arbeitsplätze schaffen.
DeepSeek macht KI-Agenten zuverlässiger
Das chinesische KI-Unternehmen DeepSeek hat Version 3.1 seines Hybridmodells mit dem Zusatz "Terminus" veröffentlicht. Die neue Version behebt Probleme mit instabilen Ausgaben und unkontrollierten Sprachwechseln. Im BrowseComp-Benchmark, der Webseitenanalyse testet, steigt die Punktzahl von 30 auf 38,5.
Das System arbeitet mit zwei Modi: "DeepSeek-reasoner" löst komplexe Aufgaben mit externen Werkzeugen, "DeepSeek-chat" führt einfache Unterhaltungen. Beide verarbeiten bis zu 128.000 Token. Mit 1,68 Dollar pro Million Token unterbietet DeepSeek OpenAIs zehn Dollar und Anthropics 75 Dollar deutlich. Wie alle chinesischen KI-Modelle unterliegt es staatlicher Zensur durch die chinesische Regierung.
Alibaba bringt Echtzeit-KI für Text, Bild und Ton
Alibaba hat mit Qwen3-Omni ein KI-Modell vorgestellt, das Text, Bilder, Audio und Video gleichzeitig verarbeitet. Bei reinen Audio-Eingaben antwortet das System in 211 Millisekunden, bei Audio und Video zusammen in 507 Millisekunden. Das ermöglicht flüssige Unterhaltungen ohne spürbare Verzögerungen.
Die zweigeteilte Architektur arbeitet parallel: Der "Thinker" analysiert Eingaben und erstellt Textantworten, der "Talker" wandelt diese in gesprochene Sprache um. Alibaba meldet gute Werte in Audio- und Video-Benchmarks. Das System übertreffe Googles Gemini 2.5 Flash und OpenAIs GPT-4o bei Sprachverständnis und Stimmengenerierung, obwohl es kompakter aufgebaut sei.
Empfohlener redaktioneller Inhalt
Mit Ihrer Zustimmung wird hier ein externer Podcast (Podigee GmbH) geladen.
Ich bin damit einverstanden, dass mir externe Inhalte angezeigt werden. Damit können personenbezogene Daten an Drittplattformen (Podigee GmbH) übermittelt werden. Mehr dazu in unserer Datenschutzerklärung.
Nikons Foto-Authentifizierung ausgehebelt
Ein Nutzer des Online-Forums DPReview fand eine Sicherheitslücke in Nikons C2PA-Verfahren der Z6 III. Er zeigte, wie sich die Mehrfachbelichtungsfunktion missbrauchen lässt, um die Authentizitätsprüfung zu umgehen. C2PA steht für Coalition for Content Provenance and Authenticity und soll die Echtheit von Fotos garantieren.
Nikon hat den Verifizierungsdienst vorübergehend ausgesetzt. Eine Lösung erfordert ein Firmware-Update für die Z6 III. Das Unternehmen hat noch keinen Zeitplan genannt.
Facebook-Dating: Jetzt auch mit KI
Meta führt einen KI-Assistenten für Facebook-Dating ein. Der Assistent macht Vorschläge basierend auf Interessen, ohne dass Nutzer Filter auswählen müssen. Sie können per Prompt nach passenden Personen suchen, etwa "Finde mir ein Tech-interessiertes Mädchen in Brooklyn."
Die KI hilft auch bei Treffvorschlägen und der Profilgestaltung. Der Service ist zunächst nur in den USA und Kanada verfügbar.
10.000 Dollar Strafe für US-Anwalt nach KI-Nutzung
Ein kalifornischer Anwalt muss 10.000 Dollar Strafe zahlen, weil er einen Gerichtsantrag mit falschen Quellenangaben einreichte. Eine KI hatte 21 von 23 Zitaten erfunden. Der Anwalt gab zu, den generierten Text vor der Einreichung nicht gelesen zu haben.
Er wollte ChatGPT nur seinen Ausgangstext verbessern lassen und wusste nicht, dass die Technik Dinge erfindet. Trotz der Strafe hält er es für unrealistisch, von Anwälten zu erwarten, keine KI einzusetzen. Die Technik sei ein wichtiges Werkzeug, erfordere aber Vorsicht.
(igr)
