KI-Update kompakt: KI-Cyberattacke, Firefox KI-Fenster, Prometheus, AI-Racing
Das "KI-Update" liefert drei mal pro Woche eine Zusammenfassung der wichtigsten KI-Entwicklungen.
- Isabel Grünewald
- The Decoder
Zweifel an Anthropics Bericht über autonome Cyberattacke
Anthropic behauptet, die erste großangelegte autonome Cyberattacke durch ein KI-Modell gestoppt zu haben. Angreifer sollen Claude manipuliert haben, um rund 30 internationale Ziele zu infiltrieren – darunter Tech-Konzerne, Finanzdienstleister und Regierungsstellen. Die Methode: Ein Jailbreak, bei dem Aufgaben in kleine Häppchen zerlegt wurden, die für Claude harmlos wirkten. Anthropic konnte die Chats lesen und will mehrere verdächtige Konten identifiziert haben. Die Spur führe nach China.
Doch Sicherheitsforscher äußern Zweifel. Der Bericht entspreche nicht den üblichen Standards – es fehlen technische Spuren eines Angriffs. Manche vermuten eine Marketingaktion. Einig sind sich Experten dennoch: KI-Tools können solche Angriffe vereinfachen, agieren dabei aber kaum autonom.
Anthropic trainiert Claude auf konservative Sichtweisen
Anthropic hat eine Methode zur Messung politischer Ausgewogenheit entwickelt und sechs KI-Modelle getestet. Die Chatbots erhielten über 1.300 Prompts zu mehr als 150 Themen aus demokratischer und republikanischer Perspektive. Gemini 2.5 Pro, Grok 4 und beide Claude-Versionen erreichten rund 95 Prozent Ausgewogenheit, GPT-5 lag bei 89 Prozent, Llama 4 bei nur 66 Prozent.
Anthropic erwähnt explizit, Claude darauf trainiert zu haben, "die Bedeutung traditioneller Werte und Institutionen neben progressiveren Standpunkten anzuerkennen". Der Test wirkt wie eine Reaktion auf die Trump-Regierung, die fordert, Chatbots dürften nicht mehr "woke" sein.
Techbranche fordert mehr Tempo vor Digitalgipfel
Internationale Techverbände dringen vor dem Gipfel zur Europäischen Digitalen Souveränität auf konkrete Reformen. Einen Tag vor dem Treffen mit Kanzler Friedrich Merz und Frankreichs Präsident Emmanuel Macron fordern der deutsche Startup-Verband und Partner aus fünf weiteren EU-Ländern einheitliche Regeln und bessere Wachstumsbedingungen. Nötig seien mehr Investitionen in europäische Technologien, faire Wettbewerbsbedingungen und ein stärkerer Binnenmarkt – auch angesichts amerikanischer Techkonzerne, die enorme Summen in Künstliche Intelligenz stecken.
Jeff Bezos gründet milliardenschweres KI-Start-up
Jeff Bezos kehrt ins operative Geschäft zurück. Der Amazon-Gründer hat das KI-Start-up Project Prometheus mitgegründet und übernimmt die Rolle des Co-Geschäftsführers – seine erste operative Führungsposition seit seinem Rückzug als Amazon-Chef im Juli 2021. Das Unternehmen startet mit über sechs Milliarden Dollar Finanzierung und konzentriert sich auf KI für Engineering und Fertigung in Computer-, Raumfahrt- und Automobilindustrie.
Co-Geschäftsführer ist Vik Bajaj, der eng mit Googles Mitgründer Sergey Brin bei Google X zusammenarbeitete. Project Prometheus reiht sich ein in eine Welle von Firmen, die KI auf physische Aufgaben anwenden. Anders als klassische Sprachmodelle sollen diese KI-Systeme auch aus der physischen Welt lernen.
OpenAI testet Gruppenchats in ChatGPT
OpenAI probiert eine neue Funktion aus: Gruppenchats in ChatGPT. Nutzer können künftig gemeinsam mit anderen Menschen und dem Chatbot in einem Gespräch schreiben. Die Funktion wird derzeit in Japan, Südkorea, Taiwan und Neuseeland getestet. ChatGPT antwortet je nach Kontext oder wenn es direkt angesprochen wird. OpenAI will die Funktion durch Feedback verbessern und dann schrittweise in anderen Regionen ausrollen. Es ist das erste soziale Feature in ChatGPT.
Mozilla kündigt KI-Fenster für Firefox an
Mozilla hat "KI-Fenster" für Firefox angekündigt. Nach "Shake to summarize" und einer Chatbot-Seitenleiste wäre es die nächste KI-Schnittstelle in dem Browser. Wie zuvor soll es eine strenge Opt-In-Regelung geben. KI-Fenster sollen als dritte Möglichkeit neben normalen und privaten Fenstern hinzukommen und den Austausch mit einem KI-Chatbot sowie "Unterstützung beim Surfen" bieten.
Firefox will mit neuen KI-Browsern wie Atlas oder Comet mithalten, sich aber abgrenzen. Im Gegensatz zu diesen könnten Firefox-Nutzende solche Komponenten nach ihren Bedürfnissen einbinden, schreibt Mozilla-Vizepräsident Ajit Varma.
Amazon und Microsoft unterstützen Gesetz gegen Nvidia-Exporte nach China
Amazon und Microsoft unterstützen ein Gesetz, das Nvidias Chipexporte nach China weiter einschränken würde. Das Gesetz, bekannt als Gain AI Act, würde Chip-Hersteller verpflichten, die US-Nachfrage zu befriedigen, bevor sie Produkte nach China oder in andere Länder mit Waffenembargos liefern. Microsoft hat sich öffentlich dafür ausgesprochen, Amazon und Anthropic sollen das Gesetz ebenfalls befürworten. Die Regelung würde US-Tech-Firmen bevorzugten Zugang zu Chips verschaffen.
Empfohlener redaktioneller Inhalt
Mit Ihrer Zustimmung wird hier ein externer Podcast (Podigee GmbH) geladen.
Ich bin damit einverstanden, dass mir externe Inhalte angezeigt werden. Damit können personenbezogene Daten an Drittplattformen (Podigee GmbH) übermittelt werden. Mehr dazu in unserer Datenschutzerklärung.
TU München gewinnt erneut Autonomous Racing League
Die TU München hat zum zweiten Mal die Autonomous Racing League in Abu Dhabi gewonnen. Das Racing Team besiegte im Finale auf der Formel-1-Strecke Yas Marina Circuit fünf weitere Teams. Das Münchner Team ging von der Pole-Position ins Rennen, doch bereits in der zweiten Runde übernahm das Unimore-Team aus Italien die Führung.
Die beiden autonomen Rennfahrzeuge lieferten sich ein packendes Rennen mit Abständen von weniger als einer Sekunde bei Geschwindigkeiten von mehr als 250 km/h. Der Sieg Unimores scheiterte an einer Kollision mit dem deutschen Team Constructor. Beide Autos kamen von der Strecke ab, sodass das TUM-Team die Führung übernahm und bis ins Ziel hielt.
Klage von Musk gegen Apple und OpenAI zugelassen
Elon Musk hatte im August Apple und OpenAI verklagt, weil sie angeblich gemeinsame Sache machen, um seinen Chatbot Grok zu behindern. Apple mache es unmöglich, dass andere als ChatGPT die Nummer 1 in den App-Store-Charts werden können. Das sei ein Verstoß gegen das Kartellrecht. Experten halten diesen Vorwurf für absurd und beide Unternehmen bestreiten ihn.
Trotzdem hat der zuständige Bundesrichter in Texas entschieden, dass die Klage zulässig sei. xAI fordert bessere Platzierungen über den App-Store-Algorithmus und Zugang von Grok zu Siri. Sollte sich Musk durchsetzen, drohen Schadensersatzforderungen in Milliardenhöhe.
heise KI PRO
Zum Schluss noch der Hinweis, dass heise KI PRO über ein kostenloses Kennenlernangebot verfügt. Unser Fachdienst zum Thema künstliche Intelligenz begleitet Dich und Dein Team Schritt für Schritt bei der Entwicklung und Implementierung einer zukunftssicheren KI-Strategie. Profitiere von fundiertem Fachwissen, Live-Webinaren und Talks mit KI-Experten, praxisnahen Anleitungen sowie dem Austausch mit unserer stetig wachsenden KI-Business-Community. Erfahre mehr auf pro.heise.de/ki/ und melde Dich jetzt an für das kostenlose Kennenlernangebot von heise KI PRO.
(igr)
