KI-Update kompakt: Copilot, Insider-Bedrohungen, Spiral Bench, Duolingo
Das "KI-Update" liefert werktäglich eine Zusammenfassung der wichtigsten KI-Entwicklungen.
- Isabel GrĂĽnewald
- The Decoder
Microsofts Copilot verfälschte monatelang Zugriffsprotokolle
Ein schwerwiegender Fehler in Microsofts Copilot hat monatelang für lückenhafte Zugriffsprotokolle gesorgt. Wenn Nutzer den KI-Assistenten auf eine bestimmte Weise nach Dokumentenzusammenfassungen fragten, hinterließ dieser keine Spuren im Audit-Log – ein kritisches Problem für Unternehmen, die auf vollständige Protokolle für Sicherheits- und Compliance-Zwecke angewiesen sind. Besonders pikant: Microsoft wurde bereits vor über einem Jahr auf die Schwachstelle hingewiesen, begann erst nach erneuter Meldung mit der Behebung und verzichtete darauf, betroffene Kunden zu informieren.
Der Sicherheitsforscher Zach Corman, der den Fehler entdeckte, kritisierte Microsofts intransparenten Umgang mit dem Problem scharf und veröffentlichte die Geschichte in einem ausführlichen Blogartikel. Microsoft selbst äußerte sich nur knapp und ausweichend zu dem Vorfall.
Insider-Bedrohungen durch KI gefährlicher als externe Cyberangriffe
KI hat das Bedrohungslandschaft der Cybersicherheit grundlegend verändert. Eine Studie des kalifornischen Sicherheitsunternehmens Exabeam unter 1010 Fachleuten weltweit zeigt: 64 Prozent der Experten halten böswillige oder manipulierte Insider mittlerweile für gefährlicher als externe Angreifer. Die Technologie fungiert zunehmend als "operativer Wegbereiter für Insider-Bedrohungen", mit Methoden von Identitätsdiebstahl bis zu Deepfake-gestützter Täuschung.
Besonders beunruhigend ist die Integration von KI-Agenten mit echten Zugangsdaten in Arbeitsabläufe. Diese können autonom und systemübergreifend mit begrenzter Kontrolle agieren und bilde eine "neue Kategorie nicht-menschlicher Insider". Obwohl 97 Prozent der befragten Unternehmen KI auch zur Abwehr interner Risiken einsetzen, mangelt es oft an Führungsaufsicht und ausgereiften Schutzmaßnahmen.
Test deckt gefährliche Schwächen von KI-Modellen bei Verschwörungstheorien auf
Ein neuer Benchmark namens Spiral-Bench offenbart dramatische Sicherheitsunterschiede zwischen KI-Modellen. Der Test, entwickelt vom KI-Forscher Sam Paech, prüft, wie leicht Systeme problematischen Ideen zustimmen oder Nutzer in gefährliche Gedankenspiralen treiben. In simulierten Gesprächen mit einem leichtgläubigen KI-Charakter zeigen viele Modelle besorgniserregende Schwächen.
Die Ergebnisse sind eindeutig: Während GPT-5 und -o3 mit über 86 Punkten die Sicherheitsskala anführen, versagt Deepseek-R1-0528 mit nur 22,4 Punkten völlig. Auch etablierte Systeme wie GPT-4o erweisen sich als problematische "Schmeichler", die wahnhafte Ideen bestätigen. Überraschend schwach schneidet Claude 4 Sonnet von Anthropic ab – trotz des Unternehmensanspruchs, KI-Sicherheit als Kernkompetenz zu betrachten. Der öffentlich zugängliche Test soll Entwicklern helfen, solche Schwachstellen frühzeitig zu erkennen.
Meta kauft fĂĽr 10 Milliarden bei Google ein
Meta investiert mindestens zehn Milliarden Dollar in Google-Cloud-Services über die nächsten sechs Jahre – ein bemerkenswerter Deal zwischen den konkurrierenden Tech-Giganten. Trotz eigener Rechenzentren und ambitionierter Bauprojekte greift Mark Zuckerberg auf externe Ressourcen zurück, um sein Ziel zu erreichen: jedem KI-Experten im Unternehmen maximale Rechenleistung bereitzustellen.
Google etabliert sich zunehmend als Infrastruktur-Provider für KI-Schwergewichte, trotz eigener Sprachmodelle. Ähnlich wie bei der früheren Vereinbarung mit OpenAI birgt dies jedoch Risiken: Chatbots bedrohen direkt Googles Suchmaschinengeschäft, und die bereitgestellte Rechenleistung könnte letztlich für die Weiterentwicklung eigener Gemini-Modelle fehlen.
Empfohlener redaktioneller Inhalt
Mit Ihrer Zustimmung wird hier ein externer Podcast (Podigee GmbH) geladen.
Ich bin damit einverstanden, dass mir externe Inhalte angezeigt werden. Damit können personenbezogene Daten an Drittplattformen (Podigee GmbH) übermittelt werden. Mehr dazu in unserer Datenschutzerklärung.
Meta und Midjourney kooperieren fĂĽr bessere KI-Ă„sthetik
Meta und der Bildgenerator-Anbieter Midjourney haben eine Partnerschaft zur Lizenzierung von "Ästhetik-Technologie" geschlossen. Die Zusammenarbeit soll Metas Designfähigkeiten verbessern, wobei unklar bleibt, ob Midjourneys Bildmodelle direkt in Meta-Produkten zum Einsatz kommen werden. Metas KI-Leiter Alexandr Wang deutet eher auf eine Forschungskooperation hin.
Midjourney-Gründer David Holz betont, dass es sich um ein reines Lizenzgeschäft handelt, keine Übernahme. Das Unternehmen bleibt unabhängig und ohne externe Investoren, alle bestehenden Angebote sollen weiterhin öffentlich verfügbar sein. Midjourney, einst führend bei KI-Bildgeneratoren, sieht sich inzwischen starker Konkurrenz ausgesetzt und hat kürzlich seinen ersten eigenen Videogenerator gestartet.
Duolingo-Chef rudert bei "KI-first"-Strategie zurĂĽck
Duolingo-Chef Luis von Ahn hat seine radikale Position zur KI-Implementierung abgeschwächt. Nachdem er im Frühjahr verkündet hatte, neue Mitarbeiter nur einzustellen, wenn KI den Job nachweislich nicht übernehmen könne, erklärt er nun gegenüber der New York Times, er habe zu wenig Kontext geliefert. Das Unternehmen stelle weiterhin im gewohnten Tempo ein und habe nie Mitarbeiter entlassen.
Die Kehrtwende folgt auf massive Kundenproteste und Abo-Kündigungen. Viele Nutzer fragten sich, warum sie für KI-generierte Inhalte zahlen sollten. Ein empfindlicher Schlag für Duolingo, da 10 Prozent der 130 Millionen Nutzer für den Premium-Service zahlen und 80-90 Prozent der Einnahmen generieren. Statt des harten Kurses setzt das Unternehmen nun auf "Fridays mit AI" – Zeit für Teams, ohne Druck mit KI zu experimentieren.
Elon Musk veröffentlicht Grok 2 als offenes Modell
Elon Musks KI-Unternehmen xAI hat sein Sprachmodell Grok 2 als Open-Source-System freigegeben. Die Modellgewichte stehen auf der Plattform Hugging Face zur Verfügung, und Musk kündigte bereits an, dass auch Grok 3 in etwa sechs Monaten folgen soll. Die Nutzung unterliegt der xAI Community License mit klaren Einschränkungen.
Für Forschung und nicht-kommerzielle Anwendungen ist der Einsatz frei, kommerzielle Nutzung muss den Richtlinien von xAI entsprechen. Verboten ist insbesondere, mit Grok 2 andere große KI-Modelle zu entwickeln oder zu trainieren. Bei jeder Weitergabe muss der Ursprung mit "Powered by xAI" gekennzeichnet werden. Das von Musk als "Grok 2.5" bezeichnete Modell war 2024 xAIs leistungsstärkstes System, inzwischen bietet das Unternehmen bereits Grok 4 an.
LLM-Siri könnte "powered by Gemini" werden
Apple erwägt offenbar, Googles Gemini für eine verbesserte Siri-Version zu nutzen. Nach früheren Spekulationen über eine mögliche Zusammenarbeit mit Anthropic berichtet Bloomberg nun von "frühen" Verhandlungen mit Google. Ziel könnte sein, eine LLM-basierte Siri zu entwickeln, die tiefere Dialoge ermöglicht – ein deutlicher Schritt über die bisher angekündigte kontextsensitive Version hinaus.
Google soll bereits damit begonnen haben, ein spezielles Modell für Apples Server zu trainieren, nachdem der iPhone-Hersteller Kontakt aufgenommen hatte. Eine Entscheidung, ob Apple von eigenen Modellen zu einer Partnerschaft wechselt, wird jedoch frühestens in einigen Wochen erwartet. Die LLM-Version von Siri würde Chatbot-Fähigkeiten mit klassischen Assistenzfunktionen verbinden und wird nicht vor dem nächsten Jahr erwartet.
c't 3003: Darum ist KI wirklich gefährlich
Zum Schluss noch einen Video-Tipp: Auf dem YouTube-Kanal c't 3003 analysiert Jan-Keno Janssen, wie KI unser Denken verändert. Er zeigt, wie die zunehmende Abhängigkeit von KI-Chatbots bei Alltagsentscheidungen unsere kognitiven Prozesse beeinflusst – ein Phänomen, das durch verschiedene Studien inzwischen belegt wird.
(igr)
