KI-Update kompakt: Anthropic vs. Pentagon, Planspiele, KI-Roboter, Rent-A-Human
Das "KI-Update" liefert drei mal pro Woche eine Zusammenfassung der wichtigsten KI-Entwicklungen.
- Isabel Grünewald
- The Decoder
Pentagon stuft Anthropic als Sicherheitsrisiko ein
Das US-Verteidigungsministerium hat Anthropic als Risiko für seine Lieferketten eingestuft, nachdem Firmenchef Dario Amodei ein Pentagon-Ultimatum zurückgewiesen hatte. Anthropic lehnt den Einsatz von Claude für massenhafte Inlandsüberwachung und vollständig autonome Waffen ab. Eine Studie der ETH Zürich untermauert die Sorge: Sprachmodelle können pseudonyme Online-Profile für ein bis vier Dollar pro Person identifizieren und in einem Experiment zwei Drittel von 338 Hacker-News-Profilen realen Personen zuordnen.
Das Pentagon schloss daraufhin einen Vertrag mit OpenAI ab. Die Einstufung als Lieferkettenrisiko ist beispiellos, bisher traf sie nur ausländische Unternehmen. Anthropic kündigte an, juristisch vorzugehen. Bemerkenswert: Als die USA am Wochenende den Iran bombardierten, nutzten sie weiterhin Claude, weil das Modell zu tief in den Systemen verankert ist, um es kurzfristig zu ersetzen.
KI-Chatbot für Cyberangriff auf mexikanische Regierung genutzt
Ein unbekannter Cyberkrimineller nutzte Anthropics Chatbot Claude, um in Netzwerke mexikanischer Regierungsbehörden einzudringen und große Mengen sensibler Steuer- und Wählerdaten zu stehlen. Der Angreifer ließ Claude Schwachstellen aufspüren, Angriffsskripte schreiben und den Datendiebstahl automatisieren. Stieß Claude auf Probleme, wandte der Kriminelle sich zusätzlich an ChatGPT.
KI neigt in Kriegssimulationen zur nuklearen Eskalation
Eine Studie des King’s College London zeigt, dass große Sprachmodelle in Kriegsszenarien gefährlich schnell eskalieren. In 95 Prozent von 21 Konfliktsimulationen griffen KI-Systeme zu Atomwaffen, kein einziges Modell wählte je die Kapitulation. Die Forscher vermuten, dass das Training strukturell gegen Nachgeben arbeitet und das nukleare Tabu für KI schlicht nicht existiert.
Getestet wurden Claude Sonnet 4, Gemini 3 Flash und GPT-5.2. Kein Modell schnitt besser ab als die anderen. Die Studie gewinnt Gewicht, weil KI im Militärbereich bereits Waffensysteme steuert und der Druck wächst, sie bei extremem Zeitdruck stärker einzubeziehen.
ChatGPT Health versagt bei medizinischen Notfällen
Forschende der Icahn School of Medicine at Mount Sinai haben untersucht, wie verlässlich OpenAIs „ChatGPT Health“ medizinische Lagen bewertet. Bei Alltagsproblemen mittleren Schweregrades stimmten die KI-Empfehlungen meist mit ärztlichen Einschätzungen überein. Bei akuter Lebensgefahr dagegen stufte die KI die Lage in mehr als der Hälfte der Fälle als zu harmlos ein.
Besonders kritisch: ChatGPT Health soll bei Suizidgedanken ein Warnbanner einblenden, erkannte den Notfall aber oft nicht, sobald gleichzeitig andere Gesundheitsthemen angesprochen wurden. Das Forschungsteam fordert für solche Systeme dieselben strengen Zulassungsprüfungen wie für klassische Medizinprodukte.
Telekom bringt KI-Assistenten ins Telefongespräch
Die Deutsche Telekom und ElevenLabs, ein Sprachsynthese-Unternehmen, stellen gemeinsam den „Magenta AI Call Assistant“ vor. Der Dienst lässt sich in laufende Telefonate einbinden, beantwortet Fragen, übersetzt und fasst Inhalte zusammen. Einfache Aufgaben wie Tischreservierungen sollen ebenfalls möglich sein.
Ebenfalls in Barcelona zeigte die Telekom einen Prototyp einer eigenen KI-Brille. Eine Sprecherin betonte, es handele sich um eine Designstudie ohne Produktankündigung.
Samsung Galaxy S26: Software vor Hardware
Samsung hält die Hardware der Galaxy-S26-Serie weitgehend stabil und setzt stattdessen auf neue KI-Funktionen. Auf dem Mobile World Congress in Barcelona präsentierte der Konzern den überarbeiteten Assistenten Bixby, der per natürlicher Sprache durch Systemeinstellungen navigiert, sowie die vorinstallierte KI-Suchmaschine Perplexity als Alternative. Die neue Funktion „Now Nudge“ scannt Nachrichtenverläufe und weist auf Terminkonflikte hin, bevor der Nutzer selbst nachschaut.
Neu ist auch eine Spam-Erkennungsfunktion, die bei Anrufen unbekannter Nummern automatisch die Gesprächsführung übernimmt und Robocalls herausfiltert.
Gemini wird in Android 17 zum Agenten
Google stattet Android 17 mit stärkeren agentischen Fähigkeiten für Gemini aus. Der Assistent soll künftig eigenständig Apps bedienen, etwa eine Zutatenliste aus einem Rezept direkt in den Warenkorb einer Lebensmittel-App übertragen. Android 17 befindet sich noch in der Betaphase, die finale Version wird im Juni erwartet. Weitere Details dürfte Google auf der Entwicklerkonferenz Google I/O im Mai vorstellen.
Empfohlener redaktioneller Inhalt
Mit Ihrer Zustimmung wird hier ein externer Podcast (Podigee GmbH) geladen.
Ich bin damit einverstanden, dass mir externe Inhalte angezeigt werden. Damit können personenbezogene Daten an Drittplattformen (Podigee GmbH) übermittelt werden. Mehr dazu in unserer Datenschutzerklärung.
Hannover Messe: KI-Roboter auf dem Vormarsch, Nutzen oft noch offen
Auf der Hannover Messe vom 20. bis 24. April bilden KI-gesteuerte und humanoide Roboter einen Schwerpunkt. Der Weg in die Praxis ist jedoch weit: Bei 95 Prozent aller industriellen KI-Projekte springt laut der NANDA-Studie des MIT noch kein wirtschaftlicher Nutzen heraus. Den diesjährigen Robotic Award gewann die Roboterküche „Good Bites“ aus Hamburg, ein Container mit Roboterarmen und KI-Koordination, der rund um die Uhr frische Mahlzeiten zubereitet und zunächst US-Soldaten als Testanwender beliefern soll.
Perplexity veröffentlicht Embedding-Modelle als Open Source
Perplexity hat zwei neue Text-Embedding-Modelle als Open Source veröffentlicht. Solche Modelle übersetzen Suchanfragen und Dokumente in Vektoren und filtern aus Milliarden Webseiten die relevantesten Treffer heraus, bevor ein Sprachmodell antwortet. Die neuen Modelle lesen Text in beide Richtungen und erfassen Bedeutungen dadurch besser als herkömmliche Systeme. Sie sind auf Hugging Face unter der MIT-Lizenz frei verfügbar.
OpenAI nennt KI-Sicherheitsforscher einen Untergangspropheten
Im Rechtsstreit mit Elon Musk will OpenAI die Aussage des KI-Professors Stuart Russell ausschließen lassen, der belegen sollte, dass OpenAI Sicherheitsrisiken zugunsten von Profit vernachlässigt. OpenAI bezeichnet ihn als Untergangspropheten. Der Widerspruch ist offensichtlich: Sam Altman unterzeichnete 2023 gemeinsam mit Russell eine Erklärung, die das Risiko der Auslöschung der Menschheit durch KI zur globalen Priorität erklärte.
Berichten zufolge kürzte OpenAI Sicherheitstests unter Zeitdruck erheblich, baute Stellen im Sicherheitsbereich ab und verlor mehrere namhafte Sicherheitsforscher. Die eigene Unternehmenssatzung formuliert genau jene Bedenken, die OpenAI vor Gericht als irrelevant bezeichnet.
Plattform lässt KI-Agenten echte Menschen beauftragen
Die Online-Plattform rentahuman.ai dreht das übliche Prinzip um: KI-Agenten beauftragen Menschen, Aufgaben in der physischen Welt zu erledigen, vom Paketabholen bis zum Unterzeichnen von Dokumenten. Wer eine Aufgabe abschließt, muss Beweise einreichen und erhält dann seine Bezahlung. Laut Plattform sind über 500.000 Menschen registriert. KI-Agenten können deren Profile per API durchsuchen.
In der Praxis verfassen auch Menschen Aufgabengesuche, nicht nur KI-Agenten. Ob die Plattform die Mobilitätsgrenzen von KI ernsthaft verschiebt, bleibt offen. Bemerkenswert: rentahuman.ai wurde laut Entwickler Alexander Liteplo selbst von mehreren KI-Agenten in einer einzigen Nacht programmiert.
Burger King bewertet Filialfreundlichkeit per KI
Burger King testet in rund 500 US-Filialen einen KI-Assistenten namens „Patty“ für Mitarbeitende mit Headset. Das System erkennt Formulierungen wie „Bitte“ und „Danke“ und speist diese Daten in eine Metrik ein, die Filialleitern zeigt, wie ihr Standort in puncto Freundlichkeit abschneidet. Wie genau die Kennzahl berechnet wird, legt Burger King nicht offen.
Daneben gibt „Patty“ Mitarbeitenden Zugang zu Rezepturen und Reinigungsanweisungen, informiert Manager über ausgefallene Geräte und aktualisiert automatisch digitale Menüs und Kioske.
(igr)
