KI-Update kompakt: Rückendeckung für Anthropic, Firefox, Urheberrecht, Netflix
Das "KI-Update" liefert drei mal pro Woche eine Zusammenfassung der wichtigsten KI-Entwicklungen.
- Isabel Grünewald
- The Decoder
Amazon, Google und Microsoft stärken Anthropic den Rücken
Nachdem das Pentagon Produkte von Anthropic als „Sicherheitsrisiko“ für Anwendungen im Bereich nationaler Sicherheit und Militär eingestuft hatte, erklärten Amazon, Google und Microsoft unabhängig voneinander, ihre Kunden könnten die Tools von Anthropic weiterhin nutzen. Das Sicherheitsrisiko gelte bislang nur für das Verteidigungsministerium. Den Auftrag für KI-Dienste im US-Militär erhielt OpenAI, das offenbar weniger strikte rote Linien zieht als Anthropic, etwa beim Einsatz autonomer Waffensysteme ohne menschliche Kontrolle.
Dass der Streit OpenAI schadete, zeigt ein internes Signal: Caitlin Kalinowski, Robotikchefin bei OpenAI und zuvor bei Meta in der Hardwareentwicklung tätig, trat aus dem Unternehmen aus. Sie begründete ihren Abgang ausdrücklich mit dem Vorgehen von OpenAI in diesem Konflikt und kritisierte, Sicherheitsbedenken seien zu wenig berücksichtigt worden.
Claude findet in zwei Wochen über 100 Firefox-Bugs
Anthropics KI-Modell Claude Opus 4.6 hat in einem internen Test gemeinsam mit der Mozilla Foundation in zwei Wochen mehr als 100 Sicherheitslücken im Browser Firefox gefunden, darunter 14 mit hohem Schweregrad. Den ersten Fehler fand das Modell nach 20 Minuten. Zum Vergleich: Mozilla patchte im gesamten vergangenen Jahr 73 als hochkritisch oder kritisch eingestufte Bugs. Firefox gilt als einer der meistgeprüften Browser der Welt, mit einem Prämienprogramm für Fehlerberichte seit über 20 Jahren.
Beim Ausnutzen der Lücken war die KI deutlich schwächer: Funktionierende Angriffswerkzeuge konnte das Modell nur in zwei Fällen schreiben und selbst diese hätten in der Praxis die Sicherheitsmechanismen des Browsers nicht überwunden.
Untersuchungen gegen Meta wegen Clickworkern
In Großbritannien und den USA laufen Untersuchungen, ob Meta mit der Weitergabe von Videos aus smarten Brillen gegen Verbraucherschutzgesetze verstoßen hat. Das schwedische Dagbladet hatte mit Clickworkern in Kenia gesprochen, die von intimen Aufnahmen berichteten, die sie für das Training von KI-Modellen sortieren und beschriften mussten. Meta beruft sich auf seine Nutzungsbedingungen, die eine Weitergabe von Aufnahmen erlauben. Die britische Datenschutzbehörde kritisiert jedoch, dass Meta gleichzeitig damit wirbt, die smarten Brillen gäben Nutzern die Kontrolle über ihre Daten.
In den USA hat eine bürgerrechtsorientierte Anwaltskanzlei Klage eingereicht. Sie wirft Meta vor, Datenschutzrichtlinien gebrochen und falsche Werbeversprechen gemacht zu haben. Die Vorwürfe richten sich auch gegen EssilorLuxottica, den Hersteller der Ray-Ban- und Oakley-Brillen.
Meta sieht ungelabelte Videos als nächste große Trainingsquelle
Hochwertige Textdaten für das Training von KI-Modellen werden knapp. Ein Forschungsteam von Meta und der New York University hat deshalb untersucht, wie sich multimodale Modelle von Grund auf mit riesigen Mengen ungelabelter Videos trainieren lassen. Die Forscher argumentieren, dass Text eine verlustbehaftete Komprimierung der Realität sei: Sprachmodelle hätten gelernt, Dinge zu beschreiben, ohne sie je gesehen zu haben.
Die Studie widerlegt eine verbreitete Annahme, wonach visuelle und sprachliche Fähigkeiten beim Training miteinander konkurrieren. Reines Video ohne Textannotationen verschlechterte die Sprachfähigkeiten nicht. Auf einem Testdatensatz übertraf das kombinierte Modell sogar die reine Textvariante leicht. Zudem konnten die Forscher zeigen, dass ein einziger visueller Encoder für das Verstehen und die Generierung von Bildern ausreicht statt der bislang üblichen zwei getrennten Komponenten.
EU-Abgeordnete wollen schnellere Regelung zu KI und Urheberrechten
Während die EU-Kommission erst prüfen will, welcher Handlungsbedarf beim Thema KI und Urheberrecht besteht, drängen Abgeordnete im Europaparlament auf schnellere Lösungen. Kommende Woche stimmt das Parlament über einen Initiativbericht des CDU-Rechtspolitikers Axel Voss ab. Kernpunkt ist die sogenannte Text-and-Data-Mining-Ausnahme: Sie erlaubt KI-Anbietern, urheberrechtlich geschützte Inhalte zu nutzen, sofern Rechteinhaber nicht maschinenlesbar widersprechen. Was „maschinenlesbar“ genau bedeutet, ist juristisch ungeklärt. Der Bericht fordert verbindliche Standards dafür sowie mehr Transparenz über den tatsächlichen Einsatz von Trainingsdaten.
Strittig ist auch die Vergütung. Abgeordnete fordern kollektive Vereinbarungen zwischen KI-Anbietern und Verwertungsgesellschaften. Medienhäuser stehen unter Druck, weil KI-Zusammenfassungen Nutzer von ihren Angeboten weglenken. Ob der Bericht konkrete Folgen hat, bleibt offen: Das Initiativrecht für EU-Gesetze liegt bei der Kommission, und selbst beschleunigte Verfahren dauern mehrere Monate.
Erfundene Quellen haben sich in die Wissenschaft eingeschlichen
KI-Sprachmodelle erfinden Quellenangaben. Dieses bekannte Problem hat inzwischen die wissenschaftliche Literatur erreicht: Akzeptierte Facharbeiten bei führenden KI-Konferenzen enthalten Referenzen, die auf keine reale Publikation verweisen. Ein Forschungsteam hat daraufhin das Open-Source-Werkzeug CiteAudit entwickelt. Es setzt fünf spezialisierte KI-Agenten ein, die arbeitsteilig vorgehen: Einer liest das PDF aus, ein weiterer gleicht Angaben mit bekannten Zitaten ab, ein dritter sucht per Websuche nach Belegen, ein vierter prüft die Treffer zeichengenau und ein fünfter durchsucht autoritative Datenbanken wie Google Scholar.
Netflix holt KI-Filmtechnik von Ben Affleck ins Haus
Netflix übernimmt InterPositive, ein KI-Start-up, das der Schauspieler und Regisseur Ben Affleck gegründet hat. Das 16-köpfige Team aus Ingenieuren, Forschern und Kreativen wechselt vollständig zum Streamingdienst. Affleck soll Netflix künftig als leitender Berater unterstützen. Einen kommerziellen Vertrieb der Technologie plant Netflix nicht. Die Konditionen der Übernahme wurden nicht offengelegt.
InterPositive entwickelt Werkzeuge für die Postproduktion, die Filmemacher bei typischen Arbeitsschritten unterstützen sollen, ohne eigenständig Filme zu generieren. KI-Modelle werden auf Basis realer Dreharbeiten trainiert und können dann fehlende Einstellungen ergänzen, Hintergründe verstärken oder Licht und Bildausschnitte nachträglich verändern.
Empfohlener redaktioneller Inhalt
Mit Ihrer Zustimmung wird hier ein externer Podcast (Podigee GmbH) geladen.
Ich bin damit einverstanden, dass mir externe Inhalte angezeigt werden. Damit können personenbezogene Daten an Drittplattformen (Podigee GmbH) übermittelt werden. Mehr dazu in unserer Datenschutzerklärung.
KI-Agenten werden an der realen Arbeitswelt vorbeientwickelt
KI-Agenten sollen künftig eigenständig komplexe Arbeitsaufgaben übernehmen. Doch eine Studie von Forschenden der Carnegie Mellon University und der Stanford University zeigt, dass die Systeme kaum für den realen Arbeitsalltag entwickelt werden. Das Team analysierte 43 Agenten-Benchmarks mit mehr als 72.000 Aufgaben und glich sie mit dem US-Arbeitsmarkt ab. Benchmarks sind standardisierte Tests, mit denen Forscher die Leistung von KI-Systemen messen.
Das Ergebnis ist eindeutig: Die aktuelle Entwicklung zielt fast ausschließlich auf Computer und Mathematik ab, einen Bereich, der nur 7,6 Prozent der Gesamtbeschäftigung in den USA ausmacht. Stark digitalisierte Branchen wie Management, Recht und Ingenieurwesen sind kaum vertreten. Die Forschenden führen das auf methodische Bequemlichkeit zurück: Aufgaben mit klar formulierbaren Anweisungen und einfach überprüfbaren Ergebnissen werden überproportional bevorzugt. Sie fordern Benchmarks, die gezielt unterrepräsentierte Arbeitsbereiche abdecken.
MIT-Forscher verwandeln flache Platten in 3D-Strukturen
Forscher am Computer Science and Artificial Intelligence Laboratory des MIT haben eine Methode entwickelt, mit der sich flache Platten ohne Werkzeuge in dreidimensionale Strukturen verwandeln lassen. Inspiriert von der japanischen Papierkunst Kirigami, bei der präzises Ausschneiden komplexe Formen erzeugt, besteht die Platte aus verbundenen Kacheln. Ein einziger Zug an einer Schnur zieht sie zur gewünschten Form zusammen.
Ein Algorithmus berechnet dabei in zwei Schritten den optimalen Verlauf der Schnur: Er bestimmt zunächst die minimale Anzahl der Hebepunkte und findet dann den kürzesten Weg, diese zu verbinden, um Reibung zu minimieren. Die entstehenden Muster lassen sich per 3D-Druck, CNC-Fräsen oder Guss herstellen. Die Forscher sehen mögliche Anwendungen überall dort, wo Objekte flach transportiert und erst vor Ort aufgefaltet werden sollen, von schwer zugänglichen Regionen bis zu Habitaten auf dem Mond oder Mars.
KI-Agent Luma erzeugt Audio, Videos und Bilder in einem Schritt
Luma AI hat eine Web-Plattform vorgestellt, die kreative Projekte wie Videos oder Printkampagnen vom Konzept bis zur fertigen Ausgestaltung in einer einzigen Anwendung ermöglicht. Bislang mussten Kreative für ein Videoprojekt mehrere Werkzeuge nacheinander nutzen: Skript in ChatGPT, Ausgangsbild in Midjourney, Videoclips in Runway ML, Musik aus einer Bibliothek, Schnitt in Adobe Premiere Pro. All diese Schritte sollen nun in einer Web-App zusammenlaufen.
Die Plattform bindet neben Luma AIs eigenem Videomodell Ray 3.14 auch Googles Veo, OpenAIs Sora und Kling AI sowie mehrere Bildgeneratoren ein. Musik, Audioeffekte und Stimmen liefert ElevenLabs. Luma richtet sich an kreative Teams in Agenturen und Marketingabteilungen, die schnell Inhalte produzieren wollen.
SoundHound AI vernetzt Fahrzeugdaten mit Services
SoundHound AI, ein Anbieter von Sprachassistenz-Software, hat auf dem Mobile World Congress ein KI-System für Fahrzeuge vorgestellt, das nicht nur informiert, sondern eigenständig planen, bestellen und bezahlen kann. Die Software baut auf verschiedenen großen Sprachmodellen auf und umfasst rund zwei Dutzend spezialisierte KI-Agenten, die jeweils für einen eigenen Bereich zuständig sind, aber untereinander kommunizieren können. Wer auf dem Heimweg eine Pizza abholen möchte, bekommt vom System passende Restaurants vorgeschlagen. Optional bestellen die Agenten eigenständig und bezahlen.
Zu den bisherigen Partnern gehören Genesis, Hyundai, Kia, Lucid und die Stellantis-Gruppe. Welcher Hersteller die KI-Agenten als Erster in einem Serienmodell einsetzt, wollte das Unternehmen nicht nennen. Der Start ist noch für dieses Jahr geplant.
(igr)
