KI-Update kompakt: Datenschutz, CatAttack, Meta-Emitter, Peer-Review
Das "KI-Update" liefert werktäglich eine Zusammenfassung der wichtigsten KI-Entwicklungen.
- Isabel GrĂĽnewald
- The Decoder
Keine Schonfrist fĂĽr den AI Act
Die EU-Kommission bleibt unnachgiebig: Trotz massiver Kritik von Unternehmensseite wird der AI Act wie geplant umgesetzt. "Keine Pause, keine Schonfrist", betonte ein Kommissionssprecher in Brüssel. Die allgemeinen Regeln gelten bereits seit Februar, während die Pflichten für große KI-Modelle ab August 2025 und für Hochrisiko-Systeme ab August 2026 folgen.
Mehr als 45 Unternehmen, darunter Schwergewichte wie ASML, Airbus, Mercedes-Benz und Siemens Energy, hatten in einem offenen Brief eine zweijährige Verschiebung gefordert und auf fehlende Leitlinien sowie hohe Kosten verwiesen.
LLM-Betreiber sammeln umfangreich persönliche Daten
Eine Studie des Datenschutzunternehmens Incogni enthüllt die rücksichtslose Datensammelpraxis von LLM-Betreibern. Die Unternehmen greifen nicht nur auf Social-Media-Profile und App-Daten zu, sondern kaufen auch Informationen von Datenbrokern. Besonders problematisch: Die Daten werden in zusammenhängenden Datenbanken kompiliert, was grundlegenden Datenschutzprinzipien widerspricht. Nur wenige Anbieter wie Anthropic erklären transparent, dass sie Nutzerdaten aus Prompts nicht verwenden. Opt-out-Möglichkeiten bieten lediglich ChatGPT, Copilot, Mistral und Grok – die meisten anderen schweigen zu ihrer Praxis.
Mistral AI bezieht Stellung gegen Big Tech
Der französische KI-Entwickler Mistral hat die Initiative "AI for Citizens" gestartet, um Staaten und öffentliche Einrichtungen bei der bürgerfreundlichen Nutzung von KI zu unterstützen. Das Unternehmen kritisiert dabei scharf die Praktiken großer Technologiekonzerne: Deren KI-Produkte seien undurchsichtige Black Boxes mit einem "Eine-Variante-für-alle"-Ansatz. Laut Mistral erscheint KI zu oft als "unvermeidliches" Phänomen, auf das Menschen und Länder keinen Einfluss haben. Die Initiative soll dagegen helfen, KI strategisch zum Wohle der Bürger einzusetzen, öffentliche Dienstleistungen zu verbessern und Innovationen voranzutreiben.
Meta plant proaktive KI-Chatbots
Meta Platforms will künftig KI-Chatbots einsetzen, die Nutzer von sich aus ansprechen – ein deutlicher Schritt über die bisherige reaktive Rolle von Assistenten hinaus. Interne Dokumente einer für Meta arbeitenden KI-Firma belegen diese Pläne, die darauf abzielen, Nutzer stärker an Metas Plattformen zu binden und so Werbeeinnahmen zu steigern. Das Unternehmen bestätigte, dass es KI-Nachfragen testet, schränkte aber ein: Die Bots würden nur innerhalb von 14 Tagen nach einer bestehenden Konversation mit mindestens fünf Nutzeranfragen aktiv werden. Ob die Chatbots selbst kommerzialisiert werden, etwa durch Werbung oder gesponserte Antworten, ließ Meta offen.
Empfohlener redaktioneller Inhalt
Mit Ihrer Zustimmung wird hier ein externer Podcast (Podigee GmbH) geladen.
Ich bin damit einverstanden, dass mir externe Inhalte angezeigt werden. Damit können personenbezogene Daten an Drittplattformen (Podigee GmbH) übermittelt werden. Mehr dazu in unserer Datenschutzerklärung.
Wie harmlose Sätze KI-Modelle verwirren
Selbst leistungsstarke Reasoning-Modelle können durch einfache, harmlose Sätze aus dem Konzept gebracht werden. Die als "CatAttack" bezeichnete Methode fügt Eingabetexten irrelevante Sätze wie "Katzen schlafen die meiste Zeit ihres Lebens" hinzu – mit erstaunlichen Folgen: Die Fehlerquote kann sich verdreifachen und die Antworten werden deutlich länger, was höhere Rechenkosten verursacht. Der Grund liegt im Kontextfenster der Modelle, die den gesamten Eingabetext analysieren und dabei schlecht zwischen relevanten und irrelevanten Informationen unterscheiden können.
KI-Modell "Centaur" sagt menschliches Verhalten voraus
Forscher am Helmholtz Zentrum München haben "Centaur" entwickelt – ein KI-Modell, das menschliches Verhalten bei kognitiven Aufgaben präzise vorhersagen kann. Das auf Meta's Llama 3.1 (70B) basierende System wurde mit dem "Psych-101"-Datensatz trainiert, der über zehn Millionen Entscheidungen von mehr als 60.000 Teilnehmern psychologischer Experimente umfasst. Die in Nature veröffentlichte Studie zeigt, dass Centaur auch bei leicht veränderten Versuchsaufbauen zuverlässige Vorhersagen trifft. Das Modell könnte künftig helfen, psychologische Theorien zu entwickeln, Experimente zu simulieren oder individuelle Entscheidungsstrategien besser zu verstehen.
Wasserverbrauch ist die groĂźe Unbekannte bei der KI-Nutzung
Der Wasserverbrauch durch KI-Systeme entwickelt sich zu einem erheblichen Umweltproblem. Eine Studie der Gesellschaft für Informatik schätzt, dass die weltweite Wassernutzung durch KI-Anwendungen bis 2027 auf 4,2 bis 6,6 Milliarden Kubikmeter ansteigen könnte. Schon 20 bis 50 Fragen an einen KI-Chatbot verbrauchen etwa einen halben Liter Wasser – hauptsächlich für die Kühlung der Rechenzentren. Die Forscher empfehlen dringend technische, regulatorische und gesellschaftliche Maßnahmen: energieeffiziente Algorithmen, adaptive Trainingsprozesse, spezialisierte Hardware mit geringerem Strombedarf sowie kleinere, aufgabenspezifische KI-Modelle könnten den Wasserbedarf senken.
KI entwickelt Meta-Emitter für kühle Häuser
Eine KI hat 1.500 Varianten von Meta-Emittern entwickelt – Materialien, die Sonnenwärme reflektieren und in unterschiedlichen Wellenlängen abgeben können. Die vielversprechendsten wurden hergestellt und getestet: Wird eine Farbe auf Häuser aufgetragen, konnten sie Dächer um 5 bis 20 °C kühler halten als unbeschichtete Flächen – ohne Energieeinsatz. Für ein typisches Wohnhaus bedeutet das Einsparungen von knapp 16.000 Kilowatt Strom jährlich. Die Technologie könnte auch dazu beitragen, die Hitzebelastung in Großstädten zu senken und ließe sich sogar auf Kleidung anwenden.
EU-Verlage gegen Google
Europäische Verlage haben bei der EU-Kommission Beschwerde gegen Google eingereicht. Der Vorwurf: Das Unternehmen nutze Inhalte von Nachrichtenseiten für seine KI-Funktion "AI Overviews", ohne Zustimmung der Urheber einzuholen. Die direkten Zusammenfassungen in den Suchergebnissen sind oft so präzise, dass Nutzer die Originalquellen nicht mehr anklicken – mit erheblichen Folgen für die Werbeeinnahmen der Verlage. Besonders problematisch: Wer nicht möchte, dass Google seine Inhalte verwendet, muss sich komplett aus dem Suchindex zurückziehen – ein wirtschaftlich kaum tragbarer Schritt. Die Beschwerdeführer fordern einen sofortigen Stopp dieser Praxis bis zur rechtlichen Klärung.
Versteckte KI-Prompts in Fachartikeln entdeckt
Die japanische Wirtschaftszeitung Nikkei hat in mehr als einem Dutzend wissenschaftlicher Fachartikel versteckte Anweisungen an KI-Systeme gefunden. Die auf der Plattform Arxiv veröffentlichten Papers enthielten für Menschen unsichtbare Prompts, die KI-Werkzeuge zu positiven Bewertungen aufforderten. Die Autoren aus Südkorea, Japan, China und den USA verteidigten diese Praxis als "Gegenwehr" gegen "faule Prüfer", die vermutlich KI-Systeme statt eigener Lektüre für Peer-Reviews nutzen. Während ein Forscher nach der Entdeckung seine Arbeit zurückzog, rechtfertigte ein anderer den Trick als legitime Maßnahme, da die versteckten Anweisungen nur für KIs, nicht für menschliche Leser sichtbar seien.
Googles Videogenerator Veo 3 in Deutschland verfĂĽgbar
Googles KI-Videomodell Veo 3 ist nun auch in Deutschland nutzbar – allerdings nur für Inhaber eines Google AI Pro Accounts. Das über Gemini erreichbare Tool versteht jetzt auch deutsche Prompts und bietet im Gegensatz zu OpenAIs Sora die Möglichkeit, passenden Sound zu generieren. Die Anzahl der täglich erstellbaren Videos ist begrenzt, wobei Google keine genauen Zahlen nennt.
Corti und Dedalus kooperieren fĂĽr Dokumentation in Kliniken
Das dänische HealthTech-Unternehmen Corti und der Softwareanbieter Dedalus haben eine Partnerschaft für KI-gestützte medizinische Dokumentation geschlossen. Die Technologie, die bereits in mehreren Krankenhäusern im Einsatz ist, analysiert gesprochene Inhalte aus Patientengesprächen in Echtzeit und wandelt sie in strukturierte klinische Dokumentation um. Als europäische Alternative zu Lösungen großer US-Anbieter wie Microsoft soll der "Orbis Speech Assistant" medizinisches Personal entlasten, administrative Aufwände reduzieren und die Dokumentationsqualität verbessern.
(igr)
