KI-Update kompakt: Demokratie schützen, Prism, Wettervorhersage, KI in Autos
Das „KI-Update“ liefert drei mal pro Woche eine Zusammenfassung der wichtigsten KI-Entwicklungen.
- Isabel Grünewald
- The Decoder
Anthropic-Chef warnt: Demokratien dürfen nicht werden, was sie bekämpfen
Der Anthropic-CEO Dario Amodei warnt in einem Blogpost vor den Gefahren mächtiger KI-Systeme. Er identifiziert vier Technologien, mit denen Autokratien ihre Bürger unterdrücken könnten: vollautonome Waffenschwärme, KI-gestützte Massenüberwachung, personalisierte Propaganda und strategische KI-Berater. Bei Massenüberwachung im Inland und Propaganda gegen die eigene Bevölkerung zieht Amodei eine absolute Grenze: Beides sei für Demokratien vollkommen illegitim. Er fordert neue Gesetze zum Schutz bürgerlicher Freiheiten, möglicherweise sogar einen Verfassungszusatz.
Kritiker wie der KI-Forscher Yann LeCun werfen Anthropic vor, mit zugespitzten Risikoszenarien Ängste zu schüren, um Regulierungen durchzusetzen, die offene KI-Modelle benachteiligen.
Altman warnt vor sorglosem Umgang mit KI-Agenten
OpenAI-Chef Sam Altman befürchtet, dass die Gesellschaft durch Bequemlichkeit in eine Sicherheitskrise schlafwandelt. In einer Fragerunde mit Entwicklern sprach er von einer problematischen Mentalität nach dem Motto: Wird schon gut gehen. Altman beobachtete selbst bei sich, dass er KI-Agenten trotz anfänglicher Skepsis schnell vollen Zugriff auf seinen Computer gewährt habe. Der Grund: Die Systeme handeln meistens vernünftig.
Mit steigender Fähigkeit der Modelle könnten Sicherheitslücken entstehen oder Probleme über Wochen unbemerkt bleiben. Eine umfassende Sicherheitsinfrastruktur fehle bislang. Altman kündigte außerdem an, dass OpenAI das Wachstum der Belegschaft verlangsamen wolle. Man erwarte, mit weniger Menschen viel mehr erreichen zu können. Er räumte auch ein, dass GPT-5 beim redaktionellen Schreiben ein Rückschritt gegenüber GPT-4.5 sei.
OpenAI veröffentlicht Prism für wissenschaftliches Schreiben
OpenAI hat unter dem Dach seiner Initiative „OpenAI for Science“ das Tool Prism veröffentlicht. Es basiert auf dem freien Textsatzsystem LaTeX, das speziell für mathematische Formeln und komplexe Dokumente ausgelegt ist. OpenAI übernahm dafür das Unternehmen Crixet. Die KI-Funktionen ermöglichen direkte Recherche beim Schreiben über GPT-5.2, ohne zwischen Anwendungen wechseln zu müssen.
Prism ist kostenlos und kann kollaborativ mit unbegrenzt vielen Personen genutzt werden. Es läuft über die Cloud, OpenAI hat also Zugriff auf die Dokumente. Zur Nutzung genügt ein persönliches ChatGPT-Konto. OpenAI erwartet, dass dieses Jahr ganz im Zeichen eines Wandels in der Wissenschaft stehen wird, ähnlich dem Wandel in der Software-Entwicklung im vergangenen Jahr.
EU-Parlament bremst Kommissionspläne für Daten und KI
Die EU-Kommission hat am Montag im EU-Parlament für ihre Gesetzesvorstöße zu Digitalisierung und KI-Regulierung geworben, mit mäßigem Erfolg. Fast alle Fraktionen kritisieren die im Dezember 2025 vorgelegten Vorschläge und warnen davor, hart erkämpfte Schutzstandards zugunsten von Großkonzernen aufzuweichen. Die Kommission will mit einem digitalen Omnibusgesetz die Regeln im Digitalbereich vereinfachen und vier verschiedene Normenkomplexe unter ein Dach bringen.
Birgit Sippel aus der Fraktion der Sozialdemokraten kritisierte die Möglichkeit für KI-Firmen, sich selbst als „High Risk“ einzustufen oder eben nicht. Ihre Parteikollegin Marina Kaljurand stellte das geplante Privileg für KI-Firmen infrage, das ihnen die Nutzung sensibler Daten erlaubt. Axel Voss von der konservativen EVP mahnte, sich nicht wegen der laufenden Umsetzung des AI Acts unter Zeitdruck zu setzen. Die Ausschusssitzung war die erste zu dem Paket, aber nicht die letzte.
Nvidia veröffentlicht drei KI-Modelle für die Wettervorhersage
Nvidia hat drei neue KI-Modelle für Wettervorhersagen vorgestellt. Sie sollen schneller und energieeffizienter arbeiten als herkömmliche Supercomputer. Earth2 Medium Range sagt das Wetter bis zu 15 Tage im Voraus vorher und analysiert über 70 Wettervariablen. Kurzfristprognosen von bis zu sechs Stunden liefert Earth2 Nowcasting und nutzt generative KI für Satelliten- und Radardaten. Earth2 Global Data Assimilation berechnet atmosphärische Ausgangsbedingungen in Sekunden statt Stunden.
Die Effizienzzahlen sind beachtlich: Traditionelle Methoden benötigen Millionen CPU-Stunden auf Supercomputern für eine hochauflösende Wetterkarte der USA. Mit Nvidias Ansatz dauert das nur noch eine Stunde auf einer einzigen GPU. Taiwan nutzt die Modelle bereits für Taifun-Vorhersagen, Energiekonzerne wie Total Energies für Risikobewertungen, Versicherungen wie AXA für Simulationen extremer Wetterereignisse.
Adobe erweitert KI-Werkzeuge für Photoshop
Adobe hat verbesserte KI-Werkzeuge für Photoshop vorgestellt. Zu den Funktionen rund um Adobe Firefly zählen „Generatives Füllen“, „Generatives Erweitern“ und das Entfernen-Werkzeug. Nach Angaben von Adobe setzen die Werkzeuge Texteingaben zuverlässiger um und erzeugen sauberere Übergänge zwischen bestehenden und berechneten Bildteilen. Beleuchtung und Bildtiefe sollen natürlicher wirken, beim Retuschieren verspricht der Hersteller weniger Artefakte.
Beim generativen Füllen mit Referenzbildern kann Photoshop künftig nicht nur Stil, Farben oder Anmutung übernehmen, sondern auch konkrete Objekte aus einer Vorlage berücksichtigen. Das Programm erkenne Geometrie und Perspektive und passe eingefügte Inhalte an Größe, Licht, Farbe und Blickwinkel der Zielszene an. Die überarbeiteten KI-Werkzeuge stehen ab sofort in der Desktop-Version bereit.
Mistral veröffentlicht Code-Assistenten Vibe 2.0
Das französische KI-Unternehmen Mistral AI hat Mistral Vibe 2.0 vorgestellt. Der terminalbasierte Programmierassistent ermöglicht Entwicklern, Code mit natürlicher Sprache zu steuern, mehrere Dateien gleichzeitig zu bearbeiten und den gesamten Code-Kontext zu nutzen. Neu in Version 2.0 sind benutzerdefinierte Unteragenten für spezielle Aufgaben wie Tests oder Code-Reviews. Außerdem stellt das System bei unklaren Anweisungen Rückfragen, statt automatisch zu entscheiden.
Mistral Vibe ist über den Le Chat Pro Plan für 17,99 € pro Monat verfügbar. Das zugrundeliegende Modell Devstral 2 wechselt zu kostenpflichtigem API-Zugang. Kostenlose Nutzung bleibt für Tests im Experiment-Plan möglich.
Empfohlener redaktioneller Inhalt
Mit Ihrer Zustimmung wird hier ein externer Podcast (Podigee GmbH) geladen.
Ich bin damit einverstanden, dass mir externe Inhalte angezeigt werden. Damit können personenbezogene Daten an Drittplattformen (Podigee GmbH) übermittelt werden. Mehr dazu in unserer Datenschutzerklärung.
Allen AI veröffentlicht günstig trainierbare Coding-Agenten
Das KI-Forschungsinstitut Allen AI hat SERA veröffentlicht, eine Familie von Open-Source-Coding-Agenten. Die Modelle lassen sich laut den Entwicklern günstig an private Codebasen anpassen. Das beste Modell, namens SERA-32B, löst bis zu 54,2 Prozent der Probleme im Coding-Benchmark SWE-Bench-Test Verified und übertrifft damit vergleichbare Open-Source-Modelle.
SERA nutzt ein vereinfachtes Trainingsverfahren, das keine vollständig korrekten Code-Beispiele benötigt. Das Training kostet laut Allen AI zwischen 400 und 12.000 Dollar, damit ist ein Training auf eigenen Code-Daten auch für kleine Teams möglich. Die Modelle sind mit Claude Code kompatibel und können mit zwei Zeilen Code gestartet werden. Alle Modelle und der Code sind unter der Apache-2.0-Lizenz auf Hugging Face verfügbar.
Autonome Fahrzeuge anfällig für visuelle Prompt-Attacken
Forscher der Universität von Santa Cruz haben getestet, wie KI-Systeme in autonomen Fahrzeugen, Drohnen und Robotern auf visuelle Prompt-Attacken reagieren. Sie platzierten Befehle wie „links abbiegen“ oder „hier landen“ auf Schildern in der physischen Welt. In einer Simulation gelang es in 95,5 Prozent der Fälle, eine Polizeidrohne dazu zu bringen, ein anderes Ziel zu verfolgen als ursprünglich gedacht.
Die Forscher nutzten ein eigenes System, das sie mit einem Sprachmodell trainiert hatten, um die vielversprechendsten Anweisungen zu ermitteln, einschließlich Größe und Farbe. Mit der zunehmenden Verbreitung autonomer Autos und humanoider Roboter könnte diese Art der visuellen Prompt-Attacke ein größeres Sicherheitsproblem darstellen als bisher angenommen.
Deutsche Synchronsprecher boykottieren Netflix wegen KI-Klausel
Deutsche Synchronsprecher weigern sich seit Anfang Januar, für Netflix zu arbeiten. Auslöser ist eine neue KI-Trainingsklausel für kommende Projekte des Streamingdienstes. Die umstrittene Klausel beinhaltet eine Rechteabtretung, nach der Netflix künftige Synchronaufnahmen für KI-Trainingszwecke nutzen dürfte, eine Vergütung dafür aber nicht regelt.
Der Verband Deutscher Sprecher:innen teilte mit, man habe Netflix mehrfach signalisiert, für Verhandlungen bereit zu stehen. Diese Kontaktaufnahmen seien bislang ignoriert worden. Laut der Synchronsprecherin Vivien Faber könnte dies zur Folge haben, dass demnächst Filme und Serien auf Netflix ohne deutsche Synchronisation erscheinen.
(igr)
