KI-Update kompakt: C2PA-Standard, KI-Überwachung, Vesuvius Challenge, PokéLLMon
Das "KI-Update" liefert werktäglich eine Zusammenfassung der wichtigsten KI-Entwicklungen.
- Isabel Grünewald
- The Decoder
OpenAI will Herkunft KI-generierter Bilder offenlegen
OpenAI hat den C2PA-Standard (Coalition for Content Provenance and Authenticity) in DALL-E 3 implementiert, um die Herkunft von KI-erstellten Bildern nachvollziehbar zu machen. Die C2PA-Metadaten ermöglichen die Überprüfung der Authentizität von DALL-E 3-Bildern, wobei API-generierte Bilder eine Signatur und ChatGPT-Bilder zusätzlich einen Herkunftshinweis aufweisen. Die Metadaten können die Dateigröße erhöhen, die Bildqualität bleibt jedoch unverändert.
Andy Parsons, Senior Director der Content Authenticity Initiative von Adobe, verglich die C2PA-Kennzeichnung mit einem "Nährwertkennzeichen" für die Herkunft von Medien. Die Initiative wird von Unternehmen wie Adobe, Arm, Intel, Microsoft und Meta unterstützt. Kamerahersteller und Nachrichtenorganisationen treiben ebenfalls die Zertifizierung von Medieninhalten durch C2PA voran. Es ist jedoch zu beachten, dass C2PA kein Allheilmittel gegen KI-Fake-Bilder ist, da Metadaten entfernt werden können.
Empfohlener redaktioneller Inhalt
Mit Ihrer Zustimmmung wird hier ein externer Podcast (Podigee GmbH) geladen.
Ich bin damit einverstanden, dass mir externe Inhalte angezeigt werden. Damit können personenbezogene Daten an Drittplattformen (Podigee GmbH) übermittelt werden. Mehr dazu in unserer Datenschutzerklärung.
BSI startet neues nationales IT-Lagenzentrum
Das Bundesamt für Sicherheit in der Informationstechnik (BSI) hat ein neues Nationales IT-Lagezentrum in Bonn eröffnet. Ausgestattet mit modernster Kommunikationstechnik und zehn Arbeitsplätzen, soll das Zentrum die Cybersicherheitslage für Deutschland rund um die Uhr überwachen. Es ersetzt das bisherige Zentrum, das jährlich etwa 2800 Meldungen zu IT-Sicherheitsvorfällen und Schwachstellen erhielt.
Das neue Zentrum soll regelmäßig Informationen mit nationalen und internationalen Partnern austauschen und bei besonderen Vorfällen oder IT-Notzeiten als "Nationales IT-Krisenreaktionszentrum" dienen, in dem bis zu 100 IT-Sicherheitsfachkräfte koordiniert arbeiten können. Bundesinnenministerin Nancy Faeser betonte, dass Cyberangriffe und KI-generierte Fakes erhebliche Gefahren darstellen und das Zentrum dazu beitragen soll, die Systeme zu schützen.
Bundesregierung warnt vor KI-Überwachung am Arbeitsplatz
Die Bundesregierung erkennt Potenziale für Beschäftigte und den Arbeitsmarkt bei der KI-Nutzung warnt jedoch in einer Antwort auf eine Anfrage der CDU-/CSU-Bundestagsfraktion vor Risiken für die Arbeitsbedingungen.
KI im Arbeitsumfeld könnte zu stärkeren Eingriffen in das Recht auf informationelle Selbstbestimmung führen, insbesondere durch erhöhten Überwachungsdruck. Die Regierung betont die Notwendigkeit einer "aktiven und sozialen Gestaltung der digitalen Transformation", einschließlich eines klaren Rechtsrahmens und der Befähigung von Beschäftigten, Interessenvertretungen und Arbeitgebern zum sicheren und menschenzentrierten Umgang mit KI.
Die Stärkung der Rechte von Betriebs- und Personalräten beim Einsatz von KI-Systemen sei von hoher Bedeutung. Bei der Erarbeitung eines Entwurfs für ein "Beschäftigtendatengesetz" soll die Regierung auch die Auswirkungen von KI auf Arbeitsbedingungen berücksichtigen, um Rechtsklarheit für Arbeitgeber und Beschäftigte zu erreichen.
KI-Technik macht verkohlten Papyrus lesbar
Drei Studenten haben den Hauptpreis der Vesuvius Challenge gewonnen, indem sie mithilfe von KI-Technik über 2000 Zeichen einer verkohlten Papyrusrolle aus dem Jahr 79 entzifferten. Die Rollen wurden bei dem berühmten Vulkanausbruch begraben, der Pompeji und Herculaneum verschüttete. Die hochaufgelösten Aufnahmen, die durch einen Teilchenbeschleuniger erzeugt wurden, dienten als Grundlage für den Wettbewerb.
Die Teilnehmer trainierten KI-Modelle, um griechische Buchstaben oder Worte zu identifizieren. Die rekonstruierten Texte behandeln Fragen der epikureischen Philosophie und könnten einen Einblick in bisher unbekannte Werke bieten. Die Organisatoren des Wettbewerbs hoffen, die Technik weiter auszubauen, um noch mehr Texte aus der verschütteten Bibliothek lesen zu können und möglicherweise verloren geglaubte Werke von Aristoteles und anderen zu entdecken.
Meta stellt neue KI-Regeln vor
Meta Platforms hat neue Regeln und Verfahren für Inhalte vorgestellt, die mit generativer KI erstellt wurden. Das Unternehmen reagiert damit nach eigenen Angaben auf Nutzerwünsche nach Transparenz und plant, KI-generierte Videos, Tonspuren und fotorealistische Bilder zu kennzeichnen. Bei Bildern setzt Meta auf die Standards der Coalition for Content Provenance and Authenticity (C2PA) und des International Press Telecommunications Council (IPTC), um digitale Markierungen hinzuzufügen.
Für Ton- und Bewegtbilder müssen Uploader selbst angeben, ob es sich um KI-Erzeugnisse handelt. Meta arbeitet auch an Algorithmen zur automatischen Erkennung von KI-generierten Bildern. Die vorgestellten Änderungen seien ein erster Schritt, und Meta betont, dass sie ihre Herangehensweise weiterhin überprüfen und anpassen werden.
PokéLLMon: KI-Agent meistert Pokémon-Kämpfe gegen menschliche Spieler
Das Georgia Institute of Technology hat erfolgreich einen KI-Agent namens PokéLLMon entwickelt, der in Pokémon-Kämpfen gegen menschliche Spieler antritt. PokéLLMon setzt auf Sprachmodelle, nutzt Wiki-Einträge und lernt durch Reinforcement Learning direkt im Kontextfenster des Sprachmodells. Die KI erreicht eine Siegquote von 49 Prozent in Ladder-Wettbewerben und 56 Prozent in privaten Matches gegen menschliche Spieler.
Allerdings neigt PokéLLMon dazu, kurzfristige Vorteile zu bevorzugen und ist anfällig für langfristige Strategien menschlicher Spieler. Pokémon-Kämpfe sind strategisch anspruchsvoll und erfordern die Berücksichtigung vieler Faktoren, von Pokémon-Eigenschaften bis zu Umgebungsbedingungen im Spiel. Die Forscher betrachten diese Kämpfe als Testumgebung für die Entwicklung von Agenten, die sich in virtuellen Welten ähnlich wie Menschen verhalten können.
YouTube bringt KI-Funktionen für Content Creator
Youtube plant, Content-Creators mit KI zu unterstützen und strebt an, die Arbeit der Video-Produzenten arbeitsrechtlich mit Filmstudios gleichzustellen. Youtube-Chef Neal Mohan betont, dass die Plattform als Familienfernseher im Wohnzimmer etabliert werden soll. Im letzten Jahr stellte Youtube KI-Tools wie Youtube Create und Dream Screen vor, die die Videoproduktion erleichtern sollen. Dream Screen generiert Hintergründe für kurze Youtube-Videos aus Textvorgaben, während Dream Track als Experiment Musik per KI erstellt. Im Laufe dieses Jahres sollen weitere KI-Features hinzukommen.
Mohan kritisiert, dass Content-Creators trotz hoher Auszahlungen von Youtube nicht genug Anerkennung erhalten, und arbeitet mit politischen Entscheidungsträgern und Partnern daran, dies zu ändern. Gleichzeitig sollen Maßnahmen gegen Fake-News ergriffen und eine Kennzeichnung für synthetische Inhalte eingeführt werden.
(igr)
