KI-Update kompakt: AI Act Leak, Fake-Biden, PixArt-δ, Eleven Labs
Das "KI-Update" liefert werktäglich eine Zusammenfassung der wichtigsten KI-Entwicklungen.
EU-Leak: AI Act in finaler Fassung aufgetaucht
Die finale Version des EU AI Acts wurde geleakt und umfasst 900 Seiten. Das Dokument ist in vier Spalten unterteilt, die die Wünsche und Standpunkte der verschiedenen Entscheider darstellen – Kommission, Parlament, Rat und die vereinbarte Textfassung. Änderungen am Einstieg zeigen, dass das Parlament den Menschen in den Vordergrund stellen möchte, statt den Markt durch Regulierung zu beeinflussen. Der Leitsatz lautet nun: "Ziel dieser Verordnung ist es, die Einführung von menschenzentrierter und vertrauenswürdiger künstlicher Intelligenz zu fördern und ein hohes Maß an Schutz der Gesundheit, der Sicherheit, der Grundrechte, der Demokratie und der Rechtsstaatlichkeit sowie der Umwelt vor schädlichen Auswirkungen von Systemen der künstlichen Intelligenz in der Union zu gewährleisten und gleichzeitig die Innovation zu fördern und das Funktionieren des Binnenmarktes zu verbessern."
Ein zentraler Streitpunkt ist die Nutzung biometrischer Daten. Die aktuelle Fassung verweist kurz auf Datenschutzgesetze und den Datenschutzausschuss. Das Parlament hatte eine differenziertere Variante vorgeschlagen, die betont, dass der AI Act das Recht auf Privatsphäre und persönliche Daten nicht aushebeln könne. Trotz vieler Verbote für Emotions-Erkennungssysteme sind einige Ausnahmen, etwa für Fahrassistenzsysteme, enthalten.
Kritik von Bürgerrechtsorganisationen und Regierungen richtet sich primär gegen die erweiterten Einsatzmöglichkeiten für automatische Gesichtserkennung. Nachträgliche Fernidentifikation ist fast immer möglich und die Suche nach Straftätern und Verdächtigen ist kaum eingeschränkt. Das Parlament hatte ursprünglich auch eine "grüne KI" gefordert, jedoch ist nur noch ein Halbsatz dazu in der Abschlussfassung enthalten.
Empfohlener redaktioneller Inhalt
Mit Ihrer Zustimmmung wird hier ein externer Podcast (Podigee GmbH) geladen.
Ich bin damit einverstanden, dass mir externe Inhalte angezeigt werden. Damit können personenbezogene Daten an Drittplattformen (Podigee GmbH) übermittelt werden. Mehr dazu in unserer Datenschutzerklärung.
Studie hinterfragt KI-Ersatz für Arbeitsplätze
Eine Studie des MIT CSAIL widerspricht der weitverbreiteten Annahme, dass Künstliche Intelligenz schon bald zahlreiche Arbeitsplätze ersetzen wird. Die Untersuchung konzentriert sich auf die wirtschaftliche Nutzbarkeit von KI bei visuellen Aufgaben, etwa der Endkontrolle von Produkten auf Fehler. Die Ergebnisse zeigen, dass lediglich 23 Prozent dieser Aufgaben durch visuelle KI-Systeme kosteneffizient automatisiert werden könnten. Nur acht Prozent der Arbeitsplätze in nicht landwirtschaftlichen US-Betrieben weisen mindestens eine Aufgabe auf, deren Automatisierung wirtschaftlich sinnvoll wäre.
Die Studie weist darauf hin, dass hohe Anpassungs- und Wartungskosten von KI-Systemen für spezifische Aufgaben für kleinere Unternehmen wirtschaftlich untragbar sein könnten. Andere Untersuchungen, die text- und bildbasierte KI-Systeme und deren Auswirkungen auf den Arbeitsmarkt betrachten, prognostizieren deutlich größere Umwälzungen. So warnt der Internationale Währungsfonds, dass KI potenziell bis zu 60 Prozent der Arbeitsplätze in fortgeschrittenen Nationen betreffen könnte, insbesondere in hoch qualifizierten Bereichen.
Gefälschte KI-Stimme von Joe Biden im US-Wahlkampf aufgetaucht
In New Hampshire erhielten Wähler Anrufe von einer vermutlich KI-generierten Stimme, die sich als US-Präsident Joe Biden ausgab und sie aufforderte, nicht an den Vorwahlen teilzunehmen. Die Generalstaatsanwaltschaft hat Ermittlungen eingeleitet. Die KI-Stimme erklärte den Angerufenen, dass ihre Stimme im November wichtig sei, aber nicht am kommenden Dienstag. Der Anruf wurde so manipuliert, dass er vom Schatzmeister eines politischen Komitees zu kommen schien, das die Bemühungen der Demokraten in New Hampshire unterstützt, Präsident Biden in die Vorwahlen zu bringen. Die Nachricht forderte Empfänger, die von der Anrufliste gestrichen werden wollten, auf, die Nummer des Schatzmeisters anzurufen.
Der Generalstaatsanwalt von New Hampshire bezeichnete die gefälschten Aufnahmen als illegalen Versuch, die Vorwahlen zu stören. Experten warnen bereits seit Längerem vor einer Flut von Deepfakes in zukünftigen Wahlen. Plattformen wie Facebook haben vor den letzten Präsidentschaftswahlen Maßnahmen zur Erkennung und Bekämpfung von Deepfakes ergriffen. Seitdem sind jedoch entsprechende Technologien zugänglicher, billiger und besser geworden.
Neues KI-Framework PixArt-δ erzeugt blitzschnell hochauflösende Bilder
Forscher von Huaweis Noah's Ark Lab, Dalian University of Technology, Tsinghua University und Hugging Face präsentieren PixArt-δ, ein fortschrittliches Text-zu-Bild-Synthese-Framework, das hochauflösende Bilder innerhalb von nur 0,5 Sekunden generiert. PixArt-δ ist eine Weiterentwicklung von PixArt-α, das bereits auf schnelle Bildgenerierung ausgelegt war. Das neue Modell basiert auf einem Latent Consistency Model (LCM), einer Alternative zu Diffusionsmodellen wie PixArt-α, Stable Diffusion oder DALL-E 3.
PixArt-δ kann Bilder mit einer Größe von 1.024 × 1.024 Pixeln in 0,5 Sekunden erzeugen, was einer siebenfachen Beschleunigung im Vergleich zur α-Variante entspricht. Obwohl PixArt-δ noch nicht verfügbar ist, zeigt es das Potenzial leistungsfähiger Alternativen zu Diffusionsmodellen. Die hohe Geschwindigkeit bei höheren Auflösungen ist ein zentraler Vorteil von Consistency-Modellen und könnte zukünftig neue Anwendungsmöglichkeiten für Echtzeitgenerierung eröffnen.
Früherkennung von Bauchspeicheldrüsenkrebs mit PRISM AI
Ein KI-System namens PRISM AI soll dazu beitragen, die häufigste Variante von Bauchspeicheldrüsenkrebs, das duktale Adenokarzinom der Bauchspeicheldrüse (PDAC), frühzeitig zu erkennen. Entwickelt wurde das System von Forschern des Massachusetts Institute of Technology (MIT) und der Strahlenonkologin Limor Appelbaum vom Beth Israel Deaconess Medical Center in Boston.
PRISM AI besteht aus zwei KI-Modellen: Das erste nutzt künstliche neuronale Netze, um Muster in Patientendaten wie Alter, Krankengeschichte und Laborergebnisse zu erkennen und berechnet daraus einen Risikoscore für einzelne Personen. Das zweite Modell verwendet einen einfacheren Algorithmus zur Score-Berechnung.
Beide Modelle wurden mit anonymisierten Daten aus sechs Millionen elektronischen Gesundheitsdatensätzen aus den USA trainiert, darunter etwa 35.000 PDAC-Fälle. Laut einer Veröffentlichung in der Fachzeitschrift eBioMedicine identifizierte das neuronale Netzwerk 35 Prozent der Probanden, die tatsächlich an PDAC erkrankten, als Hochrisikopatienten – sechs bis 18 Monate vor der Diagnose. Das stellt eine erhebliche Verbesserung gegenüber aktuellen Screening-Systemen dar.
In Zukunft könnte PRISM AI auf zwei Arten eingesetzt werden: Erstens zur Auswahl von Patienten für Bauchspeicheldrüsenkrebstests und zweitens für das Angebot eines breiteren Screenings, indem es symptomlosen Menschen empfiehlt, Blut- oder Speicheltests durchzuführen, um festzustellen, ob weitere Tests erforderlich sind.
Stimmen-Klon-Unternehmen Eleven Labs wird zum Unicorn
Eleven Labs hat seinen Wert auf über eine Milliarde US-Dollar gesteigert, nachdem Risikokapitalgeber für 80 Millionen US-Dollar Anteile am Unternehmen erworben haben. Im Vergleich dazu lag die Bewertung im Juni letzten Jahres noch bei rund 100 Millionen US-Dollar.
Start-ups mit einer Milliardenbewertung werden im Silicon Valley als "Unicorns" bezeichnet. Eleven Labs beschäftigt 40 Mitarbeiter und plant, das frische Kapital in Forschung, Infrastruktur, die Entwicklung neuer Dienstleistungen sowie die Verbesserung von Sicherheitsmaßnahmen zu investieren. Damit soll eine verantwortungsvolle und ethische Entwicklung von KI-Technologie gewährleistet werden. Ein besonderes Projekt zielt darauf ab, auch synthetische Stimmen anderer Anbieter erkennen zu können.
(igr)
