KI-Update kompakt: Live-Telefon-Hack, USAISI, OpenAI, Nvidia Custom Design
Das "KI-Update" liefert werktäglich eine Zusammenfassung der wichtigsten KI-Entwicklungen.
- Isabel Grünewald
- The Decoder
IBM-Forscher hacken Live-Telefonate mit generativer KI
IBM-Sicherheitsexperten führten erfolgreich ein "Audio jacking"-Experiment durch, bei dem sie generative KI-Modelle einsetzten, um Live-Telefonate zu manipulieren. Audio-jacking bezeichnet die Technik, bei der KI-Modelle genutzt werden, um Live-Audio-Transaktionen zu verändern, etwa durch Imitation von Stimmen oder Erzeugung gefälschter Hintergrundgeräusche.
Die Forscher kombinierten mehrere generative KI-Techniken, um Live-Gespräche zu beeinflussen. In einem Beispiel identifizierte ein Sprachmodell das Schlüsselwort "Bankkonto" und ein Text-zu-Audio-Modell ersetzte dann die korrekte Kontonummer durch eine von IBM vorgegebene. Die Entwicklung dieses Proof of Concept war laut dem Team "überraschend und erschreckend einfach", und es bestehe ein erhebliches Risiko für Verbraucher, wenn diese Technik und Angriffsmethode weiter verfeinert werden.
In der Zukunft könnten ähnliche Angriffe sogar auf Live-Videoübertragungen angewendet werden, so das Team.
USA gründen Institut für KI-Sicherheit
Die US-Regierung hat das US Artificial Intelligence Safety Institute (USAISI) ins Leben gerufen, um Standards und Richtlinien für die Künstliche Intelligenz zu entwickeln. Das Institut soll wissenschaftliche Erkenntnisse und empirische Erfahrungen nutzen, um "die Grundlage für KI-Sicherheit in aller Welt" zu schaffen. Es wird beim National Institute of Standards and Technology (NIST) angesiedelt und von einem Konsortium aus über 200 Unternehmen und Organisationen, dem US AI Safety Institute Consortium (AISIC), unterstützt. Mitglieder sind KI-Entwickler, Anwender, Forschungseinrichtungen und zivilgesellschaftliche Organisationen.
Die Arbeit des USAISI wird sich auf fünf Bereiche konzentrieren: Risikomanagement, synthetische Inhalte, Evaluierung der Leistungsfähigkeit von KI, Red-Teaming und sonstige Sicherheitsfragen. Die erste Direktorin des Instituts wird Elizabeth Kelly sein, während Elham Tabassi als Chief Technology Officer (CTO) fungiert. Die Informatikerin Tabassi hat bei der US-Normierungsbehörde bereits die Ausarbeitung des vor gut einem Jahr erschienen AI Risk Management Framework geleitet.
US-Handelsministerin Gina Raimondo erwartet, dass die entwickelten Messgrößen und Standards den USA helfen, "den Wettbewerbsvorsprung zu halten und KI verantwortungsbewusst zu entwickeln".
Empfohlener redaktioneller Inhalt
Mit Ihrer Zustimmmung wird hier ein externer Podcast (Podigee GmbH) geladen.
Ich bin damit einverstanden, dass mir externe Inhalte angezeigt werden. Damit können personenbezogene Daten an Drittplattformen (Podigee GmbH) übermittelt werden. Mehr dazu in unserer Datenschutzerklärung.
BASF-Konzern sieht großes Potenzial für Künstliche Intelligenz
Der Chemiegigant BASF erkennt großes Potenzial für KI in der Chemieindustrie. "Die Frage ist nicht, ob KI einen wesentlichen Einfluss auf Industrieunternehmen haben wird, sondern, wie schnell das geschieht", sagte Chief Digital Officer Dirk Elvermann.
BASF testet laut eigenen Angaben KI-Anwendungen mit Tausenden von Mitarbeitern, um Effizienzgewinne, Wachstum und neue Geschäftsmodelle zu erzielen. Beispiele sind ein digitales Tool für Handspülmittel, das KI nutzt, um eine leistungsfähigere Plattform für Kundenanfragen zu schaffen, und maschinelles Lernen in der Landwirtschaft, das Landwirten hilft, effizienter zu pflanzen.
Elvermann betonte die Bedeutung der Cybersicherheit und des Schutzes geistigen Eigentums bei der Digitalisierung und sagte, BASF arbeite "mit wachem Auge und ständiger Risikoabwägung".
OpenAIs Chip-Ambitionen
Sam Altman, CEO von OpenAI, bestätigte kürzlich Gerüchte, dass das Unternehmen beabsichtigt, in das Infrastrukturgeschäft einzusteigen. Laut Altman benötigt die Welt "mehr KI-Infrastruktur", einschließlich Fabriken, Energie und Rechenzentren, als derzeit geplant. Ein Bericht des Wall Street Journals zufolge könnten Investitionen zwischen fünf und sieben Billionen US-Dollar anfallen, was die heutige Chipindustrie, die für 2030 einen Jahresumsatz von einer Billion US-Dollar prognostiziert, weit übertreffen würde.
Altman befindet sich in Gesprächen mit der Regierung der Vereinigten Arabischen Emirate, SoftBank und Chipherstellern wie TSMC, um eine Partnerschaft zwischen Investoren, Energieversorgern und Chipherstellern zu etablieren. Er steht auch in Kontakt mit US-Behörden. Altman betont, dass der Aufbau einer massiven KI-Infrastruktur und einer widerstandsfähigen Lieferkette für die wirtschaftliche Wettbewerbsfähigkeit entscheidend ist.
Eine mögliche Lösung für den hohen Energieverbrauch von KI-Infrastruktur sieht Altman in der Fusionsenergie, insbesondere der Kernfusion. Damit sollen langfristig die Kosten für Energie nahezu auf null gesenkt werden.
Nvidia will Custom-Designs herausbringen
Nvidia plant, eine neue Geschäftssparte für kundenspezifische KI-Chipdesigns zu schaffen, um mit Unternehmen wie Meta und Google zusammenzuarbeiten, die eigene Chipdesigns für KI-Berechnungen entwickeln. Laut Reuters, das sich auf neun anonyme Quellen beruft, sind Nvidias Hopper-Karten für viele Kunden zu teuer. Die Unternehmen halten eigene Designs für kosteneffizienter, auch in Bezug auf den Energiebedarf.
Nvidia hofft, seine Kunden mit eigenen Angeboten von der Zusammenarbeit mit Firmen wie Broadcom oder Marvell abzuhalten, die deren Custom-Designs herstellen sollen. Im Gegensatz zu AMD und Intel, die bereits die Integration von Fremdentwicklungen in eigene Chips anbieten, will Nvidia auch das Know-how seiner Kunden in zukünftige Chips einfließen lassen. Marktforscher schätzen den Gesamtmarkt für Custom-Chips im Jahr 2023 auf 30 Milliarden US-Dollar, der bis 2025 um weitere 20 Milliarden ansteigen soll.
US-amerikanische Telekommunikationsbehörde verbietet Robocalls
Die Federal Communications Commission (FCC) der USA hat ein Verbot von Robocalls mit realistischen KI-Stimmen erlassen. Dies erfolgte nach einem Vorfall in New Hampshire, bei dem eine KI-Stimme eine gefälschte Nachricht verbreitete, die angeblich von Präsident Joe Biden stammte und Wähler dazu aufrief, nicht an den Vorwahlen teilzunehmen. Die FCC stellt fest, dass entsprechende Betrugsversuche in den letzten Jahren "eskaliert" sind.
Durch die neue Maßnahme werden KI-generierte Robocalls in den Telephone Consumer Protection Act (TCPA) von 1991 aufgenommen, der unerwünschte Anrufe ohne vorherige Zustimmung des Empfängers regelt. Dies ermöglicht Staatsanwälten der Bundesstaaten, gegen die Verwendung von KI-Stimmen für Robocalls vorzugehen.
Teilerfolg für Künstlerinnen im Rechtsstreit um KI-Kunst
Künstlerinnen Sarah Andersen, Kelly McKernan und Karla Ortiz haben in einem Rechtsstreit gegen Stability AI, Midjourney und DeviantArt einen Teilerfolg erreicht. Ein US-Gericht lehnte es ab, ihre Klage aufgrund des Anti-SLAPP-Gesetzes, das die Meinungsfreiheit schützt, abzuweisen.
Im Herbst wurde ein Teil der Klage abgewiesen, da einige Bilder nicht urheberrechtlich geschützt waren und die Nutzung der Namen der Künstlerinnen durch die Unternehmen nicht bewiesen werden konnte. Jedoch wurde einem Antrag auf Klage wegen direkter Rechtsverletzung gegen Stability AI stattgegeben.
US-Bezirksrichter William Orrick entschied nun, dass das Anti-SLAPP-Gesetz, das unnötige und unbegründete Klagen verhindern soll, die lediglich die freie Meinungsäußerung behindern, nicht zur vorzeitigen Abweisung der Klage führt.
Start-up stellt AR-Brille mit KI-Funktionen vor
Das Start-up Brilliant Labs hat eine Augmented-Reality-Brille namens "Frame AI Glasses" entwickelt, die KI-Funktionen wie Übersetzungen, Websuchen und visuelle Analysen ermöglicht. Laut Herstellerangaben kann die Brille per Sprachbefehl aufgefordert werden, Sehenswürdigkeiten zu identifizieren, im Internet nach Produkten zu suchen und Nährwertangaben von betrachtetem Essen zu schätzen. Die Frame-Brille verfügt über ein 640 × 400 Pixel großes Farb-Mikro-OLED, eine 720p-Kamera, ein Mikrofon und einen 222-mAh-Akku. Sie wiegt weniger als 40 Gramm und soll bei vollständiger Aufladung eine Laufzeit von einem Tag erreichen.
Die Software der Brille ist Open Source und lässt sich mit der Smartphone-App Noa koppeln, die KI-Assistenten für verschiedene Funktionen nutzt. Die Frame AI Glasses kosten 349 US-Dollar und sind in den Farben Schwarz, Grau und Transparent vorbestellbar. Die Auslieferung soll ab dem 15. April beginnen.
(igr)
