KI-Update kompakt: OpenAI, AI-Act, Auterion, Kreativität
Das "KI-Update" liefert werktäglich eine Zusammenfassung der wichtigsten KI-Entwicklungen.
- Isabel Grünewald
- The Decoder
OpenAI: Whistleblower wollen Verträge von Börsenaufsicht prüfen lassen
Mehrere Whistleblower haben die US-Börsenaufsicht (SEC) gebeten, die sehr restriktiven Geheimhaltungsvereinbarungen von OpenAI zu überprüfen. Diese würden Mitarbeitern untersagen, Behörden vor möglichen schwerwiegenden Risiken der Technologie für die Menschheit zu warnen. Das verstoße gegen Whistleblower-Schutzgesetze. Zudem müssten Mitarbeiter eine Genehmigung einholen, bevor sie sich an Behörden wenden. Auch Beschäftigungs- und Abfindungsvereinbarungen stehen in der Kritik.
OpenAI betont, man wolle Mitarbeiterrechte schützen und habe den Austrittsprozess bereits geändert. Die Querelen um die Sicherheit und die Ausrichtung des ursprünglich als non-profit gestarteten Unternehmens sind seit Sam Altmans kurzfristigem Rauswurf bekannt. Dass es brodelt, haben seither mehrere ehemalige Mitarbeiter bestätigt. Sicherheitsforscher Jan Leike und Mitgründer Ilya Sutskever haben OpenAI auf eigenen Wunsch verlassen. Eine Ex-Vorständin spricht von einem toxischen Arbeitsklima und Fehlinformationen durch Altman in Richtung Vorstand. Es gab Vorwürfe, die Sicherheitsprüfung von GPT-4o sei unter Zeitdruck verkürzt worden.
AI Act: Europäische KI-Verordnung tritt im August in Kraft
Die EU-Verordnung für Künstliche Intelligenz (KI), der sogenannte AI Act, wurde am Freitag im Amtsblatt der EU veröffentlicht und wird am 1. August 2024 in Kraft treten. Die Verordnung soll Investitionen in sichere und vertrauenswürdige KI-Systeme fördern und umfasst Verbote bestimmter KI-Praktiken wie Social Scoring und den Einsatz biometrischer Fernüberwachungssysteme in öffentlichen Räumen zur Strafverfolgung ab Februar 2025.
Bis zum 2. August 2025 müssen die Mitgliedstaaten Durchführungsgesetze erlassen und Marktüberwachungsbehörden benennen. In Deutschland ist noch unklar, wer diese Aufgabe übernehmen soll. Die Datenschutzkonferenz von Bund und Ländern (DSK) sieht sich prädestiniert, während Experten für die Bundesnetzagentur oder eine eigene Bundesoberbehörde für Digitales plädieren.
Die zuständigen Behörden müssen unabhängig, unparteiisch und mit ausreichenden Ressourcen und Fachkenntnissen ausgestattet sein. Datenschutzaufsichtsbehörden werden laut Datenschutzbeauftragten für Hamburg und Baden-Württemberg ohnehin die Marktüberwachung für weite Teile des Hochrisiko-Katalogs an KI-Systemen übertragen bekommen. In den Sektoren Strafverfolgung, Justizverwaltung und Migrationskontrolle sowie bei KI, die Wahlen beeinflusst, seien sie als entsprechende Instanzen "gesetzt".
Pünktlich zum Prime-Day startet Amazon den KI-Einkaufshelfer Rufus in den USA
Amazon startet pünktlich zu den Prime Days am 16. und 17. Juli den neuen KI-Einkaufsassistenten "Rufus" in den USA. Über die Amazon Shopping-App soll Rufus Kunden per Text- oder Spracheingabe beim Zeitsparen und bei Kaufentscheidungen helfen. Das seit Februar getestete System bietet mehr als bisherige Produktempfehlungen: Fragt ein Kunde etwa nach einem Poolschirm für Florida, liefert Rufus auch Infos zum erwarteten Wetter. Der Bot soll alle typischen Fragen von Online-Shoppern beantworten und Account-Infos liefern können. Amazon glaubt, dass traditionelle Suchmasken und Menüs bald überflüssig werden.
Benannt ist Rufus nach dem 2009 verstorbenen Corgi-Hund eines frühen Amazon-Mitarbeiters, der oft im Büro war. Ob und wann der Assistent auch in Europa verfügbar sein wird, ist noch offen.
Empfohlener redaktioneller Inhalt
Mit Ihrer Zustimmmung wird hier ein externer Podcast (Podigee GmbH) geladen.
Ich bin damit einverstanden, dass mir externe Inhalte angezeigt werden. Damit können personenbezogene Daten an Drittplattformen (Podigee GmbH) übermittelt werden. Mehr dazu in unserer Datenschutzerklärung.
Auterion stellt autonomen Drohnen-Chip Skynode S für den Kampfeinsatz vor
Das US-Unternehmen Auterion hat mit Skynode S einen kostengünstigen Chip vorgestellt, der laut dem Unternehmen in der Ukraine bereits erfolgreich in Kamikazedrohnen zum Einsatz kommt und diese autonom ins Ziel steuert.
Konkret handelt es sich bei Skynode S um einen Chip, mit dem viele Drohnentypen nachgerüstet werden können und der diese dann steuern kann. Auf dem Chip läuft die Software von Auterion, die neben vielen anderen Funktionen auch Computer-Vision-Möglichkeiten bietet. Diese Technik ist besonders für Kamikaze-Drohnen nützlich, da sie sich damit auch dann auf Ziele ausrichten können, wenn der Bediener aufgrund von Störungen die Kontrolle verliert. In Tests erreichten die autonomen Drohnen eine Trefferquote von 100 Prozent, verglichen mit 20 bis 40 Prozent bei manuell gesteuerten Drohnen, die durch elektronische Abwehrmaßnahmen die Verbindung zum menschlichen Piloten verlieren.
Der Chip zeigt, wie der Krieg in der Ukraine den Einsatz von KI in der Kriegsführung weiter beschleunigt. Bereits im Frühjahr gab es erste Berichte aus der Ukraine, dass dort autonome Drohnen Ziele angegriffen haben.
Laut Auterion-Chef Lorenz Meier geht es aber nicht darum, völlig autonome Tötungsmaschinen zu schaffen. Der Automatisierungsgrad sei vergleichbar mit "fire and forget"-Lenkwaffen, bei denen ein Mensch das Ziel vorgibt.
Llama 3 405B: Größtes Meta Llama-Modell soll Ende Juli erscheinen
Meta Platforms plant nach Angaben eines Mitarbeiters, am 23. Juli die größte Version seines Open-Source-Sprachmodells Llama 3 zu veröffentlichen. Das multimodale Modell mit 405 Milliarden Parametern soll sowohl Bilder als auch Text verarbeiten können.
Zwischenzeitlich gab es Gerüchte, dass Meta die Gewichte des 400-Milliarden-Modells nicht zur Verfügung stellen würde und dass Meta-Mitbegründer Dustin Moskovitz gegenüber Mark Zuckerberg Einwände erhoben hatte. Nun hat sich Meta offenbar dennoch entschieden, auch die größte Version von Llama 3 als offenes Modell verfügbar zu machen.
Grenzen der Kreativität von KI-Textrobotern
Eine Studie zeigt, dass KI-Unterstützung die Kreativität einzelner Geschichten steigern kann, aber bei mehrfacher Anwendung zu ähnlichen Inhalten führt. Forscher der University of Exeter Business School, dem Institute for Data Science and Artificial Intelligence in Exeter und der UCL School of Management in London teilten 300 Probanden in drei Gruppen ein: eine ohne KI-Hilfe, eine mit ChatGPT 4.0 für eine Ausgangsidee und eine mit der Auswahl aus bis zu fünf KI-generierten Ideen. Alle Gruppen verfassten dann Kurzgeschichten für junge Erwachsene.
In der zweiten Phase bewerteten 600 Personen die Geschichten bezüglich Neuartigkeit, Kreativität und Nützlichkeit. Die Ergebnisse zeigten, dass Autoren mit KI-Unterstützung kreativere und nützlichere Geschichten schrieben als die Kontrollgruppe, besonders wenn sie sich selbst als weniger kreativ einschätzten. Allerdings ähnelten sich die KI-unterstützten Geschichten untereinander deutlich mehr als rein menschliche Texte. Die Forscher sehen darin das Risiko einer "Abwärtsspirale" und eines gesellschaftlichen Dilemmas, wenn generative KI in größerem Umfang für kreative Aufgaben eingesetzt wird und die kollektive Originalität abnimmt. "Unsere Ergebnisse deuten darauf hin, dass trotz des Verstärkungseffekts, den generative KI auf die individuelle Kreativität hatte, Vorsicht geboten sein könnte, wenn generative KI in größerem Umfang für kreative Aufgaben eingesetzt würde", so Hauser.
(igr)
