KI-Update kompakt: AI Act mit Zähneknirschen, OpenAI, ChatGPT-Leak, Amazon DTC
Das "KI-Update" liefert werktäglich eine Zusammenfassung der wichtigsten KI-Entwicklungen.
Zähneknirschende Zustimmung zum AI Act
Die Zustimmung zum AI Act durch die Abgeordneten des Europäischen Parlaments zeichnet sich trotz Bedenken und kritischer Stimmen ab. Kai Zenner, Büroleiter und digitalpolitischer Berater des Europaabgeordneten Axel Voss, erklärt, dass die französische Regierung dem AI Act kritisch gegenüberstehe, sich aber letztlich eine Zustimmung der Mitgliedsstaaten abzeichne. Trotz des an einigen Stellen als unklar und fehlerhaft kritisierten Gesetzestextes sieht Zenner den AI Act als Schritt in die richtige Richtung, um Persönlichkeitsrechte und Grundrechte zu stärken. Er befürchtet jedoch, dass die Rechtsunsicherheit durch das KI-Gesetz Innovationen behindern könnte, ähnlich wie bei der Datenschutzgrundverordnung (DSGVO) im Jahr 2018. Zenner kritisiert zudem die Intransparenz und den chaotischen Verhandlungsprozess sowie das Fehlen von Evaluierungen und Expertenaustausch in Brüssel.
Empfohlener redaktioneller Inhalt
Mit Ihrer Zustimmmung wird hier ein externer Podcast (Podigee GmbH) geladen.
Ich bin damit einverstanden, dass mir externe Inhalte angezeigt werden. Damit können personenbezogene Daten an Drittplattformen (Podigee GmbH) übermittelt werden. Mehr dazu in unserer Datenschutzerklärung.
Italien mahnt OpenAI ab
Italiens Datenschutzbehörde Garante wirft OpenAI vor, mit ChatGPT gegen europäische Datenschutzbestimmungen zu verstoßen und hat dem Unternehmen eine 30-Tage-Frist zur Stellungnahme gesetzt. Die Vorwürfe folgen einer Untersuchung, die begann, als Italien den Zugang zu ChatGPT wegen Datenschutzbedenken blockierte. OpenAI hatte Maßnahmen zur Behebung dieser Bedenken angekündigt, aber die jüngste Entscheidung zeigt, dass die Behörde wohl noch unzufrieden ist.
Neben Italien untersuchen auch Datenschutzbehörden in Frankreich, Irland und Deutschland, wie OpenAI ChatGPT-Daten verwendet. OpenAI hat zwar angekündigt, in Zukunft bessere Filter für private Daten einzusetzen und keine privaten Daten für das KI-Training zu verwenden, aber das Unternehmen legt nicht offen, welche Datensätze zum Training seiner KI-Modelle verwendet werden.
Sollte OpenAI gegen die Datenschutzbestimmungen verstoßen, könnte eine Geldstrafe von bis zu 20 Millionen Euro oder vier Prozent des weltweiten Umsatzes drohen, und möglicherweise müssten die Kernfunktionen von ChatGPT geändert werden.
ChatGPT-Benutzer findet fremde Gespräche in seinem Chat-Verlauf
Ein ChatGPT-Nutzer hat in seinem Chat-Verlauf private Unterhaltungen anderer Benutzer entdeckt, einschließlich Login-Daten und persönliche Informationen. Ars Technica berichtet, dass der Nutzer Chase Whiteside die fremden Gespräche fand, nachdem er ChatGPT für eine eigene Anfrage verwendet hatte. Die betroffenen Nutzer scheinen nicht miteinander in Verbindung zu stehen und der Ursprung der Gespräche bleibt unklar.
Die von Whiteside zur Verfügung gestellten Screenshots zeigen unter anderem Benutzernamen und Passwörter, die im Zusammenhang mit einem Supportsystem für Mitarbeiter eines Apothekenportals für verschreibungspflichtige Medikamente stehen. OpenAI untersucht den Vorfall. In der Vergangenheit gab es ähnliche Vorfälle, bei denen ChatGPT aufgrund eines Fehlers offline genommen wurde.
Amazons DTC ist die nächste logische Stufe des E-Commerce
Amazon hat ein neues KI-Tool namens "Diffuse to Choose" (DTC) vorgestellt, das einmal Kunden ermöglichen soll, Kleidung und Möbel virtuell auf ihren Körper oder in ihre eigenen Räumlichkeiten einzufügen. Dies soll eine bessere Vorstellung von Passform und Raumwirkung bieten und ein personalisiertes Einkaufserlebnis schaffen. DTC ist ein Inpainting-Modell, das auf Stable Diffusion basiert und für die detaillierte und kohärente Verschmelzung der Produkte mit den Kundenbildern sorgt - einschließlich realistischer Beleuchtung und Schatten. Amazon plant, den Code und eine Demo von DTC in Kürze zu veröffentlichen.
Tools wie DTC könnten die nächste Entwicklungsstufe des E-Commerce einläuten und dazu beitragen, Rückgabequoten zu reduzieren, indem Produkte schon vor dem Kauf besser repräsentiert werden können.
Microsoft steigert Einnahmen dank Cloud und KI
Microsoft verzeichnete im zweiten Quartal des Geschäftsjahres 2024 einen Umsatzanstieg von 17,6 Prozent gegenüber dem Vorjahr auf 62,02 Milliarden US-Dollar. Der operative Gewinn stieg um 33 Prozent auf 27 Milliarden Dollar, der Nettogewinn auf 21,9 Milliarden Dollar. Den größten Anteil am Umsatz hatte das Cloud-Geschäft mit 25,9 Milliarden Dollar - ein Plus von 20 Prozent im Jahresvergleich. Innerhalb dieses Segments wuchsen Azure und andere Cloud-Dienste um 30 Prozent, wobei 6 Prozentpunkte auf KI-Unterstützung zurückzuführen sind.
Im Bereich Produktivität und Business stieg der Umsatz mit kommerziellen Office-Produkten und Cloud-Diensten um 13 Prozent, während der PC-Umsatz um 19 Prozent zulegte. Der Umsatz von Microsoft im Bereich Spiele stieg vor allem aufgrund der Übernahme von Activision Blizzard. Für das laufende Quartal erwartet Microsoft einen Umsatz zwischen 60 Milliarden und 61 Milliarden Dollar.
OpenAI bannt Girlfriend-Bots
OpenAI hat seinen GPT-Store online gestellt, der Millionen von Chatbots für verschiedene Aufgaben anbietet. Allerdings wurden sogenannte "AI Girlfriend"-Bots verboten. Die aktualisierten Nutzungsbedingungen untersagen "GPTs, die der Förderung romantischer Gesellschaft oder der Durchführung regulierter Aktivitäten gewidmet sind". Diese Regelung ist jedoch vage und lässt Raum für Interpretationen.
Einige AI-Girlfriend-Bots können falsche Erwartungen an Kennenlerngespräche schaffen, während andere möglicherweise Daten und Emotionen der Nutzer unsicher handhaben. Ein Beispiel ist der Replika-Chatbot von Luka, bei dem eine Nutzerin nach einem Prompt mit einer brutalen sexuellen Fantasie konfrontiert wurde.
Forscher untersuchen zunehmend die parasozialen Beziehungen, die Menschen mit ihren Bots aufbauen, und wägen Risiken wie Datenschutz und Manipulation gegen potenzielle Vorteile wie Therapieunterstützung und Bildungszugang ab, erklärt die Sexualberaterin Theresa Lachner. Solange OpenAI die angebotenen GPTs nur oberflächlich filtert, erscheint das Verbot von AI-Girlfriend-Bots als vernünftige Vorsichtsmaßnahme.
(igr)
