Sexuelle Deepfakes: Erster Staat gibt Zugriff auf Grok wieder frei
Nach dem Skandal um sexualisierte Deepfakes von Grok haben Staaten in Südostasien reagiert und die KI gesperrt. Nun konnte xAI in einem Fall die Sperre beenden.
(Bild: Photo Agency/Shutterstock.com)
Das KI-Unternehmen xAI hat die zuständige Behörde der Philippinen überzeugt, dass der KI-Chatbot Grok ausreichend geändert werden kann, um dort sexualisierte Deepfakes zu verhindern. Im Gegenzug wurde eine vor einer Woche verhängte Sperre für die KI-Software beendet, berichtet die Finanznachrichtenagentur Bloomberg unter Berufung auf das zuständige Cybercrime-Zentrum. xAI habe zugesagt, das Werkzeug dahingehend zu ändern, weswegen man den Zugriff darauf wieder freigegeben habe. Die Philippinen waren vorige Woche der dritte Staat aus Südostasien, der den Zugriff auf Grok gesperrt hat. Indonesien und Malaysia haben diese Entscheidung noch nicht rückgängig gemacht.
Unterschiedliche Reaktionen
Der Schritt der Behörde aus Manila zeigt, dass es xAI gelingen kann, der teils massiven Kritik an Grok den Wind aus den Segeln zu nehmen. Das scheint aber nicht überall zu klappen, hat sich in dieser Woche angedeutet. Am Montag hat das Handelsblatt berichtet, dass die EU-Kommission Maßnahmen gegen Grok ergreifen will. Sollte es nicht gelingen, die Generierung nicht genehmigter sexualisierter Deepfakes von Personen komplett zu verhindern, könnte der Dienst in Europa gesperrt werden, hat die Zeitung zitiert. Dabei hatte xAI da schon angekündigt, dass eine technologische Sperre solche KI-Bilder verhindern soll. Das hat aber anfangs nicht durchgehend funktioniert.
Videos by heise
Hintergrund der staatlichen Reaktionen sind KI-Bilder, die Grok Anfang des Jahres teilweise zu tausenden pro Stunde generiert hat. Auf denen wurden primär reale Frauen und teilweise auch Minderjährige in Unterwäsche oder Bikinis dargestellt. Nach der ersten heftigen Kritik hat xAI die Technik dahingehend eingeschränkt, dass Bildgenerierung nur noch in direkten Chats oder gegen Bezahlung möglich war. Das wurde aber vielfach so interpretiert, dass die problematische Funktion einfach als Premiumangebot vermarktet wurde. Deshalb hat xAI vorige Woche noch einmal nachgelegt und zugesagt, diese Art der Bildgenerierung komplett zu stoppen.
(mho)
