Bericht: Grok stand angeblich kurz vor App-Store-Rauswurf
Einem Medienbericht zufolge stand die KI-App Grok kurz vor dem Ausschluss aus Apples App Store. Grund waren uneinvernehmlich erstellte Deepfake-Nacktbilder.
(Bild: Talukdar David/Shutterstock.com)
Der Vorwurf, der aus Kreisen der Politik und von Nutzern erhoben wurde, wog schwer: Fassen Apple und Google die Apps von finanz- und reichweitenstarken Unternehmen selbst bei eklatanten Verstößen gegen die App-Store-Regeln mit Samthandschuhen an? Dieser Verdacht ist in der Vergangenheit schon mit Blick auf die Apps von Meta laut geworden. Als jedoch bekannt wurde, dass das KI-Modell Grok uneinvernehmlich erstellte Deepfake-Nacktbilder von Frauen und mutmaßlich auch von Kindern ermöglichte, schüttelten Kritiker nur noch mit dem Kopf. Wieso duldeten Apple und Google dies?
In einem nicht öffentlichen Brief an US-Senatoren, der jetzt durch NBC News veröffentlicht wurde, tritt Apple dem Eindruck entgegen, dass das Unternehmen untätig geblieben sei. Sowohl xAI als Herausgeber der KI Grok als auch X als soziales Netzwerk, das Grok integriert, seien nach Beschwerden und Medienberichten kontaktiert worden. Auch habe Apple Verstöße gegen die Richtlinien festgestellt und den Firmen ein Ultimatum gestellt. Nur wenn sie ein Maßnahmenpaket zur Verbesserung der Content-Moderation umsetzen, bleibe ihnen der Rauswurf erspart. Auf politischer Ebene wird bereits über ein Verbot von KI-Systemen für Deepfakes ohne Zustimmung diskutiert.
Grok angeblich kurz vor Rauswurf
X und xAI haben zwischenzeitlich reagiert und das Erstellen von Deepfakes erschwert. Laut NBC News sollen die Schutzmechanismen weiterhin umgehbar sein. Veröffentlichungen in einem Ausmaß von vor einigen Monaten waren zuletzt aber nicht mehr festzustellen. xAI habe Apple unter anderem Einschränkungen der Bildbearbeitungsfunktionen und stärkere Zugriffsbeschränkungen versprochen.
Videos by heise
Laut dem Bericht soll Grok auch tatsächlich kurz vor dem Rauswurf gestanden haben. Während bei X rasch nachgebessert wurde, habe sich der Entwickler der Grok-App Zeit gelassen. In der Öffentlichkeit war von alledem freilich nichts zu bemerken: Apple äußerte sich öffentlich zu den Vorgängen nicht. Kritiker beharren indessen darauf, dass der iPhone-Hersteller im Falle eines Einzelentwicklers oder Start-ups die Regeln konsequenter durchsetzen würde. Erst kürzlich wurde bekannt, dass Apple Updates für Vibe-Coding-Apps blockiert, weil diese gegen technische Richtlinien verstießen.
(mki)
