Nicht jugendfrei: Apple beschränkt offenbar Apps, die Text-KIs nutzen

Apple drängt offenbar darauf, dass Apps, die Inhalte verwenden, die von Künstlicher Intelligenz erzeugt wurden, im App Store als nicht jugendfrei eingestuft werden oder Filter vorhalten. Der Entwickler der E-Mail-App BlueMail berichtete jetzt, dass ein Update seiner App deshalb abgewiesen wurde. Apple stellte das Unternehmen vor die Wahl, entweder Inhaltsfilter einzubauen oder die App von einer Freigabe ab vier Jahren auf 17+ zu stellen. Die BlueMail-Entwickler fürchten jedoch, dass dies neue Nutzer abschrecken könnte. Zudem argumentieren sie, dass sie bereits einen Filter in die App integriert haben.

Die neue Funktion in BlueMail, die von der Text-KI ChatGPT Verwendung macht, sollte Textvorschläge für Mails erzeugen. Das App-Review von Apple, das neue Apps und Updates vor der Freigabe für den App Store prüft, äußerte jedoch Bedenken, dass auf diese Weise auch unangemessene Inhalte angezeigt werden könnten, wie das Wall Street Journal berichtet. Zu anstößigen Inhalten zählt Apple zum Beispiel unflätige Begriffe, extreme Darstellungen von Gewalt, Nacktheit, Alkohol, Tabak und Drogen. Die Kategorie 4+ hingegen ist frei von jeglichem anstößigen Material.

Auch Bing mit hoher Altersfreigabe

Während BlueMail darauf hinweist, dass Apple andere Apps mit KI-Einsatz nicht entsprechend sanktioniert habe, hat das Apple-Newsblog Macrumors beobachtet, dass ein aktuelles Update von Microsofts Such-App Bing für iOS auch mit der höchsten Altersbeschränkung erschienen ist. In dieser neuen Version ist die Text-KI von Bing integriert, die auf ChatGPT aufbaut. Im Google Play Store sei Bing dagegen weiterhin ohne diese Einstufung verfügbar. Allerdings könnte die Einstufung auch mit den Suchergebnissen zu tun haben, die ebenfalls nach Apples Maßstäben potenziell unangemessene Inhalte ausgeben können. Google etwa ist mit seiner Such-App im App Store auch mit 17+ gelistet.

Der BlueMail-Hersteller Blix hat nach eigenen Angaben bei Apple eine Beschwerde eingereicht, die vom Selbstkontroll-Gremium App Review Board untersucht werden soll, wie Apple dem Wall Street Journal sagte. Der App-Hersteller war im Jahr 2021 schon einmal in einem anderen Streitfall mit Apple an die Öffentlichkeit gegangen. Apple selbst hat sich zu dem Hype-Thema der Inhalte erzeugenden KIs noch nicht öffentlich positioniert. Auf einem KI-Gipfel in Cupertino spielte das Thema dem Vernehmen nach keine Rolle.

(mki)