"Bedrohung für Journalismus": Aus für Apples KI-Mitteilungen gefordert
KI sei nicht in der Lage, Nachrichten zuverlässig zusammenzufassen, so eine Medienorganisation. Sie fordert Apple auf, die neue iPhone-Funktion zu streichen.
Apple-Intelligence-Zusammenfassungen sind mit einem kleinen Icon gekennzeichnet.
(Bild: Mac & i)
Eine Kernfunktion von Apple Intelligence stößt zunehmend auf Kritik: Nach der Falschzusammenfassung einer News-Headline ruft die Medienorganisation Reporters sans frontières (RSF) den iPhone-Konzern jetzt dazu auf, "verantwortungsbewusst zu handeln" und das Feature aus dem Betriebssystem zu entfernen. KI-Tools seien zu "unreif", um zuverlässige und qualitativ hochwertige Informationen für die Öffentlichkeit zu generieren, erläutern die Journalisten. Die automatisierte Erstellung von Falschinformationen durch Sprachmodelle untergrabe das Vertrauen in Medien und bedrohe den Journalismus. KIs sind "Wahrscheinlichkeitsmaschinen", schreibt RSF, aber Fakten sollten nicht durch Auswürfeln entstehen.
Ruf nach EU-Regeln für KI-News-Zusammenfassungen
Die Organisation appelliert nicht nur an Apples Verantwortungsbewusstsein, sondern hat indirekt auch die EU-Kommission zum Handeln aufgefordert: Der Einsatz von KI im Kontext von News-Informationen sollte gar nicht erlaubt sein, so die RSF. Die europäische KI-Verordnung (EU AI Act) habe es versäumt, solche durch KI erstellte Nachrichtenzusammenfassungen zu den hochriskanten Systemen zu zählen und damit für ein "rechtliches Vakuum" gesorgt. Das müsse nun beseitigt werden.
Videos by heise
Der Aufruf von RSF folgt einer Beschwerde der BBC: Der britische Sender wendete sich Anfang der Woche an Apple, nachdem die KI-Funktion auf zumindest einem iPhone eine Headline irreführend zusammengefasst hatte. Der Tatverdächtige im Fall des für viel Aufsehen sorgenden Mordes an einem US-Versicherungschef habe sich selbst erschossen, so die von Apples Sprachmodell generierte, faktisch falsche Kürzung. Wie die von der BBC-App als Push-Nachricht empfangene Headline im Original lautete, bleibt unklar. Apple hat auf die Angelegenheit bislang nicht öffentlich reagiert.
Apple Intelligence kann bislang nur Englisch
Seit iOS 18.1 fasst Apple Intelligence auf Wunsch die eingehenden Mitteilungen zusammen. Die Funktion arbeitet bislang nur auf Englisch und ist in der EU nur auf Macs verfügbar, offiziell jedoch nicht auf iPhones und iPads. Solche Fehler lassen sich schwer reproduzieren, weil Sprachmodelle unterschiedliche Ausgaben liefern und je nach den anderen vorausgehenden Mitteilungen die KI-Zusammenfassung variiert. Schon seit dem Start der Funktion gibt es Berichte über skurrile, lustige bis zu verstörende Zusammenfassungen durch Apple Intelligence.
(lbe)
