Apple-KI: Wenn iOS aus einer "anstrengenden Wanderung" einen "Selbstmord" macht
Mit iOS 18.1 kommen AI-Summaries aufs iPhone. Nach ersten Berichten ĂĽber Apple-Intelligence-Probleme gab es Nachbesserungen. Doch perfekt sind die nicht.
X-Auszug: Apples KI sieht einen Selbstmord, doch es geht nur um eine harte Wanderung.
(Bild: X / @AndrewSchmidtFC)
Zusammenfassungen mithilfe Künstlicher Intelligenz, sogenannte AI Summaries, sind hilfreich: Sie sollen womöglich komplexe, längere Texte auf ein verständliches Mindestmaß eindampfen. Apple hat ein solches Feature – zunächst in englischer Sprache – mit dem Start von Apple Intelligence in iOS 18.1 eingeführt, um Benachrichtigungen, die auf dem iPhone eingehen, zusammenzufassen. Schon kurz nach dem Start gab es Meldungen über Merkwürdigkeiten, so fasste das System etwa eine Trennungs-iMessage der (Ex-)Freundin mit den herzlosen Worten zusammen: "Nicht mehr in einer Beziehung, will ihre Gegenstände aus dem Apartment."
"Nicht bereit fĂĽr Beziehung"
Das war immerhin korrekt, allerdings können die AI Summaries Inhalte auch in den falschen Hals bekommen, wie mehrere User auf X berichten. Das wohl haarigste Beispiel: Die Mutter von User @AndrewSchmidtFC schrieb ihm, sie habe eine anstrengende Wanderung hinter sich: "That hike almost killed me!" Apple Intelligence machte daraus: "Unternahm einen Selbstmordversuch, hat sich aber erholt und wanderte in den Redlands und Palm Springs."
Auf Threads wurde unterdessen ein weiterer Fall herzloser Zusammenfassungen gemeldet. Da wurden die Nachrichten eines (Ex-)Freundes mit folgenden Worten kombiniert: "Sorry für unterdurchschnittliche Kommunikation, arbeitsreiches Leben, nicht bereit für Beziehung". Gut zu funktionieren scheinen die AI Summaries hingegen bei sich wiederholenden Benachrichtigungen, etwa, wenn diese von HomeKit kommen. Ein sich ständig öffnendes Garagentor zeigt dann etwa die Anzahl der Öffnungen plus den aktuellen Status ("geschlossen").
Dämonen im Schlaf
Auch E-Mails kann Apple Intelligence zusammenfassen. Das tut das System natürlich auch beim Newsletter von Satire-Seiten, berichtet The Verge. "[Moderator] Tucker Carlos gibt an, dass Dämonen im Schlaf auf ihn uriniert haben, inspirierte ihn, zu Gott zu finden und Bibel zu lesen", wird da etwa eine E-Mail von The Onion auf den Punkt gebracht. Manchmal kommt aber einfach nur Nonsens heraus. Aus vier Slack-Benachrichtigungen wurde ein: "Film schlecht, Knopf auf Jacke in Film."
Momentan ist Apple Intelligence nur auf Englisch und außerhalb der EU nutzbar – im April soll es nach Deutschland kommen. Ob Apple die Probleme bis dahin behoben hat, bleibt abzuwarten. Tatsächlich ist die Zusammenfassung von Inhalten kein triviales Problem. Wir sollten uns darauf vorbereiten, mehr Informationen zu verpassen, wenn wir uns wirklich auf diese verlassen wollen.
Empfohlener redaktioneller Inhalt
Mit Ihrer Zustimmung wird hier ein externer Preisvergleich (heise Preisvergleich) geladen.
Ich bin damit einverstanden, dass mir externe Inhalte angezeigt werden. Damit können personenbezogene Daten an Drittplattformen (heise Preisvergleich) übermittelt werden. Mehr dazu in unserer Datenschutzerklärung.
(bsc)
