Pro & Contra: Sollte Apple Intelligence Mitteilungen zusammenfassen?
Apples Zusammenfassungen von Mitteilungen liegen manchmal daneben. Darf eine Funktion, die potenziell Fehlinformationen liefert, überhaupt angeboten werden?
(Bild: Mac & i)
Apple Intelligence fasst wahlweise Mitteilungen zusammen – bislang nur auf Englisch. Dabei kommt es Nutzerberichten zufolge zu teils gravierenden Fehlern, die den ursprünglichen Inhalt komplett verfälschen können. Nach Beschwerden der BBC über mehrere falsch zusammengefasste Schlagzeilen muss Apple nun nachbessern und will die KI-Zusammenfassungen klarer kenntlich machen. Doch sollte eine solche, fehlerträchtige Funktion überhaupt angeboten werden?
Dieses Pro & Contra stammt aus Mac & i-Heft 1/2025, das am 30. Januar erscheint. Die neue Ausgabe lässt sich ab sofort im heise shop bestellen – als Print-Magazin (vorerst versandkostenfrei) oder als PDF.
PRO
Hochfrequente Chat-Gruppen von Familie, Freunden, Kollegen, Nachbarn, Verein, Schule & Co. sorgen allzu gerne für eine Flut an Mitteilungen auf dem iPhone. Die kann man natürlich ausblenden, verpasst so womöglich aber doch etwas Wichtiges. Genau hier setzt – auf Wunsch – Apple Intelligence an: Aus 57 mit Emojis gespickten Kurznachrichten macht das KI-Modell eine einzelne Mitteilung. Sie informiert im Idealfall nüchtern, dass Bernd dringend einen Gartenschlauch braucht oder in der 1d wieder Läusealarm herrscht. Das funktioniert längst nicht immer perfekt: Bei Umgangssprache und nur für Eingeweihte verständlichen Anspielungen kommt es schnell zu Missverständnissen. Das gilt für KI-Modelle ebenso wie für uns Menschen.
Der konkrete Nutzen macht es für mich verschmerzbar, wenn Apple Intelligence bei der Zusammenfassung von Mitteilungen auch mal danebenliegt – was durchaus passiert. Bei wirklich wichtigen Chats oder persönlichen Nachrichten ist es ohnehin angebracht, den kompletten Verlauf zu lesen. In Anbetracht vieler hundert Millionen täglicher iPhone-Mitteilungen scheint die Fehlerquote bislang überschaubar. Zumal die Zusammenfassungen auf jedem iPhone individuell sind, weil Apples Sprachmodell das lokal auf dem Gerät macht.
"Fake News" sind fraglos ein massives Problem. Sie entstehen aber nicht durch schludrige KI-Zusammenfassungen, sondern werden bewusst und breit von bösartigen Akteuren gestreut. Am Ende führt kein Weg daran vorbei, Informationen zu hinterfragen – unabhängig davon, ob sie aus der Originalquelle stammen oder Apple Intelligence eine Zusammenfassung liefert. Und letztlich entscheide ich als Nutzer, ob ich die Funktion überhaupt aktivieren möchte. News kann ich dabei gezielt ausklammern. (lbe)
CONTRA
Sicher klingt es verlockend, wenn ich statt eines Feuerwerks an Mitteilungen nur noch eine Zusammenfassung eines Gruppenchats erhalte. Doch gerade die missglückten Ausnahmen bereiten mir Bauchschmerzen. Nicht jeder verpasste Termin mag dramatisch sein, aber ein nicht verkündeter oder verharmloster Notfall vielleicht schon. Ich bezweifle zudem, dass alle Beteiligten es amüsant finden, wenn aus einem flapsigen "Das hat mich fast umgebracht" ein "tragisches Unglück" wird.
Noch kritischer sehe ich die Idee, ohnehin schon stark verkürzte News-Mitteilungen zusammenzufassen. Hier hat Apple Intelligence bereits mehrfach bewiesen, dass das in die Hose gehen kann: Nachrichten der BBC und der New York Times wurden zu Falschbehauptungen verdreht und mit deren Logos angezeigt. Wenn Leser eine Falschmeldung für wahr halten, schadet das dem Ruf seriöser Medien und untergräbt das Vertrauen. Jeder vermeidbare Fehler ist einer zu viel.
Selbst die besten Sprachmodelle haben derzeit kaum echtes Textverständnis – in kurzen Tickermeldungen fehlt sowieso jeglicher Kontext. Falschinformationen sind damit vorprogrammiert. Da KIs vorrangig auf Englisch optimiert und trainiert wurden, steigt bei anderen Sprachen das Risiko sogar.
Klar, ich muss die Funktion nicht einschalten. Aber wenn mein Umfeld eine verdrehte KI-Meldung für bare Münze nimmt, muss ich mich letztlich doch damit auseinandersetzen. Und je seltener Probleme auftreten, desto mehr verlassen sich die Leute auf KI.
Ich finde, Apple sollte eine solche Automatik nicht anbieten – nicht einmal optional. Die gut gemeinten, aber fehleranfälligen Zusammenfassungen haben auch ohne Täuschungsabsicht gegebenenfalls die gleiche Wirkung wie echte Fake News: Sie verbreiten Falschinformationen. (wre)
Wer hat recht? Diskutieren Sie mit!
Zuletzt bei Pro & Contra: Pro & Contra: Brauchen wir ein Photoshop von Apple? (lbe)
