Tim Cook: Apple Intelligence nicht frei von KI-Halluzinationen

iPhone-Nutzer sollten sich darauf einstellen, dass Apples kommende KI-Modelle ebenfalls halluzinieren und damit möglicherweise Fehlinformationen und andere gefährliche Inhalte ausspucken. Das räumte der Hersteller nun kurz nach der Enthüllung seines KI-Pakets "Apple Intelligence" ein, das mit iOS 18, iPadOS 18 und macOS 15 im Herbst auf eine große Zahl an Geräten kommt.

Er sei sich keinesfalls zu 100 Prozent sicher, dass die hauseigene generative KI nicht halluzinieren wird, betonte Apple-Chef Tim Cook jetzt in einem Interview. Der Konzern habe die Technik so sicher wie möglich gestaltet und er sei davon überzeugt, dass Apples KI-Modelle Inhalte in "sehr hoher Qualität" generieren. "Ganz ehrlich würde ich aber sagen, dass es nicht ganz 100 Prozent sind", erläuterte Cook gegenüber der Washington Post.

Schädliche Antworten auch bei Apple Intelligence

In einer längeren Abhandlung zu Apples neuen Foundation Models verweist der Konzern auf Testläufe, bei denen die KI-Modelle auf gezielte Eingaben ("adversarial prompts") in mehreren Fällen "schädliche Inhalte, sensible Themen und Falschinformationen" als Antwort lieferten. Der Prozentsatz solcher Regelverletzungen sei bei Apple Intelligence im Vergleich zu anderen KI-Modellen relativ niedrig. Apple spricht bei seinen auf Servern ausgeführten KI-Modellen davon, dass es in 6,6 Prozent der Anfragen zu unerwünschten Antworten kam – bei anderen Modellen wie GPT-4-Turbo liege der Anteil bei gut 20 Prozent. Man arbeite weiter aktiv daran, die Sicherheit der eigenen Modelle zu untersuchen, heißt es von Apple.

Halluzinationen sind bei KI-Modellen ein allgegenwärtiges Problem, das von erfundenen Lokalitäten über falsche Informationen bis hin zu klar bedenklichen Antworten reicht.

Das Training von Apples Foundation Models erfolgte demnach nicht nur mit lizenzierten Inhalten, sondern auch mit öffentlich zugänglichem Content aus dem "Open Web" – ohne dafür offenbar eine spezielle Erlaubnis einzuholen. Webseitenbetreiber müssen für ein Opt-out den "Applebot", den Webseiten-Crawler des Konzerns, sperren.

Apple-KI teils auf Gerät, teils in der Cloud

Auch Apples KI-Modelle laufen nicht rein lokal, sondern teilweise auch in der Cloud – auf Servern des Konzerns mit hauseigenen Chips. Man habe mit hohem Aufwand dafür gesorgt, die Daten der Nutzer dabei so sicher wie möglich zu handhaben, betont der Konzern – nichts werde gespeichert und Apple selbst erhalte keinen Zugriff. Apple veröffentlichte inzwischen erste konkrete Details zu der Architektur von "Private Cloud Compute". Externe Sicherheitsforscher sollen Teile der Versprechen bald überprüfen können. Unklar bleibt aktuell noch, inwiefern Nutzer verhindern können, dass ihre Daten für KI-Funktionen teils auch auf Apple-Servern landen – und wie sichtbar die Datenübertragung im Betriebssystem überhaupt ist.

Lesen Sie auch

iOS 18 und Co.: Apples KI-Katze ist aus dem Sack – oder doch nicht?

Mit "Apple Intelligence" wird mit ChatGPT auch ein erstes externes KI-Modell in die Betriebssysteme integriert: Bevor Daten in Richtung der OpenAI-Server gehen, werden Nutzer erst um Zustimmung gefragt. Der Anbieter habe Datenschutzvorkehrungen getroffen, so Cook – die IP-Adresse solle bei Anfragen etwa nicht getrackt werden. Die Apple-Systeme erlauben es außerdem, ChatGPT-Funktionen ohne Account-Anmeldung zu verwenden. Antworten sind mit dem Hinweis gekennzeichnet, dass diese Fehlinformationen enthalten können. Apple plant offenbar, künftig auch mit anderen KI-Firmen zusammenzuarbeiten.

(lbe)