Windows Recall weiß alles über mich!

Windows Recall ist das neueste Windows-Feature, das alles aufzeichnet, was auf eurem Bildschirm passiert. Super praktisch, aber ein Datenschutz-Albtraum. Microsoft hat den Start nun verschoben – gerade, als wir das fertige Video bei YouTube hochladen wollten - wir zeigen euch das Video trotzdem. Auch wenn Microsoft bis zum finalen Release hoffentlich vieles verbessert, bleibt unser Test relevant. Ausprobieren könnt ihr Recall später im Insider-Programm. Microsoft hat das angekündigt, aber noch keinen genauen Zeitraum genannt.

Transkript des Videos

(Hinweis: Dieses Transkript ist für Menschen gedacht, die das Video oben nicht schauen können oder wollen. Der Text gibt nicht alle Informationen der Bildspur wieder.)

Guckt mal hier, ich gebe hier einfach ein "Erdbeere" ein und dann wird mir sofort angezeigt, wann in den letzten Tagen Erdbeeren auf meinem Bildschirm zu sehen waren – nämlich hier in einem YouTube-Video oder hier in einer Suche. Ich kann auch sagen intime Dinge und dann werden mir intime Dinge angezeigt. Und obendrein habe ich hier auch so eine Zeitleiste, und ich kann genau gucken, was wann auf meinem Bildschirm zu sehen war. Windows Recall heißt das Ganze und ist eine neue, sagt der Name schon, Windows-Funktion und man kann mit ziemlicher Sicherheit sagen, dass das mit Abstand die umstrittenste Windows-Funktion seit vielen Jahren ist. Mein Kollege Nico findet sogar, dass Windows Recall das Ende des Personal Computers darstellt. Und es gibt viele konkrete Sicherheitsbedenken. Wir gucken uns das mal genauer an und statt sich nur auf die Sachen zu verlassen, die Microsoft angekündigt hat, haben wir ein Windows mit einer Vorab-Version von Recall installiert und es mehrere Tage im Alltag benutzt. Und das war ziemlich interessant. Bleibt dran.

Achso, ganz kurz was in eigener Sache: Weil wir mehr Videos machen wollen, also mehr als ich und Lukas schaffen, suchen wir freie Skriptschreiberinnen und -schreiber! Also, wenn ihr euch vorstellen könnt, ein zu c’t-3003 passendes Thema zu recherchieren und mundgerecht aufzubereiten und aufzuschreiben: Schickt gerne eine Mail an meine Kollegin Hannah an mond@heise.de. Und wir zahlen natürlich fair.

Und fair bezahlen können wir unter anderem, weil wir jetzt endlich auch 3003-Merch verkaufen: Los geht das mit dieser formschönen Hipbag oder auch als Bauchtasche bezeichnet. Super Farbe, super Form, hab ich schon oft auf dem Rennrad verwendet, um da mein Handy reinzutun. Und es gibt hier sogar auch noch so eine kleine Geheimtasche, wo zum Beispiel die heise-Kantinenkarte reinpasst, ja, super. Für 14,90 Euro kann sie dir gehören. Hier geht's zum Shop.

Liebe Hackerinnen, liebe Internetsurfer, herzlich willkommen hier bei…

Also, jetzt erstmal, was ist hier überhaupt passiert. Auf Microsofts Konferenz Build wurde ziemlich groß eine neue Windows-Funktion angekündigt: Windows Recall; und bekommen sollen das alle PCs mit dem Copilot+-Label als Teil von Windows 11 24H2 – angekündigt sind diese Rechner quasi von allen relevanten Herstellern, also bislang Acer, Asus, Dell, HP, Medion, Lenovo und Samsung, und ab dem 18. Juni, also nächste Woche, sollen die in den Handel kommen. Bei Rechnern ohne Copilot+-Label, die das Update 24H2 bekommen, wird die Funktion offenbar noch nicht aktiv sein.

Und ja, alle die Copilot+-PCs haben einen KI-Beschleuniger eingebaut, also eine NPU, Neural Processing Unit. Ja, damit man auch irgendwie zeigen kann, dass die NPU-Rechner irgendwas anderes können als „normale“ hat man hier halt dieses Windows-Recall als Exklusiv-Funktion sich ausgedacht. Offenbar.

Soweit so gut. Der Witz ist aber nun, dass wir Recall auf einem anderthalb Jahre alten Mini-PC testen konnten, und zwar auf dem Windows Dev Kit 2023 mit Qualcomm Snapdragon 8cx Gen 3, einem im Vergleich zu den kommenden Rechnern wahrscheinlich deutlich langsameren Gerät – und Recall funktionierte darauf trotzdem problemlos. Naja. Also auch mein DevKit hat angeblich eine NPU, die wird aber in der von mir getesteten Windows-Version nirgendwo angezeigt, also zum Beispiel nicht im Geräte-Manager, wo sie eigentlich sein sollte. Naja. Wie man Recall jetzt schon verwendet, auf beliebigen Rechnern, das zeige ich euch am Ende des Videos.

Was aber jetzt erstmal ganz wichtig ist: Die neuen Copilot+-Rechner kommen zwar schon nächste Woche, aber das entsprechende Windows ist offenbar noch nicht fertig, alles sehr mit heißer Nadel gestrickt. Ich habe für dieses Video die Vorabversion von Windows 11 24H2 mit diesem Build hier verwendet, die ist vom 7. Juni 2024. Gut, zum 18. Juni, also zur Veröffentlichung der Copilot+-PCs, ist jetzt nicht mehr sooo viel Zeit, aber es können sich da natürlich doch noch viele Dinge ändern. Deshalb: Meine Erfahrungen hier sind eine Momentaufnahme, um überhaupt generell mal zu verstehen, wie dieses Windows Recall funktioniert – bis zur finalen Version kann sich da natürlich noch was ändern.

So, aber wie funktioniert das denn jetzt genau mit dem Recall? Ja, sehr einfach, und auch schnell zu verstehen: Unten in der Taskleiste gibt es da nun dieses Symbol, hinter dem sich Recall verbirgt, oder auf Deutsch sehr lieblos übersetzt mit ABRUF. Ja, und wenn man dann auf "Abruf öffnen" klickt, dann kommt das, und hier oben kann ich mich durch diesen Zeitstrahl bewegen; unten sehe ich dann, einen Screenshot und hier oben steht die Uhrzeit. Ich kann mir also wie bei einem Video alles angucken, was ich so gemacht habe bzw. was auf meinem Bildschirm zu sehen war. Klicke ich da länger drauf, dann wird der Zeitstrahl hier oben auch größer, wups, und dann kann ich mich da nochmal feiner durchhangeln. Ich kann also auf diese Weise ganz einfach meinen PC-Arbeitstag mir nochmal angucken. Hier habe ich zum Beispiel die Apple-WWDC-Keynote angeguckt. Und hier habe ich das Skript für dieses Video hier geschrieben.

Microsoft sagt, dass alle fünf Sekunden ein Screenshot gemacht wird, wenn sich der Bildschirminhalt verändert, bei meinen Tests hier, also auch wenn ich ein Video hab laufen lassen, bin ich auf maximal vier Screenshots in der Minute gekommen, also maximal alle 20 Sekunden. Und auch auffällig ist, dass es manchmal "Erinnerungslücken" gibt, hier hatte die ganze Nacht YouTube-Videos laufen, und ja, die Aufzeichnung stoppt um 23:36 und beginnt erst wieder um 7:56 Uhr. An den Energieeinstellungen liegt es nicht, der Rechner ist so eingestellt, dass er sich nie ausschaltet. Und an fehlenden Mausbewegungen auch nicht, weil solche mehrstündigen YouTube-Video-Sessions ohne Mausbewegungen auch schon aufgezeichnet wurden.

Eventuell liegt das daran, dass die Hardware hier nicht so leistungsfähig ist wie die künftigen Copilot+-PCs oder halt weil die Software noch nicht fertig ist.

Ja, aber es werden auf jeden Fall auch so viele Screenshots und die kann man, und jetzt wird's interessant, durchsuchen. Weil: Windows lässt über jeden Screenshot ein lokales KI-Modell laufen, was nicht nur OCR-mäßig Texte erkennt, sondern auch Bilder. Stichwort Multimodalität: Das können Sprachmodelle ja jetzt häufiger, dass die nicht nur Text verstehen.

Das heißt, wenn ich mich so vage erinnere, dass ich vor einigen Tagen irgendwie so ein tolles Fahrrad gesehen habe oder halt eine Erdbeere: Dann tipp ich das hier ein und dann finde ich, wenn alles gut geht, diesen Screenshot. Man kann dann auch direkt wieder in die Software springen, die steht immer hier unten. Ja, hier in das Dokument, in dem ich dieses Skript geschrieben habe, habe ich mal das Wort Gepardenforelle getippt, und wenn ich dann später in Recall nach Gepardenforelle suche, dann kann ich mit einem Klick hier unten direkt wieder in dieses Dokument springen.

Das kann alles schon sinnvoll sein: Also zum Beispiel passiert in meinem Arbeitsleben sehr viel über Textnachrichten, und ich merke mir dann: Ah, ich habe mit Person xy über yx getextet, aber ich weiß dann manchmal nicht mehr, ob das per Signal, Whatsapp, Mail oder Teams war. Und so, kann ich dann einfach nach einem Stichwort des Gesprächs suchen und zack, fertig. Thema Speicherplatz übrigens: Ungefähr drei Arbeitstage haben bei mir knapp 700 MByte Daten erzeugt. Da kommt man im Monat also grob auf 7 Gigabyte, das läppert sich. Man kann auch einstellen, ab wann die alten Sachen wieder gelöscht werden, also 25, 50 oder 75 GByte.

Ich habe übrigens auch mal Erwachsenenunterhaltung laufen lassen, und, ja. klar, das wurde auch mitgeschnitten. Und es gibt da zwar offenbar einen puritanischen USA-Filter, so dass man bestimmte Wörter nicht suchen kann, zum Beispiel "nude" – aber wenn ich "nackt" suche, ja, dann kommen die ganzen Screenshots von den entsprechenden Videos.

So, ich denke, ich muss euch jetzt gar nicht mehr sagen, wo da eventuell auch Probleme liegen können. Denn, klar, das sind halt wirklich Daten, nach denen sich viele Leute die Finger lecken, weil man da halt wirklich ALLES drauf sehen kann, was Leute an ihren PCs machen. Also was weiß ich, irgendwelche Excel-Tabellen mit Geschäftsgeheimnissen, Banking-Informationen, kompromittierende Fotos: Wenn man Zugriff auf die Recall-Daten hat, kriegt man das alles auf dem Silbertablett geliefert. Und das gilt jetzt nicht nur für Hacker, Geheimdienste, Ex-Lover, sondern halt auch für Arbeitgeber. Ja, klar, da sieht man dann zum Beispiel genau, was die Leute im Homeoffice so machen. Oder vielleicht auch für Microsoft selbst, weil man aus diesen Daten sehr sicher ein ziemlich gutes KI-Modell machen kann, was dann vielleicht irgendwann all das beherrscht, was Computerarbeiter können. Ich sage damit nicht, dass diese Daten standardmäßig von irgendwem ausgewertet werden – sondern erstmal nur, dass sie hochgradig spannend für viele Menschen und Instanzen sind. Und deshalb sehr gut abgesichert werden müssen. Und genau das passiert bei der von mir hier getesteten Variante nicht.

Sobald man Zugriff auf den Rechner hat, mit irgendeinem Windows-Admin-Zugang, dann kann man die Recall-Screenshots in jedem anderen Windows-Admin-Account auch anschauen. Man muss nur ins Users-Verzeichnis gehen, dann den Usernamen auswählen und dann fragt Windows einmal nach, ob man wirklich Zugriff haben will, klickt man ja und dann hangelt man sich auf c:\Users\ps\AppData\Local\CoreAIPlatform.00\UKP und da findet man dann ganz viele Bilddateien; das sind einfach JPGs, unverschlüsselt, die sind halt nur nicht als JPG benannt, also kann man einfach umbenennen, fertig. Und es gibt auch noch eine SQLite-Datenbank, ja, und da werden unter anderem die in den Screenshots erkannten Texte eingetragen, aber auch ganz viele Metadaten. Also zum Beispiel wie lange genau welches Programmfenster im Vordergrund war usw. usw. Also auch perfekte Ausspionierdaten.

Will man das alles komfortabel auslesen, kann man zum Beispiel einfach das Python-Skript TotalRecall von Alexander Hagenah von Github herunterladen und ausführen: Zack, da wird dann die Datenbank schön in eine Datei geschrieben und die Screenshots richtig benannt. Sehr komfortabel.

So, aber erstmal nochmal ganz klar: Die Daten gehen nicht in die Cloud. Das heißt, die Text- und Bilderkennung findet lokal auf der eigenen Hardware statt. Würde das in die Cloud gehen, dann, ja, das wäre dann wirklich eine totale Katastrophe. Aber so, ist es halt auch auf jeden Fall gefährlich. Weil ja, man muss erstmal Microsoft vertrauen, dass die mit den Daten vernünftig umgehen, aber vor allem schafft man halt für alle Leute, die einem was Böses wollen, eine super komfortable Möglichkeit, ohne viel Aufwand alle Daten auf einen Haufen zu erbeuten – die Datenbank ist quasi das Inhaltsverzeichnis.

Wir fanden übrigens keine Indikation, dass in der Datenbank Dinge gespeichert werden, die man nicht auf dem Bildschirm sehen konnte – also zum Beispiel Passwörter. Klickt man aber bei Passwort-Eingaben auf das Anzeigen-Symbol, ja, dann stecken natürlich auch Passwörter in den Screenshots und in der Datenbank.

All das sehen natürlich viele Leute kritisch, auch ich. Weil es gibt den Computer-Security-Spruch "Wo ein Trog steht, da kommen die Schweine.", also das ist einfach hochgradig gefährlich, so begehrenswerte Daten so offen auf einem Rechner zu haben. Mein Kollege Nico findet deshalb, dass das das Ende des Personal-Computers ist, weil ein Rechner mit Recall-Daten eben kein persönliches, kein privates Ding mehr ist – sondern ein Gerät, das mich 24/7 überwacht und womöglich gegen mich verwendet werden kann. So, und weil das sehr viele Leute kritisiert haben, hat Microsoft kurz vor Redaktionsschluss dieses Videos eingelenkt:

Recall soll jetzt keine standardmäßig aktivierte Funktion werden, das war ursprünglich geplant. Also das ist jetzt erstmal opt-in, das heißt, man muss das manuell einschalten. Und außerdem sollen Screenshots und Datenbank verschlüsselt werden, sagt Microsoft. Es muss Windows Hello aktiv sein, also das Einloggen über Gesichtserkennung, Fingerabdruck oder PIN. Und außerdem soll es eine sogenannte "Proof of presence" geben, also einen Anwesenheitscheck? Das hat Microsoft noch nicht so detailliert erörtert.

Das würde ich alles schon mal als positiv bewerten, aber man muss das natürlich weiter im Auge behalten – also es wäre zum Beispiel denkbar, dass die Funktion in Zukunft durch irgendein Update einfach eingeschaltet wird, ohne dass man das mitbekommt.

Mein Fazit:

Also, ganz klar: Windows Recall ist auf jeden Fall hochgradig gefährlich. Einfach, weil das Daten produziert, die sehr sehr ins Persönliche gehen. Ich kann nach meinem Praxistest sagen, dass sich das für mich ganz unangenehm angefühlt hat, dass mir diese Funktion und diese KI permanent über die Schulter schaut und alles auswertet, was ich am Rechner mache. Aber, auch ganz klar: Praktisch kann das schon sein. Ich denke, wir kennen das alle, dass wir irgendwas suchen, was wir gesehen, besprochen, geschrieben haben und uns nicht mehr genau erinnern, in welchem Kontext das war. Auch gerade für Leute, deren Gehirn eher visuell funktioniert als mit Sprache – die können dann nach Bildern suchen.

Aber man muss halt für sich entscheiden, ob der Gewinn an Komfort durch Recall höher zu bewerten ist als der potenzielle Verlust der Privatsphäre.

Für mich kann ich sagen, dass ich diese Funktion nur dann einschalten würde, wenn ich mir absolut sicher wäre, dass die Daten sehr gut geschützt werden und ich sehr genau einstellen kann, wann nicht mitgeschnitten wird. In der von mir ausprobierten Version kann ich sagen, dass bestimmte Programme gar nicht "recallt" werden, oder auch einzelne Websites nicht. Ich muss aber sagen, dass das für mich jetzt erstmal nicht ausreichend ist: Dinge, bei denen ich nicht beobachtet werden will (private Kommunikation zum Beispiel), findet oft mit der gleichen Software statt, mit der auch berufliche Kommunikation läuft, die ich wiederum womöglich im Index haben will. Also, ich bin wirklich mal gespannt, wie das alles weitergeht. Ist womöglich Recall jetzt wirklich der Stein, der das Fass zum Überlaufen bringt und die Leute zu Linux oder MacOS führt? Oder werden die Copilot+-PCs ein Riesenerfolg, eben wegen Recall? Was meint ihr? Wie seht ihr das? Gerne in die Kommentare schreiben.

Achso ja, ich wollte ja noch erklären, wie man Recall jetzt schon verwenden kann:

Jo, hier ist einmal Keno aus der Zukunft mit schlechtem Ton und schlechtem Licht. Ich hatte das Tutorial gerade schon fertig, als ich gesehen habe, dass Microsoft tatsächlich die ISO nicht mehr online hat. Also an der Stelle, wo ich die runtergeladen habe, ist die nicht mehr. Das hat ja auch seine Gründe, ist ja auch sinnvoll von Microsoft, weil ihr ja hier im Video gesehen habt, ist da halt gar nicht verschüsselt, deswegen:Wenn ihr's unbedingt testen wollt, dann wartet auf die finale Version oder benutzt gleich Open Recall, ist noch sehr früh, wird auch noch buggy sein, aber, ja. Oder benutzt es gar nicht, auch eine gute Variante. Tschüss.

---

c't 3003 ist der YouTube-Channel von c't. Die Videos auf c’t 3003 sind eigenständige Inhalte und unabhängig von den Artikeln im c’t Magazin. Die Redakteure Jan-Keno Janssen und Lukas Rumpler sowie die Video-Producer Şahin Erengil und Pascal Schewe veröffentlichen jede Woche ein Video.

(jkj)