Cambridge Analytica: "Eine gefährliche, im Dunkeln arbeitende Industrie"

Inhaltsverzeichnis

Britanny Kaiser arbeitete von 2015 bis 2018 für die Mutterfirma von Cambridge Analytica. Nachdem die missbräuchliche Verwendung von Daten in verschiedenen Wahlkampagnen auf der ganzen Welt – besonders im US-Wahlkampf und beim Brexit-Referendum – bekannt wurde, packte sie in einem Untersuchungsausschuss in Großbritannien und vor dem Sonderermittler Robert Mueller aus über die Praktiken ihrer Firma und die Zusammenarbeit mit Facebook.

Seit Januar veröffentlicht Kaiser unter dem Hashtag #hindsight nach Ländern und Themen geordnete E-Mails aus ihrer Zeit bei CA. Als spätberufene Whistleblowerin wurde die US-Amerikanerin, die erst Mitte dreißig ist, stark kritisiert, nicht zuletzt im Zusammenhang mit ihrer Selbstdarstellung in der Dokumentation "The Great Hack". Im heise-Gespräch am Rande der vom Burda-Verlag ausgerichteten DLD Munich 20 berichtet sie über das System Microtargeting und Fake News und darüber, wie CA in Deutschland aktiv war. Kaiser veröffentlicht Ende Januar auch die deutsche Übersetzung ihres Buches "Die Datendiktatur" (Originaltitel: "Targeted").

"Wir haben eine gefährliche, im Dunkeln arbeitende Industrie geschaffen"

heise online: Sie haben die erste Facebook-Seite für die Obama-Kampagne gemacht und nach noch nicht einmal einer Legislaturperiode arbeiten Sie für die Firma, die geholfen hat, einen republikanischen Präsidenten ins Amt zu heben – Trump. Wie groß ist der Schritt von einem Engagement zum anderen? Die Technologie ist ja im Grunde die gleiche.

Britanny Kaiser: Die Technologie als solche ist ja nicht gut oder schlecht, es kommt darauf an, wie wir sie einsetzen. In der Obama-Kampagne hatten wir Regeln, also nicht Gesetze oder so, aber eine Art Ehrenkodex, an den wir uns gehalten haben: keine negativen Werbebotschaften. Unabhängig von den Daten, die wir benutzt haben, und die zweite Obama-Kampagne 2012 hat deutlich mehr Daten genutzt, denn da hatte man auch Zugriff auf die Friends-API, die wir 2008 noch nicht hatten. Wir haben auch Daten und Targeting benutzt, so viel wir konnten. Aber wir haben eben nur Obama und seine Politik beworben. Über andere Demokraten oder auch republikanische Konkurrenten haben wir nichts gesagt. Ich habe noch einige Jahre die Tools für gemeinnützige Organisationen genutzt, um Spender und Freiwillige für sie zu werben, und ich dachte einfach, dass das super Tools sind.

heise online: Würden Sie heute sagen, dass Data Analysis mit persönlichen Daten, nicht bei der Modellierung von Klimamodellen oder ähnlichem, seine Unschuld verloren hat und kaum noch guten Gewissens gemacht werden kann?

Britanny Kaiser: Genau darum setze ich mich ja so sehr für Gesetzgebung und Regulierung ein. Weil ich glaube, es gibt eine Zukunft für Data Science und KI. Sie können uns helfen, einige unserer größten Probleme zu lösen, die Klimakrise, Verkehrsoptimierung, die Verhinderung der nächsten Massenschießerei, die Bekämpfung von Krebs. Derzeit sieht es so aus: Wir haben eine gefährliche, im Dunkeln arbeitende Industrie geschaffen. Es gibt keine Transparenz, keinen rechtlichen Rahmen und keine Aufsicht, die Menschen dabei unterstützen würde, ihre Privatsphäre zu schützen. Traurigerweise können daher Leute wie Sie und ich unsere Privatsphäre niemals völlig wiederherstellen, wegen all der Daten, die über uns überall da draußen sind. Sie kriegen sie nicht zurück. Sie haben kein Recht, ihre Daten in den Datenbanken überall in der Welt wieder zu löschen. Also, die DSGVO und die CCPA (California Consumer Privacy Act) sind ein Start.

heise online: Das Recht auf Vergessen wurde so belacht.

Britanny Kaiser: (lacht) Jetzt wissen Sie, warum das so eine wichtige Klausel ist. Sobald einem das klar wird mit den eigenen Daten überall. Wir sollten das Recht auf Löschung haben. Ist Data Science also Teufelszeug? Für Sie und mich ja, schon ein bisschen. Allerdings sind die Daten, die wir heute und in Zukunft produzieren, wichtiger als historische Daten. Das ist unsere Chance, wir können die Daten, die wir für den Rest unseres Lebens produzieren, schützen und ich hoffe, dass meine Kinder und Enkel mal nicht in derselben Lage sind wie wir.

"Mark Zuckerberg entscheidet, was meine Kinder auf dem Schirm sehen werden"

heise online: Sie sagen, Datenanalyse auch mit persönlichen Daten für positive Zwecke bleibt möglich. Aber wie wollen Sie künftigen Missbrauch verhindern, wenn die Daten einmal da sind?

Britanny Kaiser: Ich denke, wir stehen vor einer schwierigen, komplizierten Aufgabe, wenn wir einerseits die Möglichkeit erhalten wollen, Daten zu nutzen, andererseits schwarze Schafe aufhalten wollen. Ich muss ganz ehrlich sagen, ich gebe noch nicht einmal den Tech-Firmen die Schuld an dem ganzen Mist, der passiert ist. Eine Menge von ihnen hat nicht vorhergesehen, was sie in Gang setzen. Wer hätte voraussagen können, dass Russland Facebook nutzt, um Veranstaltungen zu 'Black Lives Matter' und 'Blue Lives Matter' an denselben Ort zu dirigieren in der Hoffnung, sie aufeinander zu jagen und eine gewalttätige Auseinandersetzung zu provozieren? Niemand hätte das voraussehen können. Jetzt, wo wir wissen, dass es passiert, erwarte ich, dass die Tech-Unternehmen in ihre Technologie investieren, um das zu verhindern. Von wo loggen sich Leute ein, welche Aktivitäten weichen signifikant von denen eines normalen Users ab? Kann man herausfinden, ob es sich um einen Bot handelt oder ob etwas von einer Trollfarm kommt? Das ist KI und das ist Investition in die Technik selbst. Denn wir können die besten Gesetze haben, aber bevor wir die Technik haben, um solche Dinge zu verhindern, haben wir dieses Niemandsland, wo wir jetzt stehen, in dem wir zwar ein Recht auf Löschung haben, aber wir können nicht nachweisen, dass eine Firma auch wirklich gelöscht hat, oder eben nicht. Es dürfte ein paar Jahre dauern.

heise online: Maria Ressa, die auf den Philippinen gegen Fake News kämpft, sagte, die Tech-Firmen sollten die Rolle der neuen Gatekeeper übernehmen. Finden Sie das richtig?

Britanny Kaiser: Ja, da hat sie recht. Leider. (lacht) Es ist nicht toll, sich vorzustellen, dass Mark Zuckerberg derjenige sein wird, der entscheidet, was meine Kinder auf dem Schirm sehen werden. Ganz und gar nicht. Aber wenn Facebook nicht das Geld in die Hand nimmt, das Problem zu lösen, dann wird es auch nicht gelöst. Wir können nicht auf die Regierungen warten – wissen Sie, wie langsam die sind?! Ja, Auditing durch Externe ist gut. Aber was Regierungen als erstes tun können, ist die Durchsetzung bestehender, grundlegender Rechte. Desinformation, üble Nachrede, Verleumdung – wir haben Gesetze dagegen. Wählerunterdrückung – wir haben Gesetze dagegen. Die Aufhetzung zu Gewalt oder Rassismus – wir haben Gesetze dagegen.

heise online: Facebook oder Google als Polizei, Staatsanwalt und Richter in eigener Sache?

Britanny Kaiser: Nein. Ich denke schon, dass wir mehr Regulierung der Technologieunternehmen brauchen. In den USA wird darüber nachgedacht, eine Datenschutzaufsicht zu etablieren, die als externe Aufsicht überwacht, was tatsächlich hinter den Kulissen der Technologiefirmen passiert. Wir können nicht darauf vertrauen, dass Facebook das selbst tut. Dafür haben wir ja den Beweis. Aber Facebook muss dafür bezahlen, nicht der Steuerzahler.

"Die Trump-Kampagne war das Schlimmste, was ich gesehen habe"

heise online: Ist denn für Wahlen das Microtargeting, also die gezielte Ansprache, das größere Problem, oder ist es das Anfüttern mit verdrehten oder falschen Informationen? Und sind am Ende nicht Strategien wie der veränderte Zuschnitt von Wahlkreisen das größere Problem?

Britanny Kaiser: Das eine bringt hier ein paar tausend Stimmen, das andere da, und wenn Wahlen aufgrund kleinster Mehrheiten entschieden werden, hätte man vielleicht verloren, wenn man eine der Strategien nicht eingesetzt hätte. Ich würde alle diese Strategien Teile eines Puzzles nennen, das unvollständig wäre, wenn eines fehlt. Und obwohl ich Cambridge Analyticas Rolle gar nicht überbewerten will, habe ich die Fallstudien gesehen und die Zahlen, die teils von Dritten und nicht von Cambridge Analytica erhoben wurden, und ich habe die Wirksamkeit gesehen. Die Leute müssen verstehen, dass diese Taktiken schwerwiegende Folgen haben werden, und genau das bewegt mich dazu, mich für Regulierung auszusprechen. Microtargeting kombiniert mit falscher Information ist so beängstigend. Denn wir können hier nebeneinandersitzen, auf die gleiche Plattform und dieselbe Seite schauen und dennoch etwas total Unterschiedliches sehen. Selbst wenn wir auf die gleiche Nachricht schauen, am gleichen Tag, und es handelt sich um die gleichen Ereignisse auf der Welt. Wir bekommen verschiedene Versionen und sogar einige legitime Nachrichtenagenturen haben geänderte Headlines, je nachdem, ob du oder ich sie lesen. Und das ist beängstigend.

heise online: Welches waren die übelsten Taktiken, die Cambridge Analytica einsetzte für Wahlkampagnen?

Britanny Kaiser: Einige Dinge waren wirklich übel und die Trump-Kampagne war das Schlimmste, was ich gesehen habe. Beispielsweise wurden Hillary-Clinton-Unterstützer, die niemals Trump gewählt hätten, dazu gebracht, nicht zur Wahl zu gehen. Sie bekamen falsche Nachrichten dazu, was Hillary und ihre Stiftung gemacht hatten. Es ist immer billiger, Leute dazu zu bringen, nicht zur Wahl zu gehen, als sie davon zu überzeugen, einen bestimmten Kandidaten zu wählen.

heise online: Cambridge Analytica kann seine Dienste nicht mehr anbieten. Doch die Nachfrage nach dieser Art von Diensten dürfte fortbestehen. Wer sind die Nachfolger?

Britanny Kaiser: Leider zu viele Leute. Eine ganze Reihe ehemaliger Cambridge-Analytica-Angestellten arbeiten weiter in der Politik, auch Alexander Nix. Ich weiß auch von mindestens zwei oder drei kleineren Unternehmen, die aus Cambridge Analytica heraus entstanden sind. Einige arbeiten für die Trump-Kampagne 2020. Die Oxford University hat zudem eine Studie zu Anbietern von Propaganda-as-a-Service gemacht und listet darin Hunderte von Firmen, die wie Cambridge Analytica arbeiten, nur dass sie noch schlimmer sind. Denn die Technologie hat sich vier Jahre weiter entwickelt, und wir haben noch keine Regulierung.

Die CDU und die Sarkozy-Kampagne sagten Nein zu Cambridge Analytica

heise online: Es widerstrebt offenbar auch manchen Politikern, mindestens in den USA, schärfere Regeln einzuziehen, weil sie nicht ganz auf die Werkzeuge für ihren Wahlkampf verzichten wollen. Richtig?

Britanny Kaiser: Ja, ich war wirklich etwas schockiert, dass selbst demokratische Politiker mich aufgefordert haben, meine Forderung nach einem kompletten Verbot von Wahlkampfwerbung in den sozialen Medien nicht weiter zu propagieren. Denn sie könnten dadurch in ihrer Arbeit behindert werden. Ich werde ganz sicher nicht aufhören, Facebooks Entscheidung gegen einen Bann aller politischen Werbung als unethisch zu bezeichnen.

heise online: Eine erste ausführliche Studie zu Fake News in Deutschland besagt, dass die Effekte hierzulande weniger dramatisch sind. Was haben Sie in ihrer Zeit bei Cambridge Analytica über Deutschland erfahren?

Britanny Kaiser: In Deutschland haben wir einen Pitch bei der CDU gemacht. Aber dort hat man uns gesagt, solche Datennutzung entspräche nicht der politischen Natur Deutschlands. (lacht) Wir haben auch einige andere Parteien angesprochen. Aber jede sagte uns, das sei zu sensibel und „wir können das hier nicht machen.“ Natürlich wollte Cambridge Analytica den großen deutschen Markt nicht kampflos aufgeben. Also hat das Data Science Team versucht, Daten hier zu kaufen und man kann Daten in Deutschland kaufen. Von Acxiom, das ist ein großer Datenverkäufer. Aber man kann die Daten nicht für die politische Werbung nutzen, denn man braucht sehr klare Opt-ins. Man kann sie natürlich kommerziell ausnutzen. Ich fürchte allerdings, dass man das umgehen kann. Cambridge Analytica ist beispielsweise oft Verträge mit kommerziellen Firmen eingegangen und hat für diese Daten gesammelt, um diese dann für politische Zwecke zu nutzen. Bevor man hier keine komplette Transparenz hat und die Finanzierung von politischer Arbeit durch private Gelder stoppen kann, bleibt da eine Riesen-Grauzone.

heise online: Wird es bei der Veröffentlichung weiterer Dinge aus Ihrer Mailbox aus Ihrer Zeit bei Cambridge Analytica unter dem Hashtag "Hindsight“ auch Dokumente zu Deutschland geben?

Britanny Kaiser: Ja, es gibt etwas zu Deutschland. Es betrifft vor allem die Bemühungen verschiedener kommerzieller Unternehmen, die mit Cambridge Analytica ins Geschäft kommen wollten. Ich weiß nicht, ob davon tatsächlich etwas von Erfolg gekrönt war. Aber die Data Scientists von Cambridge Analytica haben sehr hart an einem Joint Venture mit Acxiom gearbeitet, um einen deutschen Ableger zu gründen. Da haben sie eine Menge Zeit investiert. Ob von den Bemühungen irgendetwas abgeschlossen werden konnte, bevor alles den Bach runter ging, weiß ich allerdings nicht genau.

heise online: Etwas zu anderen europäischen Ländern?

Britanny Kaiser: Ja, einige der bizarrsten Dinge, die darunter sind, betreffen Rumänien und Ungarn. Wie ich schon gesagt habe, das betrifft genau den Punkt, dass Firmen genutzt wurden, um politische Kampagnen zu organisieren. Dabei könnte es auch Verstöße gegen Wahlkampffinanzierungsgesetze gegeben haben. Ich bin jedenfalls selbst mehrfach gebeten worden, Victor Orban zu treffen. Ich habe das nicht gemacht, aber andere Kollegen bei Cambridge Analytica haben nicht abgelehnt.

heise online: Ist der Umstand, dass Deutschland ein schwieriges Terrain war für Cambridge Analytica – trotz der Anbahnungen mit Unternehmen – ein Zeichen von struktureller Widerstandsfähigkeit? Oder ist es einfach das, was sich Deutschland manchmal selbst vorwirft, technologische Rückständigkeit?

Britanny Kaiser: Ich war tatsächlich etwas verwirrt, wenn wir das erste Nein zu einem Wahlkampf-Pitch bekamen. Das kam von Frankreich. Die haben gesagt, das können wir hier nicht tun. Alexander machte die Präsentation, wie man Daten sammelt, wie man gezielt die Leute anspricht, es ging da um die Kampagne für Sarkozy. Da sind die wirklich ausgerastet. (lacht) Sie sagten, wir verlieren die Wahl, wenn jemand rauskriegt, dass wir so unsere Kampagne organisiert haben. Haut ab. Da hab ich gedacht, das ist doch völlig verrückt, wissen die eigentlich nicht, wie der Hase läuft in der ganzen Kommunikation. Ich war wirklich noch naiv zu der Zeit. Ich war überzeugt, so läuft das. Die werden zurückfallen, wenn sie sich dieser Mittel nicht bedienen.

heise online: Das ist es, Europa wird technologisch abgehängt... (lacht)

Britanny Kaiser: Naja, in gewisser Weise wird Europa dadurch gerettet. Als man uns in Deutschland sagte, das können wir nicht machen, dachte ich, naja, in Deutschland gibt es wirklich einen guten Grund dafür, nein zu sagen. Nationale Datenbanken, von den Nazis oder der Stasi missbraucht, das ist ein guter Grund für strenge Gesetze. Diese historische Perspektive, wie schlimm es werden kann, wenn Daten missbraucht werden, sorgt für eine sehr gesunde Widerstandsfähigkeit. Das will ich in meinem Buch klarmachen – wenn wir nichts tun, dass kann es schlimm werden.

"Chris Wylie hat mich motiviert"

heise online: Ok, noch drei persönliche Fragen. Sprechen wir übers Geld. Sie schreiben, dass Sie den Job bei Cambridge Analytica auch des Geldes wegen gemacht haben, Sie haben das Geld gebraucht. Jetzt ist der große Job weg – kann man mit Bücher schreiben überleben?

Britanny Kaiser: Ja, abgesehen vom Buch, verdiene ich mit Honoraren von Keynotes.

heise online: Reicht das bis zur Rente?

Britanny Kaiser: Nach den nächsten Buchpräsentationen werde ich mir Zeit nehmen, Geld für meine Stiftung zu sammeln. Wir haben eine Reihe kleiner Spenden bekommen, um ab Frühjahr Kurse zu digitaler Kompetenz in öffentliche Schulen zu bringen. Das Programm richtet sich an acht- bis 12-Jährige. Wir erklären ihnen alles darüber, was mit ihren persönlichen Daten passieren kann, wir erklären Cybersecurity, Bullying und so weiter. Wir haben dafür ein vom Weltwirtschaftsforum finanziertes Programm lizenziert und dann schicken wir Leute in die Schule – und für einige Zeit werde das ich sein. Hoffentlich kriegen wir dafür viel Unterstützung. Ich habe außerdem vier Abschlüsse als Anwältin gemacht und will mich in der Zukunft um eine Zulassung als Anwältin für Datenrecht bemühen.

heise online: Ihr Kollege – Partner in Crime, könnte man sagen – Chris Wylie hat Sie kritisiert und gesagt, für einen Whistleblower seien Sie etwas spät dran gewesen, weil Sie erst nach dem Skandal die Seite gewechselt haben. Was sagen Sie dazu?

Britanny Kaiser: Die Definition für Whistleblower ist nicht, dass man der erste ist (lacht). Ein Whistleblower verschafft Strafverfolgern oder Journalisten neue Informationen, im öffentlichen Interesse.

heise online: Es war vielleicht etwas leichter...

Britanny Kaiser: Er hat mich motiviert. Denn ich habe mir auch gesagt, Mann, er war nur 9 Monate da und hat so viel Information. Ich war über drei Jahre dabei. Daher sollten die Leute auch Zugang zu all dem haben, was ich weiß.

heise online: Was empfehlen Sie den Leuten, die sich Data Science zu ihrem Beruf wollen?

Britanny Kaiser: Man sollte sicherstellen, dass man einem ethischen und moralischen Code folgen kann, egal, für wen man arbeitet. Bevor man zu einer großen Werbefirma geht, sollte man vielleicht mal für eine Nichtregierungsorganisation, die Vereinten Nationen oder das Gesundheitsministerium im eigenen Land arbeiten. Ich hoffe, die schlauesten Data Scientists verfolgen eine Karriere in einem der vielen positiven Bereiche, die es gibt, anstatt nur die Leute zu verfolgen, damit sie etwas kaufen. (tiw)