Missing Link: Nur ein Verbot bestimmter Algorithmen kann die Demokratie retten
Vom Analysten zum Aktivisten: Roger McNamee hat an Facebook gut verdient. Nun fordert er eine radikale Umkehr und ein Verbot von Amplifizierungs-Algorithmen.
(Bild: whiteMocca/Shutterstock.com)
Roger McNamee war ein Angel Investor und Berater von Mark Zuckerberg. Facebooks Einfluss auf die US-Wahlen 2016 machten den US-Analysten und Investor vom Saulus zum Paulus. Nachdem seine Ratschläge, etwas gegen die unheilige Rolle der Plattform im politischen Diskurs zu tun, bei dem Unternehmen auf taube Ohren stießen, wandte sich McNamee gegen den Social-Media-Konzern. In seinem Buch "Zucked" (deutsch "Die Facebook-Gefahr", Plassen-Verlag) beschreibt McNamee seine Auseinandersetzung mit seinem früheren Zögling.
Am Rande der Digital Live Design Konferenz des Burda-Verlags sprach McNamee mit heise online über ein Verbot von Algorithmen zur Amplifizierung von Hass- und Falschnachrichten, über einen kaputten Markt für Tech-Investoren und die Notwendigkeit, zu Technologie auch mal Nein zu sagen.
Heise online: Halten Sie noch Facebook-Anteile?
Roger McNamee (RMN): Nein, jetzt nicht mehr.
Als Sie anfingen, Facebook zu kritisieren, hatten Sie noch welche. War das in Ordnung?
RMN: Um es ganz klar zu sagen, ich hatte die meisten Aktien verkauft, bevor irgendetwas passiert ist. Als ich zum Aktivisten wurde, habe ich erst einmal nicht weiter verkauft. Es war ein moralisches Dilemma. Ich habe von Facebooks Höhenflug profitiert. Wenn meine Kritik einen Absturz verursacht, sollte ich auch daran teilhaben, dachte ich. Die Ironie des Ganzen war, dass die Aktien keineswegs gefallen sind. Übrigens zeigt das klar, wie schwer sich der Aktivismus in diesem Bereich tut. Letztlich haben die Internetplattformen – und da spreche ich von Facebook, Google, Amazon und Microsoft – eine Größe erreicht, die es selbst für ganze Länder unmöglich macht, sie unter Kontrolle zu bringen.
(Bild: heise online / Monika Ermert)
"Diese Konzerne haben ihr eigenes Staatsgebiet"
Dave Eggers hatte Recht mit seinem dystopischen Roman "The Circle"?
RMN: Er hat das Buch als Science-Fiction geschrieben und innerhalb von zwei Jahren war Realität, was da stand. Diese Konzerne haben letztlich einen neuen organisatorischen Rahmen für die Menschheit kreiert, einen neuen Unternehmens-Nationalismus. Sie haben ihr eigenes Staatsgebiet, in dem ihre Regeln gelten. Ich frage die Leute manchmal, was tiefer in ihr Leben eingreift: die von Google, Facebook, Twitter oder Instagram gemachten Regeln oder die Regeln der Länder, in denen sie leben? Viele empfinden es so, dass sie sich mehr mit den Regeln auf Plattformen auseinanderzusetzen haben. Die sind nicht logisch, ihre Durchsetzung ist Zufallssache. Das Ganze geht zudem einher mit einer Entwicklung, in der Regierungen immer weniger in den demokratischen Staat investieren und mehr und mehr vormals öffentliche Funktionen dem Markt übertragen.
Nach dem US-Vorbild einer reinen Herrschaft des Marktes?
RMN: Genau. Daher sind wir heute in der Situation, dass der Staat wegen fehlender eigener Ressourcen die Dienste, die die Leute gewohnheitsmäßig erwarten, gar nicht mehr anbieten kann, gerade auch im Bereich neuer Technologien. So kommt es, dass Google zur Regierung in Toronto kommt und sagt: Also, wenn es um die Smart City geht, fehlen doch die Erfahrung und die Ressourcen, um das selbst anzubieten...
Technologiekonzerne übernehmen das Wertesystem
Lasst uns euch helfen...
RMN: Lasst uns das für euch machen. Die große Herausforderung ist, dass das Silicon Valley ein anderes Wertesystem hat. Man sollte das nicht gut oder schlecht nennen, es ist einfach anders. Sie haben den fürs Engineering essentiellen Wert der Effizienz in bisher ungekanntem Maß zur Anwendung gebracht. Demokratisches Handeln ist dagegen mindestens zwei Klassen ineffizienter, und zwar ‚by design‘. Einerseits gibt es da das Recht auf Selbstbestimmung, das Recht, selbst eine Wahl zu treffen. Das andere ist der demokratische Prozess als solcher. Der ist inhärent ineffizient, weil Ineffizienz sich letztlich positiv im Zusammenhang mit Menschen erweisen kann. Denn eine Möglichkeit, Ineffizienz zu reduzieren, besteht darin, Spannungen zu eliminieren. Das Problem ist bloß, Spannungen sind das Beste im Leben. Sie bescheren uns Wissen und Erfahrung, Kreativität, Musik oder Kunst. Der Kampf gegen Wissen und Erfahrung, den wir gerade in den USA und im Vereinigten Königreich erleben, entspricht daher exakt der Entwicklung, in der Technologiekonzerne uns unser Wertesystem abnehmen. Wollen wir das noch einmal hinterfragen oder nehmen wir es einfach hin? Vor der Frage stehen wir.
Persönliche Daten sollten ein Menschenrecht sein
Es scheint so, als gebe es breite Zustimmung zur Idee, dass man etwas gegen die Macht der Plattformen tun muss. Aber über den Weg dahin besteht wenig Einigkeit, richtig?
RMN: Die Antworten in Europa und den USA fallen unterschiedlich aus, aber die meisten Leute stimmen den Mahnungen von Menschen wie Maria Ressa, Marietje Schaake oder auch mir zu. Wenn es darum geht, etwas zu tun, sind die meisten Leute nur einfach zu beschäftigt mit ihrem Alltag. Das kann man ihnen auch nicht vorwerfen. Es gilt allerdings zu bedenken: Haben wir das Recht auf Selbstbestimmung einmal verloren, die Demokratie einmal aufgegeben, bekommen wir beides nur schwer wieder zurück. Es ist nicht völlig unmöglich, wird aber vielleicht nicht mehr zu meinen Lebzeiten passieren. Deshalb hoffe ich auf eine harte Diskussion darüber, wo verschiedene Länder hinwollen.
Worin bestehen die Unterschiede zwischen Europa und den USA?
RMN: Zwei Sachen sind besonders auffallend. Zum einen gelten in Europa Werte mehr als Gesetze. Man kann sagen, die Gesetze leiten sich aus den Werten ab. In den USA haben Gesetz und Werte fast nichts miteinander zu tun. Gesetze sind mehr die Verhandlung ökonomischer Interessen, Wertvorstellungen sind randständig. In Europa hat man beispielsweise entschieden, dass Vertraulichkeit ein Menschenrecht ist. Mein Vorschlag ist, auch persönliche Daten sollten ein Menschenrecht sein. Sie sind kein bewegliches Gut und dürfen nicht gehandelt werden. Natürlich brächte uns Eigentum an persönlichen Daten schon in eine bessere Situation. Dateneigentum darf aber meiner Auffassung nach nicht das Endziel sein. Das eigentliche Ziel muss es sein klarzustellen, wenn jemand ein Profil von meinem Verhalten erstellt und dann mein Verhalten beeinflusst, widerspricht das den Werten der Aufklärung, auf die unsere Demokratien sich gründen.
Den zweiten Aspekt, den ich interessant finde in Europa, ist: Experimente spiegeln hier die Kultur der einzelnen Länder wider, es gibt aber zugleich eine Koordination. Es gibt zentralisierte Dinge wie die Datenschutzgrundverordnung, zugleich aber eben die individuellen Herangehensweisen. Das halte ich für eine gesunde Entwicklung. Wir müssen nicht mit globalen Lösungen starten. Ich glaube sogar eher, jede Jurisdiktion sollte sich auf etwas stürzen, was in ihr als vordringlich erachtet wird. Am schwersten dürfte es werden, der Vorstellung entgegenzutreten, dass Technologie irgendwie unabwendbar ist und dass wir keinen Einfluss darauf haben, was Technologie kann, und dass wir auch keinen Einfluss haben sollten. Ich sage, das ist falsch.Technologie ist zu wichtig, als dass wir sie abkoppeln können von unseren demokratischen Entscheidungsprozessen.
Europa sollte der Technologie europäische Werte beibringen
Politiker in Europa sind allerdings vor allem besorgt, dass wir das Rennen verlieren könnten, hinter China und den USA. Was sagen Sie ihnen?
RMN: Europa muss sich keine Sorgen machen. Es kann meiner Meinung nach seine Chance im Technologiesektor dadurch wahrnehmen, indem es der Technologie europäische Werte beibringt. Ich bin zudem wirklich sehr für Experimente im Labor, um schnellstmögliche Fortschritte zu erzielen. Kommerzielle Deployments aber müssen den Menschen und seine Rechte einkalkulieren. Gerade wurde das potentielle Moratorium für die Anwendung von Gesichtserkennung in Europa bekannt. Dadurch will man sich Zeit geben, um gute Entscheidungen in diesem Bereich zu treffen. Es geht immer um den Einsatz, nicht die Entwicklung. Ich glaube, genau diese Vorstellung muss man übertragen auf KI, auf das Quantencomputing. Wir müssen schlicht anerkennen, dass diese Projekte ein Ausmaß angenommen haben, dass sie zwangsläufig Konsequenzen für die Gesellschaft mit sich bringen.
Sie haben am Anfang in Facebook investiert...
RMN: ...wie viele andere.
Wie viele andere – Sie hielten es für eine brillante Idee?
RMN: Es war nicht ganz am Anfang, aber recht früh.
Stellen Sie sich vor, es gebe nun eine Möglichkeit, Daten von Facebook zu portieren zu einem alternativen Anbieter und Sie würden in diesen investieren. Was soll verhindern, dass der zum neuen Monster wird?
RMN: Die Leute, die Facebook, Google, Youtube, Instagram oder Twitter benutzen, sehen die Gefahren nicht. Denken Sie daran, die fahren Rekordprofite ein und die Aktien stehen so hoch wie noch nie. Es gibt ganz einfach nicht genug Kapital, um Alternativen zu schaffen. Das ist unmöglich. Die Unternehmen haben Stand heute Monopolmacht.
Geschäftsmodell: Monopolisierung von Aufmerksamkeit
Was kann man denn dann noch tun?
RMN: Das Grundproblem ist, dass das Geschäftsmodell auf die Monopolisierung von Aufmerksamkeit gerichtet ist. Die Firmen setzen dazu Amplifizierungs-Algorithmen ein, um den Leuten genau die Inhalte zu präsentieren, mit denen sie sie am besten auf der Plattform festhalten können. Für die meisten Leute gilt, dass sie am ehesten dranbleiben, wenn sie wütend sind oder Angst haben. Also bekommen wir Hate Speech, Desinformation und Verschwörungstheorien. Genau da muss die Regulierung ansetzen. Was sollen immer noch mehr Moderatoren bringen. Der Schaden wird innerhalb von Sekunden angerichtet, Moderation dauert viel zu lange, selbst wenn man Millionen von Leuten dafür abstellt. Stattdessen muss man die Algorithmen verbieten, die Botschaften und Themen verstärken. Das wird die Profitabilität von Google und Facebook massiv einschränken, und so sollte es auch sein, analog zur Regulierung anderer Branchen. Wir wissen heute, dass Leute getötet werden können, dass ihr Leben ruiniert werden kann und dass Demokratien abgeschafft werden können. Daher ist es nur billig, die gleichen Ideen zu nutzen, mit denen wir in den vergangenen Jahrzehnten und Jahrhunderten Gebäude, Medizin und chemische Produkte sicher gemacht haben. Wer digitales Gift verbreitet, sollte ökonomisch genauso zur Verantwortung gezogen werden, wie derjenige, der chemische Gifte in Umlauf bringt.
Sie schauen mich so skeptisch an, als vertrauten Sie nicht darauf, dass die Demokratie diesen Test bestehen könnte. Es ist ein Test, und wir sollten nicht vorschnell urteilen. Nichts zu tun hätte fatale Konsequenzen.
Ein Bann für Amplifizierungs-Algorithmen? Wie sähe so ein Gesetz aus?
RMN: Das Gesetz würde einfach besagen, dass man keine Algorithmen verwenden darf, um Inhalte zu verstärken. Man kann einen chronologischen Newsfeed haben. Man kann nach Themen sortieren, aber man darf keine Vorauswahl dessen treffen, was die Leute zu Gesicht bekommen können.
Ist das nicht ein recht ehrgeiziges Ziel?
RMN: Man würde die Firmen damit zu ihren Ursprüngen zurückversetzen, aber das Gesetz ist recht einfach zu formulieren.
Gibt es schon einen Entwurf?
RMN: Noch nicht. Wir stehen noch am Anfang. Die DSGVO bekämpft Symptome. Ich würde gerne an der Wurzeln ansetzen. Wenn das Recht auf die eigenen Daten ein unveräußerliches Menschenrecht wird, werden manche Dinge in der DSGVO überflüssig. Denn die Daten sind nicht mehr handelbar. Es geht nicht mehr darum zu informieren, zu fragen, welcher Datennutzung jemand zustimmt, oder ein Opt-out anzubieten. Unternehmen können meine Daten einfach nicht verwenden. Denn ein Problem der DSGVO ist, wie schwierig sie durchzusetzen ist.
Die USA könnten die Führerschaft im Technologiesektor verlieren
Es gibt Leute, die Regulierung von Technologie beziehungsweise deren Effizienz eher skeptisch beurteilen. Wäre es nicht besser, Politiker konzentrierten sich darauf, Bedingungen zu schaffen, die den Nutzern erlaubten selbst zu wählen?
RMN: Wenn Demokratie funktionieren soll, müssen wir auch Regierungen vertrauen, wir müssen genügend investieren in sie, damit sie die Chance haben, erfolgreich zu sein. Seien wir mal ehrlich, in Deutschland funktioniert die Regierung doch viel besser als in den USA oder im Vereinigten Königreich. Unter anderem, weil ihr investiert. Ihr habt diesbezüglich eine Wahl getroffen.
Sollen wir sagen, es gibt Shades of Gray?
RMN: Schon. Aber die AfD hat 11 Prozent. Nicht 46 wie Trump oder 52 wie die Leave-Kampagne. Was ich sagen will ist, ihr habt noch Zeit. Es könnte zu spät sein fürs Vereinigte Königreich und die Vereinigten Staaten. Ich weiß nicht, wir warten mal den November ab.
Was meinen sie mit “es könnte zu spät sein”? Dass man dort schon keine Demokratie mehr hat?
RMN: Ich glaube tatsächlich, dass das für England eine berechtigte Frage ist. Wenn man sich ansieht, wie wenig Boris Johnson historische Strukturen interessieren. Ich bin kein Experte für das Land, aber ich bin besorgt. Die aktuellen Präsidentschaft in den USA tendiert für mich ganz klar in Richtung eines nicht-demokratischen Systems. Man kann leicht zynisch werden in der gegenwärtigen Situation und alles, worum ich bitte, ist, dass wir uns dieses Jahr nochmal eine Chance geben. 2020 ist ein entscheidendes Jahr für die ganze Welt. Überlegen Sie mal, welche Chance Deutschland bekommt, wenn Trump wiedergewählt wird. Dann wäre es unwahrscheinlich, dass die USA ihre Führerschaft im Technologiesektor behalten könnten. Ich glaube vielmehr, dass diese Firmen die USA dann innerhalb kürzester Zeit verlassen werden. Die Entscheidungen, die wir in den USA treffen, sind einfach nicht sehr sinnvoll. Eine Regierung, die man kaufen kann, zieht eine Menge Probleme auf sich.
Internetplattformen beschleunigen Niedergang der Demokratie
Als Technologiefirma mit tiefen Taschen kann ich sie kaufen.
RMN: Das ist richtig, aber ihre Mitarbeiter würden das wohl kaum gut finden. Denn wir bekämen eine noch extremere Spaltung in diejenigen, die etwas haben und diejenigen, die nichts haben. Ich weiß nicht genau, wie es weitergeht. Ich weiß nur, die Demokratien in aller Welt stehen vor einer großen Herausforderung und Internetplattformen haben dazu beigetragen, ihren Niedergang zu beschleunigen.
Manche Kommentatoren meinen, die Plattformen müssen einfach ihre Rolle als neue Gatekeeper annehmen. Probleme, die uns die Plattformen beschert haben, könnten am besten durch Technologie gelöst werden. Wäre das weise?
RMN: Sie sollten finanziell für die Lösung aufkommen. Aber nicht über die Regeln entscheiden. Dazu sind sie von ihrer Kultur her nicht in der Lage. Stoppen wir einfach die Amplifizierungs-Algorithmen. Ich möchte nicht behaupten, dass ich den Königsweg kenne. Mein Beruf ist Analyst. Ich analysiere die aktuelle Lage und versuche, gut begründete Prognosen für die Zukunft zu machen und zu sagen, wie sich Geschäftsmodelle entwickeln werden.
f
In den USA sind Verwerfungen im Start-up-Markt heute schon sichtbar. Praktisch alles Kapital geht in Geschäftsfelder, die weniger attraktiv sind als das Internet. Denn es gibt keine Chance, mit diesen Leuten zu konkurrieren. Also investieren die Leute in Rechtevermarktung, in Kryptowährungen, in Zustell-Services. Wir haben im Endeffekt einen einlullenden Komfort kreiert und wir haben alle abhängig gemacht von diesem Komfort. Die gesellschaftlichen Kosten gehen über den Preis der Demokratie längst hinaus. Komfort ist auch ein Klimakiller. Dinge wie KI und Machine Learning verbrauchen Unmengen an Elektrizität. Wenn man etwas gegen den Klimawandel tun will, wird man in Zukunft wohl auch die Freiheit von Technologiefirmen beschränken müssen zu tun, was immer sie für richtig halten. Man wird sagen: Sorry, aber das ist, was dir an Energie zusteht. Verbietet man Amplifizierung, spart man auch da etwas ein.
Was ist ihr Worst-Case-Szenario, wenn wir 2020 nichts erreichen?
RMN: Ich konzentriere mich erst einmal auf dieses Jahr. Danach haben wir 2021. (tiw)
