Content-Scanner und Kinderschutz: Wer kontrolliert Google?

Es ist nie eine gute Idee, Nacktfotos eines Kindes per Smartphone ohne Verschlüsselung irgendwohin zu senden. Auch nicht zu einem Arzt, der dies anfragt. So aber geschehen in den USA – mit Konsequenzen. Dort verschickten Eltern Bilder der Genitalien ihrer Söhne zu einer Vorabuntersuchung. Google reagierte und sperrte sämtliche Aktivitäten der dazugehörigen Konten. Man sollte wissen, man sollte vor allem als Elternteil wissen, Google führt dauerhafte Durchsuchungen auf den Geräten der Nutzerinnen und Nutzer durch. Ähnlich macht es Apple, dort nennt sich die Technik Nacktscanner und bezieht sich auf iMessages. Erkennt das iPhone Nacktheit, werden die Bilder unscharf und es taucht eine Warnung auf.

Ein Kommentar von Eva-Maria Weiß

Eva-Maria Weiß hat an der Universität Wien Kommunikationswissenschaft mit dem Schwerpunkt Medienpsychologie studiert und arbeitet seither als Journalistin.

Nun könnte man meinen: Prima, Apple und Google reagieren, das entspricht meiner Vorstellung von Kindesschutz. Und ein Arzt muss freilich die Genitalien sehen, um einen Befund zu erstellen. Doch dieses Denken griffe an gleich mehreren Stellen zu kurz.

Google, die sammelnde Datenbank

Denn Google durchsucht nicht nur die Endgeräte seiner Kundinnen und Kunden, wenn diese mit der Cloud synchronisiert sind. Google sammelt auch sehr gerne Informationen. Kind X hat also Krankheit Y. Google weiß, um welches Kind es sich handelt – das ist ja mindestens auf den unzähligen weiteren Fotos zu erkennen. Diese Information kann Google gleich in seine Gesundheits-Datenbank verfrachten. Könnte später mal spannend sein, wenn besagtes Kind X zu Erwachsenem X geworden ist. Das Gesundheitswesen ist für die großen Tech-Unternehmen das "Next Big Thing", Google analysiert beispielsweise millionenfach Patientendaten einer US-Krankenhauskette. Amazon kaufte eine Poliklinik-Kette. Sowas geschieht mit guten Absichten, aber leider auch mit einem großen wirtschaftlichen Interesse.

Es geht hier zudem nicht um eine Grippe oder ein gebrochenes Bein, es geht auch noch explizit um Genitalien. Bilder, die unschönerweise von Menschen gesucht werden, die damit nichts Gutes im Sinn haben. In dem Fallbeispiel aus den USA haben die Eltern ihre Googlekonten verloren, ein Vater erklärte, dass er sich daraufhin ein Hotmail-Konto eingerichtet hat. Das lässt daran zweifeln, dass sich die Eltern der Problematik auch nur im Geringsten bewusst sind. Früher war die Gruselvorstellung, dass der Mann, der die analogen Fotos entwickelt, eigene Abzüge herstellt und diese vertreibt. Heute sind es Firmen, die Daten behalten und damit ihr Geschäft machen. Gesundheitsdaten sind besonders sensible Daten, sie sind auch besonders schützenswert. Weder Google noch ein anderes großes Tech-Unternehmen sollte darauf zugreifen können.

Wer kontrolliert hier wen?

Die Strafverfolgungsbehörden haben in beiden Fällen ermittelt – gegen die Eltern wegen des Verdachts des Kindesmissbrauchs. Die Ermittlungen sind laut des Zeitungsberichts der New York Times eingestellt worden. Klar. Wen interessiert das genau gar nicht? Google. Konten automatisiert sperren? Ja. Kontensperrung prüfen? Nein. Dafür fehlt anscheinend die Kapazität. Und das, während im Hintergrund weiter jedes Bild eines jeden Nutzers durchleuchtet wird. Der Konzern hat bereits mehrfach erklärt, dass Menschen eine Art Endkontrolle übernehmen würden. In diesen beiden Fällen scheint sie nicht gegriffen zu haben.

Und wer kontrolliert Google eigentlich bei diesen Kontroll- und Sperraktivitäten? Google handelt als privatwirtschaftliches Unternehmen, das nach Belieben sperren kann. Möglich ist auch, dass Google die Eltern nun dauerhaft als potenzielle Straftäter abspeichert. Es mag naiv von den Eltern sein, viele Aktivitäten einzig über Google laufen zu lassen, es zeigt aber auch, dass es ihnen an Bewusstsein für die Problematik fehlt.

Das Foto vom Kind in der Badewanne, das früher an Opas und Omas Kühlschrank hing, mag niedlich gewesen sein. Nicht jedes Nacktbild gehört zensiert. Aber Google, Microsoft und Meta sind wirklich nicht die besten Adressen, um solche Fotos aus der Hand zu geben und zu verteilen. Das muss nach wie vor einer breiteren Masse von Menschen klar werden.

(emw)