Seite 2: Gesichtserkennung in generierten Bildern

Inhaltsverzeichnis

Die Polizei fertigt öfter forensische Skizzen auf der Grundlage von Zeugenbeschreibungen mit Hilfe von Gesichtserkennungssystemen an. Eine Studie des Georgetown Law‘s Center on Privacy and Technology hatte 2019 ergeben, dass mindestens ein halbes Dutzend Polizeibehörden in den USA die Verwendung von handgezeichneten oder computergenerierten forensischen Skizzen als Eingabefotos für Gesichtserkennungssysteme "erlauben, wenn nicht sogar fördern". KI-Experten haben davor gewarnt, dass ein solches Verfahren wahrscheinlich zu einer geringeren Genauigkeit führt.

Corsight wurde in der Vergangenheit zudem auch dafür kritisiert, dass es die Fähigkeiten und die Genauigkeit seines Gesichtserkennungssystems übertreibt. Das Unternehmen bezeichnete es in einer online verfügbaren Präsentation als das "ethischste Gesichtserkennungssystem für äußerst schwierige Bedingungen". Corsight-Geschäftsführer Watts sagte in einer IPVM-Technologiedemonstration im vergangenen November, dass sein Gesichtserkennungssystem "nicht nur Personen mit einer Mund- und Nasenschutzmaske identifizieren kann, sondern auch wenn sie eine Skimaske tragen".

IPVM zufolge ergab Corsights KI-Anwendung bei einem maskierten Gesicht einen Konfidenzwert von 65 Prozent, das unternehmenseigene Maß für die Wahrscheinlichkeit, dass das erfasste Gesicht in seiner Datenbank übereinstimmt. IPVM merkte jedoch an, dass die Maske eher als Sturmhaube mit freiem Gesicht oder Halskrause bezeichnet werden sollte, und nicht als eine Skimaske mit nur Mund- und Augenausschnitten.

Mehr Kritik an Technologien zur Gesichtserkennung

Allgemeinere Probleme mit der Genauigkeit der Gesichtserkennungstechnologie wurden bereits ausführlich dokumentiert. Die Probleme sind ausgeprägter, wenn die Fotos schlecht beleuchtet sind oder aus extremen Winkeln aufgenommen wurden und wenn die Personen eine dunklere Haut haben, Frauen sind und sehr alt oder sehr jung sind. Datenschützer und die Öffentlichkeit haben auch Kritik an anderen Gesichtserkennungstechnologien geübt, insbesondere an Systemen wie Clearview AI, die soziale Medien als Teil ihres Abgleichsystems auswerten.

Die Nutzung der Technologie durch die Strafverfolgungsbehörden ist besonders problematisch. Boston, Minneapolis und San Francisco gehören zu den vielen Städten, die sie verboten haben. Amazon und Microsoft haben den Verkauf von Gesichtserkennungsprodukten an Polizeigruppen eingestellt, und IBM hat seine Gesichtserkennungssoftware vom Markt genommen.

"Das ist Pseudowissenschaft"

"Die Vorstellung, dass man in der Lage sein wird, etwas mit einer derartigen Granularität und Genauigkeit zu entwickeln, wie sie für eine Suche nach Gesichtsübereinstimmungen erforderlich ist, klingt für mich absurd", sagt Albert Fox Cahn, ein Bürgerrechtsanwalt und Geschäftsführer des Surveillance Technology Oversight Project. Er beschäftigt sich intensiv mit Fragen im Zusammenhang mit Gesichtserkennungssystemen und ergänzt: "Das ist Pseudowissenschaft."

Die Wissenschaft zur Unterstützung eines solchen Systems sei noch nicht ausreichend entwickelt, zumindest nicht öffentlich, sagt Computerwissenschaftlerin Dzemila Sero, die in der Computational Imaging Group des niederländischen Forschungsinstituts für Mathematik und Informatik "Centrum Wiskunde & Informatica" forscht. Der Katalog der Gene, die für eine genaue Gesichtsdarstellung aus DNA-Proben erforderlich sind, ist Sero zufolge derzeit unvollständig, wie die Studie von Human Longevity von 2017 belege.

Nicht nur DNA beeinflusst Gesichter

Darüber hinaus haben Faktoren wie Umwelt und Alterung erhebliche Auswirkungen auf Gesichter, die durch die DNA-Phänotypisierung nicht erfasst werden können. Die Forschung hat gezeigt, dass einzelne Gene das Aussehen eines Gesichts nicht so stark beeinflussen wie das Geschlecht und die Abstammung. "Vorschnelle Versuche, diese Technik einzuführen, würden wahrscheinlich das Vertrauen und die Unterstützung für die Genomforschung untergraben und keinen gesellschaftlichen Nutzen bringen", erklärt Sero.

Sie hat das umgekehrte Konzept des Corsight-Systems – "Vom Gesicht zur DNA" statt "Von der DNA zum Gesicht" – untersucht, indem sie eine Reihe von 3D-Fotos mit einer DNA-Probe verglich. In einem Artikel im Fachjournal "Nature" berichtet sie mit ihrem Team über Genauigkeitsraten zwischen 80 und 83 Prozent. Sero sagt, dass ihre Arbeit von Staatsanwälten nicht als belastendes Beweismaterial verwendet werden sollte und dass "diese Methoden auch unbestreitbare Risiken für weitere rassistische Ungleichheiten in der Strafjustiz bergen, die eine vorzeitige Anwendung der Techniken rechtfertigen, solange keine angemessenen Sicherheitsvorkehrungen getroffen wurden".

Trotz dieser Bedenken wächst der Markt für Gesichtserkennungstechnologie, und die Unternehmen buhlen um Kunden. Corsight ist nur eine von vielen Firmen, die Fotoabgleichdienste mit auffälligen neuen Funktionen anbieten, unabhängig davon, ob sie nachweislich funktionieren. Doch selbst wenn der Markt für solche Technologien wächst, besteht für Corsight und andere ein erhöhtes Risiko, Überwachungstechnologien zu vermarkten, die mit Verzerrungen und Ungenauigkeiten behaftet sind.

Mehr zu Gesichtserkennung

KI: Gesichtserkennung ist systematisch rassistisch

Warum US-Behörden den verstärkten Einsatz von Gesichtserkennung planen

Chinesisches Unternehmen verkauft Videoüberwachungssysteme an Iran

Demaskierte KI: "Fake-Face"-Generatoren verraten Ausgangsbilder

Warum Schönheitsfilter ein Massenexperiment an Mädchen und jungen Frauen sind

(vsz)