Experten fordern Regulierung der Gesichtserkennung
Das US-Institut "AI Now" kritisiert in einem Bericht ethische Probleme bei KI-basierten Identifizierungen und fordert Kontrollbefugnisse für Behörden.
- Veronika Szentpetery-Kessler
KI-basierte Technik hat sich in den vergangenen Jahren rasant entwickelt, wirft nun aber ethische Probleme auf. Vor allem angesichts von Datenschutzbedenken bei der Gesichtserkennung fordert das einflussreiche New Yorker Forschungsinstitut "AI Now Institute" deshalb zahlreiche Maßnahmen zum Schutz der Öffentlichkeit und eine Regulierung für KI-Unternehmen. Das berichtet Technology Review online in "Gesichtserkennung per KI muss reguliert werden".
Insbesondere die Art und Weise, wie das "Deep Learning" Gesichter von Menschen sogar in Fotos und Videomaterial mit schlechter Qualität extrem genau erkennen kann, erweise sich als problematisch. "Die Einführung von KI-Systemen nimmt rasch zu, ohne dass es angemessene staatliche Vorschriften oder Kontroll- und Haftungsregelungen gibt", heißt es in dem Bericht. Deshalb solle die Zuständigkeit von staatlichen Behörden ausgedehnt werden.
Die Forscher fordern zudem, dass die Öffentlichkeit gewarnt werden müsse, wenn Gesichtserkennungssysteme zur Nachverfolgung verwendet werden, heißt es in dem Bericht. Die Bevölkerung sollte das Recht haben, den Einsatz dieser Technologie abzulehnen. Der Report auch vor der Verwendung von Emotions-Tracking in Gesichtsabtast- und Spracherkennungssystemen. Emotionen auf diese Weise nachzuverfolgen sei kaum bewiesen, wird jedoch auf potenziell diskriminierende Weise eingesetzt, beispielsweise um die Aufmerksamkeit der Schüler zu verfolgen.
Mehr dazu bei Technology Review online:
(vsz)