Kinder brauchen Schutz vor KI-Einfluss

Inhaltsverzeichnis

Algorithmen können den Lebensverlauf von Kindern auf vielerlei Arten beeinflussen. Wenn die Kleinen etwa mit Alexa interagieren, zeichnet die Künstliche Intelligenz (KI) hinter der Sprachassistentin ihre Sprachdaten auf und kann ihre Sprach- und soziale Entwicklung beeinflussen. Kids gucken auch Unmengen von TikTok- und YouTube-Videos, die ihnen von Empfehlungssystemen angedient werden und letztendlich ihre Weltbilder prägen.

Wer hat bestanden und wer nicht?

KI bestimmt auch zunehmend, welche Ausbildung unser Nachwuchs erhält, ob er – zumindest in den USA – eine Krankenversicherung bekommt und sogar, ob seine Eltern dazu geeignet sind, ihn zu versorgen. Das kann manchmal verheerende Auswirkungen haben: Diesen Sommer haben beispielsweise Tausende von Schüler etwa in den USA und Großbritannien ihre Zulassung oder Qualifikation zur Universität verloren, nachdem Algorithmen, die anstelle der pandemie-bedingten Absage der standardisierten Tests zum Einsatz kamen, ihre akademischen Leistungen falsch prognostiziert hatten.

Mit anderen Worten: Kinder und Jugendliche nutzen KI relativ oft, geraten durch sie aber auch oft in eine verletzliche Lage. „Da sie sich intellektuell, emotional und physisch noch entwickeln, sind sie sehr formbar“, sagt Steve Vosloo, Politikspezialist für digitale Konnektivität bei Unicef, dem Kinderfonds der Vereinten Nationen.

Vosloo leitete die Ausarbeitung neuer Unicef-Richtlinien, die Regierungen und Unternehmen bei der Entwicklung von KI-Richtlinien dabei unterstützen sollen, die Bedürfnisse von Kindern zu berücksichtigen. Die neun am 16. September veröffentlichten Richtlinien sind das Ergebnis mehrerer Konsultationen mit politischen Entscheidungsträgern, auf Kindesentwicklung spezialisierten Forschern, KI-Experten und Kindern auf der ganzen Welt. Sie berücksichtigen auch die UN-Konvention über Kinderrechte, die 1989 ratifiziert wurde.

Prinzipien der Unicef

Die Unicef-Richtlinien wollen nicht eine weitere KI-Prinzipiensammlung sein, von denen viele dasselbe besagen. Vielmehr sollen sie die bereits abgesteckten Themen ergänzen und auf Kinder zuschneiden. Zum Beispiel sollten KI-Systeme auch für Kinder erklärbar sein und ihre Entwicklungsbedürfnisse berücksichtigen. Schätzungen zufolge machen Kinder mindestens ein Drittel der Online-Nutzer aus. „Wir sprechen hier also nicht von einer Minderheit“, betont Vosloo.

Die Unicef-KI-Prinzipien sollen darüber hinaus die Entwicklung von KI-Systemen fördern, die das Wachstum und das Wohlbefinden von Kindern verbessern können. Gut konzipiert können KI-basierte Lernwerkzeuge die Fähigkeiten zum kritischen Denken und Lösen von Problemen verbessern und auch für Kinder mit Lernschwierigkeiten nützlich sein. Emotionale KI-Assistenten könnten zudem, obwohl sie noch relativ neu sind, psychische Unterstützung bieten und haben in Tests die sozialen Fähigkeiten autistischer Kinder verbessert. Die Gesichtserkennung könnte mit sorgfältigen Einschränkungen dazu beitragen, entführte oder Kinder zu identifizieren, die entführt oder Opfer von Menschenhandel geworden sind. Und schließlich geht es Vosloo zufolge neben dem Kinderschutz auch darum, sie dazu zu befähigen, mit KI ihre Zukunft zu gestalten.

Unicef ist mit ihren Plänen nicht alleine. Auch die Pekinger Akademie für künstliche Intelligenz (BAAI), eine Organisation, die vom chinesischen Ministerium für Wissenschaft und Technologie und der Stadtregierung von Peking unterstützt wird, hat KI-Prinzipien für Kinder vorgestellt. Sie stimmen eng mit den Unicef-Richtlinien überein und betreffen auch die Privatsphäre, Fairness, Erklärbarkeit und das Wohlergehen von Kindern, obwohl einige Details spezifischer auf Chinas Anliegen zugeschnitten sind, sagt Yi Zeng, der Direktor des Forschungszentrums für Ethik und nachhaltige Entwicklung der KI bei BAAI, der die Ausarbeitung leitete. Eine Richtlinie zur Verbesserung der körperlichen Gesundheit von Kindern umfasst beispielsweise die KI-gestützte Bekämpfung von Umweltverschmutzung.

Von China bis Europa

Unicef plant nun, eine Reihe von Pilotprogrammen mit verschiedenen Partnerländern durchzuführen, um zu beobachten, wie praktisch und effektiv ihre Richtlinien in verschiedenen Einsatzgebieten sind.

Die BAAI wiederum hat eine Arbeitsgruppe mit Vertretern einiger der größten Unternehmen gebildet, die die nationale KI-Strategie des Landes vorantreiben, darunter das Bildungstechnologieunternehmen TAL, das Unterhaltungselektronikunternehmen Xiaomi, das Computer-Vision-Unternehmen Megvii und der Internetgigant Baidu. Sie sollen überzeugt werden, die neuen Prinzipien für ihre Produkte zu beachten und andere Unternehmen und Organisationen ebenfalls dazu zu bewegen.

Vosloo und Zeng hoffen, dass die Richtlinien durch die Darlegung der Bedenken, die die KI für Kinder aufwirft, das Bewusstsein für diese Probleme schärfen werden. „Wir verstehen, dass dies für viele Regierungen und Unternehmen ein Neuland ist“, sagt Vosloo. „Wenn wir also im Laufe der Zeit mehr Beispiele dafür sehen, dass Kinder in den KI- oder Richtlinienentwicklungszyklus einbezogen werden, wenn ihre Daten mit mehr Sorgfalt gesammelt und analysiert werden, und wenn wir sehen, dass KI Kindern oder ihren Betreuern besser erklärt werden – dann ist es ein Gewinn für uns.“ (vsz)