Liebe Leserinnen und Leser,

Künstliche Intelligenz ist die mächtigste Technologie unserer Zeit – und damit auch die gefährlichste. Nicht weil sie irgendwann die Weltherrschaft übernimmt und die Menschheit unterjocht. Was sie heute so gefährlich macht, ist die Tatsache, dass sie immer mehr Dienste und Apps steuert, die wir jeden Tag nutzen, und dabei mit Datensätzen trainiert wird, die von Vorurteilen, Diskriminierungen und Verzerrungen durchzogen sind. Frauen bekommen weniger Stellenanzeigen angezeigt als Männer, schwarze Menschen werden häufiger für Verbrechen beschuldigt als weiße. Diese Systeme reproduzieren gesellschaftliche Ungleichheiten und zementieren sie, ohne dass wir es bemerken.

Und KI wird mächtiger: Große Sprachmodelle wie GPT-3 erzeugen Texte, die zum Teil wirken, wie von Menschenhand geschrieben. Sie könnten schon sehr bald Konversationssysteme, Teile der Internetsuche und vieles mehr steuern. Aber böswillige Akteure sind damit auch in der Lage, halbautomatisiert Desinformations-Kampagnen zu betreiben und so mit weniger Personal mehr Hass und Hetze zu verbreiten und für mehr Destabilisierung zu sorgen als je zuvor (Seite 24).

Forscher auf der ganzen Welt erkennen diese „blinde“ Gefahr und wollen mehr Fairness, Gerechtigkeit und Offenheit in die KI-Systeme integrieren: Künstlich erzeugte Daten, diversere Sprachmodelle, Deep-Learning-Algorithmen in Kombination mit regelbasierten Systemen – das sind Ansätze, die Hoffnung machen, die Macht von Künstlicher Intelligenz zu bändigen (Seite 16).

Das ist aber nur die technische Seite. Um die Systeme möglichst gerecht und vorurteilsfrei zu gestalten, sind auch die Unternehmen gefragt. Wir haben dazu mit Margaret Mitchell gesprochen (Seite 30), die bis Februar dieses Jahres das KI-Ethik-Team bei Google geleitet hat. Sie ist davon überzeugt, dass vor allem die Tech-Branche eine viel integrativere Kultur braucht und Ethik einen größeren Stellenwert einnehmen sollte.

In unserem zweiten Fokus (ab Seite 34) widmen wir uns der digitalen Stadt. Welche Vorteile genießen Städte durch Digitalisierung heute wirklich? So viel vorweg: Die hoch vernetzte Metropole haben wir in Deutschland zwar nicht gefunden, dafür aber einige Projekte, die Potenzial haben – zum Beispiel eine Stadt-App in Karlsruhe, die Einwohner für alle möglichen Dienste nutzen könnten, wenn es der Rechtsrahmen denn erlaubt. Die Hoffnung stirbt bekanntlich zuletzt.

Ihr

Luca Caracciolo

@papierjunge