Künstliche Intelligenz
Trickreich geändert
Forscher der israelischen Bar-Ilan Universität und von Facebook haben selbstlernender Software beigebracht, neuronale Netze gezielt in die Irre zu führen. Erstmals gelang ihnen das mit Software zur Sprachverarbeitung sowie mit Algorithmen zu Erkennung der Körperhaltung. Bereits 2014 zeigten Forscher, dass man tiefe neuronale Netze angreifen kann, wenn man an der richtigen Stelle einige, wenige Pixel verändert. Das Netz „sieht“ dann völlig andere Gegenstände als jene, die im Bild vorhanden sind. Menschliche Beobachter sehen keinen Unterschied. Der „Houdini“ genannte Algorithmus kann nun auch Audio-Aufzeichnungen durch eine leise Schicht von Rauschen so ändern, dass Menschen keinen Unterschied hören, Google Voice die Sequenz aber komplett falsch transkribiert. Die Software soll nicht für Angriffe genutzt werden, sondern als Stresstest für Algorithmen. W. STIELER