Lesetipp: Sind KIs die besseren Hacker?

Bruce Schneier war ursprünglich Krypto-Spezialist, hat sich aber in den letzten Jahren vor allem durch seine durchdachten Analysen zu wichtigen Security-Fragen einen Namen gemacht. Jetzt widmet er sich der Frage, was es für unsere Gesellschaft bedeutet, wenn Künstliche Intelligenz anfängt "zu hacken".

Dabei versteht Schneier das Hacking im klassischen Sinne des "Out of the box"-Denkens, das oftmals überraschende Lösungen für Probleme findet. Sie wollen eine Motorsteuerung so optimieren, dass sie die gesetzlichen Auflagen erfüllt, ohne dabei die Leistung signifikant zu drosseln? Ganz einfach: Die Steuerung erkennt es, wenn sie getestet wird und geht dann in einen Sparmodus, der sonst nie zum Einsatz kommt.

Hacking ohne Grenzen

Okay, diesen Hack haben Menschen bei VW gefunden und umgesetzt (und werden dafür jetzt zur Rechenschaft gezogen). Ein echter "KI-Hack" sieht dann eher so aus: Ein Staubsauger-Roboter soll beim Reinigen möglichst wenig gegen Hindernisse stoßen und fährt dazu rückwärts. Denn hinten hat er keine Detektoren, die einen Zusammenstoß registrieren würden. Nicht im Sinne des Fragestellers, aber was kann die KI dafür, wenn der seine Frage ungenau formuliert?

Schneiers Vorhersage: Die Problemlösungsstrategien der kommenden KIs werden das Hacking perfektionieren. Sie sind geradezu prädestiniert, Schlupflöcher in komplexen Systemen zu finden. Und das in Mengen und mit einer Geschwindigkeit, die wir uns heute gar nicht vorstellen können. Dazu braucht es nicht einmal einen technischen Durchbruch, keinen HAL oder R2D2; es genüge im wesentlichen bereits existierende KI-Techniken auf ebenfalls existierende Regelwerke anzusetzen.

Das ist dabei keineswegs auf IT beschränkt; Schneier präsentiert als Beispiel nationale oder gar internationale Steuer-Gesetze. Da könnten KIs vermutlich massenhaft obskure Steuertricks wie den Double Irish with a Dutch Sandwich aufdecken, mit denen sich Milliarden einsparen ließen. Die gute Nachricht des Security-Experten ist: Langfristig profitieren die Verteidiger davon mehr als die Angreifer, weil sie ihre Systeme mit präventivem KI-Hacking besser auf Angriffe vorbereiten können. Das Problem wird die Zeit bis das passiert. Das Schlüsselwort dazu, wie wir die überbrücken können, ist Widerstandsfähigkeit ("Resilienz").

Wer etwas Zeit hat, liest gleich die Langversion The Coming AI Hackers, die anderen probieren erst das deutlich kürzere Essay "When AIs Start Hacking" in Bruce Schneiers Blog (um dann vielleicht doch beim Langtext zu landen, der es wirklich wert ist).

(ju)