Black Swan 2025: Welche Gefahr von KI ausgeht
Gary Marcus ist KI-Experte. Er warnt vor KI für Cyberkriminelle. Amy Webb, bekannt als Futuristin, sorgt sich um die Börse.
Schwarze Schwäne.
(Bild: Lutz Labs)
Schwarze Schwäne sind sehr selten. Aber es gibt sie. Als "Black Swan"-Event wird ein Ereignis bezeichnet, das sehr unerwartet ist, aber erhebliche Auswirkungen hat. Man kann beispielsweise das CrowdStrike-Fiasko vom vergangenen Sommer als ein solches Ereignis bezeichnen. Ein fehlerhaftes Update legte Flughäfen, Unternehmen und Krankenhäuser lahm. Das Magazin Politico hat einige Experten befragt, welche unvorhersehbaren Momente es 2025 geben könnte. Künstliche Intelligenz ist gleich für zwei Autoren ein großes Risiko.
Gary Marcus sorgt sich vor generativer KI
Gary Marcus ist KI-Experte und emeritierter Professor für Neurowissenschaften an der New York University. Er gilt als großer Kritiker des aktuellen Hypes um generative KI. Obwohl er die Möglichkeiten von KI grundsätzlich für beschränkt hält, schreibt Marcus in seinem Beitrag, vor allem Cyberkriminelle könnten die Technik nutzen und so großen Schaden anrichten. Es sei das "perfekte Werkzeug für Cyberangriffe". Gemeint sind KI-generierte Texte, die für Phishing-Attacken genutzt werden, aber auch Deepfakes, mit denen Menschen in die Irre geführt werden können. Ein Mitarbeiter einer Hongkonger Bank soll bereits auf ein solches Video hineingefallen sein und Betrügern 25 Millionen US-Dollar geschickt haben.
Large Language Models sind aber auch anfällig für Angriffe wie Jailbreaking und Prompt Injections. Dabei werden die KI-Modelle dazu gebracht, vom Anbieter unerwünschtes Verhalten auszuführen. Chatbots könnten so im harmlosen Fall Fragen beantworten, die sie nicht beantworten sollen, schlimmer wäre der Diebstahl von Kontodaten. Vorstellbar sind aber durchaus auch schlimmere Szenarien.
KI-Update abonnieren
Werktägliches Update zu den wichtigsten KI-Entwicklungen, freitags immer mit Deep Dive.​
E-Mail-Adresse
Ausführliche Informationen zum Versandverfahren und zu Ihren Widerrufsmöglichkeiten erhalten Sie in unserer Datenschutzerklärung.
Marcus warnt auch, generative KI-Werkzeuge würden von Entwicklern beim Coden eingesetzt. Diese verstünden manchmal nicht, was die KI gemacht hat, sie kontrollierten aber auch teilweise einfach nicht allen Code. Das könne Sicherheitslücken mit sich bringen. Große Sorge macht Marcus auch, dass die US-Behörden eher deregulierend agieren.
Amy Webb befürchtet einen Börsencrash
Als CEO des Future Today Institute und Hochschullehrerin der New York University Stern School of Business wird Amy Webb oft als Futuristin bezeichnet. Auch sie sieht ein Problem in der geplanten Deregulierung und dem Abbau von Behördenstrukturen durch den erneut gewählten Präsidenten Donald Trump. Botnets hätten bereits bewiesen, wie einfach und effektiv KI für die Verbreitung von Falschinformationen eingesetzt werden kann. "Nach den Wahlen konzentrieren sich böswillige Akteure und nationalstaatliche Unzufriedene im Jahr 2025 auf ein neues Ziel: die Finanzmärkte", schreibt sie.
KI halte Massen an Echtzeit-Daten, Finanzreporte und wirtschaftliche Indikatoren bereit und könne zugleich die Stimme der Öffentlichkeit aus etwa sozialen Netzwerken zusammenfassen. Absichtlich gestreute Falschinformationen und Gerüchte könnten die Märkte zum Wanken bringen. Auch für die Verbreitung könne KI genutzt werden, um glaubwürdig zu klingen und etwa die besten Zeitpunkte für die Veröffentlichung zu finden.
(emw)