KI-Halluzinationen: Südafrikas Regierung zieht Entwurf für KI-Strategie zurück
Eine nationale KI-Strategie wollte Südafrikas Regierung dem Land eine Führungsrolle sichern. Dann wurden KI-Halluzinationen im Literaturverzeichnis entdeckt.
(Bild: Andrew Mohamed/Shutterstock.com)
Südafrikas Regierung hat den Entwurf einer nationalen KI-Strategie zurückgezogen, nachdem bekannt geworden ist, dass der Text Verweise auf nicht existierende Quellen enthalten hat und damit offenbar mindestens teilweise KI-generiert ist. Das hat Kommunikations- und Digitalminister Solly Malatsi auf dem Kurznachrichtendienst X bekannt gemacht und den Vorfall als „inakzeptables Versehen“ bezeichnet. Er mache deutlich, warum eine sorgfältige menschliche Kontrolle beim KI-Einsatz von entscheidender Bedeutung sei. Den Verantwortlichen kündigt er Konsequenzen an und der Bevölkerung versichert er, „dass wir diese Angelegenheit mit der gebotenen Ernsthaftigkeit behandeln“.
Doch keine Führungsrolle
Mit der Anfang des Monats öffentlich gemachten KI-Strategie wollte sich Südafrika als führend auf dem afrikanischen Kontinent positionieren, hat Reuters damals berichtet. Enthalten waren demnach Pläne zur Einrichtung neuer Institutionen, Mechanismen für die Entschädigung bei Schäden durch KI, steuerliche Anreize für die KI-Industrie und Investitionen in Supercomputing-Infrastruktur für die KI-Forschung. Vorgesehen war, dass die Öffentlichkeit zwei Monate lang Kommentare dazu abgeben konnte. Nachdem der Entwurf jetzt zurückgezogen wurde, ist unklar, wie es damit weitergeht. Malatsi versichert noch, dass die Menschen in Südafrika Besseres verdient hätten.
Videos by heise
Der Vorfall in Südafrika ist kein Einzelfall, seit der breiten Verfügbarkeit von KI-Textgeneratoren sorgen Texte mit nicht existierenden Verweisen immer wieder für Aufsehen. Bislang ist das hauptsächlich vor Gerichten in aller Welt passiert: Anwälte und sogar Richter wurden schon dabei erwischt, dass sie sich Dokumente haben generieren lassen. Dass eine KI-Strategie zumindest teilweise von einem Chatbot stammt, ist aber ein Novum und mindestens ironisch. Das scheint auch Malatsi anzuerkennen. Der Minister versichert jetzt: „Das ist eine Lektion, die wir mit Demut annehmen“ und „das hätte nicht passieren dürfen.“
(mho)
