Metas Llama wird für militärische Zwecke genutzt – in China und den USA
Llama ist eine offene KI-Modell-Familie. Obwohl die Nutzungsbedingungen es verbieten, nutzt etwa China das Model für militärische Zwecke.
(Bild: Below the Sky/Shutterstock.com)
Meta hat die eigenen KI-Modelle unter dem Namen Llama offen verfügbar gemacht. Während Meta selbst von Open-Source spricht, besagt die neue KI-Definition der Open-Source Initiative (OSI) allerdings, dass es kein Open-Source-Model sei, weil die Trainingsdaten nicht offengelegt wurden. Zudem macht Meta Vorgaben zur Nutzung. Ab einer bestimmten Menge an Nutzern muss die Erlaubnis eingeholt werden. Llama-Modelle dürfen eigentlich nicht für militärische Zwecke genutzt werden. China stört sich daran nicht. Und auch die USA können Llama seit Kurzem zur Verteidigung verwenden.
Meta hat konkret angekündigt, dass die US-Regierung Llama für Belange der nationalen Sicherheit nutzen darf, sowie private Partner, die deren Arbeit unterstützen. Dazu arbeiten sie mit anderen großen Tech-Unternehmen wie Amazon, Microsoft, IBM, Palantir und Oracle zusammen. Nick Clegg, Global Affairs Chef bei Meta, schreibt im Blogbeitrag, man glaube, KI könne zur Stabilisierung der globalen Sicherheit beitragen.
Oracle, so heißt es, arbeite etwa daran, Llama mit Dokumenten zu spezialisieren, in denen es um die Wartung von Flugzeugen geht. Diese sollen dann in der Folge mittels KI schneller und genauer untersucht und gegebenenfalls repariert werden können. Die Zusammenarbeit mit Amazon beziehungsweise Amazon Web Services und Microsoft bezieht sich etwa auf das Hosten der Daten. Clegg schreibt auch, ungeachtet der OSI-Definition, Open-Source-Technologie trage seit Jahrzehnten dazu bei, dass die USA das technologisch fortschrittlichste Militär der Welt aufbauen konnten. "Open-Source-Systeme haben dazu beigetragen, die Verteidigungsforschung und das High-End-Computing zu beschleunigen, Sicherheitsschwachstellen zu erkennen und die Kommunikation zwischen unterschiedlichen Systemen zu verbessern."
China nutzt Llama für militärische Zwecke
Gleichwohl berichtet Reuters, dass auch das chinesische Militär auf Llama setzt. Das KI-Model ist nun mal frei über etwa Hugging Face und Github verfügbar. Die potenzielle Schattenseite von Open-Source. Neben Forschenden, Entwicklern und Unternehmen können auch böswillige Akteure KI-Tools auf den Modellen für ihre Zwecke aufbauen. Über die Nutzung berichten chinesische Wissenschaftler selbst in gleich mehreren Papern, schreibt Reuters. Die Autoren sollen große Nähe zur Volksbefreiungsarmee haben, also dem Militär.
Demnach haben die Forscher einen KI-Chatbot namens Chatbit entwickelt. Er soll auf Llama 2 basieren, also nicht dem aktuellsten Modell entsprechen. Für Chatbit hat Llama ein militärisches Finetuning genossen. Dadurch soll der Chatbot helfen, militärische Daten zu analysieren und operative Entscheidungen zu treffen. Besonders leistungsstark klingt das zunächst allerdings noch nicht. Da gibt es andere Unternehmen, die deutlich umfangreichere Software zur Kriegsführung anbieten, etwa Palantir.
Meta verbietet in den Nutzungsbedingungen eigentlich die Nutzung zu militärischen Zwecken – Ausnahme die US-Behörden und Partner. Doch Meta hat keinerlei Möglichkeit, die Nutzung zu unterbinden. Weder im Fall von China noch bei anderen böswilligen Akteuren.
(emw)
