KI-Update kompakt: AMD, Zoom, Tiktok, Jailbreaks
Das "KI-Update" liefert werktäglich eine Zusammenfassung der wichtigsten KI-Entwicklungen.
- Isabel GrĂĽnewald
- The Decoder
AMD präsentiert seine KI-Strategie
AMD hat auf seiner Hausmesse Advancing AI in San Francisco seine KI-Strategie und entsprechende Produkte vorgestellt. Die neuen Epyc-9005-Serverprozessoren sollen als Unterbau für KI-Beschleuniger für ein Leistungsplus von bis zu 20 % sorgen. Bei den KI-Beschleunigern wurde die Instinct MI325X für das vierte Quartal 2024 angekündigt, mit einer Speichergröße von 256 GByte. Die deutlich schnellere MI355X soll in der zweiten Hälfte 2025 folgen und 288 GB Speicher bieten.
AMD arbeitet auch an Ultra-Ethernet-Produkten, die die Wartezeit der Beschleuniger in der Praxis um ein Drittel verringern sollen. Dies ist besonders beim Training neuer Modelle wichtig. Der Software-Stack Rokim wurde ebenfalls verbessert, mit Leistungssteigerungen von bis zu 80 % beim Training und 140 % beim Inferencing verschiedener Modelle zwischen den Versionen 6.0 und 7.0.
Das Unternehmen verstärkt zudem die Zusammenarbeit mit Entwicklern, etwa bei Huggingface, OpenAI, Meta und Microsoft, um seine Position im KI-Markt weiter zu stärken.
AI Companion: Zoom greift Microsoft an
Zoom hat auf seiner Konferenz Zoomtopia in San José eine erweiterte Version seines KI-Assistenten AI Companion für Zoom Workplace vorgestellt. Das Unternehmen positioniert sich damit als Konkurrent zu Microsoft und Google im Bereich der KI-gestützten Kommunikations- und Kollaborations-Tools.
Xuedong Huang, CTO bei Zoom und ehemaliger Microsoft-Manager, betont die Entwicklung einer nativen KI-Plattform ("AUI") im Gegensatz zur Integration von KI in bestehende Produkte. Der AI Companion, der seit einem Jahr als Chatbot verfĂĽgbar ist, wurde deutlich erweitert und soll nun Inhalte zusammenfassen, nach Informationen suchen und Daten analysieren.
Neue Funktionen umfassen eine personalisierbare Version des AI Companion (kostenpflichtig), ein Zoom AI Studio fĂĽr Finetuning, KI-generierte Avatare fĂĽr Nutzer und Echtzeit-Ăśbersetzung in mehreren Sprachen.
Zoom betont den verantwortungsvollen Umgang mit KI, einschließlich Wasserzeichen für KI-generierte Inhalte und strenger Sicherheitsauflagen. Das Unternehmen arbeitet mit verschiedenen KI-Anbietern zusammen, entwickelt aber auch ein eigenes Small Language Model für die Integration in Geräte.
Zoom sieht sich als Vorreiter für hybrides Arbeiten und bietet entsprechende Lösungen für Unternehmen verschiedener Größen und Branchen an.
Tiktok setzt bei Inhaltemoderation auf KI
Die Kurzvideo-Plattform Tiktok will bei der Moderation von Inhalten künftig verstärkt auf künstliche Intelligenz setzen. Diese Umstellung führt zur Entlassung von mehreren hundert Content-Moderatoren weltweit.
Weniger als 500 Stellen in Malaysia sollen der Umstellung zum Opfer fallen, stellte das Mutterunternehmen Bytedance klar, nachdem zuvor von mehr als 700 Stellen die Rede gewesen war. Die Mitarbeitenden wurden am Mittwoch per E-Mail über ihre Entlassung informiert. Tiktok begründet den Schritt damit, seine Moderationsstrategie stärken zu wollen. Laut einem Unternehmenssprecher werden bereits 80 % der problematischen Inhalte automatisiert entfernt. Laut Reuters soll es nicht bei den bisherigen Entlassungen bleiben. Weitere seien für den nächsten Monat geplant.
Auf menschliche Moderation will Tiktok aber nicht vollständig verzichten. Die Plattform steht immer wieder in der Kritik, Inhalte nicht angemessen zu moderieren, insbesondere im Hinblick auf den Jugendschutz.
Empfohlener redaktioneller Inhalt
Mit Ihrer Zustimmmung wird hier ein externer Podcast (Podigee GmbH) geladen.
Ich bin damit einverstanden, dass mir externe Inhalte angezeigt werden. Damit können personenbezogene Daten an Drittplattformen (Podigee GmbH) übermittelt werden. Mehr dazu in unserer Datenschutzerklärung.
KI-System entwickelt selbstständig LLM-Jailbreaks
Forscher verschiedener US-Universitäten und Nvidia haben ein KI-System namens AutoDAN-Turbo entwickelt, das selbstständig Jailbreak-Strategien für Angriffe auf große Sprachmodelle erkennt und kombiniert.
Jailbreaks sind Prompt-Formulierungen, die die Regeln eines Sprachmodells aushebeln. Ein Prompt, der viele Beschränkungen auf einmal entfernt und das Sprachmodell in einen Modus versetzt, in dem es keinerlei Richtlinien befolgt, wird auch "DAN" genannt - kurz für "Do Anything Now".
Ein einfaches Beispiel: Die einfache Anweisung, eine chemische Waffe zu mischen, wird von kommerziellen Sprachmodellen in der Regel kategorisch abgelehnt. Wenn es aber darum geht, diese Szene fĂĽr ein Drehbuch zu schreiben, oder wenn bereits viele Beispiele fĂĽr richtige Antworten in der Anfrage enthalten sind, sind sie eher bereit, solche Fragen zu beantworten.
In Tests erreichte AutoDAN-Turbo hohe Erfolgsraten bei Angriffen auf verschiedene Sprachmodelle. Bei GPT-4 lag die Erfolgsquote bei ĂĽber 88 Prozent.
Das System kann während der Erforschung eigenständig neue Strategien entwickeln und diese systematisch speichern. Es ist auch mit bestehenden, von Menschen entworfenen Jailbreak-Strategien kompatibel.
Die Methode stellt im Vergleich zu anderen Ansätzen den neuen Spitzenreiter im Harmbench-Datensatz dar, der die Angreifbarkeit von Chatbots misst. AutoDAN-Turbo ist als Open-Source-Software auf GitHub verfügbar und soll KI-Entwicklern helfen, sicherere KI-Modelle zu entwickeln.
Australische Gerichte kämpfen mit KI-generierten Eingaben
Australische Gerichte sehen sich zunehmend mit Dokumenten konfrontiert, die offensichtlich von KI-Systemen wie ChatGPT erstellt wurden und oft schwerwiegende Fehler enthalten. Das berichtet das australische Nachrichtenportal Crikey. In mehreren Fällen haben Richter Personen und Anwälte gerügt, weil sie Anträge mit nicht existierenden Fällen oder unsinnigen Formulierungen eingereicht hatten.
Das Problem betrifft nicht nur Anwälte, sondern auch Privatpersonen, die KI-Systeme für ihre Gerichtseingaben nutzen. In einigen Fällen tauchten sogar ChatGPT-Prompts in eingereichten Dokumenten auf.
Diese Entwicklung ist nicht auf Australien beschränkt. Weltweit gibt es Berichte über den Einsatz von KI-generierten Falschinformationen in Gerichtsverfahren. Experten fordern mehr Transparenz beim Einsatz von KI im Rechtswesen und betonen die Notwendigkeit sorgfältiger Überprüfung KI-generierter Informationen.
Bundeswettbewerb KI: 10 Teams fĂĽrs Finale
Der Bundeswettbewerb KI (BWKI) 2024, ausgerufen vom Tübingen AI Center, hat seine Finalisten ermittelt. Aus 101 eingereichten Projekten von 227 Teilnehmern wurden zehn Teams für das Finale am 15. November in Tübingen ausgewählt. Die Projekte zeigten eine große thematische Vielfalt und pragmatische Umsetzungen, die konkrete Probleme im Alltag, in der Gesellschaft, Umwelt und Wissenschaft adressieren.
Klassische Mustererkennung mittels neuronaler Netze spielte eine zentrale Rolle in vielen Projekten. Die Teilnehmer entwickelten effiziente Systeme für verschiedene Anwendungsbereiche wie Landwirtschaft, Haushalt, Verkehrssteuerung und Veranstaltungstechnik. Einige Teams verwandelten einfache Geräte in High-Tech-Apparate, etwa für die medizinische Diagnostik, oder entwickelten Roboter-Assistenten für den Sport.
Der BWKI, der seit 2019 stattfindet, wird vom Bundesministerium für Bildung und Forschung gefördert und von der Carl-Zeiss-Stiftung unterstützt. Neben dem Wettbewerb bietet die Initiative auch einen kostenlosen KI-Kurs für Interessierte an.
(igr)
