KI-Update: AI Act beschlossen, Mistral API, faules ChatGPT & Grok-Start

Inhaltsverzeichnis

Historische Einigung auf EU-KI-Gesetzgebung erreicht

Nach intensiven Verhandlungen haben sich die EU-Vertreter auf den "AI Act" geeinigt, der die Regulierung von Künstlicher Intelligenz in Europa festlegt. Die Einigung betrifft zwei Hauptstreitpunkte: biometrische Überwachung und Regulierung von Basismodellen.

KI-Basismodelle wie GPT oder Googles Gemini unterliegen nun Transparenzverpflichtungen. Anbieter müssen eine technische Dokumentation bereitstellen, die Informationen über Trainingsdaten und Testverfahren enthält. Open-Source-Modelle sind von dieser Regelung ausgenommen. Künstler können zudem verlangen, dass ihre Werke aus KI-Modellen entfernt werden, und KI-Produkte müssen entsprechend gekennzeichnet sein.

Die Verwendung von Systemen zur Erfassung, Sammlung und Auswertung biometrischer Daten, wie Gesichtserkennung, ist grundsätzlich verboten. Es gibt jedoch weit gefasste Ausnahmen für Behörden und Regierungen, die eine ausreichende Begründung für den Einsatz solcher Systeme vorlegen können.

Der AI Act sieht die Einrichtung einer KI-Behörde vor, die sich hauptsächlich um die Regulierung von Basismodellen kümmert. Zusätzlich werden ein KI-Ausschuss und ein Beraterforum geschaffen, um als Schnittstelle zwischen Industrie, Politik, Wissenschaft und Zivilgesellschaft zu dienen.

Empfohlener redaktioneller Inhalt

Mit Ihrer Zustimmmung wird hier ein externer Podcast (Podigee GmbH) geladen.

Podcasts immer laden Podcast jetzt laden

Ich bin damit einverstanden, dass mir externe Inhalte angezeigt werden. Damit können personenbezogene Daten an Drittplattformen (Podigee GmbH) übermittelt werden. Mehr dazu in unserer Datenschutzerklärung.

Die Gesetzgebung ist wie eine Pyramide aufgebaut, wobei die breite Basis aus unregulierten KI-Anwendungen besteht, gefolgt von Produkten mit Transparenzpflichten und strenger regulierten Diensten. Ganz oben stehen verbotene KI-Produkte wie Social Scoring. KI-Anwendungen in Waffensystemen und Kriegsführung werden jedoch nicht vom AI Act geregelt und bleiben in der Zuständigkeit der Mitgliedsstaaten.

Französisches Start-up Mistral AI sammelt 385 Millionen Euro und präsentiert neues KI-Modell

Das französische KI-Start-up Mistral AI hat erfolgreich 385 Millionen Euro in einer Finanzierungsrunde eingesammelt. Zudem kündigte das Unternehmen neue Modelle und einen API-Service an. So veröffentlichte Mistral das neue Modell „Mixtral 8x7B“ unter der Apache 2.0 Lizenz. Dieses Modell kombiniert acht 7-Milliarden-Parameter-Modelle und kann in Benchmarks mit GPT-3.5 und Llama 2 konkurrieren. Es soll Llama 2 in den meisten Benchmarks übertreffen und dabei sechsmal schneller sein. Mixtral 8x7B unterstützt Englisch, Französisch, Italienisch, Deutsch und Spanisch.

Mistral AI startete außerdem den Beta-Zugang zu seinen ersten Plattformdiensten, einschließlich drei Chat-Endpoints und einem Embedding-Endpoint. Über die API sind neben Mistral 7B, dem ersten Modell von Mistral, und dem neuen Modell Mixtral 8x7B auch ein leistungsstärkeres Prototyp-Modell verfügbar. Dieses soll GPT-3.5 in allen getesteten Benchmarks übertreffen.

OpenAI reagiert auf Kritik an "faulem" ChatGPT

OpenAI nimmt Stellung zu Nutzerbeschwerden über die nachlassende Leistung von GPT-4 und ChatGPT, insbesondere bei der Codegenerierung und GPT-4 Turbo. Seit der Veröffentlichung äußern Anwender Unzufriedenheit über die Performance, hauptsächlich in Bezug auf die Codegenerierung. Eine wiederkehrende Kritik: ChatGPT liefere kürzere und weniger durchdachte Antworten. OpenAI betont, dass das Modell seit dem 11. November unverändert ist, räumt aber ein, dass das Verhalten von Modellen unvorhersehbar sein könne. Das Unternehmen arbeitet daran, diese Probleme zu beheben.

Laut OpenAI können Unterschiede in Persönlichkeit, Schreibstil, Verweigerungsverhalten, Bewertungsleistung und politischer Voreingenommenheit durch verschiedene Trainingsläufe entstehen, obwohl dieselben Datensätze verwendet werden. OpenAI beschreibt den Prozess als „handwerkliche Teamarbeit“ und betont, dass es sich nicht um einen "sauberen industriellen Prozess" handelt, der mit einer einfachen Aktualisierung einer Website vergleichbar wäre.

Elon Musk startet unkonventionellen KI-Chatbot Grok in den USA

Elon Musks KI-Startup xAI bringt seinen KI-Chatbot Grok für Premium+-Abonnenten der X-Plattform in den USA auf den Markt. Im Gegensatz zu anderen Chatbots wie OpenAIs ChatGPT, Anthropics Claude und Googles Bard, die politische Korrektheit standardmäßig berücksichtigen, soll Grok „humorvoll und rebellisch“ auftreten. Der Zugang zu Grok startet ab 16 US-Dollar pro Monat und soll in den nächsten Tagen für alle englischsprachigen X-Nutzer verfügbar sein. Eine japanische Version sowie weitere Sprachen sind bis Anfang 2024 geplant.

xAI ist derzeit auf der Suche nach Investitionen von bis zu einer Milliarde US-Dollar. Bisher hat das Unternehmen mindestens 134,7 Millionen US-Dollar eingesammelt, wobei der Großteil offenbar von Elon Musk selbst stammt. Die zukünftige Entwicklung und Akzeptanz von Grok müssen zeigen, ob es einen Markt für politisch unkorrekte KI-Chatbots gibt.

(olb)