xAI: Nach Veröffentlichung von Grok-2 folgt Kritik wegen fragwürdiger KI-Bilder
Kurz nach einem Release gibt es wieder Diskussionen um den KI-Chatbot Grok. Diese betreffen diesmal den integrierten KI-Bildgenerator.
Die Bilderzeugnisse von Grok sind mitunter ohne Gewähr.
(Bild: Erstellt mit Flux/Grok-2 durch Alejandra Caraballo)
Elon Musks KI-Unternehmen xAI hat eine neue Version seines Chatbots Grok vorgestellt. Grok-2 verspricht erweiterte Fähigkeiten in den Bereichen Chat, Programmierung und logisches Denken. xAI verspricht in seiner Ankündigung bessere Resultate als beispielsweise GPT-4 Turbo und Claude 3.5 Sonnet. Auch eine Bildgenerierungsfunktion gibt es nun, die gemeinsam mit dem deutschen Start-up Black Forest Labs entwickelt wurde. "In Zusammenarbeit mit Black Forest Labs experimentieren wir mit deren Flux.1-Modell, um die Möglichkeiten von Grok auf X zu erweitern", heißt es in der Ankündigung von xAI.
Kontroverse um unzensierte Inhalte
Die von Grok-2/Flux.1 generierten Bilder sorgten bereits nach wenigen Stunden für Diskussionen, da es im Gegensatz zu den Konkurrenzprodukten von OpenAI oder Google kaum Einschränkungen gibt. Nutzer konnten problemlos kontroverse und potenziell irreführende Bilder erstellen, wie etwa einen Marihuana rauchenden Donald Trump, Ronald McDonald mit einer Maschinenpistole vor Burger King, brennende McDonald's-Filialen und anderes mehr oder weniger geschmackloses Material.
Musk hatte auch für seinen Chatbot entschieden, dass dieser kaum Restriktionen benötige. Der Chatbot selbst gibt an, keine pornografischen, übermäßig gewalttätigen oder urheberrechtlich geschützten Inhalte zu erzeugen. In der Praxis scheint es jedoch kaum Sicherheitsvorkehrungen zu geben.
Technologie von Black Forest Labs
Der Bildgenerator von Black Forest Labs macht seit einigen Wochen durch besonders realistische und detaillierte Ergebnisse auf sich aufmerksam. Laut der Plattform Artificial Analysis übertrifft das Modell Flux.1 in einigen Benchmarks die Bildgeneratoren Midjourney v6.0, Dall-E 3 von OpenAI und SD3-Ultra von Stable Diffusion bei der von Nutzern bewerteten Qualität. Dazu gehören die visuelle Qualität, die Befolgung von Eingabeaufforderungen, die Typografie und die Ausgabevielfalt. Die Gründer von Black Forest Labs waren zuvor an der Entwicklung der Stable Diffusion-Modelle von Stability AI beteiligt. Das kürzlich gegründete Start-up erhielt 31 Millionen Dollar Startkapital. Neben der Bilderzeugung arbeitet Black Forest Labs auch an einem Videogenerator.
Wer Flux.1 in Grok-2 testen möchte, braucht ein kostenpflichtiges Premium-Konto. Unabhängig von Grok-2 kann man Flux.1 ebenfalls ausprobieren, denn Black Forest Labs bietet die eigenen Modelle auch Open Source an.
Regulatorische Herausforderungen
Die fehlenden Sicherheitsmechanismen von Grok-2 könnten zu regulatorischen Problemen für xAI und die Plattform X (ehemals Twitter) führen. In den USA suchen Gesetzgeber nach Wegen, KI-generierte Fälschungen und Desinformation zu regulieren. Die Europäische Kommission untersucht X bereits wegen möglicher Verstöße gegen den Digital Services Act.
Bisher hat sich X nicht zu den Vorwürfen geäußert. Seit Anfang August sucht xAI allerdings nach Verstärkung, um die Qualitätsprobleme umfangreicher Datensammlungen zu überwachen und zu evaluieren. Nach Kontroversen um die Ergebnisse von Geminis Bildgeneratoren – es gab "eklatante historische Ungenauigkeiten" hatte Google das Angebot Anfang des Jahres zwischenzeitlich pausiert.
Die Europäische Kommission untersucht X bereits wegen möglicher Verstöße gegen den Digital Services Act. Auch in Großbritannien bereitet sich die Regulierungsbehörde Ofcom auf die Durchsetzung des Online Safety Act vor, der auch KI-generierte Inhalte betreffen könnte.
(mack)
