US-Behörde untersucht OpenAI, weil ChatGPT Menschen verleumdet
OpenAI muss umfangreiche Fragen der FTC ausführlich beantworten. Darunter: Wie bekämpft die Firma Irreführung durch ChatGPT?
(Bild: Urban Images/Shutterstock.com)
ChatGPT-Betreiber OpenAI muss sich einer Untersuchung der US-Wettbewerbsbehörde FTC stellen (Federal Trade Commission). Die Behörde hat dem Unternehmen 20 Seiten an Fragen übermittelt, die es ausführlich beantworten muss. Das heißeste Eisen: Was unternimmt OpenAI gegen üble Nachrede über echte Personen seitens seiner Language Models wie ChatGPT?
Die FTC möchte beispielsweise wissen, welche Beschwerden OpenAI erhalten hat und wie es sie bearbeitet, welche Analysen hinsichtlich Sicherheit und Risiken die Firma vor Veröffentlichung eines Language Models durchführt, wie sie falsche Angaben aufspürt, und nach welchen Richtlinien sie bestimmt, unter welchen Bedingungen es überhaupt tunlich ist, personenbezogene Informationen über Künstliche Intelligenz auszuwerfen. Dabei soll OpenAI auch offenlegen, ob es bei der Verarbeitung und Ausgabe personenbezogener Informationen zwischen Personen von öffentlichem Interesse und sonstigen Personen unterscheidet.
Mehrere Fragen widmen sich grundlegenderen Dingen: Wer sind die Eigentümer, Manager, verantwortlichen Mitarbeiter und Geschäftspartner, wie erfasst OpenAI die Leistung seiner Dienste und wie bewirbt es sie, was weiß es über die (Miss)Verständnisse seiner User über Funktionsweise, Genauigkeit, Verlässlichkeit und Datensammlung seiner Language Models? Hier deutet sich eine mögliche Stoßrichtung der FTC an: Sollten OpenAI Missverständnisse bekannt sein, die Firma aber nichts dagegen unternehmen oder die falschen Auffassungen der Öffentlichkeit durch eigene Aussagen sogar noch verstärken, könnte das nach US-Bundesrecht illegal sein. Dieses verbietet unlauteren Wettbewerb, irreführender Werbung oder falscher Darstellung von Produkteigenschaften.
Woher hat OpenAI die Trainingsdaten?
Die FTC möchte auch erfahren, wie OpenAI seine Language Models trainiert, verbessert, testet, überwacht und bei grundlegenden Probleme neu trainiert, wie es menschliche Eingaben in alle diese Prozesse einfließen lässt, und wie es verhindert, dass personenbezogene Daten in das Training einfließen. Letztere Frage geht in Richtung Datenschutz. Vor drei Monaten haben Deutschlands Datenschützer ein Verfahren gegen OpenAI eröffnet.
Zudem verlangt die FTC eine umfassende Liste der Quellen aller Trainingsdaten, samt Webseitenadressen, und deren jeweiligem Anteil an Gesamtdatenbestand. Rechtswidrig genutzte Daten könnten beispielsweise auf unlauteren Wettbewerb hindeuten.
Einige weitere Fragen lassen erkennen, dass sich die FTC besonders für einen Vorfall vom März interessiert, bei dem ChatGPT Teile von Unterhaltungen offengelegt hat, die andere User mit ChatGPT geführt hatten. Außerdem hat OpenAIs IT-System unzulässiger Weise, Namen, Rechnungsadressen, E-Mail-Adressen und Teile der Kreditkartendaten einiger anderer Abonnenten verraten. OpenAI hat damals seinen Dienst angehalten und Fehler eingeräumt.
Darüber hinaus soll OpenAI Angaben zur Programmierschnittstellen und Plugins machen, deren Risiken und wie es sie bekämpft. Nicht zuletzt fordert die Behörde eine Liste aller Versuche von Usern, durch Chat-Befehle (prompt injection) die Filter und Einschränkungen der Language Models zu umgehen oder von OpenAI nicht beabsichtigte Funktionen auszulösen.
Juristischer Seiltanz
Der Fragenkatalog bezieht sich grundsätzlich auf den Zeitraum zurück bis 1. Juni 2020, in Teilen allerdings zurück bis 2017. Gegründet wurde OpenAI im Dezember 2015. Juristisch und politisch muss die FTC darauf achten, mit ihrer Untersuchung ihre Kompetenzen nicht zu überschreiten. Ihre Kernaufgabe ist die Bekämpfung von unlauterem Wettbewerb, Irreführung, illegalen Monopolen und anderen wettbewerbswidrigen Situationen; Geldstrafen kommen bei Schädigung von Verbrauchern ins Spiel.
Außerdem ist die Behörde für die Durchsetzung verschiedener Materiengesetze zuständig. Jüngst neu hinzugekommen ist der Integrity, Notification, and Fairness in Online Retail Marketplaces for Consumers Act. Er verpflichtet Verkäufer in US-Webshops dazu, ihre Identität offenzulegen und mit Kunden zu kommunizieren. Schließlich sammelt die FTC allerlei Informationen über Märkte und Marktteilnehmer, erstellt daraus Berichte und unterbreitet Vorschläge für Gesetzesnovellen. Die Ahndung übler Nachrede für sich ist hingegen in der Regel Angelegenheit des Rechts der einzelnen Bundesstaaten.
- Den Fragenkatalog der FTC an OpenAI hat die Washington Post veröffentlicht.
(ds)