KI: Warum Big Tech sie nicht beherrschen darf

Amba Kak ist Exekutivdirektorin und Sarah Myers West geschäftsführende Direktorin des AI Now Institute, einer Organisation für KI-Policy-Research mit Sitz in New York. Meredith Whittaker, die Präsidentin von Signal, Hauptberaterin des Instituts und als kritische KI-Begleiterin bekannt.

Bis Ende November, als sich das Drama um den OpenAI-Vorstand entfaltete, konnte man dem zufälligen Beobachter verzeihen, wenn er zu dem Schluss kam, dass die Branche der generativen KI ein lebendiges, wettbewerbsfähiges Ökosystem ist. Doch das ist nicht der Fall – und war es auch nie. Und um zu verstehen, warum das so ist, muss man zunächst wissen, was KI wirklich bedeutet und welche Gefahren von ihr ausgehen. Einfach ausgedrückt: Im Kontext des aktuellen Paradigmas, das auf die Entwicklung immer größerer KI-Systeme setzt, gibt es keine KI ohne Big Tech. Mit verschwindend geringen Ausnahmen ist jedes Start-up, jeder Neueinsteiger auf dem Markt und letztlich sogar jedes KI-Forschungslabor von diesen Unternehmen abhängig. Alle von ihnen sind auf die Serverinfrastruktur von Microsoft, Amazon oder Google angewiesen, um ihre Modelle zu trainieren – und gleichzeitig auf die enorme Reichweite dieser Unternehmen im Endkundenmarkt, um ihre KI-Produkte an den Nutzer zu bringen.

Tatsächlich lizenzieren viele Start-ups derzeit einfach KI-Modelle, die von diesen Tech-Giganten oder ihren Partner-Start-ups entwickelt und verkauft werden. Der Grund dafür ist, dass große Technologieunternehmen sich in den vergangenen zehn Jahren erhebliche Vorteile auf diesem Markt verschafft haben. Dank der Dominanz der Plattformen und der sich selbst verstärkenden Eigenschaften von Geschäftsmodellen, die auf Nutzerüberwachung ("Surveillance Economy") setzen, besitzen und kontrollieren sie die für die Entwicklung und den Einsatz von KI in großem Maßstab erforderlichen Zutaten. Sie prägen auch die Anreizstrukturen für die Forschung und Entwicklung im Bereich KI und bestimmen damit Gegenwart und Zukunft der Technologie. Die OpenAI-Saga, in der Microsoft seine stille, aber mächtige Dominanz über eine Firma ausübte, die sich selbst eigentlich aus ethischen Gründen die Gewinnmöglichkeiten beschnitten hat, demonstriert eindrucksvoll, was wir im letzten halben Jahrzehnt schon festgestellt hatten. Diejenigen, die das Geld haben, machen die Regeln. Und im Moment liefern sich die ganz Großen in Sachen KI einen Wettlauf nach unten, was Sicherheit und Ethik betrifft – nur um ihre beherrschende Stellung zu halten.

Die Machtkonzentration ist nicht nur ein Problem für den Markt. Die Abhängigkeit von einigen wenigen, der Gesellschaft kaum rechenschaftspflichtigen Unternehmensakteuren in Bezug auf die Kerninfrastruktur ist ein Problem für die Demokratie, unsere Kultur und die individuelle und kollektive Handlungsfähigkeit. Ohne signifikante Eingriffe wird der KI-Markt am Ende nur die gleichen Unternehmen belohnen und stärken, die von besagten invasiven Überwachungsgeschäftsmodell profitiert haben, das das kommerzielle Internet antreiben – oft auf Kosten der Öffentlichkeit. Der Cambridge-Analytica-Skandal war nur einer von vielen, die diese schäbige Realität aufgedeckt haben. Eine derartige Machtkonzentration führt auch zu Schwachstellen in den Systemen, die echte Sicherheitsbedrohungen für uns darstellen. Der Chef der US-Börsenaufsichtsbehörde SEC, Gary Gensler, hat davor gewarnt, dass eine kleine Anzahl von KI-Modellen und KI-Akteuren, die die Grundlage des Ökosystems bilden, systemische Risiken für das Finanzsystem darstellen könnten. Ein einziger Fehler würde reichen.

Die Behauptung, dass KI die Machtkonzentration in der Tech-Industrie verschärft, wird gerne negiert. Investoren, die vom Web3 über das Metaverse nun zur KI weitergezogen sind, sind sehr daran interessiert, Renditen in einem Ökosystem zu erzielen, der vom Hype getrieben ist. Seien es nun ein sich verstärkender Nachrichtenzyklus, profitable Börsengänge oder Übernahmen. Dabei ist es egal, ob die Versprechen der jeweiligen Technologie erfüllt werden. Der Versuch, die OpenAI-Mitbegründer Sam Altman und Greg Brockman aus dem Unternehmen zu drängen – mit dem Resultat, dass sie triumphierend zurückkehren –, macht nicht nur die Macht und den Einfluss von Microsoft deutlich. Es ist auch ein Beweis dafür, dass kommerzielle Vereinbarungen Big-Tech-Firmen eine weitreichende Kontrolle über die Entwicklung der KI geben. Die Story ist dabei recht einfach: Nachdem Microsoft offenbar von der Entscheidung des Vorstands überrumpelt worden war, versuchte das Unternehmen, seine Investitionen und seine Gewinnabsichten zu schützen. Das Unternehmen warf schnell sein Gewicht in die Waagschale, stellte sich hinter Altman und versprach, allen, die nun abwandern wollten, Jobs anzubieten.

Ab in den Vorstand

Das Resultat: Microsoft hat nun einen Sitz im Vorstand von OpenAI, wenn auch einen ohne Stimmrecht. Der wahre Hebel, den Big Tech in der KI-Landschaft in der Hand hält, ist jedoch die Kombination aus Rechenleistung, verfügbaren Daten und enormer Marktreichweite. Um seinen "Größer-ist-besser"-Ansatz bei der KI-Entwicklung zu verfolgen, ist OpenAI einen Deal eingegangen. Es lizenziert sein GPT-4-System und alle anderen OpenAI-Modelle in ihren Rohvarianten exklusiv an Microsoft und erhält im Gegenzug Zugang zu Microsofts Computerinfrastruktur.

Für Unternehmen, die die wichtigen Basismodelle entwickeln wollen, gibt es kaum eine Alternative zur Zusammenarbeit mit Microsoft, Google oder Amazon. Und die KI-Chefs sind sich dessen sehr wohl bewusst, wie Sam Altmans insgeheime Suche nach saudischen und emiratischen Staatsinvestitionen für ein Hardwareunternehmen zeigt, von dem er hoffte, dass es Nvidia Konkurrenz machen würde. Nvidia hat fast ein Monopol auf hochmoderne Chips für das KI-Training und ist ein weiterer zentraler Punkt in der KI-Lieferkette. Die US-Aufsichtsbehörden haben inzwischen eine erste Investition Saudi-Arabiens in ein von Altman unterstütztes Unternehmen, RainAI, rückgängig machen lassen – und damit die Schwierigkeiten unterstrichen, unter denen OpenAI auf dem noch stärker konzentrierten Markt für KI-Chips leidet.

Es gibt aktuell nur wenige sinnvolle Alternativen, selbst für diejenigen, die bereit sind, eine "Extrameile" zu gehen, um industrieunabhängige KI zu entwickeln. "Quelloffene KI" – ein schlecht definierter Begriff, der derzeit für alles von Metas (eigentlich vergleichsweise geschlossenem) LLaMA-2 und Eleuthers (maximal offener) Pythia-Modellserie verwendet wird – hilft da wenig, die Konzentration zu bekämpfen. Zum einen arbeiten viele Open-Source-KI-Projekte mit "kostenloser" Serverkapazität der großen Firmen, Umsatzbeteiligungen oder anderen vertraglichen Vereinbarungen mit Tech-Giganten, die mit denselben strukturellen Abhängigkeiten zu kämpfen haben. Darüber hinaus hat Big Tech eine lange Tradition bei der Übernahme von Open-Source-Projekten oder versucht auf andere Weise, aus ihnen Profit zu schlagen. Open-Source-KI könnte Transparenz, Mehrfachnutzungen und Erweiterbarkeit bieten – und das kann positiv sein. Das Problem der Machtkonzentration auf dem KI-Markt wird dadurch jedoch nicht gelöst.

Das OpenAI-Drama belegt auch eine Tatsache, die im Hype um KI häufig untergeht: Es gibt noch kein klares Geschäftsmodell, das über die Steigerung der Cloud-Profite für Big Tech durch die Bündelung von KI-Diensten mit einer Cloud-Infrastruktur hinausgeht. Und ein Geschäftsmodell ist wichtig, wenn es um Systeme geht, deren Training und Entwicklung Hunderte Millionen US-Dollar kosten kann. Microsoft ist hier nicht allein: Amazon zum Beispiel betreibt einen Marktplatz für KI-Modelle, auf dem alle seine Produkte und eine Handvoll anderer mit Amazon Web Services arbeiten. Das Unternehmen hat vor Kurzem eine Investitionsvereinbarung über bis zu 4 Milliarden Dollar mit Anthropic getroffen, das sich auch verpflichtet hat, Amazons hauseigenen Chip "Trainium" zu verwenden, der für die Entwicklung von KI in großem Maßstab optimiert ist.

Selbstbewusste Marktbeherrschung

Big Tech wird dabei in seinen Manövern immer selbstbewusster, um die Marktbeherrschung zu sichern. Täuschen wir uns nicht: Auch wenn OpenAI dieses Mal im Mittelpunkt stand, werden andere Unternehmen aufhorchen und sich anpassen an diesen Markt. Alle haben gesehen, was mit einem kleinen Unternehmen passiert, wenn ein großes Unternehmen, von dem es abhängig ist, seine Muskeln zeigt. Regulierung könnte hier helfen, aber die Politik vieler Regierungen führt oft dazu, dass die Macht solcher Unternehmen eher gestärkt als geschwächt wird, da sie ihren Zugang zu finanziellen Mitteln und ihren politischen Einfluss nutzen. Nehmen wir als Beispiel die jüngsten Schritte von Microsoft in Großbritannien. Letzte Woche kündigte das Unternehmen eine Investition in Höhe von 2,5 Milliarden Pfund in den Aufbau einer Cloud-Infrastruktur in Großbritannien an. Der Schritt wurde prompt von Premierminister Rishi Sunak gelobt, der Ambitionen zum Aufbau eines einheimischen KI-Sektors in Großbritannien zeigt und sie wohl für sein politisches Vermächtnis hält.

Diese Nachricht darf nicht isoliert betrachtet werden: Sie ist ein klarer Versuch, eine Untersuchung des Cloud-Marktes durch die britische Wettbewerbsbehörde auszubremsen, die auf eine Studie zurückgeht, in der von einer Reihe von Marktteilnehmern Bedenken hinsichtlich des wettbewerbswidrigen Verhaltens von Microsoft geäußert wurden. Von der (letztlich leeren) Drohung von OpenAI, die EU wegen des AI Act zu verlassen, über Metas Lobbyarbeit zur "Befreiung" von Open-Source-KI von grundlegenden Rechenschaftspflichten bis hin zu Microsofts Vorstoß für eigene Regulierungsideen – überall laufen Kampagnen. Mittlerweile werden sogar KI-freundliche Fellows im US-Kongress untergebracht. Wir sehen hier eine immer aggressiver werdende Haltung von großen Unternehmen, die versuchen, ihre Dominanz durch den Einsatz ihrer beträchtlichen wirtschaftlichen und politischen Macht zu festigen.

Die Giganten der Technologiebranche sind sofort zur Stelle, wenn das Weiße Haus, die EU und andere Machtzentren neue Vorschriften erlassen. Aber es ist klar, dass wir noch viel weitergehen müssten. Jetzt ist es an der Zeit für ein sinnvolles und solides System der Accountability für KI, die die Interessen der Öffentlichkeit über die einfachen Versprechen von Unternehmen stellt, die nicht dafür bekannt sind, sie zu halten.

Wir brauchen strenge Transparenzvorschriften, die die Undurchsichtigkeit bei grundlegenden Fragen beseitigen – etwa die Frage nach den Daten, die KI-Unternehmen zum Training verwenden. Wir benötigen auch Haftungsregelungen, die Unternehmen die Last auferlegen, nachzuweisen, dass sie grundlegende Datenschutz-, Sicherheits- und Anti-Bias-Standards einhalten, bevor ihre KI-Produkte der Öffentlichkeit zugänglich gemacht werden. Um das Thema Konzentration anzugehen, braucht es eine mutige Regulierung, die eine geschäftliche Trennung zwischen den verschiedenen Ebenen des KI-Stacks erzwingt. Big Tech darf nicht erlaubt werden, seine Dominanz bei der Infrastruktur auszunutzen, um seine Position auf dem Markt für KI-Modelle und deren Anwendungen zu konsolidieren. Wenn die Regierungen jedoch weiterhin einer kleinen Gruppe von Industrieinteressen den Vorrang bei der Gestaltung der KI-Politik einräumen, werden wir nicht weit kommen. Nach den Ereignissen der letzten Wochen bei OpenAI ist nur allzu klar, wem diese Unternehmen dienen: ihrem eigenen Gewinn.

(jle)