Wie “existenzielle Gefahren” zur erfolgreichsten Strategie der KI-Industrie wurden

Plaza-Hotel, New York. Im Dezember 1953 trafen sich die Führungskräfte mehrerer US-amerikanischer Zigarettenhersteller, um den möglichen Fall zu addressieren, dass die Regierung angesichts neuer wissenschaftlicher Erkenntnisse das Rauchen einschränken könnte. Sie beschlossen, diese Erkenntnisse nicht direkt anzufechten, sondern weitere Beweise zu fordern. „Es bedarf weiterer Forschung“ wurde zum Mantra der Unternehmen.

Mithilfe der wissenschaftlichen Infrastruktur schürte die Tabakindustrie so Zweifel und argumentierte, die vorliegenden Beweise seien nicht überzeugend genug, um eine Regulierung zu rechtfertigen. Viele Branchen folgten diesem Beispiel – mit großem Erfolg (für ihre Führungskräfte, nicht für uns). Sogar die großen Tech-Konzerne nutzen dieses Playbook: In einem Rechtsstreit von vergangenem Monat, in dem ihnen vorgeworfen wurde, süchtig machende Systeme zu entwickeln, argumentierten Expert*innen von Meta und YouTube, die Beweise seien zu schwach, um ihren Produkten die Schuld zu geben. „Es bedarf weiterer Forschung.“ Außer, wenn es um KI geht.

Existenzielle Gefahren. Führungskräfte von KI-Unternehmen verfolgen eine andere, radikal neue Strategie: Anstatt nach weiteren Belegen für derzeitige negative Folgen zu fragen, lenken sie die Aufmerksamkeit auf potenzielle Gefahren in der Zukunft. Sie behaupten – in Anlehnung an bekannte Bilder aus „Terminator“ und „Matrix“ anstelle nachweisbarer Fakten –, dass ihre Werkzeuge so gefährlich seien, dass sie eines Tages die Zivilisation auslöschen könnten.

Selbst die Atomindustrie, die mit katastrophalen Risiken bestens vertraut ist, hat nie einen solchen Trick versucht und stets das Risiko (beziehungsweise das Ausmaß) von Katastrophen, die ihre Reaktoren verursachen könnten, heruntergespielt.

Doppelte Täuschung. Die Scheinheiligkeit der Strategie großer KI-Konzerne ist kaum zu übersehen. Im März 2023 forderten einige Führungskräfte, darunter Elon Musk, ein Moratorium für neue Sprachmodelle, damit wir nicht „die Kontrolle über unsere Zivilisation verlieren“. Doch keiner von ihnen hielt sich an diesen Plan. Vielleicht war das eigentliche Ziel des Moratoriums ein ganz anderes.

Zu dieser Zeit diskutierten Politiker*innen aktuelle und gut dokumentierte Probleme, darunter Diskriminierung, die Informationsflut und Deepfakes. Gesetze wie der europäische AI Act (der damals verhandelt wurde) wurden als äußerst gefährlich für die Wirtschaftlichkeit der großen KI-Konzerne angesehen. Indem sie die Aufmerksamkeit auf zukünftige Risiken lenkten, konnten sie aktuelle Gefahren gleichzeitig viel kleiner erscheinen lassen und argumentieren, dass nur sie, die Entwickler der Systeme, ihre Schöpfungen beherrschen und richtig einsetzen könnten. Das ist gar nicht so abwegig. Musk hat diese Strategie zur Ablenkung der Aufmerksamkeit bereits zuvor angewendet: Im Jahr 2013 schürte er erfolgreich Begeisterung für den Hyperloop (ein Kapsel-Transportsystem, das bis heute nur auf dem Papier existiert), um die Pläne zum Bau einer Hochgeschwindigkeitszugstrecke in Kalifornien zu torpedieren. Zehn Jahre später hat der Trick erneut funktioniert.

Fruchtbarer Boden. Heutzutage ist es wohl schwer vorstellbar, doch noch vor wenigen Jahren bedeuteten „KI-Risiken“ für politische Entscheidungsträger konkrete, nachgewiesene Gefahren. In Dokumenten der US-Regierung (z.B. aus dem Jahr 2016) oder der Europäischen Kommission (z.B. aus dem Jahr 2021) wird ein gesellschaftlicher Zusammenbruch in der Liste der von KI ausgehenden Risiken an keiner Stelle erwähnt. Doch schon im September 2023 griff die Präsidentin der Europäischen Kommission Ursula von der Leyen erneut auf das Framing der existenziellen Gefahr zurück (und wiederholte dabei die Formulierungen eines weiteren offenen Briefes, den die Leiter von OpenAI und Anthropic im Mai 2024 veröffentlicht hatten). Wenige Sekunden später lobte sie die von Big AI in den Vereinigten Staaten entworfenen „freiwilligen Regeln“. Und einige Monate später drängte sie darauf, einen Großteil des AI Act abzuschwächen.

Vielleicht haben sich die CEOs der großen KI-Konzerne, ähnlich wie ihre Kolleg*innen aus der Tabakindustrie, an einem Frühlingstag im Jahr 2023 bei einem geheimen Treffen auf diese raffinierte Strategie geeinigt. Wahrscheinlicher ist jedoch, dass sie das Potenzial der Erzählung von der „existentiellen Gefahr“ erkannt und diese Strategie vorangetrieben haben. Die Politik und die Medien fanden diese Botschaft vermutlich anschaulicher als statistische Verzerrungen.

Besonderer Dank gilt James Steinhoff, Pieter Verdegem, Roland Desbordes und Robert N. Proctor für ihre Unterstützung bei diesem Artikel.

Dies ist ein Auszug aus dem Newsletter „Die automatisierte Gesellschaft“, einer zweiwöchentlichen Zusammenfassung von Neuigkeiten zur automatisierten Systemen in Europa. Hier abonnieren.