„KI“ und die falsche Balance

„Jede hinreichend fortschrittliche Technologie ist von Magie nicht zu unterscheiden.” Wir sollten uns diesen Satz des legendären Science-Fiction-Autors Arthur C. Clarke immer wieder in Erinnerung rufen, wenn wir Debatten über Technologien auf dem Höhepunkt von Hype-Zyklen führen, wie das derzeit der Fall ist. Ein Kommentar.

Blog

19. Februar 2024

#aiact #generativeki #ki

Foto von Maxime Gilbert auf Unsplash

Matthias Spielkamp
Geschäftsführer, Mitgründer und Gesellschafter

Heute findet eine Veranstaltung von D21 statt. Ich werde mit Anna Christmann, MdB der Grünen, Koordinatorin der Bundesregierung für Luft- und Raumfahrt und Beauftragte des BMWK für die Digitale Wirtschaft und Start-ups, und Iris Plöger, Mitglied der Hauptgeschäftsführung des BDI, über das Thema „KI und Ethik – Wie stellen wir sicher, dass Fortschritt immer auch verantwortungsvoll geschieht?“ diskutieren. Vorher wird Jens Redmer, Principal, New Products bei Google, einen Impulsvortrag halten: „Big Tech zu unternehmerischer Verantwortung im Zeitalter von KI“.

Ein schöner Rahmen also, um wolkig darüber zu sprechen, was für dolle Dinge mit „KI“ möglich sind und wie wir das alles „ethisch” gestalten - aber selbstverständlich immer so, dass wir eine ausgewogene Balance zwischen Innovation und Regulierung finden. Das wird aber nicht gelingen (weder in der Diskussion, noch in der Realität), wenn wir das immer alles nur unter den Bedingungen einer völlig falschen Balance diskutieren. Was meine ich damit?

Magische Technologien

„Any sufficiently advanced technology is indistinguishable from magic.” („Jede hinreichend fortschrittliche Technologie ist von Magie nicht zu unterscheiden.”) Dieses dritte der Drei Gesetze des legendären Science-Fiction-Autors Arthur C. Clarke sollten wir uns immer wieder in Erinnerung rufen, wenn wir Debatten über Technologien auf dem Höhepunkt von Hype-Zyklen führen, wie das derzeit der Fall ist. Die Möglichkeiten und Fähigkeiten der sogenannten Künstlichen Intelligenz scheinen angesichts von generativer KI erneut grenzenlos – so wie bereits mehrfach seit den 1940er Jahren.

Die Bezeichnungen wechseln - von Kybernetik über Expertensysteme bis zu „KI”. Wir erinnern uns an die vermeintlich fundamentale Kränkung des Menschen durch den Sieg des „KI”-Systems Deep Blue über Garri Kasparow, immerhin vor inzwischen 26 Jahren (ganz ohne Maschinelles Lernen) und die damit verbundenen grundstürzenden Veränderungen, die vermeintlich als Folge direkt vor der Tür standen.

Jedoch - Überraschung! „KI” hat die Welt seitdem nicht aus den Angeln gehoben. Daraus sollten wir nicht schließen, dass alles immer nur alter Wein in neuen Schläuchen ist, aber doch ein wenig Vorsicht walten lassen bei dem Gedanken, nun ändert sich – mal wieder – alles, und zwar ganz schnell.

Die Vorteile von „KI” sind für uns alle sichtbar, wenn wir auf Navigationssysteme schauen oder die Internetsuche oder auch komplexe Modelle bei der Erforschung von Medikamenten. Richtig profitabel wird „KI” derzeit dafür eingesetzt, Werbeanzeigen im Internet im Sinne der Werbetreibenden zu optimieren (basierend auf der größten Sammlung von Daten über uns alle in der Geschichte der Menschheit), uns dazu zu veranlassen, möglichst viel Zeit auf Social-Media-Plattformen zu verbringen, und Desinformation zu fabrizieren, in Form von Deep-Fake-Fotos und -Videos.

„Future Imaginaries” und gegenwärtiger Zynismus

Die gewaltigen Errungenschaften bei der Bekämpfung des Klimawandels und des Hungers auf der Welt, die seit etwa 25 Jahren angekündigt werden, haben sich dagegen weiterhin nicht manifestiert.

Der Zwischenbericht „Governing AI for Humanity” des kürzlich gegründeten „High-Level Advisory Body on AI” der Vereinten Nationen vom Dezember 2023 nennt unter „frühzeitig erkennbare Möglichkeiten, um auf den Klimawandel zu reagieren” („early promises of AI helping to address climate change”) Folgendes: „Durch die Nutzung fortschrittlicher Klimamodelle in Verbindung mit Daten über urbane Mobilität und Verhaltensmuster können neue Frühwarnsysteme geschaffen werden, um eine wirksamere Hilfeleistung bei Konflikten oder Katastrophen und beim Wiederaufbau zu ermöglichen.” (“Using advanced climate modelling tied to information about urban mobility and behaviour patterns to create new early warning systems, allowing for more effective delivery of post conflict/disaster relief and recovery.”)

Diesen Einsatz zur Schadensbekämpfung und -begrenzung hochzujubeln als Beitrag zur Bekämpfung der Klimakrise kann man bestenfalls als Sarkasmus, schlimmstenfalls als Zynismus verstehen angesichts der Tatsache, dass „KI” - und allen voran „generative KI” - nicht nur bei Training und Inferenz, also ihrer Anwendung, gewaltige Mengen Energie, Wasser und seltene Erden verbraucht, sondern auch Geschäftsmodelle wie Musik- und Video-Streaming, Social Media und E-Commerce erst ermöglicht, die maßgeblich dazu beitragen, die Klimakrise zu verschärfen.

Ganz zu schweigen von Produktionsbedingungen, die man gemeinhin als Manchesterkapitalismus bezeichnen würde. „Finetuning-Sweatshops”, in denen Menschen für zwei Dollar pro Stunde die übelsten Auswüchse von Large Language Models „bereinigen”, sind dabei wie Salzwasser im Trinkwassersystem, weil das Süßwasser für die Kühlung von Datenzentren verwendet wird. Kreative Leistungen werden massenhaft ohne jegliche Vergütung übernommen, was damit gerechtfertigt wird, dass wir ja am Ende alle von den Ergebnissen profitieren. Wie? In Form von immer leistungsstärkeren „KI”-Modellen, die es uns erlauben, noch schneller und billiger Fake-Videos zu erzeugen.

Wir stehen nicht auf den Schultern von Riesen, wir werden unter ihnen zerquetscht

Ebenfalls verschwiegen wird die Tatsache, dass der Kapitaleinsatz dafür so groß ist, dass nur diejenigen davon profitieren, die bereits jetzt den Markt unter sich aufgeteilt haben. Wir können weiter sehen, weil wir auf den Schultern von Riesen stehen? Heute muss es eher heißen: Wir alle tragen Riesen auf unseren Schultern, die so groß und immer noch größer werden, dass sie unser aller Schultern unter ihnen zerquetschen.

Und doch wird immer wieder die falsche Balance unterstellt: Dass auf der einen Seite „KI” zwar Risiken berge, auf der anderen Seite aber enorme Chancen biete. Wer allerdings, wie AlgorithmWatch, nicht nur die Risiken, sondern sogar die Schäden benennt, in denen sich die Risiken tatsächlich manifestieren (nicht zuletzt die Schäden für unseren demokratischen Zusammenhalt), wird als Fortschrittsfeind*in bezeichnet, während die Apologeten der magischen Fähigkeiten von „KI” das Eintreten ihrer Prognosen in die Zukunft verschieben dürfen - fast immer unwidersprochen: Irgendwann wird „KI” dies, und irgendwann wird „KI” das möglich machen, und dann wird es uns allen besser gehen. Irgendwann. Und darum müssen wir mit den Schäden leben, die „KI” heute verursacht – und auf keinen Fall etwas dagegen tun, da es ja „Innovationen” hemmen könnte.

Derzeit geht es dank „KI” allerdings nur den bereits schon bislang größten Unternehmen der Welt noch besser als zuvor. Auf der anderen Seite gibt es für die Behauptung, dass das Ausbleiben von bahnbrechenden Innovationen an einer Überregulierung in der EU liege, keine Belege (die „KI”-Verordnung ist ja nicht einmal fertig, geschweige denn in Kraft). Stattdessen ist immer nur Geraune über einen zu starken Datenschutz zu hören. Dass Unternehmen sich im Zweifel um bestehende Gesetze allerdings gar nicht kümmern, sieht man daran, dass sie zum Training der Modelle alle Inhalte verwenden, die sie sich unter den Nagel reißen können - und die Frage danach, ob das alles rechtens ist, erst aufgreifen, wenn sie durch Klagen von starken Gegnern dazu gezwungen werden. Auch wenn OpenAI, Microsoft und Google „move fast and break things” nicht als offizielles Motto haben, verhalten sich die Firmen genau so.

Ludditen? Selbstverständlich!

Hier kann „KI Made in Europe” tatsächlich helfen. Es sollte klar sein, dass technologische Entwicklungen niemals von allein dazu beigetragen haben, dass unser Wohlstand gewachsen ist, wie der Eindruck erweckt wird, wenn es heißt: „Wir haben bisher immer von Automatisierung und Produktivitätswachstum profitiert.” Falsch. Nicht profitiert haben unser Ur-Ur-Großmütter und -väter, die erst einmal bitterlich verarmten, bevor sie sich zusammenschlossen und für ihre Rechte kämpften (was nicht wenige von ihnen mit ihrem Leben bezahlen mussten), so dass nachfolgende Generationen stärker an den Produktivitätsgewinnen beteiligt wurden. Neuer Wohlstand wird immer irgendwie verteilt, und nur wenn man dafür kämpft, dass er zum Gemeinwohl beiträgt, bleiben die Profite nicht ausschließlich bei den Unternehmen liegen. Wer uns „Luddites” (die Textilarbeiter*innen, die gegen die Verschlechterung ihrer Lebensbedingungen im Zuge der Industriellen Revolution kämpften und dabei auch gezielt Maschinen zerstörten) nennt und es als Herabsetzung oder sogar Schimpfwort meint, offenbart vor allem eins: Geschichtsvergessenheit.

Was „KI made in Europe” nicht bedeuten sollte: „National Champions” dabei zu unterstützen, sich Monopolstellungen zu verschaffen - Aleph Alpha statt OpenAI/Microsoft, Mistral AI statt DeepMind/Google, Zalando statt Amazon, Lieferando statt Uber ist wie Shell statt Standard Oil, ThyssenKrupp statt US Steel, Telefonica statt AT&T, Siemens statt General Electric. Wir brauchen keine Protein-Shakes für zukünftige Monopolisten, sondern digitale öffentliche Infrastrukturen für Entwicklungen, die das Gemeinwohl fördern.

Das heißt, wir müssen all das gleichzeitig tun:

Autonome Individuen oder algorithmisch gemanagte Lakaien? Wir müssen wählen

Und wir müssen endlich eine ehrliche Debatte darüber führen, woher die Kompetenzen kommen sollen, die wir dafür brauchen, die Herausforderungen, die der Einsatz von „KI” selbst für unsere Gesellschaft bedeutet, zu bestehen. Jedes Jahr verlassen 20 Prozent der Schüler*innen unsere Schulen als funktionale Analphabet*innen. Die Leistungen sind seit dem Pisa-Schock vor 23 Jahren nicht besser, sondern schlechter geworden. Unser Bildungssystem hinterlässt eine Schneise der Vernachlässigung. Wenn wir hier nicht reagieren, verspielen wir unsere Zukunft und werden eine Re-Feudalisierung unser Gesellschaft erleben – mit einer herrschenden Klasse von Digitalisierungs- und „KI”-Gewinner*innen und einer dienenden Klasse algorithmisch gemanagter Lakaien.

Abonniere jetzt unseren Community Newsletter!


Mehr Informationen findest du in unserer Datenschutzerklärung.