Einleitung

Einzelne Tech-Konzerne breiten ihre Einflussbereiche immer weiter aus und bestimmen eigenmächtig, wie unsere Informationsräume gestaltet sind. Diese Unternehmen investieren Millionenbeträge in Lobbyarbeit und üben dadurch direkten Einfluss auf politische Entscheidungen aus. Manche ihrer Eigentümer, wie Elon Musk, werden selbst politisch aktiv und streben nach Ämtern.

Ihre zunehmende Macht macht es schwieriger, sie in die Verantwortung zu nehmen und dafür zu sorgen, dass ihre Profitinteressen nicht zulasten des Gemeinwohls gehen. Ein Beispiel für diesen Konflikt: Die KI-Großprojekte von Big Tech verbrauchen Unmengen an knappen Ressourcen, was das erklärte Ziel der Unternehmen gefährdet, in den nächsten Jahren klimaneutral zu werden.

Die großen Tech-Unternehmen stellen überall in Europa die digitale Infrastruktur bereit. Wir geraten dadurch in eine gefährliche Abhängigkeit von diesen Konzernen. Und ihre Produkte richten derweil immer wieder soziale Schäden an, etwa automatisierte „Risikoprognosen”, die steuern, ob jemand Sozialleistungen erhält oder nicht. In den Niederlanden mussten in den 2010er Jahren wegen einem fehlerhaften System zehntausende Familien horrende Beträge zurückzahlen, was viele von ihnen ruinierte. Fälle von benachteiligenden KI-Systemen tauchen in ganz Europa immer wieder auf, zuletzt in Frankreich und Dänemark.

Auch in Deutschland sollen in der öffentlichen Verwaltung mehr KI-Systeme verwendet werden: in Ämtern, die Asylanträge prüfen, oder bei der Polizei, um Menschen online und im öffentlichen Raum zu verfolgen. KI-Technologie soll zur öffentlichen Sicherheit beitragen: Solche politischen Forderungen spiegeln aber nur ein Misstrauen der eigenen Bevölkerung gegenüber wider. Hier ist beim Einsatz von KI-Systemen die Gefahr vorhanden, dass Grundrechte ausgehebelt werden, zum Beispiel das Recht auf Privatsphäre und das Recht auf Versammlungsfreiheit. 

Über solche Risiken von KI, aber auch über potenzielle Chancen, kann oft nur spekuliert werden. Die Entwicklung und der Einsatz der Systeme wirken sich aber jetzt schon auf Menschen, die Gesellschaft und die Demokratie aus: etwa auf die Gleichbehandlung, den Minderheitenschutz, die Bildung oder die öffentliche Meinungsbildung. Wir müssen uns deshalb fragen: Welche KI wollen wir? Wie können wir KI gestalten – statt sie uns?

Wenn Algorithmen und KI entscheiden: Grundrechte schützen, Verantwortung sicherstellen

Algorithmen und KI können Entscheidungen über Menschen beeinflussen: wenn die Systeme Bewerbungen vorsortieren, die Kreditwürdigkeit beurteilen, den Zugang zu Bildungsinstitutionen regeln, Verbrechen vorhersagen, Rückfallquoten von Straftäter*innen prognostizieren oder Sozialbetrug aufdecken sollen. Sie können dabei Einzelne diskriminieren und deren Grundrechte beschneiden. Die kommende Bundesregierung muss dafür sorgen, dass Grundrechte nicht durch den Einsatz von KI und Algorithmen beeinträchtigt werden.

Algorithmen und KI in der öffentlichen Verwaltung: 

Die öffentliche Verwaltung trägt beim Einsatz von algorithmischen Entscheidungssystemen eine besondere Verantwortung den Menschen gegenüber, die von diesen Entscheidungen betroffen sind. Die Behörden müssen eine Rechenschaftspflicht gewährleisten und sicherstellen, dass von Algorithmen beeinflusste Entscheidungen für Betroffene nachvollziehbar sind. In Dänemark, Frankreich und den Niederlanden wurden Menschen nachweislich aufgrund persönlicher Merkmale benachteiligt, etwa wegen ihres sozialen Status oder einer doppelten Staatsbürgerschaft. Wir brauchen also bessere Regeln, um sicherzustellen, dass Betroffene Entscheidungen anfechten können, ohne dass sie dabei die ganze Beweislast tragen müssen. Kollektive Rechtsmittel müssen eingeführt werden, etwa Verbandsklagen. Die öffentliche Verwaltung muss außerdem klare Bedingungen dafür festlegen, wie algorithmische Systeme entwickelt und eingesetzt werden. Wir fordern daher:

• Aufsichtsstrukturen schaffen, durch die zuverlässig die Sicherheit und Rechtmäßigkeit von KI-Einsätzen gewährleistet wird!
• Volle Transparenz über den Einsatz von KI in der Verwaltung herstellen und Grundrechte-Folgenabschätzungen zum Standard machen!
• Das Gleichbehandlungsrecht novellieren und Untersuchungs- und Klagemöglichkeiten zum Schutz der Grundrechte einführen!

Massenhafte und anlasslose Überwachung verbieten: 

Autoritäre Staaten bedienen sich längst biometrischer Überwachungssysteme, um Regierungskritiker*innen und Minderheiten zu unterdrücken. Ob Menschen an einer Demonstration teilnehmen, eine religiöse Einrichtung besuchen oder etwas auf Social Media posten: Niemand kann sich bei so einer Überwachung mehr frei verhalten und äußern. Wenn Sicherheitssbehörden Gesichtserkennungstechnologie verwenden, ist damit immer die Gefahr verbunden, falsch identifiziert und grundlos einer Straftat beschuldigt zu werden. Wir fordern daher:

• Ein umfassendes Verbot, sensible (biometrische) Daten anlasslos und automatisiert zu sammeln und zu verarbeiten! Es muss verhindert werden, dass eine Infrastruktur für eine mögliche Totalüberwachung im öffentlichen Raum und online aufgebaut wird.

Algorithmen und KI in der Arbeitswelt: 

Algorithmische Systeme und KI-Systeme werden von Arbeitgebern eingesetzt, um Bewerbungen zu verwalten, die Leistung von Mitarbeitenden zu bewerten oder die Produktivität zu steigern. Durch eine Überwachung der technischen Entwicklung und Implementierung, Folgenabschätzungen und Audits oder aber auch durch Schulungen der Personalverantwortlichen kann verhindert werden, dass KI-Systeme zu Diskriminierung und menschenunwürdiger Behandlung führen. Der Nutzen von KI-Systemen am Arbeitsplatz muss immer auch den Arbeitnehmenden zugutekommen. Deren Autonomie muss gewahrt bleiben und deren Rechte geschützt werden. Sie müssen über den Einsatz von KI-Systemen informiert werden und ein Mitspracherecht haben. Das darf aber nicht bedeuten, dass sie die Verantwortung für ein fehlerfreies Funktionieren der Systeme tragen. Wir fordern daher:

• Das Arbeitsrecht muss angepasst und dessen Errungenschaften geschützt werden, die Mitsprache- und Informationsrechte für Einzelne und Betriebsräte müssen erweitert werden!

---

Algorithmen und KI in der öffentlichen Debatte: Menschen schützen, Demokratie verteidigen

Ein wesentlicher Teil unserer öffentlichen Debatte spielt sich heute auf Social-Media-Plattformen wie Instagram, X, LinkedIn oder TikTok ab. Deren Algorithmen sind aber auf Polarisierung ausgerichtet. Informationen, die für unsere Meinungsbildung relevant sind, beschaffen wir uns über Suchmaschinen wie Google oder Bing und immer häufiger auch über KI-Chatbots oder KI-generierte Zusammenfassungen. Die Regeln, die auf Online-Plattformen gelten, sind oft nicht nachvollziehbar, sondern willkürlich und abhängig von den Geschäftsinteressen der Eigentümer.

Die kommende Bundesregierung muss stärker Online-Plattformen und KI-Anbieter zur Rechenschaft ziehen, wenn von deren Diensten Gefahren für Menschen und die Gesellschaft ausgehen.

Kommunikationsinfrastruktur vor Willkür schützen: 

Der Digital Services Act (DSA) und der Digital Markets Act (DMA) sollen die Macht von Plattformen und Suchmaschinen begrenzen, sie zu Transparenz verpflichten sowie illegale Inhalte und Hetze eindämmen. Dafür müssen die Gesetzte allerdings konsequent durchgesetzt werden – auch gegen den zunehmenden Widerstand der Tech-Unternehmen. Die freie Meinungsäußerung muss als wichtiges Gut europäischer Demokratien gewahrt bleiben, während Gruppen geschützt werden müssen, die besonders vielen Anfeindungen ausgesetzt sind. Gleichzeitig muss der Zugang zu zuverlässigen Informationen und Inhalten, die journalistischen Standards genügen, als Gesellschaftsaufgabe verstanden und politisch stärker gefördert werden. Wir fordern daher:

• Gemeinsam mit den anderen EU-Staaten muss die neue Bundesregierung EU-Gesetze konsequent durchsetzen und geltendes Recht gegen den Einfluss von Plattforminhabern wie Mark Zuckerberg und Elon Musk verteidigen!
• Ein zuverlässiger Zugang zu Daten für eine Forschung im öffentlichen Interesse muss geltend gemacht werden – für Wissenschaftler*innen, zivilgesellschaftliche Organisationen und Journalist*innen! Im Zweifelsfall müssen die zuständigen Behörden diesen Zugang erstreiten.

Gemeinwohlorientierte Kommunikationsinfrastruktur stärken: 

Hinter den großen Online-Plattformen und KI-Anwendungen wie ChatGPT stehen einige wenige einflussreiche Tech-Konzerne. Deren CEOs treffen Entscheidungen, die sich direkt darauf auswirken, welche Informationen Menschen zu sehen bekommen – unter anderem zu relevanten politischen Themen wie Wahlen. Im Fall von KI-Chatbots konnte AlgorithmWatch nachweisen, dass die Antworten großer Sprachmodelle sehr oft falsch, irreführend oder veraltet sind. Trotzdem werden KI-Chatbots immer stärker in Online-Suchmaschinen integriert – und vermitteln einen Eindruck von Verlässlichkeit, der nicht existiert. Die Intransparenz und Konzentration von Markt- und Meinungsmacht stellen für unsere öffentliche Debatte und Demokratie eine zunehemende Herausforderung dar. Wir fordern daher:

• Die neue Bundesregierung muss die europäische Souveränität über die Kommunikationsinfrastruktur stärken und einer weiteren Bündelung von Plattformmacht entgegenwirken!
• Sie sollte Alternativen zu den derzeitigen Plattformen prüfen, um Strukturen zu schaffen, die den Wettbewerb stärken und verhindern, dass Privatinteressen die grundlegende Infrastruktur vereinnahmen!

Förderung von Forschung, Medien und Demokratiekompetenz: 

Die öffentlichen Debatten und öffentliche Meinungsbildung finden inzwischen weitgehend auf Online-Plattformen statt. Wir wissen noch viel zu wenig darüber, wie sie algorithmisch gesteuert werden und welche Auswirkungen das hat. Aber wir brauchen dieses Wissen und Aufsichtsmöglichkeiten, um unsere Handlungsfähigkeit zu stärken. Durch alle Altersgruppen hinweg müssen Medien-, Digital- und Demokratiekompetenzen über verschiedene Kanäle und durch zielgruppengerechte Formate gefördert werden. Wir fordern daher:

• Die neue Bundesregierung muss inter- und transdisziplinäre Forschung im öffentlichen Interesse finanzieren, die die Funktionsweisen von Plattformalgorithmen sowie ihre Auswirkungen auf Mensch und Gesellschaft untersucht!

---

Algorithmen und KI zwischen Macht und Nachhaltigkeit: Missbrauch bekämpfen, Gerechtigkeit herstellen

Rens Dimmendaal & Johann Siemens / Better Images of AI / Decision Tree reversed / CC-BY 4.0

KI ist heute ohne Big Tech nicht denkbar. Die KI-Wertschöpfungskette ist geprägt von der konzentrierten Macht der Großkonzerne, einem enormen Verbrauch an Ressourcen wie Energie und Wasser, beträchtlichen CO2-Emissionen und prekären Arbeitsbedingungen im Globalen Süden, wo einige Modelle trainiert werden. Die kommende Bundesregierung muss einen Beitrag dazu leisten, KI-Anbieter zu ökologisch, ökonomisch und sozial nachhaltigen Wertschöpfungsketten zu verpflichten.

Verantwortung entlang der KI-Wertschöpfungskette: 

Technologieunternehmen müssen Verantwortung für ihre Lieferketten übernehmen und strikten Sorgfaltspflichten hinsichtlich der Umwelt und der Menschenrechte unterworfen sein. Es liegen kaum Informationen über den Energie-, Wasser- und Rohstoffverbrauch von KI-Systemen und die von ihnen verursachten Emissionen vor. Das erschwert es, politische Lösungsansätze zu entwickeln, um Emissionen und weitere Schäden für Mensch und Umwelt zu reduzieren. Rechenzentren oder auch die Herstellung und der Betrieb der Hardware tragen erheblich zum globalen Kohlenstoffdioxid-Ausstoß bei. Je mehr KI-Anwendungen trainiert und genutzt werden, desto größer werden die Emissionen. Arbeiter*innen, die an der technischen Infrastruktur von KI-Systemen mitwirken, sind außerdem oft prekären Bedingungen ausgesetzt. Entlang der Lieferkette der Hard- und Software-Produktion sind Mineralien notwendig, die Menschen unter den schlimmsten Arbeitsbedingungen abbauen müssen. Unter schlechten Arbeitsbedingungen leiden auch Plattformarbeiter*innen, die Daten aufarbeiten oder Datensätze für das Training von KI-Systemen klassifizieren und beschreiben. Solche Arbeiten werden häufig in den Globalen Süden ausgelagert, um Kosten zu sparen. Am anderen Ende der Wertschöpfungskette werden Gig-Worker wie Uber-Fahrer*innen oft lückenlos überwacht und durch ein algorithmisches Management gesteuert. In all diesen Fällen missachten Unternehmen ihre gesellschaftliche Verantwortung. Wir fordern daher:

• KI-Anbieter und Plattformen müssen ihre Produktions- und Lieferketten offenlegen, damit umwelt- und menschenrechtsschädigende Praktiken bekämpft werden können!
• Anbieter von KI-Systemen müssen dazu verpflichtet werden, die Folgen ihrer KI-Systeme für die Umwelt und das Klima zu dokumentieren und Messwerte zu veröffentlichen! Das betrifft sowohl die Entwicklung als auch die Nutzung der Systeme.
• KI-Anbieter müssen ihren Energieverbrauch aus erneuerbaren Energien decken und nötigenfalls den zusätzlichen Ausbau von Wind- und Solarenergie selbst finanzieren!
• Die neue Bundesregierung muss Forschung zu den Umweltfolgen von KI fördern, um die Gesellschaft für das Thema zu sensibilisieren!
• Der Staat muss bei der Entwicklung und Beschaffung von KI-Systemen prüfen, ob über den gesamten Lebenszyklus hinweg faire Arbeitsbedingungen gewährleistet werden!

Marktmacht einschränken und gemeinwohlorientierte Innovationen fördern:

Die enorme Konzentration von Marktmacht auf wenige Tech-Unternehmen steht einem nachhaltigen Wettbewerb und gemeinwohlorientierten Innovationen im Weg. Wir müssen gegen diese Machtkonzentration vorgehen. Wir fordern daher:

• Es muss europarechtlich geprüft werden, mit welchen das Wettbewerbsrecht ergänzenden Regeln und Mechanismen vermieden werden kann, dass die Tech-Konzerne ihre Marktmacht ausnutzen und einen nachhaltigen Wettbewerb verhindern!
• Die neue Bundesregierung muss eine interdisziplinäre Forschung im öffentlichen Interesse, offene Standards, Interoperabilität und gemeinnützige Infrastrukturen fördern!