Digitalthemen in den Koalitionsverhandlungen: AlgorithmWatch bezieht Stellung
Die ersten Zwischenergebnisse der Koaltionsverhandlungen zwischen der Union und SPD sind da. AlgorithmWatch hat sich die Verhandlungspapiere der „AG Digitales“ und der „AG Innen, Recht, Migration und Integration“ genauer angeschaut. Hier ist unsere Reaktion auf die Positionen zu zentralen Digitalthemen.
KI in der Verwaltung
Im Papier der „AG Digitales“ wird gefordert, Automatisierung und KI „umfassend“ in der Verwaltung einzusetzen.
Wir sagen: Dazu müssen erst einmal die zentralen Voraussetzungen für einen erfolgreichen KI-Einsatz in der öffentlichen Hand bestimmt werden. Wie sollen Transparenz und Teilhabe umgesetzt und eine wirksame Grundrechtsfolgen-Abschätzung eingeführt werden? Dazu schweigt der Entwurf.
Diskriminierung und Grundrechte
Im Papier steht auch: „Wir bekämpfen Diskriminierung im digitalen Raum und schützen digitale Grundrechte.“
Wir sagen: Klingt gut, aber wie? Die möglichen Koalitionspartner müssen konkrete Maßnahmen und Ziele benennen, damit ihre Politik daran gemessen werden kann.
Nachhaltigkeit
Auch beim Thema „Nachhaltigkeit von KI“ fehlen konkrete Maßnahmen und Ziele. Der Bau von Rechenzentren solle beschleunigt werden, Bedingungen dafür scheinen keine vorgesehen zu sein.
Wir sagen: Um KI klimafreundlicher zu machen, sollten neue Rechenzentren unbedingt immer mit erneuerbarer Energie betrieben werden. Sonst gefährdet der enorm steigende Strombedarf von KI unsere Klimaziele.
KI-Verordnung und DSA
Im Papier ist von einer „angemessenen“ Beteiligung von Zivilgesellschaft und Gewerkschaften bei der Umsetzung der KI-Verordnung (AI Act) die Rede. Aber der AI Act scheint generell angezweifelt zu werden, bevor er überhaupt vollständig in Kraft getreten ist. In dem Papier heißt es, zwischen den Verhandelnden sei der Satz „Der AI Act soll überarbeitet [...] werden“ noch strittig.
Wir sagen: Was bedeutet „angemessene Beteiligung“? Angelehnt an den Beirat beim Digital Services Coordinator (DSC) – der Kontrollstelle zur Umsetzung des Digital Services Act (DSA) – sollte die Zivilgesellschaft durch einen KI-Beirat eingebunden werden. Statt das gerade erst beschlossene EU-Regelwerk zu KI infrage zu stellen, sollten die Verhandler*innen auf eine wirksame Umsetzung des AI Acts setzen und konkrete Maßnahmen zum Schutz der Grundrechte, der Umwelt und der Verbraucher*innen formulieren.
Gleichbehandlung
Das Papier der „AG Innen, Recht, Migration und Integration“ erwähnt die dringend benötigte Reform des Allgemeinen Gleichbehandlungsgesetzes (AGG) und hält fest, dass der Diskriminierungsschutz gestärkt und verbessert werden solle.
Wir fragen: Wie soll denn genau beim AGG nachgebessert werden? Soll der Anwendungsbereich des AGG endlich so ausgedehnt werden, dass das Gesetz vor Diskriminierung durch teil- und vollautomatisierte Entscheidungsverfahren schützt?
Überwachung
Ansonsten eröffnet das Papier in Sachen Überwachung dystopische Aussichten: Sowohl im öffentlichen Raum als auch online soll bald automatisierte Gesichtserkennung möglich sein. Die Verhandler*innen scheinen eine höchst missbrauchsanfällige Überwachungsstruktur schaffen zu wollen.
Wir sagen: Die Koalitionär*innen müssen auf all die Warnungen vor den Risiken für marginalisierte Gruppen und vor einer Einschränkung der Grundrechte eingehen. Biometrische Massenüberwachung muss umfassend verboten werden, weil sie uns alle wie wandelnde QR-Codes behandelt und das Ende unserer Anonymität bedeutet. Auch wir haben bereits dringlich vor den Folgen von Gesichtserkennung gewarnt. Lest dazu unsere Stellungnahme:
