Europa reguliert KI – zugunsten von Big Tech und Sicherheit-Hardlinern

Im KI-Ausschuss des Europarats, der sich diese Woche in Straßburg trifft, werden Optionen verhandelt, die es den Staaten erlauben würden, die Anwendbarkeit der KI-Konvention auf Behörden einzuschränken und private Unternehmen weitgehend aus dem Geltungsbereich auszuklammern. In der EU würde der Kompromiss zur KI-Verordnung zudem viele Menschen in prekären Situationen nicht verlässlich vor staatlicher Überwachung und Kontrolle schützen. Außerdem würde der aktuelle Kompromiss Unternehmen von etlichen Pflichten befreien.

Open AI, Google/Alphabet, Microsoft, Amazon, Meta: Diese Konzerne profitieren vom immensen KI-Hype, der im November 2022 mit der Veröffentlichung von ChatGPT losbrach. Schon kurz darauf haben dieselben Konzerne und ihre Verbündeten lautstark gesetzliche Regeln für die Entwicklung und Nutzung der Technologie gefordert. Sie begründen ihre Forderungen nach gesetzlichen Regelungen für KI oft mit unrealistischen Zukunftsszenarien – etwa mit der Behaptung, dass KI eines Tages die Kontrolle über die Menschheit übernehmen könnte.

Ausnahmen untergraben den Zweck der Straßburger KI-Konvention

Anfangs mag es rätselhaft geklungen haben, dass KI-Entwickler eine staatliche Kontrolle ihrer Technologie fordern. Es könnte sich inzwischen aber als clevere Strategie entpuppen. Der Europarat (also die Organisation, dessen Mitglieder die Europäische Menschenrechtskonvention in Straßburg unterzeichnet haben) steht kurz vor dem Abschluss einer KI-Konvention, die die Menschenrechte, Demokratie und Rechtsstaatlichkeit schützen soll. Eine abschließende Verhandlungssitzung ist für Mitte März angesetzt. Der veröffentlichte Entwurf dieser Konvention zeigt allerdings: Der internationale Vertrag zur Regulierung von KI würde in dieser Form den Staaten einen großen Spielraum lassen, für Technologiekonzerne zur KI-Entwicklung und -Nutzung Ausnahmen geltend zu machen. An den Verhandlungen nehmen nicht nur Staaten teil, die Mitglied des Europarats sind, auch die USA ist daran beteiligt. Dort befinden sich bekanntlich die meisten weltweit größten Tech-Unternehmen. Es ist außerdem kein Geheimnis, dass die US-Regierung kein Interesse daran hat, sich mit dem Silicon Valley anzulegen.

„Die Entwicklung und Nutzung von KI durch private Unternehmen bringt Risiken und Schäden mit sich. Wenn eine KI-Regulierung uns nicht zuverlässig davor schützt, stellt sie Big Tech einen Blankoscheck aus. So sieht ein wirksamer Schutz unserer Rechte nicht aus."

Angela Müller, Head of Policy & Advocacy bei AlgorithmWatch.

In einem heute veröffentlichten offenen Brief fordern AlgorithmWatch und über 30 weitere zivilgesellschaftliche Organisationen die verhandelnden Staaten auf, die Tech-Unternehmen stärker zu kontrollieren.

Derweil in Brüssel: Die KI-Verordnung der EU

Beim EU-Gesetz zur KI-Regulierung, dem sogenannten AI Act, ist diese Entwicklung sogar schon weiter fortgeschritten: Hinter verschlossenen Türen wurde eine Vereinbarung getroffen und es scheint sich nur noch um eine Formalie zu handeln, dass die Verordnung verabschiedet wird. Sie unterscheidet sich zwar von der KI-Konvention, da sie grundsätzlich sowohl für den öffentlichen als auch für den privaten Sektor gilt. Aber auch in der KI-Verordnung finden sich etliche Schlupflöcher für Tech-Unternehmen. Wichtige Bestimmungen der Verordnung, die auch die Zivilgesellschaft gefordert hatte, gelten nicht für private Unternehmen: etwa die Verpflichtung, vor dem Einsatz eines risikoreichen KI-Systems eine Folgenabschätzung für die Grundrechte durchzuführen und solche Systeme in einer öffentlichen Datenbank zu registrieren. Außerdem könnten KI-Anbieter die Auflagen für risikoreiche KI-Systeme umgehen, indem sie einfach behaupten, dass ihre Systeme nur vorbereitende oder beschränkte Aufgaben erfüllen.

Die KI-Verordnung enthält sehr wichtige Maßnahmen, um davor zu schützen, dass KI-Systeme missbraucht werden oder Schäden anrichten. Aber:

„Erst wird groß angekündigt, die Big-Tech-Konzerne stärker in die Pflicht zu nehmen. Im Laufe der politischen Verhandlungen lösen sich solche Pläne dann auf. Das dürfte nicht zuletzt an den vielen Millionen Euro liegen, die Big Tech für die Lobbyarbeit bei Entscheidungsträger*innen ausgibt.“

Matthias Spielkamp, Geschäftsführer von AlgorithmWatch

Menschenrechte: In Straßburg und Brüssel auf verlorenem Posten

Die KI-Konvention des Europarats und die KI-Verordnung der EU unterscheiden sich in einer Hinsicht gar nicht voneinander: Beide Regelwerke werden wahrscheinlich dafür sorgen, dass die „nationale Sicherheit“ ein Freifahrtschein für alle KI-Systeme ist. Mit diesem Argument können KI-Systeme vom Geltungsbereich der Gesetze ausgenommen werden.

„Private Unternehmen und die Sicherheitsbeauftragten der Regierungen haben in den beiden europäischen KI-Regelwerken ihre Interessen durchgesetzt. Das ist einfach inakzeptabel. KI-Systeme können unsere Rechte und die Interessen unserer Gesellschaft beeinträchtigen: Damit lassen sich die Nachrichten selektieren, die wir online sehen, sie wählen automatisch die Werbung aus, die uns angezeigt wird, sie entscheiden darüber, welche Bewerber*innen für eine offene Stelle infrage kommen, überwachen Migrant*innen oder bestimmen die Frequenz von Polizeipatrouillen in bestimmten Gebieten.“

Stellvertretender Leiter des Policy- & Advocacy-Teams bei AlgorithmWatch

Noch bleibt ein wenig Zeit

Während die KI-Verordnung beinahe abgeschlossen ist, bleibt den politischen Entscheidungsträger*innen in Straßburg noch ein kleines Zeitfenster, um schwerwiegende Mängel zu korrigieren und die europäischen KI-Regulierung wieder an den Grundrechten auszurichten. Die KI-Konvention ist dazu da, die Menschenrechte, Demokratie und Rechtsstaatlichkeit zu schützen. Zu dieser Wurzel müssen die Verhandlungen zurückkehren.