Pressemitteilung
Europarat: KI-Konvention wird Menschenrechte nicht angemessen schützen
Ende letzter Woche hat sich der Europarat auf eine Konvention zu Künstlicher Intelligenz (KI) geeinigt – und damit den Weg frei gemacht für den ersten bindenden internationalen Vertrag zu KI. Ausnahmen und Schlupflöcher für Unternehmen und Sicherheitsbehörden lassen befürchten, dass die Konvention Menschenrechte, Demokratie und Rechtsstaatlichkeit nicht umfassend zu schützen vermag.
Angela Müller
Head of Policy & Advocacy | Geschäftsleiterin AlgorithmWatch CH
In der letzten Phase der Verhandlungen hat AlgorithmWatch mit mehr als 100 Organisationen der Zivilgesellschaft und prominenten Wissenschaftler*innen die verhandelnden Staaten aufgefordert, Unternehmen und nationalen Sicherheitsbehörden beim Einsatz von KI nicht einfach freie Hand zu lassen. Auch die Menschenrechtskommissarin des Europarats und der Europäischen Datenschutzbeauftragte forderten, dass die Konvention auch auf private Unternehmen anwendbar sein muss. Dieser Ruf verhallte nicht gänzlich ungehört in Straßburg: Der inzwischen geleakte Text zeigt, dass zwar eine vollständige Ausnahme für private Unternehmen, wie sie einige Staaten gefordert hatten, vom Tisch ist. Allerdings wird den Staaten ermöglicht, Private mit Samthandschuhen anzufassen, wenn es um die Umsetzung der Konvention geht: Staaten können selbst entscheiden, welche Maßnahmen sie für Unternehmen vorsehen – und es muss sich dabei nicht um verbindliche Gesetze halten. Obwohl es nicht an Belegen mangelt, wie Tech-Konzerne mit Social-Media-Algorithmen oder Deep-Fake-Generatoren unsere öffentliche Meinungsbildung beeinflussen: Der Europarat scheint also darauf zu vertrauen, dass etwa auch eine reine Selbstregulierung von Unternehmen ausreichen wird, um Menschenrechte und Demokratie zu schützen.
Daran, dass alle Systeme, die unter dem Deckmantel der “nationalen Sicherheit” entwickelt und eingesetzt werden, nicht von der Konvention erfasst werden, hält der Europarat fest. Wenn also Sicherheitsbehörden KI einsetzen, um die Bevölkerung zu überwachen, werden keine zusätzlichen Regeln dafür sorgen, Menschenrechte und Rechtsstaatlichkeit zu schützen.
Auch sonst wird das Ergebnis den hohen Erwartungen an mehreren Stellen nicht gerecht. Die Staaten haben im Lauf der zweijährigen Verhandlungen die Konvention zunehmend weichgespült, so dass sie nun zum Ende einen quasi deklaratorischen Charakter erhielt. Auch Verbote von KI-Systemen, die mit Menschenrechten unvereinbar scheinen, sind nicht mehr explizit vorgesehen. Stattdessen wird es einzelnen Staaten überlassen, Menschen davor zu schützen, dass KI ihre Gesichter analysiert, wenn sie sich in der Öffentlichkeit bewegen, oder mit unwissenschaftlichen Methoden versucht, ihre Emotionen zu erkennen.
Ein schwaches Signal, das Straßburg in die Welt sendet
Die teilnehmenden Staaten entschuldigen die zahlreichen Ausnahmen und abgeschwächten Formulierungen damit, dass es zentral gewesen sei, um diverse Staaten mit an Bord zu haben – darunter auch Nicht-Europaratsmitglieder wie die USA, Kanada oder Israel. Obwohl es begrüßenswert ist, wenn die Konvention von vielen Ländern anerkannt wird, darf dies nicht dazu führen, dass dadurch ihr Mandat verwässert wird.
«Der Europarat schafft einen Präzedenzfall, wenn er den ersten internationalen Vertrag zu KI schafft, der Menschenrechte und Demokratie schützen soll – und dann Sicherheitsbehörden einen Freipass erteilt und Tech-Konzerne nur mit Samthandschuhen anfasst. Das könnte zukünftige Regulierungsvorhaben prägen. Es ist klar, wer davon einmal mehr profitiert: die Tech-Konzerne. Trotzdem ist es ein zivilgesellschaftlicher Erfolg, dass private Unternehmen nicht komplett ausgeschlossen werden können – es ist also ein fragwürdiger Kompromiss, über den wir trotzdem erleichtert sein müssen.»
Angela Müller, Head of Policy & Advocacy, AlgorithmWatch
Nach dem gestrigen Abschluss der Verhandlungen soll die KI-Konvention im Mai vom Ministerkomitee des Europarats offiziell verabschiedet werden. Danach steht sie den einzelnen Staaten zur Unterzeichnung offen. Ob alle, die an den Verhandlungen teilgenommen haben, auch tatsächlich unterzeichnen und ratifizieren werden, bleibt offen.
Deutschland ist gefordert
Deutschland hat in den nächsten Jahren die Aufgabe, sowohl die KI-Verordnung der EU als auch die KI-Konvention des Europarates national umzusetzen.
«Die Bundesregierung kann die Versäumnisse von Europarat und EU zumindest teilweise ausbügeln, indem sie bestimmte KI-Anwendungen verbietet, etwa zur Gesichtserkennung in der Öffentlichkeit, oder indem sie freiwillig mehr Transparenz schafft, etwa dazu, welche Systeme ihre Behörden anwenden, um Terrorgefahr aufzuspüren oder Migrantinnen zu überwachen. Diese Chance muss sie nutzen.»
Matthias Spielkamp, Gründer und Geschäftsführer von AlgorithmWatch
