Europarat schafft Rahmenbedingungen für Künstliche Intelligenz

Algorithmische Systeme – oft bekannt unter dem Schlagwort ‚Künstliche Intelligenz‘ (KI) –werden heute eingesetzt, um Sozialleistungsbetrug aufzudecken, Menschen am Arbeitsplatz zu überwachen oder das Rückfallrisiko von Strafentlassenen vorherzusagen. Oftmals beruhen diese Systeme allerdings nicht nur auf wackligen wissenschaftlichen Grundlagen, sondern können auch Grundrechte – wie jene auf Nichtdiskriminierung, Meinungsäußerungsfreiheit, Privatsphäre oder Zugang zur Justiz – verletzen, demokratische Grundprinzipien untergraben und durch Intransparenz und fehlende Rechenschaft mit rechtsstaatlichen Grundsätzen in Konflikt geraten. Vor diesem Hintergrund ist nun auch der Europarat tätig geworden: Er will Rahmenbedingungen ausarbeiten, die für die Entwicklung und Nutzung von KI-Systemen künftig gelten sollen.  Zu diesem Zweck verhandeln seine Mitgliedstaaten – darunter alle EU-Staaten – gemeinsam mit interessierten anderen Staaten wie die USA oder Japan derzeit in Straßburg eine KI-Konvention. Auch zivilgesellschaftliche Organisationen wie AlgorithmWatch sowie Expert*innen und Unternehmen sind als Beobachterorganisationen vertreten.

Der Europarat ist eine internationale Organisation, die 1949 gegründet und mit der Aufgabe betraut wurde, Menschenrechte, Demokratie und Rechtsstaatlichkeit in Europa zu wahren. Er zählt derzeit 46 Mitgliedstaaten (von denen 27 auch Mitglieder der Europäischen Union (EU) sind) und hat seinen Sitz in Straßburg. Nicht zu verwechseln ist er mit dem Europäischen Rat und dem Rat der EU, die – im Gegensatz zum Europarat – beide Gremien der EU sind. 1950 hat der Europarat die Europäische Menschenrechtskonvention (EMRK) ausgearbeitet, deren Ratifizierung noch immer eine Voraussetzung für den Beitritt neuer Mitgliedstaaten ist. Der Europarat beherbergt den Europäischen Gerichtshof für Menschenrechte, der die Umsetzung der EMRK überwacht, und fördert die Menschenrechte durch eine Reihe zusätzlicher Maßnahmen, darunter internationale Übereinkommen wie das Cybercrime-Übereinkommen oder die Konvention 108 zum Datenschutz.

Was würde dies bedeuten? Wie wird die Arbeit des Europarates unsere Rechte, unsere Demokratie und rechtsstaatliche Prinzipien schützen?

Der Europarat wird aller Voraussicht nach ein internationales Übereinkommen (‚Convention‘) oder ein Rahmenübereinkommen (‚Framework Convention‘) erarbeiten, also ein für die Unterzeichnerstaaten völkerrechtlich bindender Vertrag. Staaten wären somit frei, zu unterzeichnen – aber wenn sie dies tun, verpflichten sie sich rechtlich zur Einhaltung. Dies stünde nicht nur den Europaratsmitgliedern offen, sondern auch interessierten anderen Staaten – und dies ist auch der Grund, warum etwa Staaten wie die USA oder Israel in Straßburg mitverhandeln. 

Ein solches Übereinkommen würde eine Reihe von Pflichten für Staaten enthalten, die sicherstellen sollen, dass keine Menschenrechte verletzt werden bei der Entwicklung und Nutzung von KI-Systemen. Die Konvention würde sich nicht auf einen bestimmten Sektor beschränken, sondern horizontale Anforderungen enthalten (könnten aber durch zusätzliche verbindliche oder nicht verbindliche sektorale Instrumente ergänzt werden). Die Unterzeichnerstaaten müssten diese Anforderungen dann auf nationaler Ebene umsetzen, indem sie entsprechende innerstaatliche Gesetze und Schutzmaßnahmen einführen. Betroffene Personen wären somit durch die jeweils nationalen Gesetze vor schädlichen Auswirkungen von KI-Systemen geschützt und könnten auf nationaler Ebene Rechtsmittel einlegen. Auch würde die Konvention womöglich vorschreiben, dass Staaten eine nationale Aufsichtsstelle einrichten.

Üblicherweise wird zudem für (Rahmen-)Konventionen ein Überwachungsverfahren auf Ebene des Europarats eingerichtet, ob es ein solches geben wird und wie es ausgestaltet wäre, ist Gegenstand der Verhandlungen. Was bereits klar ist: Es würde nicht die Möglichkeit beinhalten, dass Einzelpersonen Verstöße gegen das neue KI-Übereinkommen direkt vor dem Europäischen Gerichtshof für Menschenrechte geltend machen können. Dessen Mandat ist nämlich auf die Europäische Menschenrechtskonvention EMRK beschränkt. Trotzdem könnten Einzelpersonen aber natürlich Beschwerden über eine Verletzung ihrer EMRK-Rechte im Zusammenhang mit KI-Systemen vor dem Gerichtshof geltend machen (vorausgesetzt, dass sie auf nationaler Ebene den Rechtsweg durchlaufen haben, die nationalen Gerichte also ihre Klage abgewiesen haben). Der Gerichtshof würde dann aller Voraussicht nach die im spezifischen KI-Rechtsinstrument verankerten Grundsätze zumindest in der Auslegung der betroffenen EMRK-Rechte mitberücksichtigen.

Was bisher geschah

• 2019 - 2021: Der vorbereitende Ausschuss, der Ad-hoc-Ausschuss für Künstliche Intelligenz (CAHAI), bereitet die Verhandlungen vor. Er veröffentlicht eine „Machbarkeitsstudie“ zu einem Rechtsrahmen für KI und verabschiedet zum Ende seines Mandates die abschließenden Empfehlungen „Mögliche Elemente eines Rechtsrahmens für Künstliche Intelligenz auf der Grundlage der Standards des Europarats für Menschenrechte, Demokratie und Rechtsstaatlichkeit“.
• April 2022: Der neue Ausschuss für Künstliche Intelligenz (Committee on Artificial Intelligence CAI) hält seine konstituierende Sitzung in Rom ab. Seine Arbeit wird sich auf die abschließenden Empfehlungen des CAHAI stützen und von diesen beeinflusst werden. Der CAI hat nun jedoch den Auftrag, bis November 2023 ein „geeignetes Rechtsinstrument“ auszuhandeln – siehe Mandatsbestimmungen.
• Juni 2022: Der Europarat legt fest, dass das Ziel der Verhandlungen ein rechtlich bindendes Übereinkommen oder Rahmenübereinkommen sein soll.
• Januar 2023: Dritte Plenarversammlung des CAI. Es wird beschlossen, dass die Sitzungen künftig zwischen Plenarversammlung und „Drafting Group“ aufgeteilt werden. Die Drafting Group soll Vorschläge zum Text der Konvention erarbeiten. Zivilgesellschaftliche und andere Beobachterorganisationen sind von ihr ausgeschlossen.
• Februar 2023: Das CAI veröffentlicht den ersten Entwurf der Konvention. Es handelt sich dabei jedoch um einen Entwurf des Sekretariats, der nun Grundlage für die Verhandlungen im CAI ist.
• Dezember 2023: Das CAI veröffentlicht den zweiten Entwurf der Konvention, der die Ergebnisse der zweiten Lesung enthält.

Wie geht es weiter?

Geplant ist eine letzte Plenarversammlung im März 2024. Dann sollen sich die Mitgliedstaaten auf den Text der Konvention einigen, die dann im Mai 2024 vom Ministerkomitee verabschiedet würde.

Was sagt AlgorithmWatch dazu?

AlgorithmWatch nimmt derzeit als aktive und offizielle Beobachterorganisation an den Verhandlungen des CAI teil. Zuvor haben wir in den Jahren 2020 und 2021 als offizielle Beobachterin im CAHAI mitgewirkt. Das Ziel unserer Beteiligung ist, die zivilgesellschaftliche Stimme in die Verhandlungen einzubringen und für eine KI-Konvention zu sorgen, die sich wirklich am Mandat des Europarates orientiert: dem Schutz unserer Grundrechte, unserer Demokratie und der Rechtsstaatlichkeit.

• Januar 2024: Gemeinsam mit weiteren zivilgesellschaftlichen Organisationen und Forscher*innen rufen wir die verhandelnden Staaten auf, den öffentlichen und den privaten Sektor gleichermassen zu erfassen und pauschale Ausnahmen für die nationale Sicherheit abzulehnen.
• Januar 2023: Anlässlich des Internationalen Tag des Datenschutzes rufen wir dazu auf, für eine wirksame KI-Konvention zu sorgen.
• Oktober 2022: Gemeinsam mit unseren Partnern rufen wir die EU dazu auf, die Verhandlungen des Europarates zur KI-Konvention nicht zu verzögern.
• April 2022: Bei der Eröffnungssitzung des CAI haben wir in Zusammenarbeit mit unseren wichtigsten Partnerorganisationen unsere Kernforderungen klar formuliert.
• Dezember 2021: Am Ende des CAHAI-Mandats und nach zwei Jahren intensiver Arbeit befürchteten wir, dass die Empfehlungen des CAHAI hinter dem zurückbleiben, was notwendig ist, um die uneingeschränkte Achtung und den Schutz der Menschenrechte, der Demokratie und der Rechtsstaatlichkeit zu gewährleisten.

Lesen Sie mehr zu unserer Policy & Advocacy Arbeit zum Europarat.