Europarat schafft Rahmenbedingungen für Künstliche Intelligenz

Algorithmische Systeme – oft bekannt unter dem Schlagwort ‚Künstliche Intelligenz‘ (KI) – durchdringen zunehmend unser tägliches Leben. Sie werden eingesetzt, um Sozialleistungsbetrug aufzudecken, Menschen am Arbeitsplatz zu überwachen oder das Rückfallrisiko von Strafentlassenen vorherzusagen. Oftmals beruhen diese Systeme allerdings nicht nur auf wackligen wissenschaftlichen Grundlagen, sondern können auch Grundrechte – wie jene auf Nichtdiskriminierung, Meinungsäußerungsfreiheit, Privatsphäre oder Zugang zur Justiz – verletzen, demokratische Grundprinzipien untergraben und durch Intransparenz und fehlende Rechenschaft mit rechtsstaatlichen Grundsätzen in Konflikt geraten. Vor diesem Hintergrund ist nun auch der Europarat tätig geworden: Seine Mitgliedsstaaten sollen gemeinsam die Rahmenbedingungen ausarbeiten, die für die Entwicklung und Nutzung von KI-Systemen künftig gelten sollen.

Der Europarat ist eine internationale Organisation, die 1949 gegründet und mit der Aufgabe betraut wurde, Menschenrechte, Demokratie und Rechtsstaatlichkeit in Europa zu wahren. Er zählt derzeit 46 Mitgliedstaaten (von denen 27 auch Mitglieder der Europäischen Union (EU) sind) und hat seinen Sitz in Straßburg. Nicht zu verwechseln ist er mit dem Europäischen Rat und dem Rat der EU, die – im Gegensatz zum Europarat – beide Gremien der EU sind. 1950 hat der Europarat die Europäische Menschenrechtskonvention (EMRK) ausgearbeitet, deren Ratifizierung noch immer eine Voraussetzung für den Beitritt neuer Mitgliedstaaten ist. Der Europarat beherbergt den Europäischen Gerichtshof für Menschenrechte, der die Umsetzung der EMRK überwacht, und fördert die Menschenrechte durch eine Reihe zusätzlicher Maßnahmen, darunter internationale Übereinkommen wie das Cybercrime-Übereinkommen oder die Konvention 108 zum Datenschutz.

Was bisher geschah

• September 2019: Das Ministerkomitee des Europarats setzt den Ad-hoc-Ausschuss für Künstliche Intelligenz (CAHAI) ein. Dieser wird damit beauftragt, „die Machbarkeit und die möglichen Elemente eines Rechtsrahmens für die Entwicklung, das Design und die Anwendung von KI-Systemen basierend auf den Standards des Europarates – Menschenrechte, Demokratie und Rechtsstaatlichkeit – und auf Basis breiter Konsultationen mit verschiedenen Interessensgruppen zu prüfen“.
  
  • Ein „Rechtsrahmen“ könnte von unverbindlichen Empfehlungen und Leitlinien bis hin zu rechtsverbindlichen internationalen Übereinkommen reichen, die nicht nur von Mitgliedstaaten, sondern auch von Nicht-Mitgliedstaaten unterzeichnet werden können. 

• Dezember 2020: CAHAI veröffentlicht eine „Machbarkeitsstudie“ zu einem Rechtsrahmen für KI.
• Dezember 2021: Das CAHAI-Mandat endet. In der letzten Plenarsitzung werden die abschließenden Empfehlungen „Mögliche Elemente eines Rechtsrahmens für Künstliche Intelligenz auf der Grundlage der Standards des Europarats für Menschenrechte, Demokratie und Rechtsstaatlichkeit" angenommen.
• April 2022: Der neue Ausschuss für Künstliche Intelligenz (Committee on Artificial Intelligence CAI) hält seine konstituierende Sitzung in Rom ab. Seine Arbeit wird sich auf die abschließenden Empfehlungen des CAHAI stützen und von diesen beeinflusst werden. Der CAI hat nun jedoch den Auftrag, bis November 2023 ein „geeignetes Rechtsinstrument für die Entwicklung, das Design und die Anwendung von Systemen der Künstlichen Intelligenz auszuhandeln, das auf den Standards des Europarats für Menschenrechte, Demokratie und Rechtsstaatlichkeit beruht und die Innovation fördert, in Übereinstimmung mit den einschlägigen Beschlüssen des Ministerkomitees“ - siehe Mandatsbestimmungen.
• Mai 2022: Auf seiner Sitzung in Turin begrüßt das Ministerkomitee des Europarats die Empfehlungen des CAI, ein horizontales, rechtlich bindendes Instrument zur Regulierung von KI zu schaffen. Die Minister*innen bestätigen das Mandat, ein „geeignetes Instrument“ auszuhandeln, ohne zu spezifizieren, welche Form dieses annehmen könnte – und damit ohne sich darauf festzulegen, ob es sich dabei etwa um ein rechtlich bindendes Übereinkommen oder Rahmenübereinkommen handeln soll.   

Wie wird die Arbeit des Europarates unsere Rechte, unsere Demokratie und rechtsstaatliche Prinzipien schützen?

CAHAI empfahl eindeutig, dass dieser „Rechtsrahmen“ die Form eines verbindlichen Instruments haben sollte. Dies könnte ein internationales Übereinkommen (‚Convention‘) oder ein Rahmenübereinkommen (‚Framework Convention‘) sein, die beide für die Unterzeichnerstaaten völkerrechtlich bindend wären und die Entwicklung und Nutzung von KI-Systemen umfassend regeln würden. Sie würden sich also nicht auf einen bestimmten Sektor beschränken, sondern horizontale Anforderungen enthalten (könnten aber durch zusätzliche verbindliche oder nicht verbindliche sektorale Instrumente ergänzt werden).

Ein solches (Rahmen-)Übereinkommen würde eine Reihe von Anforderungen an Staaten enthalten, die sicherstellen sollen, dass bei der Entwicklung und Nutzung von KI-Systemen die Menschenrechte nicht verletzt werden. Die Unterzeichnerstaaten müssten diese Anforderungen dann auf nationaler Ebene umsetzen, indem sie entsprechende innerstaatliche Gesetze, Strategien und Schutzmaßnahmen einführen. Betroffene Personen wären somit durch innerstaatliche Schutzmaßnahmen und Gesetze vor diskriminierenden, ungerechten oder schädlichen Auswirkungen von KI-Systemen geschützt und könnten auf nationaler Ebene Rechtsmittel einlegen. Üblicherweise wird zudem für (Rahmen-)Konventionen ein Überwachungsverfahren auf Ebene des Europarats eingerichtet, wie ein solches aber genaue ausgestaltet sein könnte, wird ebenfalls von CAI ausgehandelt. Was bereits klar ist: Es würde nicht die Möglichkeit beinhalten, dass Einzelpersonen Verstöße gegen das neue KI-Übereinkommen direkt vor dem Europäischen Gerichtshof für Menschenrechte geltend machen können. Dessen Mandat ist nämlich auf die EMRK beschränkt. Trotzdem könnten Einzelpersonen aber natürlich Beschwerden über eine Verletzung ihrer EMRK-Rechte im Zusammenhang mit KI-Systemen einreichen – und der Gerichtshof würde dann aller Voraussicht nach die im spezifischen KI-Rechtsinstrument verankerten Grundsätze mitberücksichtigen.

So engagieren wir uns

• AlgorithmWatch hat in den Jahren 2020 und 2021 als offizielle Beobachterin im CAHAI teilgenommen. Wir waren aktives Mitglied sowohl seiner Policy Development Group (PDG) als auch der Legal Framework Group (LFG).
• Am Ende des CAHAI-Mandats und nach zwei Jahren intensiver Arbeit befürchten wir, dass die Empfehlungen des CAHAI hinter dem zurückbleiben, was notwendig ist, um die uneingeschränkte Achtung und den Schutz der Menschenrechte, der Demokratie und der Rechtsstaatlichkeit zu gewährleisten. Lesen Sie unsere gemeinsame Erklärung, die wir mit Partnerorganisationen aus der Zivilgesellschaft veröffentlicht haben und in der wir die Mitgliedstaaten auffordern, Rahmenbedingungen für die Anwendung von KI zu schaffen, die sich wirklich am Mandat des Europarats orientieren.
• AlgorithmWatch wird weiterhin aktiv als offizielle Beobachterin an den Verhandlungen im neu geschaffenen CAI teilnehmen. Bei der Eröffnungssitzung des CAI haben wir in Zusammenarbeit mit unseren wichtigsten Partnerorganisationen unsere Kernforderungen klar formuliert.

AlgorithmWatch wird weiterhin dafür sorgen, dass die zivilgesellschaftliche Stimme in die CAI-Verhandlungen eingebracht wird – und für ein Rechtsinstrument zu KI-Systemen kämpfen, das sich wirklich am Mandat des Europarates orientiert: dem Schutz unserer grundlegenden Rechte, unserer Demokratie und der Rechtsstaatlichkeit.

Lesen Sie mehr zu unserer Policy & Advocacy Arbeit zum Europarat.