Richtlinien für „Ethische KI“: Verbindliche Selbstverpflichtung oder Schönfärberei?

Im April haben wir begonnen, eine Übersicht von Richtlinien zu so genannter „ethischer Künstlicher Intelligenz“ zu erstellen. Unser Inventar ist mittlerweile durch Mithilfe unserer Leser*innen auf 83 Einträge angewachsen und findet weltweit Aufmerksamkeit. Es ist daher Zeit für eine kurze Zwischenbilanz: Es gibt einige substantielle Beiträge, aber vieles ist noch dünn. Zudem mangelt es an Überwachungsmechanismen zur Einhaltung der Richtlinien.

Die Diskussion um automatisierte Entscheidungen und ihre gesellschaftlichen Auswirkungen dreht sich immer wieder darum, ob „Künstliche Intelligenz“ reguliert werden soll, und wenn ja, wie und von wem. Immer wieder wird Selbstregulierung als eine Antwort genannt. Befürworter verweisen auf Beispiele von bereits existierenden Standards und Selbstverpflichtungen – nur hat niemand einen Überblick, welche Standards das sind und ob sie eingehalten werden. Wir haben gezielt nach Beispielen gesucht um festzuhalten, was sich auf beim Thema „Ethik der Algorithmen“ tut: Wer entwickelt was, und mit welchen Verpflichtungen gehen diese Initiativen einher?

Am 9.4.2019 veröffentlichten wir eine erste Übersicht. Die Resonanz war positiv und zeigt, wie notwendig eine solche Übersicht ist: Zum einen hat das Inventar bereits Einzug in die Forschung gehalten, zum anderen ist es auf mittlerweile 82 Einträge angewachsen.

Deshalb ist jetzt ein guter Zeitpunkt, um eine kurze Bilanz zu ziehen.

Wichtigste Erkenntnis: Wie schon bei der Erstveröffentlichung angemerkt, gibt es wenige Initiativen, die Mechanismen dafür vorsehen, die Einhaltung der Selbstverpflichtungen auch zu überwachen und durchzusetzen. Die meisten Dokumente sind Empfehlungen, Darlegung von Prinzipien oder Richtlinien. Von den 21 Beispielen, die als Selbstverpflichtung, Qualitätssiegel oder ähnliches gekennzeichnet sind, wird nur in drei Fällen eine Art von Überwachungsmechanismus oder Qualitätskontrolle erwähnt.  Dies heißt nicht, dass es bei den anderen keine gibt, sondern nur, dass sie nicht offensichtlich sind. Ohne Überwachung gibt es aber nur wenig Anreiz, sich bei der Entwicklung an ethische Prinzipien zu halten.

Richtlinien für "Ethische KI" mit bindendem Charakter und Information über Überwachungs- oder Kontrollmechanismen
Keine Information über Mechanismus18
Hinweise auf Mechanismus1
Information über Mechanismus2
Gesamt21

Selbstverpflichtungen sind ein beliebtes Mittel, um Regulierung zu entgehen, und daher ist es nicht überraschend, dass die meisten Einträge aus der Industrie kommen. Firmen wie SAP, Sage, Facebook, Google und viele andere haben entweder firmeneigene Prinzipien herausgegeben oder allgemeingültige Richtlinien formuliert, teils auch als Allianz (z. B. die Partnership on AI).

InitiatorAnzahl Initiativen
Privatwirtschaft22
Regierung (inkl. EU)18
Zivilgesellschaft18
Akademischer Sektor8
Industrieverbände6
Berufsverbände4
Sonstige4
Internationale Organisationen3
Gesamt83

Ein Drittel der Einträge erheben Anspruch auf weltweite Gültigkeit. Neben Firmenallianzen haben auch weltweite zivilgesellschaftliche Institutionen (z. B. die UNI Global Union) oder sektorenübergreifenden Organisationen wie das Future of Life Institut Prinzipien veröffentlicht. Die große Anzahl der Einträge aus Deutschland ist wahrscheinlich Sprachbarrieren geschuldet. Hier hoffen wir, dass wir im Lauf der Zeit weitere Hinweise aus vielen anderen Sprachräumen bekommen, wenn das Inventar bekannter wird.

LandAnzahl Einträge
Deutschland12
USA6
Kanada5
Großbritannien4
China3
Frankreich3
Dänemark2
Singapur2
Dubai1
Japan1
Niederlande1
Südkorea1
Spanien1
Global32
Regionale/Supranational Organisationen
EU5
OECD Länder1
G201
Lateinamerika1
UNESCO1
Gesamt83

Wir haben sicher noch nicht alle Initiativen gefunden und bitten deshalb weiter um Hilfe dabei, Beispiele zu finden.

Wir haben die Einträge nicht inhaltlich analysiert, aber auf den ersten Blick werden Fairness, Rechenschaftspflicht (Accountability), Ethik und Transparenz bei allen erwähnt. Von einer halben Seite mit fünf Spiegelstrichen bis zu detaillierten Veröffentlichungen mit Vorschlägen zur praktischen Umsetzung ist alles dabei.

Die bisher wichtigste Erkenntnis bleibt, dass es kaum Überprüfungsprozesse gibt. Viele Initiativen sind noch neu, daher kann es sein, dass sie sich noch entwickeln, jedoch gibt es auch die Einschätzung, dass es sich hier um keine ernsthaften Anstrengungen handelt, sondern nur um ein klassisches Feigenblatt, um staatlicher Regulierung zu entgehen. Die Diskussionen erinnern an die Idee der Corporate Social Responsibility (CSR). Es hat Jahrzehnte gebraucht, bis CSR (teilweise) den Ruf des Green- bzw. Whitewashing losgeworden ist und weltweit Standards gesetzt wurden, die von vielen Firmen auch eingehalten werden. Wie sich der Diskurs um den angemessenen Einsatz von Systemen mit so genannter „Künstlicher Intelligenz“ entwickelt, wird entscheidend davon abhängen, welche Motive die Unternehmen und Organisationen, die sie entwickeln, mit ihnen verfolgen.

Bleiben Sie auf dem Laufenden...
Abonnieren Sie den AlgorithmWatch-Newsletter!