Richtlinien für „Ethische KI“: Verbindliche Selbstverpflichtung oder Schönfärberei?

Die Diskussion um automatisierte Entscheidungen und ihre gesellschaftlichen Auswirkungen dreht sich immer wieder darum, ob „Künstliche Intelligenz“ reguliert werden soll, und wenn ja, wie und von wem. Immer wieder wird Selbstregulierung als eine Antwort genannt. Befürworter verweisen auf Beispiele von bereits existierenden Standards und Selbstverpflichtungen – nur hat niemand einen Überblick, welche Standards das sind und ob sie eingehalten werden. Wir haben gezielt nach Beispielen gesucht um festzuhalten, was sich auf beim Thema „Ethik der Algorithmen“ tut: Wer entwickelt was, und mit welchen Verpflichtungen gehen diese Initiativen einher?

Am 9.4.2019 veröffentlichten wir eine erste Übersicht. Die Resonanz war positiv und zeigt, wie notwendig eine solche Übersicht ist: Zum einen hat das Inventar bereits Einzug in die Forschung gehalten, zum anderen ist es auf mittlerweile 82 Einträge angewachsen.

Deshalb ist jetzt ein guter Zeitpunkt, um eine kurze Bilanz zu ziehen.

Wichtigste Erkenntnis: Wie schon bei der Erstveröffentlichung angemerkt, gibt es wenige Initiativen, die Mechanismen dafür vorsehen, die Einhaltung der Selbstverpflichtungen auch zu überwachen und durchzusetzen. Die meisten Dokumente sind Empfehlungen, Darlegung von Prinzipien oder Richtlinien. Von den 21 Beispielen, die als Selbstverpflichtung, Qualitätssiegel oder ähnliches gekennzeichnet sind, wird nur in drei Fällen eine Art von Überwachungsmechanismus oder Qualitätskontrolle erwähnt.  Dies heißt nicht, dass es bei den anderen keine gibt, sondern nur, dass sie nicht offensichtlich sind. Ohne Überwachung gibt es aber nur wenig Anreiz, sich bei der Entwicklung an ethische Prinzipien zu halten.

Richtlinien für „Ethische KI“ mit bindendem Charakter und Information über Überwachungs- oder Kontrollmechanismen
Keine Information über Mechanismus	18
Hinweise auf Mechanismus	1
Information über Mechanismus	2
Gesamt	21

Selbstverpflichtungen sind ein beliebtes Mittel, um Regulierung zu entgehen, und daher ist es nicht überraschend, dass die meisten Einträge aus der Industrie kommen. Firmen wie SAP, Sage, Facebook, Google und viele andere haben entweder firmeneigene Prinzipien herausgegeben oder allgemeingültige Richtlinien formuliert, teils auch als Allianz (z. B. die Partnership on AI).

Initiator	Anzahl Initiativen
Privatwirtschaft	22
Regierung (inkl. EU)	18
Zivilgesellschaft	18
Akademischer Sektor	8
Industrieverbände	6
Berufsverbände	4
Sonstige	4
Internationale Organisationen	3
Gesamt	83

Ein Drittel der Einträge erheben Anspruch auf weltweite Gültigkeit. Neben Firmenallianzen haben auch weltweite zivilgesellschaftliche Institutionen (z. B. die UNI Global Union) oder sektorenübergreifenden Organisationen wie das Future of Life Institut Prinzipien veröffentlicht. Die große Anzahl der Einträge aus Deutschland ist wahrscheinlich Sprachbarrieren geschuldet. Hier hoffen wir, dass wir im Lauf der Zeit weitere Hinweise aus vielen anderen Sprachräumen bekommen, wenn das Inventar bekannter wird.

Land	Anzahl Einträge
Deutschland	12
USA	6
Kanada	5
Großbritannien	4
China	3
Frankreich	3
Dänemark	2
Singapur	2
Dubai	1
Japan	1
Niederlande	1
Südkorea	1
Spanien	1
Global	32
Regionale/Supranational Organisationen
EU	5
OECD Länder	1
G20	1
Lateinamerika	1
UNESCO	1
Gesamt	83

Wir haben sicher noch nicht alle Initiativen gefunden und bitten deshalb weiter um Hilfe dabei, Beispiele zu finden.

Wir haben die Einträge nicht inhaltlich analysiert, aber auf den ersten Blick werden Fairness, Rechenschaftspflicht (Accountability), Ethik und Transparenz bei allen erwähnt. Von einer halben Seite mit fünf Spiegelstrichen bis zu detaillierten Veröffentlichungen mit Vorschlägen zur praktischen Umsetzung ist alles dabei.

Die bisher wichtigste Erkenntnis bleibt, dass es kaum Überprüfungsprozesse gibt. Viele Initiativen sind noch neu, daher kann es sein, dass sie sich noch entwickeln, jedoch gibt es auch die Einschätzung, dass es sich hier um keine ernsthaften Anstrengungen handelt, sondern nur um ein klassisches Feigenblatt, um staatlicher Regulierung zu entgehen. Die Diskussionen erinnern an die Idee der Corporate Social Responsibility (CSR). Es hat Jahrzehnte gebraucht, bis CSR (teilweise) den Ruf des Green- bzw. Whitewashing losgeworden ist und weltweit Standards gesetzt wurden, die von vielen Firmen auch eingehalten werden. Wie sich der Diskurs um den angemessenen Einsatz von Systemen mit so genannter „Künstlicher Intelligenz“ entwickelt, wird entscheidend davon abhängen, welche Motive die Unternehmen und Organisationen, die sie entwickeln, mit ihnen verfolgen.