Im Reich der Papiertiger – Von “ethischer KI” und zahnlosen Richtlinien
Leonard Haas
Vor einem Jahr hat AlgorithmWatch begonnen, Richtlinien für „ethische KI“ in einem Verzeichnis zusammenzustellen. Von den mehr als 160 Richtlinien, die wir inzwischen in unserem komplett überarbeiteten AI Ethics Guidelines Global Inventory erfasst haben, verfügt nur ein Bruchteil über angemessene Aufsichts- und Durchsetzungsmachnismen. Die überwältigende Mehrheit stammt aus dem globalen Norden.
Bereits eine erste Zwischenbilanz im Juni 2019 zeigte, dass die überwiegende Zahl der Ethikrichtlinien keine Überwachungsmechanismen für deren Einhaltung voweisen konnte. Darüber hianus wurde deutlich, dass es ein großes Interesse gibt, die Entwicklungen in diesem Bereich weiter zu beoabachten. Im Laufe des letzten Jahres ist die Zahl der Richtlinien weiter gestiegen. Der private Sektor, Regierungsinitiativen und die Zivilgesellschaft halten sich dabei die Waage.
Von den mehr als 160 Dokumenten in unserer Datenbank verfügen lediglich zehn über praktische Durchsetzungsmechanismen. Sowohl die Richtlinien des privaten als auch die des öffentlichen Sektors sind meist freiwillige Verpflichtungen oder allgemeine Empfehlungen. Auffallend ist, dass sich der Privatsektor in hohem Maße auf freiwillige Verpflichtungen stützt, während staatliche Akteure hauptsächlich Empfehlungen für Verwaltungsorgane aussprechen. Viele Richtlinien enthalten Formulierungen, die den Charakter des Dokuments als Orientierungshilfe oder als Vorschlag herunterspielen.
Aufgrund der Vielzahl von Anwendungsfeldern, Zielsetzungen und Akteuren existieren viele verschiedene Ansätze, Mischformen und Kombinationen. Diese Heterogenität erschwert die Klassifizierung in eindeutige Kategorien. Der Umfang der Ethikrichtlinien in der Datenbank reicht von einzelnen Seiten mit kurz umrissenen Prinzipien bis hin zu detaillierten Publikationen. Die Bandbreite der Herausgeber reicht von von jungen Tech-Start-ups bis hin zu internationalen Organisationen. Doch selbst die Richtlinien des weltgrößten Berufsverbandes von Ingenieur·innen IEEE erweisen sich als weitgehend wirkungslos, da große Technologieunternehmen wie Facebook, Google und Twitter sie nicht umsetzen (ungeachtet der Tatsache, dass viele ihrer Ingenieur·innen und Entwickler·innen IEEE-Mitglieder sind).
Die meisten der Richtlinien, die wir in unserem Verzeichnis erfasst haben, stammen aus den wohlhabenden Ländern der OECD. Stimmen aus dem globalen Süden sind bislang nur spärlich vertreten.
Die Mehrzahl der untersuchten Richtlinien beschränkt sich auf vage Formulierungen, und in den meisten Fällen gibt es überhaupt keine Durchsetzungsmechanismen. Häufig werden Prinzipien miteinander verwoben, ohne eine klare Vorstellung davon zu haben, wie sie in der Praxis angewendet werden sollen. Daher eignen sich viele Richtlinien nicht als Instrument gegen den potenziell schädlichen Einsatz von KI-basierten Technologien und dürften beim Versuch, Schäden zu verhindern, scheitern. Es stellt sich die Frage, ob Richtlinien, die weder angewendet noch durchgesetzt werden können, nicht schädlicher sind, als überhaupt keine ethischen Richtlinien zu haben. Ethik-Richtlinien sollten mehr als ein PR-Instrument für Unternehmen und Regierungen sein.
Zum AI Ethics Guidelines Global Inventory (Website in englischer Sprache)
Hat dir diese Story gefallen?
Alle zwei Wochen untersucht „Die automatisierte Gesellschaft“ die Auswirkungen automatisierter Systeme auf die Gesellschaft und die Welt um dich herum. Melde dich jetzt an und verpasse keine Story mehr!