Towards accountability in the use of Artificial Intelligence for Public Administrations

Michele Loi und Matthias Spielkamp analysieren den Regelungsgehalt von 16 Richtliniendokumenten über den Einsatz von KI im öffentlichen Sektor, indem sie deren Anforderungen mit den Kriterien unserer philosophischen Darstellung von Rechenschaftspflicht abgleichen. Sie kommen zu dem Schluss, dass einige Richtlinien zwar auf Prozesse verweisen, die auf eine Prüfung hinauslaufen, die Debatte jedoch von mehr Klarheit über die Art der Berechtigung von Prüfern und die Ziele der Prüfung profitieren würde. Dies diene nicht zuletzt dazu, ethisch sinnvolle Standards zu entwickeln, anhand derer verschiedene Formen der Prüfung bewertet und verglichen werden können.

In ihrer Analyse argumentieren die Autoren, dass verteilte Verantwortung, induzierte Akzeptanz und Akzeptanz durch Unwissenheit Instanzen der unvollkommenen Delegation darstellen, wenn Aufgaben an rechnergestützte Systeme übergeben werden, was die menschliche Rechenschaftspflicht in Frage stellt. Loi und Spielkamp verdeutlichen, dass sowohl die direkte, als auch indirekte, transparenzbasierte Rechenschaftspflicht gegenüber Rechnungsprüfer·innen in öffentlichen Organisationen sowohl instrumentell ethisch wertvoll als auch deontologisch aus dem Prinzip der demokratischen Selbstverwaltung heraus erforderlich sein kann.

Lesen Sie das Paper in englischer Sprache:

Matthias Spielkamp

Mitgründer und Geschäftsführer

Foto: Julia Bornkessel, CC BY 4.0
Matthias Spielkamp ist Mitgründer und Geschäftsführer von AlgorithmWatch, das mit der Theodor-Heuss-Medaille ausgezeichnet und für einen Grimme Online Award nominiert wurde. Er war Sachverständiger in Anhörungen des Europarats, der EU-Parlaments, des Bundestags und ist Mitglied der Global Partnership on Artificial Intelligence (GPAI). Matthias ist Vorstandsmitglied bei Reporter ohne Grenzen, Mitglied des Kuratoriums der Stiftung Warentest, im Beirat des Whistleblower Netzwerks und im Fachausschuss Kommunikation/Information der Deutschen UNESCO-Kommission. Er ist Autor und Herausgeber der Automating Society Reports und Büchern zu Algorithmen, KI und Automatisierung, Internet Governance, der Zukunft des Journalismus und des Urheberrechts. Seine journalistischen Beiträge sind in MIT Technology Review, Die Zeit, brand eins und vielen anderen Publikationen erschienen. MA Philosophie, FU Berlin, MA Journalismus, University of Colorado at Boulder.