Towards accountability in the use of Artificial Intelligence for Public Administrations

Michele Loi und Matthias Spielkamp analysieren den Regelungsgehalt von 16 Richtliniendokumenten über den Einsatz von KI im öffentlichen Sektor, indem sie deren Anforderungen mit den Kriterien unserer philosophischen Darstellung von Rechenschaftspflicht abgleichen. Sie kommen zu dem Schluss, dass einige Richtlinien zwar auf Prozesse verweisen, die auf eine Prüfung hinauslaufen, die Debatte jedoch von mehr Klarheit über die Art der Berechtigung von Prüfern und die Ziele der Prüfung profitieren würde. Dies diene nicht zuletzt dazu, ethisch sinnvolle Standards zu entwickeln, anhand derer verschiedene Formen der Prüfung bewertet und verglichen werden können.

In ihrer Analyse argumentieren die Autoren, dass verteilte Verantwortung, induzierte Akzeptanz und Akzeptanz durch Unwissenheit Instanzen der unvollkommenen Delegation darstellen, wenn Aufgaben an rechnergestützte Systeme übergeben werden, was die menschliche Rechenschaftspflicht in Frage stellt. Loi und Spielkamp verdeutlichen, dass sowohl die direkte, als auch indirekte, transparenzbasierte Rechenschaftspflicht gegenüber Rechnungsprüfer·innen in öffentlichen Organisationen sowohl instrumentell ethisch wertvoll als auch deontologisch aus dem Prinzip der demokratischen Selbstverwaltung heraus erforderlich sein kann.

Lesen Sie das Paper in englischer Sprache:

Michele Loi (er)

Senior Research Advisor

Foto: Julia Bornkessel

Dr. Michele Loi ist Senior Research Advisor bei AlgorithmWatch. Er ist Senior Researcher am Institut für Biomedizinische Ethik und Medizingeschichte, sowie Research Fellow bei der Digital Society Initiative an der Universität Zürich. In 2015-2016 hat er als Consultant bei der World Health Organization das Verfassen der Guidance For Managing Ethical Issues In Infectious Disease Outbreaks koordiniert und half beim Entwurf der Guidelines on Ethical Issues in Public Health Surveillance bei der World Health Organization.

Matthias Spielkamp (er(ihm)

Geschäftsführer, Mitgründer und Gesellschafter

Foto: Julia Bornkessel, CC BY 4.0

Matthias Spielkamp ist Mitgründer, Gesellschafter und Geschäftsführer von AlgorithmWatch, das mit der Theodor-Heuss-Medaille ausgezeichnet und für einen Grimme Online Award nominiert wurde. Er war Sachverständiger in Anhörungen des Europarats, der EU-Parlaments, des Bundestags und ist Mitglied der Global Partnership on Artificial Intelligence (GPAI). Matthias ist Vorstandsmitglied bei Reporter ohne Grenzen, Mitglied des Kuratoriums der Stiftung Warentest, im Beirat des Whistleblower Netzwerks und im Fachausschuss Kommunikation/Information der Deutschen UNESCO-Kommission. Er ist Autor und Herausgeber der Automating Society Reports und Büchern zu Algorithmen, KI und Automatisierung, Internet Governance, der Zukunft des Journalismus und des Urheberrechts. Seine journalistischen Beiträge sind in MIT Technology Review, Die Zeit, brand eins und vielen anderen Publikationen erschienen. MA Philosophie, FU Berlin, MA Journalismus, University of Colorado at Boulder.