Towards accountability in the use of Artificial Intelligence for Public Administrations
Michele Loi und Matthias Spielkamp analysieren den Regelungsgehalt von 16 Richtliniendokumenten über den Einsatz von KI im öffentlichen Sektor, indem sie deren Anforderungen mit den Kriterien unserer philosophischen Darstellung von Rechenschaftspflicht abgleichen. Sie kommen zu dem Schluss, dass einige Richtlinien zwar auf Prozesse verweisen, die auf eine Prüfung hinauslaufen, die Debatte jedoch von mehr Klarheit über die Art der Berechtigung von Prüfern und die Ziele der Prüfung profitieren würde. Dies diene nicht zuletzt dazu, ethisch sinnvolle Standards zu entwickeln, anhand derer verschiedene Formen der Prüfung bewertet und verglichen werden können.
Matthias Spielkamp
Geschäftsführer, Mitgründer und Gesellschafter
Gründer und Präsident AlgorithmWatch CH
Gründer und Präsident AlgorithmWatch CH
In ihrer Analyse argumentieren die Autoren, dass verteilte Verantwortung, induzierte Akzeptanz und Akzeptanz durch Unwissenheit Instanzen der unvollkommenen Delegation darstellen, wenn Aufgaben an rechnergestützte Systeme übergeben werden, was die menschliche Rechenschaftspflicht in Frage stellt. Loi und Spielkamp verdeutlichen, dass sowohl die direkte, als auch indirekte, transparenzbasierte Rechenschaftspflicht gegenüber Rechnungsprüfer·innen in öffentlichen Organisationen sowohl instrumentell ethisch wertvoll als auch deontologisch aus dem Prinzip der demokratischen Selbstverwaltung heraus erforderlich sein kann.
Lesen Sie das Paper in englischer Sprache:
Michele Loi (er/ihm)
Senior Research Advisor
Foto: Julia Bornkessel, CC BY 4.0
Dr. Michele Loi ist Senior Research Advisor bei AlgorithmWatch. Er ist Senior Researcher am Institut für Biomedizinische Ethik und Medizingeschichte sowie Research Fellow bei der Digital Society Initiative an der Universität Zürich. 2015 und 2016 war er Consultant bei der World Health Organization, für die er die Publikation Guidance For Managing Ethical Issues In Infectious Disease Outbreaks betreute und am Entwurf der Guidelines on Ethical Issues in Public Health Surveillance mitwirkte.