Towards accountability in the use of Artificial Intelligence for Public Administrations

Michele Loi und Matthias Spielkamp analysieren den Regelungsgehalt von 16 Richtliniendokumenten über den Einsatz von KI im öffentlichen Sektor, indem sie deren Anforderungen mit den Kriterien unserer philosophischen Darstellung von Rechenschaftspflicht abgleichen. Sie kommen zu dem Schluss, dass einige Richtlinien zwar auf Prozesse verweisen, die auf eine Prüfung hinauslaufen, die Debatte jedoch von mehr Klarheit über die Art der Berechtigung von Prüfern und die Ziele der Prüfung profitieren würde. Dies diene nicht zuletzt dazu, ethisch sinnvolle Standards zu entwickeln, anhand derer verschiedene Formen der Prüfung bewertet und verglichen werden können.

Matthias Spielkamp
Geschäftsführer, Mitgründer und Gesellschafter

In ihrer Analyse argumentieren die Autoren, dass verteilte Verantwortung, induzierte Akzeptanz und Akzeptanz durch Unwissenheit Instanzen der unvollkommenen Delegation darstellen, wenn Aufgaben an rechnergestützte Systeme übergeben werden, was die menschliche Rechenschaftspflicht in Frage stellt. Loi und Spielkamp verdeutlichen, dass sowohl die direkte, als auch indirekte, transparenzbasierte Rechenschaftspflicht gegenüber Rechnungsprüfer·innen in öffentlichen Organisationen sowohl instrumentell ethisch wertvoll als auch deontologisch aus dem Prinzip der demokratischen Selbstverwaltung heraus erforderlich sein kann.

Lesen Sie das Paper in englischer Sprache:

Weiterlesen

Bild des Algorithmwatch Teams. Aufgereiht vor einer Holztreppe.

Spenden

Michele Loi (er/ihm)

Senior Research Advisor

Foto: Julia Bornkessel

Dr. Michele Loi ist Senior Research Advisor bei AlgorithmWatch. Er ist Senior Researcher am Institut für Biomedizinische Ethik und Medizingeschichte sowie Research Fellow bei der Digital Society Initiative an der Universität Zürich. 2015 und 2016 war er Consultant bei der World Health Organization, für die er die Publikation Guidance For Managing Ethical Issues In Infectious Disease Outbreaks betreute und am Entwurf der Guidelines on Ethical Issues in Public Health Surveillance mitwirkte.

Abonniere jetzt unseren Community Newsletter!


Mehr Informationen findest du in unserer Datenschutzerklärung.