AlgorithmWatch stellt vor: Ein KI-Transparenzregister für die öffentliche Verwaltung
Ein KI-Register würde die Digitalkompetenz von Behörden fördern und die Rechte der Bürger*innen stärken. Die Grünen im Bundestag greifen unsere Idee nun auf.
Die öffentliche Verwaltung kann mit Automatisierungs- und KI-Verfahren ihre Angebote und Prozesse verbessern. Ein öffentlich einsehbares Online-Register könnte dabei eine große Hilfe sein: Transparenz würde die Rechte der Betroffenen stärken und den Verwaltungen helfen, aus den Fehlern und Erfolgen anderer Projekte zu lernen. Bei einem Treffen im Bundestag diskutieren die Bundestagsabgeordneten Anna Christmann und Misbah Khan (Grüne) heute diese Idee mit Markus Richter, dem Beauftragten der Bundesregierung für Informationstechnik, Alina Lorenz vom Verein NExT e.V., der sich für die digitale Transformation der Verwaltung einsetzt, und AlgorithmWatch-Geschäftsführer Matthias Spielkamp.
Unternehmen und Verwaltung würden durch das KI-Register einen Überblick über Systeme erhalten, die bereits zum Einsatz kommen, und Menschen könnten automatisierte Entscheidungen, von denen sie betroffen sind, besser nachvollziehen und von Schutzrechten Gebrauch machen. Nicht zuletzt würden auch Zivilgesellschaft und Wissenschaft erfahren, welche Automatisierungssysteme verwendet werden. Dieses Wissen ist die Grundlage für einen Dialog darüber, welche Innovationen und welchen Einsatz der Systeme wir uns als Gesellschaft wünschen.
Denn Behörden tragen eine besondere Verantwortung gegenüber denen, die von ihren Entscheidungen betroffen sind. Daher müssen ihre automatisierten Prozesse verantwortungsvoll, grundrechtskonform und gemeinwohlorientiert sein. Automatisierte Systeme dürfen niemanden diskriminieren, wenn sie zum Beispiel über die Vergabe von Sozialleistungen oder Schulplätzen entscheiden.
Wenn unklar ist, wo und wie Behörden solche ADM-Systeme (für automated decision-making, automatisiertes Entscheiden) einsetzen, ist das nicht nur problematisch, weil es damit schwieriger wird, Risiken zu vermeiden. Sie können auch nicht aus den Erfahrungen anderer lernen, die vergleichbare Systeme zu einem ähnlichen Zweck einsetzen. Zudem könnte mehr Transparenz Software-Unternehmen helfen zu erkennen, welche Produkte die Verwaltungen überhaupt brauchen.
Behörden sollten die Informationen, die im Register veröffentlicht werden müssen, mithilfe einer Folgenabschätzung selbstständig erheben. Eine „Taskforce KI-Kompetenz“ könnte sie in diesem Prozess unterstützen und damit zugleich den Behörden helfen, dringend benötigte Kompetenzen aufzubauen. AlgorithmWatch hat gemeinsam mit dem Kanton Zürich und der Universität Basel eine solche Folgenabschätzung erarbeitet, die sich als Grundlage nutzen lässt.
Lesen Sie hier das vollständige Konzeptpapier:
Lesen Sie mehr zu unserer Policy & Advocacy Arbeit zu ADM im öffentlichen Sektor.