Algorithmenbasierte Diskriminierung oder nachhaltige Rechenzentren? Kaum Pläne der Bundesregierung nach 100 Tagen im Amt
Die Ampelregierung ist seit 100 Tagen im Amt – bisher lässt sich nicht erkennen, ob und wie sie auf die Risiken algorithmischer Diskriminierung eingehen will. Auch bei nachhaltiger Digitalisierung zeigt sich dringender Handlungsbedarf, Vorstöße auf Regierungsseite sind aber kaum zu sehen.
Im Koalitionsvertrag stellt die Bundesregierung in Aussicht, dass sie einen modernen Staat durch eine „umfassende Digitalisierung der Verwaltung“ voranbringen möchte und dabei auf „Automation“ setzen will. Gleichzeitig verspricht sie: „Jeglicher Diskriminierung wirken wir entgegen“. Aus diesen beiden Versprechen lässt sich die Anforderung ableiten, Automatisierungsprozesse im öffentlichen Sektor diskriminierungsfrei voranzutreiben.
Der Blick in andere europäische Länder zeigt, welche Diskriminierungsrisiken von Systemen des automatisierten Entscheidens (ADM-Systeme) ausgehen können. Besonders der zunehmende Einsatz von ADM-Systemen in der öffentlichen Verwaltung birgt ein erhöhtes Risiko. Behörden tragen eine besondere Verantwortung gegenüber den Menschen, die von ihren Entscheidungen betroffen sind. Deshalb müssen strenge Anforderungen für ADM-Systeme im öffentlichen Sektor gelten.
Wir fordern daher die Bundesregierung auf, sich für mehr Transparenz bei ADM-Systemen in der öffentlichen Verwaltung einzusetzen, Verantwortlichkeiten klar zu regeln und individuelle sowie demokratische Kontrolle zu ermöglichen. Ein wichtiger Schritt: Die Bundesregierung stellt in Aussicht, sich im Rahmen der KI-Verordnung auf europäischer Ebene für zusätzliche Transparenzvorgaben für alle KI-Anwendungen im öffentlichen Sektor einzusetzen. Wir fordern, dass alle in der Verwaltung eingesetzten ADM-Systeme in öffentlichen Datenbanken aufgeführt werden – mit Informationen zu durchgeführten Folgenabschätzungen in Bezug auf Transparenz, Verantwortlichkeit und Risikominimierung.
Darüber hinaus sollte auch die im Koalitionsvertrag in Aussicht gestellte Evaluation des Allgemeinen Gleichbehandlungsgesetzes (AGG) dringend mit Blick auf algorithmenbasierte Diskriminierung erfolgen. Aktuell bietet das AGG auf diesem Gebiet keinen ausreichenden Rechtsschutz – zu diesem Urteil kommt auch die Datenethikkommission in ihrem Abschlussbericht. Die Bundesregierung muss daher die Chance nutzen, das AGG zu einem effektiven Instrument gegen algorithmenbasierte Diskriminierung zu machen. Eine zentrale Voraussetzung hierfür ist, ein Verbandsklagerecht im AGG zu verankern und auf die Herausforderungen von Diskriminierung auf Grundlage von Proxy-Variablen einzugehen. Bisher scheint die Bundesregierung den Handlungsbedarf nicht erkannt zu haben.
Handlungsbedarf besteht ebenfalls bei nachhaltiger Digitalisierung. Das Versprechen, Rechenzentren in öffentlicher und privater Hand nachhaltiger auszurichten, muss schnell angegangen werden. Je mehr Zeit die Bundesregierung verstreichen lässt, umso zahlreicher entstehen umweltschädliche Rechenzentren, die über die nächsten Jahrzehnte hinweg in Betrieb bleiben werden. Die Regierung muss daher jetzt handeln, um ressourceneffiziente und nachhaltige Lösungen für die Abwärmenutzung oder die Energieeffizienz von Rechenzentren zu verankern. AlgorithmWatch wird daher über den Koalitionstracker von FragDenStaat genau beobachten, welche Schritte die Bundesregierung wann in Angriff nimmt, um ihr Versprechen einzuhalten, nachhaltige Rechenzentren zu etablieren.