AlgorithmWatch fordert im Bundestag uneingeschränktes Verbot für Gesichtserkennung
AlgorithmWatch war zu Gast im Ausschuss für Digitales im Deutschen Bundestag. In der Anhörung haben wir auf ein Verbot der biometrischen Fernerkennung gedrängt.
Foto von Maheshkumar Painam auf Unsplash
AlgorithmWatch war am 15. Mai 2024 zu Gast im Ausschuss für Digitales im Deutschen Bundestag. In dieser öffentlichen Anhörung haben wir als Sachverständige der Bundesregierung gegenüber erörtert, welche Aspekte bei der Umsetzung der Europäischen KI-Verordnung in Deutschland zu berücksichtigen sind.
Unsere wichtigsten Empfehlungen lauten:
1. Die nationale Aufsichtsstelle sollte zügig aufgebaut werden. Sie muss unabhängig und schlank aufgestellt sein. Dabei ist eine vielfältige Expertise einzubeziehen. Es sollte einen KI-Beirat und ein effektives Beschwerdesystem geben.
2. Der Einsatz biometrischer Fernidentifikationssysteme (verkürzt meist „Gesichtserkennung“ genannt) im öffentlich zugänglichen Raum muss ohne Einschränkungen verboten werden. Die Verbote müssen im deutschen Durchführungsgesetz konkret ausformuliert werden.
3. Es muss ein nationales KI-Transparenzregister für die öffentliche Hand eingeführt werden, um die unvollständigen Informationen der geplanten EU-Datenbank für Hochrisiko-KI-Systeme zu ergänzen.
Zivilgesellschaftliche Aufsicht als Maßnahme gegen Diskriminierung
Nachdem die Europäische Union im März die Europäische KI-Verordnung (AI Act) beschlossen hat, muss die Bundesregierung nun Maßnahmen ergreifen, um das Gesetz in Deutschland umzusetzen. AlgorithmWatch setzt sich besonders dafür ein, dass auch Vertreter*innen der Zivilgesellschaft daran beteiligt sind, diese Umsetzung zu beaufsichtigen. Der Einsatz von KI und Automatisierung diskriminiert nämlich besonders oft ohnehin schon benachteiligte Menschen zusätzlich. Transparenz über den Einsatz von solchen Systemen würde dabei helfen, Diskriminierung zu entdecken und zu verhindern.
Warum ein konsequentes Verbot von Gesichtserkennung notwendig ist
Die KI-Verordnung erlaubt eine automatisierte biometrische Fernidentifikation (wie es im Gesetzestext offiziell heißt) unter bestimmten Umständen. Die Bundesregierung hat sich in ihrem Koalitionsvertrag jedoch eindeutig dafür ausgesprochen, biometrische Fernidentifikation vollständig zu verbieten. Erfahrungen aus anderen Ländern zeigen, dass diese Technologie besonders anfällig dafür ist, Menschen zu diskriminieren. Durch den Einsatz solcher Systeme werden Grundrechte bedroht: das Recht auf Privatsphäre, Datenschutz, Nichtdiskriminierung, Meinungs- und Informationsfreiheit, Versammlungs- und Vereinigungsfreiheit sowie auf Rechtsstaatlichkeit. Hunderttausende Menschen könnten rund um die Uhr überwacht werden, auf der Straße, in Supermärkten oder an Bahnhöfen. Unsere Anonymität an öffentlichen Orten wäre damit aufgehoben.
Deshalb halten wir biometrische Fernidentifikation für unverhältnismäßig und unvereinbar mit den Grundrechten. KI-Systeme zur Gesichtserkennung sorgen nicht für mehr Sicherheit. Die Bundesregierung hat also kein Argument für deren Einsatz und muss Gesichtserkennung in öffentlich zugänglichen Räumen vollständig verbieten.
