Wenn der virtuelle Grenzbeamte “Nein“ sagt: AlgorithmWatch veröffentlicht Datenbank über KI-Systeme an den europäischen Außengrenzen

Berlin, 27. November 2024. Die Nichtregierungsorganisation AlgorithmWatch hat zahlreiche von der EU finanzierte Tests von KI-Systemen an den europäischen Außengrenzen untersucht und in einer frei zugänglichen Datenbank zusammengefasst. Die Organisation kritisiert die Projekte mit Blick auf ethische Fragen und mangelnde Transparenz. Ferner könnten die untersuchten Systeme oft auch für militärische Zwecke verwendet und früher oder später im Inland oder von autokratischen Regimen eingesetzt werden. Die Datenbank ist hier einzusehen.

Mehr als ein Jahr lang hat AlgorithmWatch unter dem Titel „Automation on the Move“ zahlreiche EU-finanzierte Forschungsprojekte im Bereich Grenzsicherheit untersucht, die den Einsatz automatisierter Systeme und Künstlicher Intelligenz beinhalten.

Von zahlreichen Projekten konnten 24 näher beleuchtet werden, für die Kosten in Höhe von 152 Millionen Euro entstanden sind. Die EU hat davon insgesamt knapp 139 Millionen Euro (91 Prozent) getragen. Die Ergebnisse der Untersuchung sind nun in einer Datenbank frei zugänglich. So können beispielsweise die Kosten, die eingesetzten Technologien, der geplante Zweck, die beteiligten Akteure aus verschiedenen Staaten, die Laufzeit und der aktuelle Stand eingesehen werden.

„Wir haben einen Blick darauf geworfen, wie die EU Automatisierung und KI zur Kontrolle der menschlichen Mobilität konzipiert und einsetzt. Es ist verstörend zu sehen, was die EU unter verantwortungsvoller KI-Politik versteht. Was hier beschönigend als Reiseerleichterungen bezeichnet wird, sind Überwachungsmethoden, die Menschen in erwünschte und unerwünschte Reisende einteilen. Menschen auf der Flucht werden unmenschlichen Sortierungs- und Überprüfungsverfahren ausgesetzt. Es ist längst bekannt, dass die meisten der KI-basierten Erkennungsverfahren diskriminieren und fehlerhaft sind. Im schlechtesten Fall entscheiden diese Systeme über Leben und Tod eines Menschen“, sagt Projektleiter Fabio Chiusi, Wissenschaftlicher Mitarbeiter bei AlgorithmWatch.

Technisch findet sich bei den untersuchten Systemen eine große Bandbreite: Beworben werden virtuelle Grenzbeamte mit angeschlossenem Lügendetektor, Handvenen-, Infraschall- und Irisscanner, Augen- und Bewegungstracking, AR-Brillen (Augmented Reality) und allerlei Hochleistungssensoren.

Erklärter Zweck der Systeme seien laut der EU bisher Meeresüberwachung, Grenzsicherung, der Schutz vor Schmuggel und die Verifizierung von persönlichen Dokumenten während der Einreise – selbstverständlich nur „zur Reiseerleichterung“, wie es an vielen Stellen heißt. Während an den Außengrenzen schon jetzt zahlreiche Menschen gewaltsam analog abgewiesen werden und viele ihr Leben verlieren, betont die EU mit Blick auf die Grenz-KI-Projekte, dass Datenschutz und Menschenrechte eingehalten würden.

AlgorithmWatch zweifelt daran, dass der Einsatz der Systeme auf die Grenzen beschränkt bleibt: „Wir sehen bei den Projekten und bei ihren Begründungen, dass Migration ausschließlich als Problem bewertet und fast nur durch die Brille von Verbrechensbekämpfung betrachtet wird. Das erklärt auch den rein technischen Ansatz im Umgang mit Menschen auf der Flucht. Gewissermaßen versucht man, den Folgen von Krieg und Hunger mit KI und Überwachung beizukommen. Zudem wäre es blauäugig zu glauben, dass diese Systeme auf den Einsatz an den Außengrenzen begrenzt bleiben. Es gab bisher kaum eine Überwachungstechnologie, deren Einsatz nicht früher oder später auch von den Sicherheitsbehörden im Inland gefordert worden ist“, sagt Matthias Spielkamp, Geschäftsführer von AlgorithmWatch.

Die NGO mit Sitz in Berlin fürchtet zudem, dass zahlreiche der geförderten Technologien auch für militärische Zwecke eingesetzt werden könnten. Mehrere Projekte beinhalten eindeutig Militär- und Verteidigungsbehörden als Partner. Auch sei es möglich, dass die von der EU unterstützten Technologien am Ende in Autokratien landen. So war die belarussische Diktatur bis zu Russlands Versuch der Vollinvasion der Ukraine an mindestens zwei der Projekte beteiligt.

Hintergrund

• Projektseite „Automation on the Move” with Database

Verfahren der Untersuchung

Untersuchungsgegenstand waren Horizon 2020 (H2020) und sein Nachfolger Horizon Europe (HE), zwei der vielen bestehenden EU-Förderprogramme für neue Technologien bei Grenzüberwachung und -verwaltung.

Im Zuge des Projekts hat AlgorithmWatch sowohl eigene Recherchen angestellt als auch mit Expertinnen und Experten aus der Zivilgesellschaft zusammengearbeitet. Die eigenen Recherchen fußen vor allem auf drei Standbeinen:

• einer ausführlichen Literaturrecherche zum Stand der Forschung (die AlgorithmWatch in einer Bibliografie frei zugänglich gemacht hat);
• eine intensive Auseinandersetzung mit den zur Verfügung stehenden Dokumenten der europäischen Institutionen sowie der an den Projekten beteiligten Unternehmen und Einrichtungen;
• zahlreiche Informationsanfragen an die Research Executive Agency (REA), die Agentur der EU-Kommission, die Forschungs- und Innovationsprojekte verwaltet, und Auswertung der erhaltenen Antworten.

Zu Beginn und während des Projekts führte AlgorithmWatch zahlreiche Interviews mit Akteurinnen und Akteuren aus Wissenschaft und Zivilgesellschaft. Am 7. Mai 2024 organisierte AlgorithmWatch an der Hertie School in Berlin die Konferenz „Rethinking tech in migration“, wo viel Expertise zum untersuchten Gegenstand zusammengeführt werden konnte. Die Projektdauer betrug 18 Monate.