Die automatisierte Festung Europa: Menschenrechte haben hier keinen Platz

Seit Jahrzehnten werden die EU-Außengrenzen mit modernster Überwachungstechnologie zu sogenannten Smart Borders (intelligenten Grenzen) aufgerüstet – mithilfe von Drohnen, Satelliten und anderen digitalen Beobachtungssystemen. Doch nun kommen Mauern aus Algorithmen und sogenannter Künstlicher Intelligenz hinzu.

Ihre Entwicklung wird mit Millionen Euro durch EU-Forschungsprogramme mit Namen wie Horizon 2020 und Horizon Europe finanziert. Die geförderten Projekte lesen sich wie ein Katalog von Überwachungstechnologien. Statt dabei zu helfen, Menschen in Lebensgefahr zu retten, gefährden sie uns alle.

Kein Wunder also, dass die meisten Initiativen versuchen, geheim zu halten, was genau sie entwickeln. Wir erfahren darüber so gut wie nichts. Schon immer haben Strafverfolgungs- und Grenzbehörden versucht, im Verborgenen zu arbeiten. Das Ziel: Eine demokratische Debatte über die Forschung und Entwicklung dieser KI-gesteuerten Überwachung unmöglich zu machen.

SCHWIERIGE RECHERCHE: WORÜBER DIE EU LIEBER SCHWEIGT

Als wir um Informationen über Forschungsprojekte baten, in denen solche Systeme entwickelt werden, erhielten wir viele Antworten ohne substanzielle Informationen.

Die Europäische Exekutivagentur für die Forschung (REA) ist von der EU-Kommission beauftragt, innovative Projekte in praktisch allen Forschungsbereichen zu finanzieren und zu verwalten, einschließlich Horizont 2020. Die REA ist aber nicht besonders auskunftfreudig, was ihre Forschungsprojekte angeht.

Wir stellten bei der REA zum Beispiel eine Anfrage nach dem Informationsfreiheitsgesetz über das ROBORDER-Projekt. Die REA blockte sie anfänglich ab und berief sich dabei auf den „Schutz des öffentlichen Interesses in Bezug auf die öffentliche Sicherheit“. Wir hatten nach der Methodik gefragt, die angewendet wird, um die Leistung des Systems zu bewerten, wer Mitglied der Ethik-Kommission ist, die die Vorhaben prüft, und für wen sie arbeitet. Solche Informationen müssten der REA zufolge geheim bleiben, um die „Privatsphäre und Integrität“ der betreffenden Personen zu schützen. Die REA führte auch „kommerzielle Interessen“ und den Schutz des geistigen Eigentums als Gründe für die zurückgehaltenen Informationen an: „Die Weitergabe solcher Informationen an die Öffentlichkeit würde Konkurrenten des Konsortiums einen unfairen Vorteil verschaffen. Die Konkurrenz könnte diese sensiblen kommerziellen Informationen zu ihren Gunsten nutzen.“ Diese Gründe wurden uns häufig genannt, wenn wir auf unsere Anfragen hin keine Auskunft erhielten. Letzten Endes bekamen wir von der REA aber doch die angefragten Informationen über die Methodik.

Mehr Transparenz wäre aber dringend nötig. Beim ROBORDER-Projekt sollten zum Beispiel autonome Fahrzeuge entwickelt werden, die in Schwärmen die EU-Grenze überwachen. Das könnte auch für das Militär interessant sein. Recherchen von AlgorithmWatch und ZDF Magazin Royale zeigen, dass eine Marktanalyse im Rahmen des ROBORDER-Projekts „militärische Einheiten“ als potenzielle Nutzer*innen für solche Systeme identifiziert. Aus uns vorliegenden Dokumenten geht hervor, dass sich Mitglieder des Forschungsteams mit Offiziersanwärtern der griechischen Marine getroffen haben, um das ROBORDER-System vorzustellen.

Würden bei ROBORDER militärische Anwendungen entwickelt, dürfte das Projekt nicht im Rahmen von Horizont 2020 finanziert werden, da Horizont 2020 ausschließlich für zivile Anwendungen vorgesehen ist. Aus der EU-Kommission hieß es jedoch: Die bloße Tatsache, dass das Projekt auch einem „militärischen Publikum“ vorgestellt wurde, würde „nicht per se die ausschließlich zivile Anwendung der im Rahmen dieses Projekts durchgeführten Aktivitäten in Frage stellen.“

Das ROBORDER-Projekt lief wie geplant bis Ende 2021. Die Ergebnisse daraus wurden für spätere Projekte genutzt. Auf der nationalen Ebene ist eines davon REACTION. Dieses Projekt wird vom „Instrument für finanzielle Hilfe im Bereich Grenzverwaltung und Visumpolitik“ (Border Management and Visa Policy Instrument, BMVl) der EU finanziert und vom griechischen Ministerium für Einwanderung und Asyl koordiniert. AlgorithmWatch und ZDF Magazin Royale haben beim griechischen Forschungszentrum CERTH (das ROBORDER koordiniert hat und nun an REACTION arbeitet) nachgefragt, welche Ergebnisse oder Komponenten genau übernommen wurden. Wir haben keine Antwort erhalten.

Dank unserer Hartnäckigkeit gelang es uns aber schließlich, einige Dokumente zu verschiedenen EU-finanzierten Projekten zu erhalten. Einige davon waren so ausgiebig geschwärzt, dass es unmöglich zu verstehen war, worum es eigentlich genau ging. Die Finanzhilfe-Vereinbarung und Anhänge zum NESTOR-Projekt enthielten 169 durchgehend geschwärzte Seiten.

DIE EU TRÄUMT VON EINER TOTALEN ÜBERWACHUNG

Eine automatisierte Festung Europa würde massive Auswirkungen auf unsere Rechte haben: Sie würde es Regierungen ermöglichen, alles über uns zu erfahren, was sie wissen wollen.

Wie die Regierungen das anstellen? Zum Beispiel durch Gesichtserkennung − und dadurch, dass sie die Identität einzelner Personen auf deren Gesicht und andere messbare biometrische Merkmale reduziert. Gesichter können von immer ausgefeilteren biometrischen Erkennungssystemen erfasst und analysiert werden. Beim Projekt D4FLY werden „2D+thermische Gesichts-, 3D-Gesichts-, Iris- und Somatotyp-Biometrie“ miteinander kombiniert. In Projekten wie iBorderCtrl untersuchen die Regierungen Emotionen und „Mikroexpressionen“ − flüchtige Gesichtsausdrücke, die nur Sekundenbruchteile dauern − um zu beurteilen, ob Reisende vertrauenswürdig sind oder ob sie die (virtuellen) Grenzbeamt*innen belügen. Daraus wird automatisch eine Risikobewertung erstellt, die zu strengeren Sicherheitskontrollen an den EU-Grenzen führen könnte. 

Solche von der EU finanzierten Projekte sollen die Mobilität digitalisieren, computerisieren und automatisieren. Die EU stellt sich die Zukunft so vor, dass „gesetzestreue“ Reisende ihre Freiheit genießen dürfen, während „riskante“ Personen automatisch für weitere Kontrollen aussortiert werden.

Der stellvertretende Geschäftsführer von Frontex, Uku Särekanno, drückte es kürzlich in einem Interview so aus: „Als Nächstes steht eine sehr ernsthafte Diskussion über die Automatisierung an. Wir untersuchen, wie wir in den nächsten fünf bis zehn Jahren mehr automatisierte Grenzübertritte und ein nahtloseres Reiseerlebnis haben können.“

Nach Ansicht verschiedener Wissenschaftler*innen wird dieser Plan, an dem in den letzten zwei Jahrzehnten schrittweise gearbeitet wurde, letztendlich zu einer vollumfassenden ferngesteuerten Überwachung führen und damit zu „einer perfekten panoptischen Gesellschaft”, in der wir vollständig von diesen digitalen Technologien und ihrer Sicherheitslogik beherrscht werden.

Foldout: Technologie und Automatisierung im Rahmen der EU-Migrationspolitik

Die Technologien und Automatisierungsverfahren, die die EU finanziert, werden nicht zuletzt deshalb entwickelt, weil sie zahlreiche Vorgaben verschiedener EU-Gesetze erfüllen sollen:

• Der „Migrationspakt“ sieht Vorabprüfungen und beschleunigte „Grenzverfahren“ vor, und dass abgelehnte Asylbewerber*innen effizienter umgesiedelt und abgeschoben werden sollen. All das soll höchstwahrscheinlich von Automatisierungstechnologien unterstützt werden: indem Handydaten ausgelesen und analysiert werden, mithilfe von KI-basierten Überwachungssystemen in gefängnisähnlichen Einwanderungseinrichtungen, automatisiertem Profiling und Risikobewertungen im Asylverfahren. Damit läuten sie ein, was die zivilgesellschaftliche Koalition ProtectNotSurveil „eine tödliche neue Ära der digitalen Überwachung“ nennt, „die die digitale Infrastruktur für ein EU-Grenzregime erweitert, das darauf basiert, Migrant*innen und rassifizierte Menschen zu kriminalisieren und zu bestrafen“.

• Im Rahmen des Migrationspakts wird die vorgeschlagene Ausweitung von EURODAC, der EU-weiten Fingerabdruckdatenbank für Asylbewerber*innen, insbesondere dazu führen, dass noch mehr und öfter biometrische Daten in EU-Migrationsdatenbanken erfasst werden.

• Um es den Strafverfolgungsbehörden zu ermöglichen, „Online-Inhalte zu identifizieren und zu entfernen, die Menschen öffentlich zu irregulärer Migration anstiften oder illegale Aktivitäten im Zusammenhang mit der Schleusung von Migrant*innen fördern“, sieht das „Paket zur Bekämpfung des Menschenschmuggels“ Möglichkeiten vor, soziale Medien zu überwachen und zu analysieren.

• Die im Jahr 2021 vorgeschlagene Reform des Schengener Grenzkodex impliziert, dass an den Grenzen Überwachungstechnologien verstärkt eingesetzt werden, ohne angemessene Rechtsschutzgarantien.

Die gerade verabschiedete KI-Verordnung der EU (auch AI Act genannt) hätte ein Gegengewicht zu solchen Forderungen bilden können, indem sie Transparenz vorgeschrieben und den Einsatz von KI-basierten Systemen in der Migration verboten hätte. Doch die meisten dieser Schutzmaßnahmen wurden von den EU-Mitgliedstaaten abgelehnt und waren in der endgültigen Fassung nicht mehr enthalten.

WOFÜR DAS GANZE? EIN BLICK IN DEN ÜBERWACHUNGSKATALOG

Noch erfordern Personenkontrollen Zeit und Ressourcen. Daher zielen einige Projekte darauf ab, Grenzbeamt*innen automatisiert zu „entlasten”. Die Beamt*innen werden zunehmend zu Hilfskräften für die automatisierte Systeme reduziert, die Analysen erstellen und Empfehlungen formulieren und von denen fälschlicherweise angenommen wird, dass sie objektiver und zuverlässiger sind.

Automatisierte Systeme sollen „abnormale Verhaltensweisen“ erkennen, das „Situationsbewusstsein“ erhöhen und Echtzeitinformationen und Vorhersagen („Nowcasts“) aus Sensoren ableiten, für Einzelpersonen, Gruppen oder Fahrzeugen wie Frachtern. Migrationsbewegungen sollen algorithmisch vorhergesagt werden – unter anderem durch die Analyse von Google-Trends-Daten, Inhalten auf Social-Media-Plattformen wie Facebook und X (früher Twitter) und „quantitativen (geolokalisierten) Indikatoren von Telefongesprächen“. Aber solche automatisierten Systeme können keine politischen Entscheidungen ersetzen, indem sie einfach Daten beschaffen und die Entscheidung Algorithmen überlassen. Diese Entscheidungen müssen auch begründet werden. Politische Entscheidungen sind nicht nur ein Nebenprodukt von technologischen Lösungen und müssen an erster Stelle stehen. 

Die mit automatisierten Systemen verbundenen Risiken zeigen sich, wenn wir uns ein System wie EuMigraTool genauer ansehen. Es wurde im Rahmen des ITFLOWS-Projekts entwickelt und enthält „monatliche Vorhersagen zu Asylanträgen in der EU“. Seine Entwickler*innen behaupten, dass es in der Lage sei, „die potenziellen Risiken von Spannungen zwischen Migranten und EU-Bürgern zu identifizieren“ – indem es „Intuitionen“ über die „Einstellungen zur Migration“ in der EU liefert und „Twitter-Stimmungs-Analysedaten als Input“ verwendet. Der eigene Nutzer*innen-Beirat des Forschungsprojekts, in dem Organisationen wie das Rote Kreuz und Oxfam vertreten sind, warnte in einer Stellungnahme vor Missbrauch: Das System könne dazu führen, dass „Grenzen geschlossen und zu Gewalt angestiftet würde“, und seine Informationen dafür verwendet werden, „Unterstützung für eine Anti-Migrationspolitik zu bekommen“ – entwickelt wurde es dennoch.

Menschen, die auf der Flucht sind, werden in diesen EU-finanzierten Projekten ständig als Gefahr für die Sicherheit dargestellt. Im FOLDOUT-Projekt kommt die Grundannahme direkt zur Sprache: „In den letzten Jahren hat die irreguläre Migration dramatisch zugenommen“, heißt es dort, daher sei sie „mit bestehenden Systemen nicht mehr beherrschbar“. Strafverfolgungs- und Grenzbehörden gehen heute regelmäßig davon aus, dass Automatisierung zur Norm werden müsse, um Kriminellen und Terrorist*innen „einen Schritt voraus zu sein“ – insbesondere, wenn es um Migration geht.

Foldout: Alles nur Theorie und Grundlagenforschung? Nein. Das Beispiel ANDROMEDA

EU-finanzierte Forschungsprojekte bauen oft aufeinander auf. In der Regel ist die Entwicklung mit spezifischen Grenzschutz-Bedürfnissen verbunden. Die entwickelte Technik soll daher auch irgendwann tatsächlich eingesetzt werden.

Gelegentlich wird dies explizit angegeben. Über iBorderCtrl heißt es beispielsweise in einem offiziellen Dokument, dass das Projekt „in erster Linie von der Industrie mit dem Ziel entwickelt wird, eines Tages über Forschungsergebnisse hinauszugehen und zu realen Produkten auf dem Markt zu werden“.

Über D4FLY heißt es in einer Pressemitteilung des Forschungskoordinators Veridos, des deutschen Anbieters von Identitätslösungen, dass er „zwischen 2019 und 2022 Produkte und Technologien entwickelt hat, die je nach Reifegrad entweder bereits heute im Einsatz sind, kurz vor der finalen Produktreife stehen oder weitere Grundlagenforschung erfordern, die auch nach dem offiziellen Ende des Projekts fortgesetzt wird“.

Und die „Ziele und Ergebnisse“ des EFFECTOR-Projekts wurden „auf Frontex-Systeme übertragen“, wie dem Frontex-Bericht 2022 über Forschungs- und Innovationsaktivitäten zu entnehmen ist. Dadurch können „erprobte Konzepte und Instrumente in Frontex-Operationen“ eingebracht werden. 

In anderen Fällen kann der Einsatz von Technologien in der Erprobungsphase jedoch ebenso undurchsichtig sein wie ihre Entwicklung. Ein solcher Fall wurde von der unabhängigen Grenzüberwachungsforscherin Lena Karamanidou entdeckt. Auf X dokumentierte sie, wie die im Rahmen des H2020-Projekts ANDROMEDA entwickelte Überwachungstechnologie erstmals im Delta des Flusses Evros in Griechenland während eines Projektversuchs getestet wurde. Doch dann „wurden der Mast und seine Ausrüstung, das Patrouillen-Schnellboot sowie die von ANDROMEDA entwickelten Plattformen nach Beendigung des Projekts von der örtlichen Polizei weiter genutzt“.

Karamanidou konnte das belegen, indem sie Filmmaterial analysierte, das im griechischen Fernsehen ausgestrahlt wurde. In dem Video gab der Leiter eines Grenzschutzzentrums, das mit ANDROMEDA zusammenarbeitete, unwissentlich Details darüber preis, welche Überwachungsgeräte derzeit tatsächlich in der Region eingesetzt werden – und sie stimmen perfekt mit denen aus dem Testlauf überein. „Die Verbindungen zwischen EU-finanzierter Forschung und Grenzüberwachungstechnologie sind gut etabliert“, folgert Karamanidou, aber hier habe sie „eine konkrete Verbindung zwischen einem bestimmten Projekt und einer bestimmten Technologie gefunden, die vor Ort eingesetzt wird.“

ÜBERALL DABEI: FRONTEX

Einer der Hauptabnehmer neuer Technologien und damit treibende Kraft bei deren Entwicklung: Frontex. Die 2004 gegründete „Europäische Agentur für die Grenz- und Küstenwache“ hat in den letzten Jahren eine immer wichtigere Rolle bei Forschungs- und Innovationsprojekten in der EU gespielt. Im Vergleich zum vorherigen Haushalt stieg das Budget der Agentur um 194 Prozent, in den letzten 20 Jahren sogar um unglaubliche 13.200 Prozent. Aber der Einfluss drückt sich nicht nur in den enormen Summen aus, die Frontex zur Verfügung stehen. Die Behörde intervenierte, um mehreren Projekten im Rahmen von Horizont 2020 zu „helfen“, sich „aktiv an ihnen zu beteiligen“ und sie „voranzutreiben“ – Projekte, die das Ziel haben, „ein breites Spektrum technologischer Fähigkeiten [zu entwickeln], die für die Grenzsicherheit von entscheidender Bedeutung sind“, einschließlich Künstlicher Intelligenz, Augmented Reality und Virtual Reality.

2020 formalisierte die Agentur dann eine Zusammenarbeit mit der Generaldirektion Migration und Inneres (GD HOME) der EU-Kommission. Sie ermöglicht es Frontex, die GD HOME „bei Programmplanung, Überwachung und Übernahme der Projektergebnisse“ zu unterstützen. Das bedeutet, dass die Agentur nun maßgeblich daran beteiligt ist, „Forschungsaktivitäten zu identifizieren“, Forschungsvorschläge zu bewerten und die „operative Relevanz“ von Forschungsprojekten im Rahmen von Horizont Europa zu überwachen. 

Die Agentur beteiligte sich daher an EU-finanzierten Projekten, Versuchen, Demonstrationen und Workshops, veranstaltete Veranstaltungen mit EU-finanzierten Projekten und richtete sogar ein Labor ein (das sogenannte Border Management Innovation Centre, BoMIC), um EU-finanzierte Projekte zur Grenzsicherheit bei ihrer Umsetzung zu unterstützen. Ergänzt wird das durch das Frontex-eigene „Research Grants Programme„, dessen erste Aufforderung zur Einreichung von Vorschlägen im November 2022 angekündigt wurde, um „vielversprechende Ideen aus dem Labor in reale Anwendungen in der Grenzsicherheit zu bringen“.

UND WIE SOLL DAS IN DER REALITÄT AUSSEHEN?

Das zeigt das NESTOR-Projekt: Es verspricht „ein voll funktionsfähiges, umfassendes Grenzüberwachungssystem der nächsten Generation, das ein Lagebild vor der Grenze, über See- und Landgrenzen hinweg bietet“, basierend auf Technologien für optische, Wärmebild- und Hochfrequenzanalysen. Diese Daten würden dann in „ein interoperables Sensornetzwerk eingespeist“ werden, das sowohl aus stationären Anlagen, als auch aus mobilen bemannten oder unbemannten Fahrzeugen besteht, die auch in Schwärmen funktionieren – auf dem Wasser, am Boden und in der Luft. Dies ermöglicht es, „bewegliche Ziele“ zu erkennen, zu klassifizieren und zu verfolgen, also Personen, Schiffe, Fahrzeuge, Drohnen und mehr. Ein „Aufklärungssystem für Grenzkontrolle und -koordination“ würde auch „modernste Technologien der Künstlichen Intelligenz und der Risikobewertung“ einsetzen und „in Echtzeit die Überwachungsdaten mit der Analyse von Web- und Social-Media-Daten“ kombinieren.

Der entscheidende Ausdruck hier ist „vor der Grenze“. Laut der EU-Verordnung bedeutet „Vorgrenze“ (pre-frontier) „das geografische Gebiet jenseits der Außengrenzen, das für den Grenzschutz an den Außengrenzen durch Risikoanalyse und Lageerfassung relevant ist“. Bei dieser Definition löst sich der Begriff „Grenze“ letztlich auf: Sie ist das, was die Behörden darunter verstehen wollen.

FAZIT: EINE SACHE IST KLAR. NUR WENIGE PROFITIEREN VON DER AUTOMATISIERTEN EU-FESTUNG UND DU ZÄHLST AUF JEDEN FALL NICHT DAZU.

Der Katalog der Projekte ließe sich endlos fortsetzen (s. Kasten unten), aber die dahinter stehende Weltsicht ändert sich nicht: Die EU will ihre Grenzen automatisieren, um sie vor Migrant*innen zu schützen, die die EU für eine existenzielle Bedrohung hält. Sie will die Reichweite und Funktionsfähigkeit der Überwachung weit über bestehende Grenzen hinaus endlos ausweiten. Denn sie glaubt, dass die angebliche „Migrationskrise“ nur durch technologische Lösungen beendet werden kann.

Fouldout: Ein Wünsch-Dir-Was der KI-basierten Überwachung und Kontrolle

Gefälschte Ausweisdokumente sollen durch neue Algorithmen für die Erkennung von Manipulationsangriffen automatisch erkannt werden. Im Rahmen des Projekts MELCHIOR werden neue Technologien entwickelt, die auf KI und mehreren Sensoren basieren, um „Drogen, Sprengstoffe, Waffen und illegale Güter, die an Personen und in kritischen Hohlräumen des menschlichen Körpers versteckt sind“, schnell zu erkennen. Unbemannte Flugzeuge werden „leichter als Luft“ (Zeppeline und Ballons) sein und in der Lage, „sich bewegende Menschen und Fahrzeuge“ durch Laser- und Mikrowellen zu erkennen, selbst bei dichtem Laub und extremen Umweltbedingungen. Und sie können in Schwärmen eingesetzt werden, aus der Ferne „intelligent” von anderen Algorithmen berechnet oder von menschlichen Controllern über eine Mixed-Reality-Brille gesteuert. 

In Kombination mit 5G-Netzen wird die im Rahmen des DARLENE-Projekts entwickelte Augmented-Reality-Technologie „es den Beamten ermöglichen, die Standorte von Personen innerhalb von Gebäuden durch Betonwände hindurch zu sehen“ und sogar zu erkennen, ob diese Personen Freund oder Feind sind oder medizinische Hilfe benötigen. So können sie „über die Grenzen der menschlichen Kapazität hinausgehen, um Tatortinformationen zu verarbeiten, und sogar Licht in Bereiche zu werfen, die für Menschen nicht erkennbar sind (tote Winkel)“.

Selbst angesichts eines so breiten Spektrums an Überwachungstechnologien beruhen Projekte wie COMPASS 2020 und EFFECTOR auf der Überzeugung, dass deren Einführung „durch die zuständigen Behörden“ aufgrund mangelnder Einheitlichkeit und Integration zwischen den bestehenden Infrastrukturen nur langsam erfolgt ist und daher „neue und neuartige Überwachungskonzepte immer noch nicht ausreichend genutzt werden“.

Diese Sicht wird genauso von der Grenz- und Küstenwache wie von der Überwachungs- und Sicherheitsindustrie immer stärker und offensiver verbreitet. Aber sie bedroht die soziale Gerechtigkeit, Nichtdiskriminierung, Fairness und grundlegende Achtung der Grundrechte. Die von automatisierten Systemen ausgehende Gefahr wird teils ignoriert, teils wird sie in „ethischen Bewertungen“ der Forschungsvorhaben akademisch erörtert. Entwickelt werden die Systeme auch, wenn in den Bewertungen grundsätzlich angezweifelt wird, dass der Einsatz der Systeme überhaupt gerechtfertigt werden kann. Viele dieser Projekte hätten gar nicht erst finanziert werden dürfen, sie sollten also auch nicht aufrechterhalten werden.

---

Lesen Sie mehr zu unserer Policy & Advocacy Arbeit zu ADM und People on the Move.