Automation on the Move

Mit dem Projekt „Automation on the Move“ will AlgorithmWatch einen Beitrag dazu leisten, etwas an der untragbaren Situation von People on the Move zu ändern.

Irem Kurt for AlgorithmWatch, CC BY 4.0

Projektmanager

Fabio Chiusi
Wissenschaftlicher Mitarbeiter

People on the Move – Migrant*innen, Geflüchtete und Reisende – werden immer häufiger Systemen Künstlicher Intelligenz (KI) und automatisierter Entscheidungen (automated decision-making, ADM) ausgesetzt, ohne dass diese Systeme ausreichend getestet worden wären, eine demokratische Diskussion über ihren Einsatz stattgefunden hätte oder sie kontrolliert werden würden. Gleichzeitig häufen sich die Untersuchungen darüber, wie intransparent diese Systeme sind und wie unzureichend ihr Einsatz legitimiert wurde. Wir können diesen Status quo nicht länger hinnehmen.

Mit dem Projekt „Automation on the Move“ will AlgorithmWatch einen Beitrag dazu leisten, etwas an dieser untragbaren Situation zu ändern. Wir wollen herausfinden, von wem solche ADM-Systeme wie und warum verwendet werden und welche Sicherheitsmaßnahmen in den entsprechenden Einsatzfeldern angemessen wären. Auf dieser Grundlage werden wir Vorschläge dazu formulieren, wie vorhandene Defizite behoben werden könnten, und uns für die Umsetzung entsprechender Regulierungs- und Kontrollmaßnahmen einsetzen.


Ziele

1. Aufbau von Koalitionen. Der Einsatz von automatisierten Entscheidungssystemen stellt People on the Move vor Herausforderungen und Probleme, die so komplex sind, dass wir sie nur durch eine gemeinsame Anstrengung in den Griff bekommen können. Deshalb möchten wir nicht mit anderen Forschungs- und Advocacy-Initiativen konkurrieren. In der ersten Phase unseres Projekts werden wir den Austausch mit zivilgesellschaftlichen Organisationen, Wissenschaftler*innen und Journalist*innen suchen, die auf diesem Gebiet tätig sind: Dadurch wollen wir besser verstehen, wie wir aktuelle Forschungsvorhaben und investigative Untersuchungen durch unsere Arbeit sinnvoll ergänzen könnten.


2. Eingehende Analysen. Sobald wir ein Forschungsprogramm festgelegt haben, werden wir eingehend die besondere Charakteristik der sozio-technischen Systeme untersuchen, deren Funktionsweisen noch unzureichend bekannt sind. Wir wollen die Ursachen der Probleme offenlegen, die wir am häufigsten beobachten konnten, und erklären, welche Auswirkungen sie für People on the Move haben. Unsere Analysen sollen so detailliert wie möglich sein – und der wissenschaftlich-investigative Austausch dazu so groß wie möglich.

3. Inklusion. ADM-Systeme haben negative Folgen für Migrant*innen. Deren Stimmen sind schon viel zu lange ungehört geblieben. Auch daran wollen wir etwas ändern. Wir haben uns vorgenommen, ihre Geschichten systematisch aufzuzeichnen, und ihnen eine Plattform zu bieten, um ihren Bedürfnisse Gehör zu verschaffen. Ohne zu wissen, welche Erfahrungen People on the Move machen, werden wir auch nicht die Konsequenzen verstehen können, die automatisierte Systeme auf ihr Leben haben.

4. Policy-Empfehlungen. Auf der Grundlage der Beweise, die wir gesammelt haben, und der Analysen zu den am häufigsten auftretenden Problemen werden wir Policy-Empfehlungen für den Einsatz von KI- und ADM-Systemen auf dem Gebiet der Migration formulieren.


Methodik

Um unsere Ziele zu erreichen, verfolgen wir bei unserem Projekt verschiedene Ansätze: investigativen Journalismus, Forschung vor Ort, das Erstellen von Fallstudien, eine eingehende Sichtung der Forschungsliteratur und den Aufbau eines Netzwerks.

Das kollaborativ angelegte Projekt wird von Fabio Chiusi koordiniert. Unsere Ergebnisse werden auf der Website von AlgorithmWatch und denen unserer Partnerorganisationen veröffentlicht werden.

Das Projekt wird von der Robert Bosch Stiftung gefördert.

gefördert von