„False Positives“: ein Podcast über das automatisierte Sperren von Konten
Zusammen mit Agence France-Presse hat AlgorithmWatch im Rahmen des „Algorithmic Accountability Reporting“-Fellowships eine sechsmonatige Recherche durchgeführt, deren Ergebnisse jetzt als Podcast abrufbar sind.
Was würdest du tun, wenn plötzlich der Zugang zu all deinen Bankkonten gesperrt werden würde? Du würdest kein Gehalt mehr bekommen und könntest nichts mehr bezahlen. Aber du bekommst keine Antwort auf die Frage, warum das überhaupt passiert ist.
Und wie würdest du dich fühlen, wenn du dann herausfindest, dass ein Algorithmus für dein gesperrtes Konto verantwortlich ist?
Banken müssen mit automatisierten Systemen die Transaktionen ihrer Kund*innen überwachen, um Geldwäsche und die Finanzierung von Terrorismus zu bekämpfen. Aber manchmal machen diese Systeme Fehler, was dazu führt, dass Bankkonten gesperrt werden.
Das passiert vielen Kund*innen in ganz Europa: Kleinunternehmer*innen, NGOs, religiösen Organisationen, Migrant*innen, Geflüchteten... sogar hochrangigen Politiker*innen. Die von verschiedenen Ländern veröffentlichten Daten lassen darauf schließen, dass es Tausende von Betroffenen geben könnte.
Dieses Phänomen kann mit Algorithmen und Künstlicher Intelligenz in einem halbautomatischen Entscheidungsprozess hervorgerufen werden und wird als „De-Banking“ bezeichnet. Fehlentscheidungen der Systeme heißen „False Positives“.
„False Positives“ ist eine von AlgorithmWatch und der internationalen Nachrichtenagentur Agence France-Presse produzierte Podcast-Serie. Der Podcast führt durch ganz Europa: Spanien, Frankreich, Großbritannien, die Türkei, Deutschland und Polen. Wir haben mit Menschen gesprochen, die von automatisierten Fehlentscheidungen betroffen waren und darum kämpfen mussten, dass sie korrigiert werden. Wir haben auch mit Branchen-Insider*innen gesprochen, die erklären, wie und warum solche automatisierten Entscheidungen getroffen werden.
Folgen
Die drei Folgen des englischsprachigen Podcasts wurden vom 1. bis zum 3. Januar 2025 veröffentlicht. Alle Folgen gibt es hier oder auf der Podcast-Plattform deiner Wahl.
Episode 1: Von Kafka inspiriertes Bankwesen
In Spanien wurde Atilio Andrade das Konto gesperrt. In Frankreich passierte es Koffi Agodjro. Beide mussten anschließend gegen massive bürokratische Hürden anlaufen. Wir haben die Fälle untersucht und herausgefunden, dass sie keine Ausnahmen sind. Oft stecken automatisierte Systeme dahinter.
- Episode 1 (via Acast)
- Veröffentlichung: 1. Januar 2025
Episode 2: Massenüberwachung
Banken sind gesetzlich dazu verpflichtet, ihre Kund*innen zu überwachen, um Geldwäsche zu bekämpfen. Das führt dazu, dass wir alle überwacht werden − selbst hochrangige Politiker*innen. Insider*innen haben uns hinter die Kulissen dieser teils autmatisierten Maschinerie geführt. Ist die Überwachung gerechtfertigt?
- Episode 2 (via Acast)
- Veröffentlichung: 2. Januar 2025
Episode 3: Kein Entkommen
Was würde passieren, wenn Banken gezwungen wären, von Autokrat*innen erlassene Gesetze gegen politische Gegner*innen durchzusetzen? So dystopisch es auch klingen mag, in der Europäischen Union ist das manchmal bereits Wirklichkeit. Datenhändler sammeln online belastendes Material über Dissident*innen und Geflüchtete. Solche Informationen werden auch von Banken verwendet, um Risikoprofile ihrer Kund*innen zu bewerten. Ist diese Praxis vertretbar? Ist darauf Verlass, dass die Banken richtige Entscheidungen treffen?
- Episode 3 (via Acast)
- Veröffentlichung: 3. Januar 2025
Über den Podcast
- Host : Alex Cadier
- Schnitt: Camille Kauffmann
- Musik: Nicolas Vair
- Bericht und Recherhe: Pablo Jimenez Arandia, Naiara Bellio,
- Übersetzung: Nathalie Handel, Joshua Melvin, Jean-Marc Mojon, Gregory Viscusi, Christopher Wright, Joseph Schmid, Phillip Hazlewood.
- Leitende Redakteurinnen: Naiara Bellio für AlgorithmWatch und Michaëla Cancela-Kieffer für Agence France-Presse.
AlgorithmWatch ist eine gemeinnützige Organisation mit Sitz in Berlin und Zürich, die sich dafür einsetzt, dass Algorithmen und Künstliche Intelligenz nicht nur einigen wenigen, sondern der breiten Öffentlichkeit nutzen.
Die Nachrichtenagentur Agence France-Presse (AFP) ist in 150 Ländern vertreten. Die Agentur hat den Podcast produziert und in Großbritannien, Frankreich und der Türkei eine zusätzliche Recherche und Faktenchecks druchgeführt.