„Falsch Positiv“: ein Podcast über das automatisierte Sperren von Konten

Update vom 28.05.2025: Der Podcast ist nun auch auf Deutsch verfügbar

Was würdest du tun, wenn plötzlich der Zugang zu all deinen Bankkonten gesperrt werden würde? Du würdest kein Gehalt mehr bekommen und könntest nichts mehr bezahlen. Aber du bekommst keine Antwort auf die Frage, warum das überhaupt passiert ist.

Und wie würdest du dich fühlen, wenn du dann herausfindest, dass ein Algorithmus für dein gesperrtes Konto verantwortlich ist?

Banken müssen mit automatisierten Systemen die Transaktionen ihrer Kund*innen überwachen, um Geldwäsche und die Finanzierung von Terrorismus zu bekämpfen. Aber manchmal machen diese Systeme Fehler, was dazu führt, dass Bankkonten gesperrt werden.

Das passiert vielen Kund*innen in ganz Europa: Kleinunternehmer*innen, NGOs, religiösen Organisationen, Migrant*innen, Geflüchteten... sogar hochrangigen Politiker*innen. Die von verschiedenen Ländern veröffentlichten Daten lassen darauf schließen, dass es Tausende von Betroffenen geben könnte.

Dieses Phänomen kann mit Algorithmen und Künstlicher Intelligenz in einem halbautomatischen Entscheidungsprozess hervorgerufen werden und wird als „De-Banking“ bezeichnet. Fehlentscheidungen der Systeme heißen „False Positives“ („falsch positiv“).

„Falsch Positiv“ ist eine von AlgorithmWatch und der internationalen Nachrichtenagentur Agence France-Presse produzierte Podcast-Serie. Der Podcast führt durch ganz Europa: Spanien, Frankreich, Großbritannien, die Türkei, Deutschland und Polen. Wir haben mit Menschen gesprochen, die von automatisierten Fehlentscheidungen betroffen waren und darum kämpfen mussten, dass sie korrigiert werden. Wir haben auch mit Branchen-Insider*innen gesprochen, die erklären, wie und warum solche automatisierten Entscheidungen getroffen werden.

Folgen

Die drei Folgen der deutschen Version des Podcasts wurden am 28. Mai 2025 veröffentlicht.

auch verfügbar auf Spotify | Apple Podcasts | Deezer

Folge 1: Kafka

In Spanien wurde Atilio Andrade das Konto gesperrt. In Frankreich passierte es Koffi Agodjro. Beide mussten anschließend gegen massive bürokratische Hürden anlaufen. Wir haben die Fälle untersucht und herausgefunden, dass sie keine Ausnahmen sind. Oft stecken automatisierte Systeme dahinter.

• Folge 1 (via Podbean)

Episode 2: Massenüberwachung

Banken sind gesetzlich dazu verpflichtet, ihre Kund*innen zu überwachen, um Geldwäsche zu bekämpfen. Das führt dazu, dass wir alle überwacht werden − selbst hochrangige Politiker*innen. Insider*innen haben uns hinter die Kulissen dieser teils automatisierten Maschinerie geführt. Ist die Überwachung gerechtfertigt?

• Folge 2 (via Podbean)

Episode 3: Keine Zuflucht

Was würde passieren, wenn Banken gezwungen wären, von Autokrat*innen erlassene Gesetze gegen politische Gegner*innen durchzusetzen? So dystopisch es auch klingen mag, in der Europäischen Union ist das manchmal bereits Wirklichkeit. Datenhändler sammeln online belastendes Material über Dissident*innen und Geflüchtete. Solche Informationen werden auch von Banken verwendet, um Risikoprofile ihrer Kund*innen zu bewerten. Ist diese Praxis vertretbar? Ist darauf Verlass, dass die Banken richtige Entscheidungen treffen?

• Folge 3 (via Podbean)