Können Algorithmen automatisch Bankkonten sperren?

Der ecuadorianische Kleinunternehmer Atilio Andrade hat in Spanien dieselbe Erfahrung gemacht wie der Imam Koffi Agodjro in Frankreich: Ihre Bankkonten wurden plötzlich gesperrt und sie mussten gegen bürokratische Widerstände ankämpfen, um der Sache auf den Grund zu kommen.

Gemeinsam mit der Agence France-Presse (AFP) hat AlgorithmWatch in den letzten sechs Monaten recherchiert, ob automatisierte Systeme zu diesen gesperrten Konten führten. Unsere Erkenntnisse sind in dem jetzt auch auf Deutsch verfügbaren Podcast Falsch Positiv nachzuhören.

Solche Falschalarme werden ausgelöst, wenn datengesteuerten automatisierten Systemen Fehler unterlaufen, zum Beispiel wenn sie einzelne Bankkund*innen unter Tausenden fälschlicherweise als potenzielle Geldwäscher*innen identifizieren. Die Algorithmen scannen Finanzprofile und Transaktionen von Kund*innen und vergleichen sie automatisch mit Daten aus verschiedenen Quellen. Dieser Prozess erspart unzählige mühsame Arbeitsstunden. Allerdings lässt sich dann nicht ohne Weiteres ermitteln, wie einzelne Entscheidungen zustande kommen, durch die unbescholtenen Kund*innen wichtige Bankdienstleistungen vorenthalten werden können.

Ausflucht statt Auskunft

Banken halten sich betont bedeckt, wenn sie erklären sollen, warum manche Kund*innen vom Geldverkehr ausgeschlossen werden. Koffi Agodjro war einer der Geistlichen, die Athlet*innen bei den Olympischen Spielen 2024 in Paris religiösen Beistand leisten sollten. Er war gerade im olympischen Dorf, als er erfuhr, dass das Bankkonto gesperrt worden war, über das er die Finanzgeschäfte seiner Moschee abwickelt. Vom französischen Innenministerium erfuhr er, dass es nicht nur ihm so ergangen sei. Die Bank blieb eine Erklärung schuldig. Auch die Bank von Atilio Andrade hat nie begründet, warum sie die Konten eingefroren hat. Nachdem er sich eine neue Bank gesucht hatte, passierte sofort dasselbe.

Nach Monaten hartnäckigen Nachfragens erfuhr Atilio Andrade, dass die zweite Bank dessen Geldtransfer-Geschäfte fälschlicherweise als einen Währungsumtausch eingestuft hatte. Ein Experte erklärte uns, dass ein Währungsumtausch als hochriskant gilt und in solchen Fällen Konten automatisiert überprüft und in der Zwischenzeit eingefroren werden.

Atilio Andrades erste Bank bestritt, dass sein Konto algorithmisch bedingt gesperrt worden war. Uns liegen jedoch Unterlagen vor, die belegen, dass die Bank automatisierte Systeme einsetzt, um „ungewöhnliche und potenziell verdächtige Vorgänge zu erkennen, die der Geldwäsche oder Terrorismusfinanzierung dienen könnten“. Als wir sie mit diesen Dokumenten konfrontierten, änderte die Bank ihre Aussage: Zwar würden tatsächlich Algorithmen zur Entscheidungsfindung eingesetzt werden, in letzter Instanz liege die Entscheidung aber immer bei einem Menschen. So eine Kombination aus Abstreiten und Unkenntnis macht es unmöglich, bestimmt sagen zu können, ob ein Algorithmus die geschilderten Kontosperrungen verursacht hat.

Der menschliche Faktor

Banken haben das Recht, Konten ohne Angabe von Gründen zu sperren, zum Beispiel wenn sie über einen längeren Zeitraum hinweg nicht genutzt werden, zu viele ungedeckte Schecks eingehen oder ein Verstoß gegen die Richtlinien der Bank vorliegt. Außerdem sind die Banken verpflichtet, gegen Geldwäsche und die Finanzierung von Terrorismus vorzugehen, sonst drohen ihnen milliardenschwere Geldstrafen. Die Branchen-Insiderin Mariola Marzouk erklärt, dass Banken aus diesem Grund eher Tausende von legitimen Konten auflösen und den Unmut der Kund*innen in Kauf nehmen, als eine Geldstrafe zu riskieren: „Sie machen lieber zu viele als zu wenige Konten dicht, denn wenn später tatsächlich eine Geldwäsche aufgedeckt wird, wollen sie nicht dafür verantwortlich gemacht werden können.“

Um dieses Prinzip großflächig umzusetzen, verwenden Banken automatisierte Systeme, die verdächtige Aktivitäten melden. Angeblich prüfen spezialisierte Teams, ob die von den Systemen ausgelösten Alarme berechtigt sind. Jacques Sudre ist Chief Compliance Officer bei der französischen La Banque Postale. Er behauptet, dass allein in allen Pariser Banken zwischen 17.000 und 20.000 Personen damit beschäftigt seien. Diese Spezialist*innen würden Kund*innen schützen und Fehler minimieren.

Wehrlos

Unsere Recherche hat allerdings ergeben, dass Fehler wie die geschilderten sehr häufig vorkommen und es nicht einfach ist, sie anzufechten. Atilio hat zwei Jahre dafür gebraucht und muslimische Gruppen wie die von Koffi Agodjro müssen immer wieder neue Konten bei verschiedenen Banken eröffnen, damit ihre Gelder nicht eingefroren und Konten geschlossen werden. In der Europäischen Union haben Kund*innen gesetzlich die Möglichkeit, dass die Zentralbank für sie eine Bank auswählt, die ihnen die Eröffnung eines neuen Kontos ermöglichen muss. Diese Alternative ist aber alles andere als ideal, da solche Konten nur eingeschränkt Dienstleistungen bieten: Die Kund*innen dürfen keine Schecks verwenden oder das Konto überziehen, sie erhalten keine Debitkarte, können kein Geld überweisen und so weiter.

Es ist im Bankwesen genauso schwierig wie im Sozial- oder Personalwesen, falsche Alarme zu automatisierten Systemen zurückzuverfolgen, die sie ausgelöst haben. Branchen-Insider haben berichtet, dass Banken die Fehler der Algorithmen oft nicht korrigieren können oder wollen. Und so erfahren die Betroffenen nicht, warum ihnen Dienstleistungen verweigert werden oder wie sie die automatisierten Entscheidungen anfechten können. Hört in den dreiteiligen Podcast rein, wenn euch die ganze Geschichte interessiert!