Meta angeklagt: Algorithmen als Nährboden für Betrug?

Die australische Wettbewerbsbehörde wirft Meta vor, den Betrug von Nutzer*innen zu begünstigen. Da die Betrugsfälle weltweit stattfinden, könnte die Rechtsprechung dazu globale Konsequenzen haben.

Die Wettbewerbsbehörde (Australian Competition and Consumer Commission, ACCC) leitete im März 2022 ein Verfahren gegen Facebook (heute Meta) ein. Ihr Vorwurf lautet, dass Meta durch die Veröffentlichung von betrügerischen Werbeanzeigen mit australischen Prominenten an der Täuschung und Irreführung mitschuldig sei.

Der Betrug beruht auf Facebook-Werbeanzeigen, die Stars zeigen, die für ihren Reichtum berühmt sind, und den potenziellen Opfern unrealistische Einnahmen versprechen. Mit einem Klick auf die Anzeige werden sie zu einer Website weitergeleitet, die das Markendesign eines bekannten Nachrichtenmediums imitiert. Auf dieser Website wird detailliert eine Investitionsmöglichkeit angepriesen, um die Leser*innen dazu zu verleiten, über die Website Geld zu investieren, das an die Betrüger*innen geht. Diese Masche funktioniert besonders gut, weil die Empfehlungsalgorithmen von Facebook die Anzeigen sehr gezielt Nutzer*innen anzeigen, die mit hoher Wahrscheinlichkeit darauf reinfallen werden.

Hier ist ein Beispiel dafür, wie solche Anzeigen aussehen. Die in der Anzeige aufgestellte Behauptung, dass der Milliardär Elon Musk Pläne verfolge, den Australier*innen ein Grundeinkommen zu sichern, ist natürlich unhaltbar.

Nach einem Klick auf die Anzeige gelangen die Nutzer*innen auf eine Website, die vorgibt, zu news.com.au zu gehören, eines der größten australischen Nachrichtenportale. Eine Falschnachricht soll dazu verleiten, in eine neue Kryptowährung zu investieren.

Meta wehrt sich

Meta reichte einen Antrag ein, um einige Dokumente unter Verschluss zu halten, die zum laufenden Verfahren gehören. Der australische Milliardär Andrew Forrest, dessen Name in diesen Betrugsfällen missbraucht wurde, verklagt Meta gleichzeitig in einem eigenen Verfahren. Meta argumentiert, dass die Jury in diesem Strafprozess unzulässig durch die Veröffentlichung der entsprechenden Dokumente der ACCC-Klage beeinflusst werden könnte. In einer Entscheidung vom 9. September erklärte ein Bundesrichter dieses Argument als nichtig. Nur ein vertrauliches Beweisstück mit der Signatur „MM-10“ und ein Memo werden weiterhin unter Verschluss gehalten.

Jeannie Paterson, Professorin an der Melbourne Law School und Co-Direktorin des Centre for AI and Digital Ethics, sagte AlgorithmWatch, dass Anträge wie der von Meta oft in solchen prominenten Fällen eingereicht werden. „Sie werden aber auch oft abgelehnt, da die Gerichte dadurch ihre Unvoreingenommenheit demonstrieren.“  

Meta dürfte auch weiterhin verfahrensrechtliche Bedenken geltend machen, um den Rechtsstreit lahmzulegen, meint Jeannie Paterson. „Meta könnte stichhaltige Argumente dafür anführen, dass es kein ausreichendes Wissen über die Betrugsfälle haben oder nichts dagegen tun konnte, so dass es folglich auch nicht verantwortlich dafür ist. Meta könnte auf das Argument vertrauen, dass seine technologischen Einflussmöglichkeiten eingeschränkt sind, da es über keine geeigneten technischen Mittel verfüge, um irreführende Werbeanzeigen ausfindig zu machen und zu löschen. Es könnte versuchen, die ACCC und das Gericht mit ‘wissenschaftlichen’ Beweisen dafür zu überschütten.

Für die Anhörungen wurde bislang kein Datum festgelegt.

Globaler Betrug

Die Tragweite des Falls geht über Australien hinaus, da die Betrugsfälle in ihrer Art nicht geografisch begrenzt sind. Die Methoden, die die ACCC in ihrer Klage beschreibt, entsprechen der Vorgehensweise von Online-Betrüger*innen auf der ganzen Welt. Der folgende Screenshot von Facebooks Anzeigenbibliothek zeigt, dass eine dieser betrügerischen Anzeigen in zehn Ländern erschien: in Frankreich, Deutschland, Österreich, Dänemark, den Niederlanden, Griechenland, Italien, der Schweiz, Spanien und Australien.

Eine journalistische Recherche von Radio-Canada im Februar 2022 ergab, dass es den Betrüger*innen sogar gelang, einige ihrer Opfer dazu zu bringen, ihnen ihre gesamten Ersparnisse zu überlassen, bis zu über einer Millionen Euro. Insgesamt werden jährlich einige Milliarden Euro durch diese Art des Betrugs ergattert.

Über die Betrüger*innen selbst ist sehr wenig bekannt. Eine Buzzfeed-Recherche ergab 2019, dass Facebook beinahe 45.000 US-Dollar für eine einzelne Kampagne erhielt (die den Betrüger*innen 80.000 US-Dollar einbrachte). Da die Betrugsversuche nicht vereinzelt, sondern großangelegt unternommen werden, müsste das dafür erforderliche Kapital in die Millionen gehen. Online-Betrug auf Facebook ist keine Sache für Bauernfänger, sondern für Mafia-artige Organisationen.

Algorithmen für sich arbeiten lassen

Bekannt ist allerdings, dass sich Online-Betrüger*innen an der Infrastruktur von Meta orientieren. Wie AlgorithmWatch 2021 aufdeckte, „optimiert“ Facebooks System automatisch die Platzierung der Werbeanzeigen, um sie Nutzer*innen anzuzeigen, die sie „relevant“ finden könnten. Dieses Prinzip beschrieb ein Online-Betrüger einem Bloomberg-Journalisten gegenüber 2018 wie folgt: „Facebooks Algorithmen erledigen die Arbeit für mich, da draußen die Idioten zu finden, die ich suche.“

Meta hat noch nie konkrete Angaben darüber gemacht, was genau getan wird, um zu verhindern, dass Betrüger*innen auf den Plattformen Anzeigen schalten. Bis heute blieb es bei einer 2017 veröffentlichten vagen Ankündigung, dass das Unternehmen sich des Problems annehmen werde. Eine 2019 von AlgorithmWatch durchgeführte Untersuchung zeigte, dass es sehr unwahrscheinlich ist, dass Facebook dafür ausreichend Ressourcen eingesetzt hat.

Gina Murphy – bei Facebook Head of Policy Communications, Australia & New Zealand – sagte AlgorithmWatch auf Anfrage, dass Meta beträchtliche Ressourcen aufwende, um Betrugsversuche auf den Plattformen aufzuspüren und zu verhindern. Sie machte allerdings wiederum keine weiteren Angaben darüber, welche Ressourcen das in welcher Größenordnung waren.  

Wir wissen aber, was Meta nicht tut, um Betrug aufzudecken. Zu Googles Safe Browsing-Projekt gehört eine öffentlich zugängliche Liste von Websites, die bekanntermaßen für Betrugsversuche genutzt werden. Die Chrome- und Firefox-Browser überprüfen automatisch, ob eine besuchte Website sich auf dieser Liste befindet, und zeigen in diesem Fall eine deutliche Warnung an. Die obige Werbeanzeige mit den angeblich sicheren Tesla-Gewinnen führte die Nutzer*innen zu einer URL, die sich auf der Google-Liste befindet. Entweder verwendet Meta die Safe Browsing-Listen nicht oder das Unternehmen ignoriert sie. Beide Möglichkeiten sind nicht mit der Behauptung vereinbar, dass Meta beträchtliche Ressourcen aufwende, um Betrugsversuche auf den Plattformen aufzuspüren und zu verhindern.

Hinweise auf Metas Versagen

Betrüger*innen stehlen normalerweise die Anmeldedaten von Internetseiten, etwa von Regierungsvertreter*innen oder Künstler*innen, deren Facebook-Seite „verifiziert” ist. In einem Fall konnte AlgorithmWatch dokumentieren, dass die Betrüger*innen eine SMS an ein Opfer versendet haben, in der es dazu aufgefordert wurde, sich bei Facebook anzumelden. Der in der SMS enthaltene Link führte aber zu einer Phishing-Website, die authentisch aussah, aber die Anmeldedaten direkt an die Betrüger*innen weiterleitete. Sobald sie Zugriff auf die Seite hatten, konnten sie Werbekampagnen durchführen. Facebook kann angeblich politische Inhalte in Anzeigen identifizieren und neigt der Vorsicht halber dazu, unpolitische Anzeigen als politisch einzustufen. Umso unverständlicher ist es also, dass es Meta nicht gelingen sollte, Anzeigen mit platten Slogans wie „Hier winkt Ihnen sicheres Geld“ ausfindig zu machen. Zumal oft in den Kommentaren unter den Anzeigen explizit darauf hingewiesen wird, dass es sich um einen Betrugsversuch handelt.  

Falls es der ACCC gelingen sollte, das australische Bundesgericht davon zu überzeugen, dass Meta aktiv oder passiv Betrugsversuchen Vorschub leistet, könnten weitere Klagen folgen. In Europa sind solche Schritte gegen Meta bislang nicht abzusehen. Die Zentralstelle Cybercrime Bayern ist im Kampf gegen Online-Betrug bei Weitem die aktivste deutsche Behörde. Sie sieht allerdings keine rechtliche Grundlage für ein Strafverfolgungsverfahren. In Frankreich haben haben die Verbraucherschutzbehörden und die Finanzaufsicht 2021 zwar Social Media als einen der wichtigsten Schauplätz für Online-Verbrechen ausgemacht, aber Meta (bzw. damals Facebook) in diesem Zusammenhang nicht namentlich genannt. Wiederholte Anfragen zu einer Stellungnahme dazu seitens AlgorithmWatch blieben bislang unbeantwortet.

Hat Ihnen diese Story gefallen?

Alle zwei Wochen untersucht „die Automatisierte Gesellschaft“ die Auswirkungen automatisierter Systeme auf die Gesellschaft und die Welt um Sie herum. Melden Sie sich jetzt an und verpassen Sie keine Story mehr!