Verbraucherschutz vor Algorithmen – wie wehrt man sich gegen automatisierte Entscheidungen?

Das Projekt Unding unterstützt Menschen, die von automatischen Entscheidungen benachteiligt wurden. Im Interview berichtet Projektmanagerin Anna Lena Schiller, was Betroffene tun können, und wie Verbraucherschutz im digitalen Zeitalter aussieht
Photo: Julia Bornkessel, CC BY 4.0

Zuallererst: Was ist ein Unding?

Immer mehr Dinge in unserem Alltag werden automatisiert entschieden. Im letzten Jahr haben wir das alle ganz akut erlebt, als die Impftermine vergeben wurden. Jedes Bundesland hatte ein System, mit dem automatisiert entschieden wurde, wer wann den Piks bekommen kann. Dabei gab es an manchen Stellen Unregelmäßigkeiten, aber nicht wirklich Möglichkeiten, Einspruch zu erheben. Wir finden, das war ein Unding.

Ein anderes Beispiel ist uns auch allen geläufig: Navi-Stress. Meist wählt Navigationssoftware die kürzeste Route von A nach B. Es wird aber oft übersehen, dass dadurch Verkehrsprobleme entstehen können. Wenn Stau auf der Autobahn ist und Fahrer·innen dem Navi anstatt der Umleitung folgen. Dann hat man plötzlich ganze Autokolonnen in kleinen Dörfern, die da garnicht hingehören. Als Anwohner·in kann man aber fast nichts tun.

Meist ist unklar, wie solche automatisierten Entscheidungen getroffen werden. Es fühlt sich also niemand verantwortlich und Firmen bieten keine Ansprechpartner·innen für solche Fälle. Einzelne sind diesen automatisierten Entscheidungen leicht ausgeliefert. Als wir überlegt haben, wie wir das Projekt nennen, wollten wir diesen Frustmoment aufgreifen, den ganz viele Menschen bei automatisierten Entscheidungen erleben. Ein Gefühl von Ungerechtigkeit, aber auch ein bisschen Ohnmacht. Mit einem Computer lässt es sich ja schließlich schlecht streiten, aber bei uns kann man diese „Undinger“ wenigstens melden.

Ist Dir auch schonmal ein Unding widerfahren?

Mein allererstes Unding war eine automatisierte Absage bei der Eröffnung eines Giro-Kontos. Ich bekam einen Brief von der Bank in dem stand, dass ich dort kein Konto eröffnen dürfte und ich bitte von weiteren Anfragen absehen möchte. Mir wurde ganz flau weil ich dachte, dass vielleicht etwas mit meinen Finanzen nicht in Ordnung sei (obwohl ich immer brav im Plus war). Zu dem Zeitpunkt war ich Studentin – was wahrscheinlich der ausschlaggebende Grund war. So ganz ohne Begründung und Transparenz abgelehnt zu werden ist aber sehr unangenehm. Vor allem, wenn es um Geld geht. Da wäre ein Service wie Unding total hilfreich gewesen.

Wie hilft Unding bei solchen Fällen?

Für Betroffene ist Unding ein Botendienst. Über einen chat-ähnlichen Dialog kann man sein Anliegen beschreiben. Daraus wird ein Anschreiben generiert, das man über unding.de an die Firmen oder Stellen schicken kann, die für die automatisierte Entscheidung verantwortlich sind. Bekommt man von der Firma Antwort, gibt Unding Bescheid. Rührt sich niemand, hakt Unding automatisch nach. Außerdem kann man die Antwort bewerten, die man bekommen hat.

Falls man von einer automatisierten Entscheidung benachteiligt wurde, es den Fall aber so noch nicht auf unding.de gibt, kann man uns schreiben. So hat das zum Beispiel Herr Li gemacht, dem wegen seines kurzen Namens oft Online-Formulare Schwierigkeiten bereiten. Wir haben dann dazu recherchiert, seine Story veröffentlicht und suchen jetzt gerade in einer Umfrage weitere solcher Fälle.

Das klingt ja fast nach einem Verbraucherschutz vor Algorithmen?

Ja, deshalb startet Unding ab Anfang 2022 eine Kooperation mit verbraucherzentrale.de. Die Verbraucherzentralen sind eine bekannte Anlaufstelle für viele Themen, in denen Algorithmen und automatisierte Entscheidungen eine Rolle spielen. Finanzen und Versicherungen, Gesundheit oder Digitales, um nur einige Beispiele zu nennen. Wir haben also schon eine große Schnittmenge.

Und damit der oder die Verbraucher·in es möglichst einfach hat und sich nicht an zwei Stellen wenden muss, kann man jetzt direkt auf verbraucherzentrale.de ein Unding melden. Im Dialog kann man zusätzlich auch das Beratungsangebot der Verbraucherzentralen anfordern. So hat man als Nutzer·in ein Rundum-sorglos-Paket.

Kann ich das Unding auch unterstützen, wenn ich bisher noch nicht automatisch benachteiligt wurde?

Wir freuen uns jederzeit über Hinweise, wo Algorithmen und automatisierte Entscheidungen Probleme im Alltag verursachen, auch wenn es einen nicht selbst betrifft. Das geht per Mail, Twitter, Instagram oder Facebook. Außerdem kann jede·r an unseren Umfragen teilnehmen.

Wir arbeiten gerade an einer spannenden Neuerung: einer Datenspende-Funktion, um Crowd-Recherchen zu machen. Damit wollen wir unter die Motorhaube der Algorithmen gucken. Wenn wir vergleichen können, welche Ergebnisse ein automatisiertes System bei unterschiedlichen Menschen auswirft, dann können wir besser verstehen, wie die Entscheidung zustande kam – und ob sie fair ist. Das lässt sich dann bei sehr vielen Themen und Portalen einsetzen, z.B. bei Tarifen für Versicherungen, Strom oder Gas bis zu Werbeanzeigen oder Ähnlichem.

Auch ganz wichtig: Wir wollen die Unding-Werkzeuge wie Datenspende, Meldeformular und Umfrage auch gerne anderen Organisationen zur Verfügung stellen. Damit kann Unding überall da wirksam werden, wo automatisierte Entscheidungen Auswirkungen haben.

Leonie Dorn (sie/ihr)

Senior PR & Campaign Managerin

Foto: Julia Bornkessel, CC BY 4.0

Leonie Dorn ist bei AlgorithmWatch für Öffentlichkeitsarbeit, Campaigning und Fundraising zuständig. Sie hat Internationale Entwicklung studiert und war danach mehrere Jahre in der Online-Kommunikation für verschiedene zivilgesellschaftliche Organisationen tätig. Dadurch beschäftigt sie sich mit dem Einfluss von digitalen Medien auf gesellschaftliche Debatten wie Klimakrise, globale Gerechtigkeit und Feminismus. Zuletzt arbeitete sie als wissenschaftliche Mitarbeiterin an der TU Berlin, wo sie aktuell noch ihr Masterstudium Medienwissenschaft absolviert. Dadurch forscht sie zu Themen rund im Diskriminierung in Big Data & AI, Plattformkapitalismus und Digital Literacy mit dem Fokus auf feminist Science and Technology Studies.

Anna Lena Schiller

Projektmanagerin Unding

Foto: Julia Bornkessel, CC BY 4.0

Anna Lena ist bei AlgorithmWatch Projektmanagerin für die Meldeplattform Unding. Ihren Abschluss machte sie an der Business-Uni „KaosPilots“ in Aarhus, Dänemark mit dem Schwerpunkt soziales Unternehmertum. Bei AlgorithmWatch liegt ihr Arbeitsschwerpunkt im Bereich Auswirkungen automatisierter Entscheidungen und Diskriminierung durch Algorithmen. Zuvor hat Anna Lena zehn Jahre lang eine Designagentur für Informationsvisualisierung geführt und datenjournalistische Projekte umgesetzt.