Europa will ein Vorbild für technologische Antworten auf COVID-19 sein. Aber es ist kompliziert.

Unser neuer Bericht über den Einsatz automatisierter Entscheidungssysteme in der COVID-19-Pandemie…

Die andauernde Pandemie hat den Einsatz einer Vielzahl von Systemen zur automatisierten Entscheidungsfindung (ADM) in ganz Europa vorangetrieben. In einer Sonderausgabe des Automating Society Reports 2020 stellen AlgorithmWatch und die Bertelsmann Stiftung eine erste Bestandsaufnahme und Untersuchung von ADM-Systemen vor, die als Folge und zur Bekämpfung der COVID-19-Pandemie in ganz Europa implementiert wurden.

Berlin, 1. September 2020. Apps zur Kontaktverfolgung für Smartphones, Thermoscanner, Gesichtserkennungstechnologie: Sowohl Kommunalverwaltungen als auch nationale Regierungen haben große Hoffnungen in solche Anwendungen und Geräte gesetzt, in der Hoffnung sie würden den Ausbruch des Virus eindämmen. Der neue Report Automated Decision-Making Systems in the COVID-19 Pandemic: A European Perspective fasst Beispiele für ADM-Systeme im Einsatz zusammen, die von einem Netzwerk von Fachleuten aus 16 Ländern zusammengestellt wurden. Der Bericht ist Teil des Projekts Automating Society von AlgorithmWatch und der Bertelsmann Stiftung und dient als “Vorschau” auf die nächste Ausgabe 2020, die im Oktober erscheint.

“Es gibt einen roten Faden, der sich durch viele der in dem Bericht untersuchten Beispiele zieht: die fehlerhafte Ideologie des ‘technologischen Solutionismus'”, sagt Fabio Chiusi, Projektmanager und Co-Editor des Reports. Jedes Problem werde als ‘Fehler’ betrachtet, der mithilfe von Technologie ‘repariert’ werden könne – obwohl die Beweise für die Wirksamkeit von ADM-Systemen im Einsatz gegen COVID-19 mehr als dürftig seien. Wie Chiusi betont, könne dies “zur unkritischen Einführung von Instrumenten und Richtlinien zu führen, die drohen, Menschenrechte zu untergraben. Aber die Sicherung der öffentlichen Gesundheit kann und muss mit demokratischer Kontrolle und Ausgewogenheit vereinbar sein”.

Darauf haben sowohl die Weltgesundheitsorganisation als auch EU-Institutionen durch Dokumente und Grundsätze deutlich hingewiesen. Viele Mitgliedstaaten haben aktiv versucht, diese umzusetzen, wie sich am deutlichsten in der Konzeption und Entwicklung ihrer “Expositionsmeldungs”-Anwendungen zeigt. Als besonders positiv ist zu bewerten, dass einige der Länder dezentrale Ansätze und Open-Source-Technologie einsetzen.

Die länderspezifischen Analysen des Reports werden kontextualisiert, indem die Hauptmerkmale der ADM-basierten Antworten innerhalb und außerhalb der EU verglichen werden. Dabei werden einige signifikante Unterschiede in der Art und Weise aufgezeigt, wie das Zusammenspiel von Technologie und Menschenrechten in verschiedenen Teilen der Welt zu beurteilen ist. Und obwohl radikale und letztlich repressive Modelle von ADM-Systemen hauptsächlich in Asien und dem Nahen Osten zu finden sind, lassen sich auch in einigen europäischen Ländern Ähnlichkeiten feststellen.

Die polnische App “Kwarantanna domowa” nutzt Geolokalisierungs- und Gesichtserkennungstechnologie, um sicherzustellen, dass relevante Personen unter Quarantäne gestellt werden; das Herunterladen der App ist obligatorisch. Gesichtserkennungstechnologie wurde auch in Italien, in der Gemeinde Como, zur Durchsetzung sozialer Distanzierung eingesetzt, was der Stadt das Etikett “Big Brother Como” einbrachte. In Slowenien gelang es der Regierung, ein Anti-Coronavirus-Gesetzespaket zu verabschieden, das ihr nicht nur eine rechtliche Grundlage gibt, um in Zukunft die Annahme ihrer Anwendung zur Ermittlung von Kontaktpersonen zu verlangen, sondern auch Polizeibefugnisse erheblich ausweitet und damit künftige regierungskritische Proteste gefährdet. Länder wie Estland und das Vereinigte Königreich experimentieren mit “Immunitätspässen” als digitale “Bescheinigungen” zum Nachweis des Gesundheitszustands einer Person.

Diese ADM-Systeme werden zwar als notwendige Instrumente für die “Rückkehr zur Normalität” angepriesen, aber wenn sie schlecht konzipiert und undurchsichtig eingesetzt werden, besteht die Gefahr, dass sie eine neue Normalität auf der Grundlage einer allgegenwärtigen Überwachung durchsetzen. Dem Bericht zufolge entstehen diese soziotechnischen Systeme zwar aus einem Notstand im Bereich der öffentlichen Gesundheit, könnten aber (wie sich bereits in anderen Staaten) gezeigt hat, bestehen bleiben und das bereits vor dem Ausbruch von COVID-19 eingesetzte Arsenal an Überwachungstechnologien erweiter.

“Wie dieser Report anhand einer Krise der öffentlichen Gesundheit zeigt, sind Technologien an sich kein Allheilmittel, sondern müssen in umfassendere soziotechnische Lösungen integriert und unter Berücksichtigung der bestehenden Rahmenbedingungen für Menschenrechte und Datenschutz verantwortungsvoll umgesetzt werden”, sagt Sarah Fischer, Projektleiterin bei der Bertelsmann Stiftung und Co-Editorin des des Berichts. Dass dies auch für den Einsatz von ADM-Systemen in vielen Lebensbereichen gilt, werden wir in der zweiten Ausgabe des Automating Society Reports zeigen.

Lesen die den Report online oder laden das PDF herunter (jeweils in englischer Sprache).

Für Fragen zum Report und Interviewanfragen wenden Sie sich bitte an Fabio Chiusi unter fc@algorithmwatch.org (Englisch & Italienisch)

Veröffentlicht: 1. 9. 2020
AlgorithmWatch wird gefördert durch