Personen-Scoring in der EU: vorerst kein Black-Mirror-Szenario – zumindest nicht für alle

„Abgestürzt“ - so heißt eine im Oktober 2016 erstmals ausgestrahlte Folge der britischen Serien-Dystopie „Black Mirror“. Darin greifen die Figuren nach jeder sozialen Interaktion zu ihrem Smartphone, um sich gegenseitig auf einer 5-Punkte-Skala zu bewerten; der Score eines jeden ist dann für alle anderen sichtbar. Was an Verhalten oder Meinungen nicht gut ankommt, führt in einer solchen Welt zu schlechteren Bewertungen und letztlich ins soziale Abseits.

Die fiktionale Story wird immer wieder gern als Beispiel dafür herangezogen, wie ein zentralisiertes, lückenloses Personen-Scoring in der Praxis aussehen würde. Tatsächlich ist ein solches System aus technischen wie rechtlichen Gründen in der Europäischen Union zwar nur schwer vorstellbar. Aber für einen großen Teil der europäischen Bürgerinnen und Bürger heißt das noch lange nicht, dass sie heute oder in Zukunft vor invasivem Scoring sicher wären. Die Wirklichkeit ist nur noch ein bisschen bedrohlicher als die Fiktion.

Die Bedeutung Nationaler Identifizierungsnummern

Aus technischer Sicht muss für ein ubiquitäres, zentrales Scoring vor allem eine Grundvoraussetzung erfüllt sein: Jede Bürgerin und jeder Bürger muss eindeutig identifizierbar sein, von der Wiege bis zur Bahre, mittels eines unverwechselbaren und unveränderbaren Identifikators. Das ist der Sinn von Nationalen Identifizierungsnummern (NIN), die zudem einen schnellen und zuverlässigen Abgleich zwischen den verschiedenen Datenbanken ermöglichen, deren Informationen in den Score einfließen.

Die Bedeutung Nationaler Identifizierungsnummern für ein übergreifendes Scoring war schon zu einem frühen Zeitpunkt bekannt, als die Digitalisierung im staatlichen Bereich gerade erst anfing. In den 1970er Jahren gab es beispielsweise in Frankreich und Deutschland erhebliche zivilgesellschaftliche Proteste gegen das Vorhaben, personenbezogene Daten aus verschiedenen Quellen gleichzeitig abzurufen (siehe für Deutschland: Steinmüller, 1973, für Frankreich: Chignard, 2018). In Deutschland scheiterten damals die Pläne für ein sogenanntes „Personenkennzeichen“. In Frankreich wurde ein Gesetz verabschiedet, das jegliche automatisierte Verarbeitung personenbezogener Daten untersagte¹, womit staatliches Scoring von Bürgerinnen und Bürgern von vornherein ausgeschlossen war. (Allerdings gibt es auch in Frankreich bereits seit 1945 eine Nationale Identifizierungsnummer, nämlich die Sozialversicherungsnummer.)

Nationale Identifizierungsnummern wurden auch in Dänemark 1968 und in Estland 1992 eingeführt. Andere Länder folgten dem deutschen Vorbild. In Ungarn erklärte 1991 das Verfassungsgericht solche Identifizierungsnummern für illegal (Pouloudi & Kalliamvakou, 2011). Österreich führte zwar 2006 eine Identifizierungsnummer für seinen Zensus ein, stellte jedoch hohe Anforderungen an die Verschlüsselung. Lediglich die Datenschutzbehörde konnte auf die Daten zugreifen (Kronbichler, 2011).

Tatsächlich sind europäische Staaten, deren Rechtssysteme Nationale Identifikationsnummern häufig verbieten, derzeit die Ausnahme von der Regel. Der globale Trend deutet in eine andere Richtung. Angetrieben von Unternehmen mit Verkaufsinteressen und internationalen Hilfsorganisationen kann es vielen Staaten rund um den Globus mit der Einführung solcher Nummern gar nicht schnell genug gehen.

Scoring-Experimente mit Bürgerinnen und Bürgern

Nationale Identifizierungsnummern erleichtern das Scoring von Bürgerinnen und Bürgern erheblich. In den 1970er Jahren waren sie sogar noch eine Grundvoraussetzung dafür. Dank Fortschritten bei der Datenbanksoftware und der Rechnerleistung lassen sich Individuen heute aber auch ohne solche Nummern über verschiedene Datenbanken hinweg identifizieren. Großbritannien hat beispielsweise nie eine Nationale Identifizierungsnummer eingeführt, und doch gibt es dort zahlreiche Beispiele für Bürger-Scoring-Verfahren.

Und nicht nur dort. Experimente mit Bürger-Scoring werden mittlerweile von verschiedenen staatlichen Stellen in einer ganzen Reihe von europäischen Ländern durchgeführt. In den Niederlanden fließen in einem „Risiko-Inventarisierungs-System“ (Systeem Risico Inventarisatie, SyRI) Daten aus der Steuerbehörde, der Einwanderungsbehörde und aus anderen Quellen zusammen, um Sozialbetrug aufzudecken. Im schwedischen Trelleborg greift ein Algorithmus unter anderem auf Datenbanken der Steuerverwaltung und der Behörde für soziales Wohnen zu; es geht darum zu bestimmen, ob Anträge auf soziale Unterstützung berechtigt sind oder nicht. In Dänemark sollte ein Computersystem Kinder in schwierigen Verhältnissen aufspüren, die möglicherweise Schutz benötigen. In die Berechnung für den Score der betroffenen Familie fließten zahllose Parameter ein: psychische Krankheiten (1000 Punkte), Arbeitslosigkeit (500 Punkte) oder verpasste Arzttermine (1000 Punkte, bei Zahnärzten nur 300 Punkte). Pläne für das System wurden aber im Dezember 2018 stillgelegt. In Frankreich setzte der Geheimdienst Algorithmen ein, um auffälliges Verhalten von Internetnutzern zu detektieren. Im deutschen Mannheim senden Überwachungskameras Warnmeldungen an die Polizei, wenn deren Algorithmen bestimmte Verhaltensweisen bei Passanten feststellen (alle Beispiele bei AlgorithmWatch, 2019). In Spanien trifft ein Algorithmus auf Basis von Daten zu Einkommen und Miete eine Entscheidung darüber, ob Mieter einen Zuschuss zu ihren Stromkosten bekommen (Belmonte, 2019).

Nicht bei all diesen Beispielen automatisierter Entscheidungsfindung kommt am Ende ein universeller Score für die jeweils betroffene Person heraus. Sie alle reduzieren jedoch verschiedene Daten-Inputs auf eine einzelne Zahl oder einen einzelnen Wert, der zur Grundlage der Entscheidung eines Algorithmus wird. Letztlich sind alle Verfahren, die verschiedene Quellen personenbezogener Daten anzapfen und automatisiert eine Entscheidung berechnen, nichts anderes als ein Bürger-Score.

Es gibt keine Anzeichen dafür, dass auch nur ein einziger Staat in Europa beabsichtigen würde, einen allgemeinen Bürger-Score für seine Einwohner einzuführen. Und nach aller Wahrscheinlichkeit wird es auch in Zukunft nicht dazu kommen. Wie die Wirtschaftswissenschaftlerin Antonia Hmaidi schon 2018 in Bezug auf den viel diskutierten Social-Management-Score der chinesischen Regierung darlegte, ist nämlich ein solcher Universal-Score komplett nutzlos. Wer Input aus allen möglichen Quellen zusammenführt, bekommt schlichtweg kein in irgendeiner Weise verwertbares Ergebnis. Eine konkrete Person hat vielleicht Finanzdaten, die einen tollen Kredit-Score ergeben, aber desaströse pädagogische Fähigkeiten, was zu wissen nützlich sein kann, wenn man gefährdete Kinder aufspüren will. Die beiden Werte zusammenzuführen, würde jedoch einen Durchschnittswert ergeben, der ohne Aussagekraft wäre.

Dennoch sind die derzeitigen Bürger-Scoring-Experimente in der Europäischen Union nicht harmlos. Sie haben vielmehr erhebliche Auswirkungen auf die Betroffenen. Für die ärmeren Bürgerinnen und Bürger in Europa sind Sozialleistungen und deren Höhe ein Faktor, der ihr tägliches Leben in hohem Maße mitbestimmt. Wie viele Menschen derzeit von Scoring-Verfahren betroffen sind, lässt sich nicht angeben, da die meisten automatisierten Entscheidungsprozesse entweder intransparent oder von vornherein geheim sind. Interessanterweise zielt aber ein großer Teil der von Algorithmwatch 2019 recherchierten Beispiele darauf ab, den Zugang zu Sozialleistungen einzuschränken. Einige wenige Gegenbeispiele haben mit Steuerbetrug zu tun. Die französische Regierung gab 2018 bekannt, durch die Zusammenführung mehrerer Datenbanken potenziellen Steuerhinterziehern auf die Spur kommen zu wollen – seither gab es aber keine Neuigkeiten von dem Projekt. Die slowenischen Steuerbehörden erstellen ein automatisiertes Ranking aller Steuerzahler, geordnet nach der Wahrscheinlichkeit möglicher Steuerhinterziehung – es ist aber nicht bekannt, auf welcher Art von Daten dieses Ranking beruht (AlgorithmWatch 2019).

Politische Steuerung nach objektiven Zahlen

Warum kommt es gerade jetzt zu einer solchen Welle des Bürger-Scorings? Dass die Digitalisierung von Verwaltungsdaten solche Verfahren ermöglichen würde, war schon in den 1970er Jahren offenkundig. Zumindest aus technischer Sicht wären solche Experimente in Ländern mit Nationalen Identifizierungsnummern, wie Dänemark oder Frankreich, also schon vor vierzig Jahren möglich gewesen. Auch hat es seither keine gesetzlichen Änderungen gegeben, die das Bürger-Scoring wesentlich erleichtert hätten, sodass man kaum veränderte rechtliche Rahmenbedingungen dafür verantwortlich machen kann. Im Gegenteil, viele der Bürger-Scoring-Projekte stehen im Verdacht, rechtswidrig zu sein. Das gilt für das Trelleborg-System in Schweden ebenso wie für ein Slowenisches Projekt, mit dem potentiell sicherheitsgefährdende Reisende an der Landesgrenze automatisch erkannt werden sollen (AlgorithmWatch 2019). Auch eine gewünschte Effizienzsteigerung der Behörden kann kaum der Grund sein. Beispielsweise entgeht dem britischen Staat durch Steuerhinterziehung nach konservativen Schätzungen dreißigmal so viel Geld wie durch Sozialbetrug (Ball, 2013). Auf Effienzsteigerung erpichte Regierungen würden dort mit ihren Experimenten angefangen, wo am meisten herauszuholen wäre. Stattdessen werden  vor allem benachteiligte Bevölkerungsteile ins Visier genommen.

Das passt zu einer These des französischen Rechtswissenschaftlers Alain Supiot. Politische Steuerung nach vermeintlich objektiven Zahlen, so Supiot, ermögliche die Entpolitisierung von Entscheidungsprozessen. Indem originär politische Entscheidungen, etwa darüber, wer Anspruch auf Solidaritätsleistungen der Gemeinschaft hat, an Algorithmen delegiert werden, die Scoring-Werte berechnen, können die Mächtigen ihr politisches Handeln als neutral und objektiv darstellen. Der Traum von einer harmonischen Gesellschaft, deren Geschicke nach objektiven Zahlen gelenkt werden, ist so alt wie die Zivilisation selbst. Und sie ist ein Gegenentwurf zum Rechtsstaat, in dem Entscheidungen verhandelt werden: zunächst von politischen Entscheidungsträgern, dann ggf. von  Richtern. Vor diesem Hintergrund ist das Bürger-Scoring nur eine weitere Entwicklung in der langen Liste der „Regierungstechniken“, die das westliche Denken seit der Aufklärung hervorgebracht hat (Supiot, 2015).

Politische Steuerung nach objektiven Zahlen gehört, um einen Begriff des Historikers Timothy Snyder zu verwenden, in den Bereich einer „Politik der Unvermeidbarkeit“. Der Begriff beschreibt, wie politische Macht der öffentlichen Verhandlung entzogen wird. Indem sie Entscheidungen als alternativlos darstellen, kreieren die politischen Akteure ein diskursives Umfeld, in dem es keine Wahlmöglichkeiten mehr zu geben scheint, und festigen so ihre Macht (Snyder, 2018). Das muss nicht unbedingt ein intentionaler Prozess sein. Weil die konkreten Verfahren automatisierter Entscheidungsfindung, oft genug kompliziert umschrieben, von Politikern und ihrer Entourage aus Journalisten und Think-Tank-Beratern meist gar nicht verstanden werden, sind ihnen möglicherweise auch deren politische Implikationen gar nicht bewusst.

Absichtlich undurchsichtig

Die Ängste vor einem Black-Mirror-Szenario sind sicherlich irrational. Ein universaler Bürger-Score wäre unpraktikabel und nutzlos. Er würde Aspekte zusammenbringen, die nichts miteinander zu tun haben. Und weil aller Wahrscheinlichkeit nach kein Einzelner in allen Kategorien dieselben Werte erzielen würde, würden die Daten aus unterschiedlichen Quellen am Ende sinnlos miteinander verrechnet. (Im Extremfall könnte zum Beispiel ein verurteilter Kinderschänder, der seine Raten immer pünktlich bezahlt, einen Durchschnittswert haben.)

Ohnehin haben die meisten derzeitigen Bürger-Scoring-Experimente etwas ganz anderes im Sinn. Sie zielen darauf ab, die Zahl der öffentlich diskutierbaren politischen Handlungsalternativen zu reduzieren. Politische Steuerung mit vermeintlich objektiven Zahlen lässt keinen Raum für diskursive Auseinandersetzung.² Dieses Projekt benötigt kein universelles Scoring für alle Bürgerinnen und Bürger. Sondern nur für jene, die am wenigsten Macht haben und möglicherweise die größte Bedrohung für die herrschende Ordnung darstellen.

An klaren Regeln, wie es sie etwa bei dem dänischen Scoring-System gibt, mit dem gefährdete Kinder aufgespürt werden sollen, können deshalb jene, die solche Verfahren implementieren wollen, kein Interesse haben. Im Gegenteil, die Undurchsichtigkeit der Verfahren stärkt ihre Macht, indem es jene entmächtigt, auf die sie angewandt werden. Die Betroffenen haben keine Möglichkeit, den Prozess, dem sie unterworfen werden, zu kontrollieren und sich darin als souveräne Subjekte wahrzunehmen. Dass die Kriterien und Regeln der Scoring-Verfahren bei den meisten der in diesem Text angeführten Fallbeispiele nicht öffentlich gemacht werden, ist also kein Zufall. Es ist vielmehr typisch dafür, wie derzeit Bürger-Scoring in der Europäischen Union vorangetrieben wird.

Aus dem Englischen von Ilja Braun.

Der Text wurde am 23.10.2019 bearbeitet. Wir hatten zuerst geschrieben, dass das dänische Punktsystem inkraftgetreten war. Das war nicht der Fall.

1) Loi n°78-17 vom 6 Januar 1978, Art. 2.
2) Andernfalls würde das gesamte durch das Bürger-Scoring ermöglichte Konstrukt in sich zusammenbrechen. Würde das Verfahren zur Berechnung des Scores öffentlich debattiert, träte seine politische Natur offen zutage. Die komplizierten Details des Verfahrens müssten dann in Gesetzesform gegossen und durch das Rechtssystem bestätigt werden, was die vermeintlichen Gewinne an Effizienz und Objektivität zunichtemachen würde.

Nachweise

AlgorithmWatch (2019). Automating Society: Taking Stock of Automated  Decision-Making in the EU [report].

Ball, J. (2013). Welfare fraud is a drop in the ocean compared to tax avoidance, The Guardian. Archived at http://archive.is/XOx6o

Belmonte, E. (2019). La aplicación del bono social del Gobierno niega la ayuda a personas que tienen derecho a ella, Civio. Archived at http://archive.is/f7K0c

Berne, X. (2018). Contre la fraude fiscale, le gouvernement veut recourir davantage au « data mining », NextINpact. Archived at http://archive.is/g94s2

Chignard, S. (2018). « Safari, la chasse aux Français », 40 ans après [blog]. Archived at http://archive.is/PloNt

Hmaidi, A. (2018). „The“ Social Credit System [presentation]. Accessed on March 31, 2019 at https://media.ccc.de/v/35c3-9904-the_social_credit_system

Kayser-Bril, N. (2019). Identity-management and citizen scoring in Ghana, Rwanda, Tunisia, Uganda, Zimbabwe and China.     

Kronbichler, K. (2011). „Von der traditionellen Volkszählung zur Registerzählung.“ GW-Unterricht 2: 123. Archived at http://archive.is/HisuB

Pouloudi, N., & Kalliamvakou, E. (2011). Tracing Diversity in the History of Citizen Identifiers in Europe: a Legacy for Electronic Identity Management? In Emerging Themes in Information Systems and Organization Studies (pp. 333-346). Physica-Verlag HD.

Snyder, T. (2018). The Road to Unfreedom: Russia, Europe, America. Tim Duggan Books.

Steinmüller, W. (1973). Datenschutzrechtliche Anforderungen an die Organisation von Informationszentren. GI-BIFOA Internationale Fachtagung: Informationszentren in Wirtschaft und Verwaltung, 186–205. doi:10.1007/bfb0019346 

Supiot, A. (2015). La gouvernance par les nombres. Fayard.