Von Nicolas Kayser-Bril • nkb@algorithmwatch.org • GPG Key • Aus dem Englischen von Ilja Braun
Zum Anbruch des Jahres wagt AlgorithmWatch neun Vorhersagen für das neue Jahr 2020. In zwölf Monaten werden wir schauen, inwieweit wir recht behalten haben
Im Mai 2020 wird die Messstation Mauna Loa auf Hawaii den höchsten Gehalt von CO2 in der Atmosphäre seit mindestens zwei Millionen Jahren feststellen. Die Messstation ist einer der wichtigsten Referenzstandorte weltweit für das Monitoring der Treibhausgase. Im Mai erreichen die Kohlendioxidwerte stets ihre jährlichen Höchststände. Seit man in den 1960er Jahren mit den Messungen angefangen hat, kam es jedes Jahr wieder zu neuen Rekorden.
Algorithmenabgase
Wegen der Klimakrise befassen sich immer mehr Organisationen mit dem Zusammenhang zwischen CO2-Emissionen und Algorithmen. Sowohl in der Entwicklung als auch im laufenden Betrieb verschlingen Algorithmen nämlich zum Teil riesige Mengen an Energie.
Auch AlgorithmWatch wird im nächsten Jahr an dem Thema arbeiten, mit Unterstützung des Umweltministeriums.
Dass solche Projekte kurzfristig einen nennenswerten Einfluss auf die Konzentration von Treibhausgasen in der Atmosphäre haben werden, ist zwar nicht zu erwarten. Aber die Auswirkungen der Klimakatastrophe werden in Zukunft eher noch deutlicher zu spüren sein. In Ländern, die sich gegen zunehmend hohe Windstärken, lange Dürreperioden, Starkregen, Großbrände und Hitzewellen nicht ausreichend gewappnet haben, ist nicht auszuschließen, dass es zu Zusammenbrüchen der Kommunikations- und Energieversorgungsnetze kommt. Das wiederum wird Auswirkungen auf automatische Systeme haben, die auf unterbrechungsfreie Konnektivität angewiesen sind, wie etwa automatisierte Grenzkontrollpunkte oder Fernsteuerungssysteme. Noch größer wären die Auswirkungen bei einem Ausfall großer Datenzentren, wie bereits 2012 beim Hurricane Sandy in New York zu beobachten war.
Automatisierte Armenhäuser
Obwohl der Hype um die Künstliche Intelligenz inzwischen nachgelassen hat, werden Städte und Gemeinden 2020 weiterhin automatisierte Systeme einsetzen, und zwar vor allem in den Bereichen der Wohlfahrtsleistungen, der Gesundheit und der Polizei. Recherchen von AlgorithmWatch haben aufgedeckt, dass Polizeibehörden in mehreren europäischen Ländern Techniken der Gesichtserkennung, die wiederum mit anderen automatisierten Systemen vernetzt werden können, bereits einsetzen bzw. in Zukunft einsetzen wollen.
Im Vereinigten Königreich hat der National Health Service kürzlich einen Vertrag mit Amazon abgeschlossen, der dem Unternehmen den Zugang zu Patient·innendaten eröffnet. Vielleicht berät also demnächst Alexa, der Sprachassistent des Unternehmens, dessen Kunde·innen in Gesundheitsfragen.
Trotz lautstarker öffentlicher Proteste gegen solche Entwicklungen in mehreren Ländern sind nur sehr wenige Projekte gestoppt worden. Politiker·innen betrachten Automatisierung meist als unvermeidlich, und diese Einstellung wird sich wohl auch 2020 nicht ändern. Nicht unwahrscheinlich, dass darauf auch der UN-Sonderberichterstatter zu extremer Armut und Menschenrechten wieder eingehen wird, wenn er seinen neuen Bericht vorlegt.
Undurchschaubare Plattformen
Die US-Präsidentschaftswahlen am 3. November 2020 könnten indes tatsächlich die politische Haltung zu algorithmischer Entscheidungsfindung verändern. Mehrere Kandidat·innen der Demokraten haben sich kritisch zu dem Thema geäußert. Elizabeth Warren verdammte beispielsweise die diskriminierenden Algorithmen von Apple Card, einem Unternehmen, hinter dem neben dem bekannten Technologiekonzern auch die Großbank Goldman Sachs steht. Apple Card hatte in mindestens zwei Fällen Männern bessere Vertragskonditionen angeboten als Frauen. Bernie Sanders wiederum forderte ein Verbot von Gesichtserkennungsverfahren bei der Polizeiarbeit.
So gut wie sicher werden die Teams, die an den Wahlkampagnen arbeiten, – und möglicherweise nicht nur sie – mit Hilfe von Onlineplattformen und Algorithmen versuchen, das Wahlverhalten in ihrem Sinne zu beeinflussen. Ebenso sicher ist jedoch, dass dies schwer nachzuweisen sein wird, da Facebook, Google, Apple und Amazon unabhängigen Wissenschaftler·innen und Journalist·innen auch weiterhin keinen Zugang zu ihren Daten gewähren werden.
Regulierung 2021
Die öffentliche Debatte wird sich in den 27 Mitgliedsstaaten der europäischen Union vermutlich auch weiterhin unverhältnismäßig stark auf die Wahlen und die Gesamtsituation in den USA konzentrieren. Doch einige Organisationen, darunter AlgorithmWatch, werden nach Kräften auch über die Situation in Europa berichten. Unser Report “Automating Society”, der im Sommer 2020 erscheinen wird, markiert dabei einen wichtigen Meilenstein.
Dass schon 2020 Gesetze verabschiedet werden, mit denen die automatisierte Entscheidungsfindung in nennenswertem Maße reguliert wird, ist eher unwahrscheinlich. Die Europäische Kommission wird aller Voraussicht nach im ersten Quartal des Jahres ein Weißbuch zu dem Thema veröffentlichen. Konkrete Regulierungsvorschläge sollen folgen. Der geplante “Digital Services Act”, der auch Elemente der Plattformregulierung enthalten soll, wird Anfang des Jahres seine lange Reise durch das EU-Gesetzgebungsverfahren antreten
In den übrigen großen Ländern der EU werden (außer in Rumänien) im Jahr 2020 keine allgemeine Wahlen stattfinden. Die derzeit amtierenden Regierungen sind entweder zu schwach oder am Thema zu wenig interessiert, als dass man hier ambitionierte Reformen erwarten dürfe.
2020 wird sich insofern vielleicht wie eine legislative Auszeit anfühlen. Aber zumindest eröffnet sich dadurch einzelnen Abgeordneten und zivilgesellschaftlichen Organisationen die Möglichkeit, wirkungsvolle Regulierungsvorschläge zu entwickeln, die 2021 umgesetzt werden könnten.
