Blog

Gemeinwesen im Zeichen der Automatisierung: 9 Vorhersagen für 2020

Von Nicolas Kayser-Bril • nkb@algorithmwatch.orgGPG Key • Aus dem Englischen von Ilja Braun

Zum Anbruch des Jahres wagt AlgorithmWatch neun Vorhersagen für das neue Jahr 2020. In zwölf Monaten werden wir schauen, inwieweit wir recht behalten haben

Im Mai 2020 wird die Messstation Mauna Loa auf Hawaii den höchsten Gehalt von CO2 in der Atmosphäre seit mindestens zwei Millionen Jahren feststellen. Die Messstation ist einer der wichtigsten Referenzstandorte weltweit für das Monitoring der Treibhausgase. Im Mai erreichen die Kohlendioxidwerte stets ihre jährlichen Höchststände. Seit man in den 1960er Jahren mit den Messungen angefangen hat, kam es jedes Jahr wieder zu neuen Rekorden.

Algorithmenabgase

Wegen der Klimakrise befassen sich immer mehr Organisationen mit dem Zusammenhang zwischen CO2-Emissionen und Algorithmen. Sowohl in der Entwicklung als auch im laufenden Betrieb verschlingen Algorithmen nämlich zum Teil riesige Mengen an Energie.

Auch AlgorithmWatch wird im nächsten Jahr an dem Thema arbeiten, mit Unterstützung des Umweltministeriums.

Dass solche Projekte kurzfristig einen nennenswerten Einfluss auf die Konzentration von Treibhausgasen in der Atmosphäre haben werden, ist zwar nicht zu erwarten. Aber die Auswirkungen der Klimakatastrophe werden in Zukunft eher noch deutlicher zu spüren sein. In Ländern, die sich gegen zunehmend hohe Windstärken, lange Dürreperioden, Starkregen, Großbrände und Hitzewellen nicht ausreichend gewappnet haben, ist nicht auszuschließen, dass es zu Zusammenbrüchen der Kommunikations- und Energieversorgungsnetze kommt. Das wiederum wird Auswirkungen auf automatische Systeme haben, die auf unterbrechungsfreie Konnektivität angewiesen sind, wie etwa automatisierte Grenzkontrollpunkte oder Fernsteuerungssysteme. Noch größer wären die Auswirkungen bei einem Ausfall großer Datenzentren, wie bereits 2012 beim Hurricane Sandy in New York zu beobachten war.

Vorhersage 1: Verschiedene Organisationen werden sich in neuen Projekten mit dem Zusammenhang von Künstlicher Intelligenz und der Umwelt auseinandersetzen.
Vorhersage 2: Mindestens ein automatisiertes System wird aufgrund eines Klima-induzierten Infrastrukturausfalls versagen.

Automatisierte Armenhäuser

Obwohl der Hype um die Künstliche Intelligenz inzwischen nachgelassen hat, werden Städte und Gemeinden 2020 weiterhin automatisierte Systeme einsetzen, und zwar vor allem in den Bereichen der Wohlfahrtsleistungen, der Gesundheit und der Polizei. Recherchen von AlgorithmWatch haben aufgedeckt, dass Polizeibehörden in mehreren europäischen Ländern Techniken der Gesichtserkennung, die wiederum mit anderen automatisierten Systemen vernetzt werden können, bereits einsetzen bzw. in Zukunft einsetzen wollen.

Im Vereinigten Königreich hat der National Health Service kürzlich einen Vertrag mit Amazon abgeschlossen, der dem Unternehmen den Zugang zu Patient·innendaten eröffnet. Vielleicht berät also demnächst Alexa, der Sprachassistent des Unternehmens, dessen Kunde·innen in Gesundheitsfragen.

Trotz lautstarker öffentlicher Proteste gegen solche Entwicklungen in mehreren Ländern sind nur sehr wenige Projekte gestoppt worden. Politiker·innen betrachten Automatisierung meist als unvermeidlich, und diese Einstellung wird sich wohl auch 2020 nicht ändern. Nicht unwahrscheinlich, dass darauf auch der UN-Sonderberichterstatter zu extremer Armut und Menschenrechten wieder eingehen wird, wenn er seinen neuen Bericht vorlegt.

Vorhersage 3: AlgorithmWatch wird über mindestens 50 neue Automatisierungsfälle in Europa berichten.
Vorhersage 4: Weniger als drei der Fälle, über die wir bis Ende 2020 berichtet haben werden, werden von Gerichten oder Parlamenten gekippt.
Vorhersage 5: Der UN-Sonderberichterstatter zu extremer Armut und Menschenrechten wird einen neuen Bericht vorlegen, der in deutlichen Worten darlegt, was Automatisierung mit dem Fortbestehen von Armut zu tun hat.

Undurchschaubare Plattformen

Die US-Präsidentschaftswahlen am 3. November 2020 könnten indes tatsächlich die politische Haltung zu algorithmischer Entscheidungsfindung verändern. Mehrere Kandidat·innen der Demokraten haben sich kritisch zu dem Thema geäußert. Elizabeth Warren verdammte beispielsweise die diskriminierenden Algorithmen von Apple Card, einem Unternehmen, hinter dem neben dem bekannten Technologiekonzern auch die Großbank Goldman Sachs steht. Apple Card hatte in mindestens zwei Fällen Männern bessere Vertragskonditionen angeboten als Frauen. Bernie Sanders wiederum forderte ein Verbot von Gesichtserkennungsverfahren bei der Polizeiarbeit.

So gut wie sicher werden die Teams, die an den Wahlkampagnen arbeiten, – und möglicherweise nicht nur sie – mit Hilfe von Onlineplattformen und Algorithmen versuchen, das Wahlverhalten in ihrem Sinne zu beeinflussen. Ebenso sicher ist jedoch, dass dies schwer nachzuweisen sein wird, da Facebook, Google, Apple und Amazon unabhängigen Wissenschaftler·innen und Journalist·innen auch weiterhin keinen Zugang zu ihren Daten gewähren werden.

Vorhersage 6: Journalist·innen, Politiker·innen, Wissenschaftler·innen und Aktivist·innen jeglicher Couleur werden behaupten, die Präsidentschaftswahlen von 2020 seien von Plattformen und deren Algorithmen beeinflusst gewesen. Nur wenige werden ihre Behauptung jedoch mit Daten belegen können.
Vorhersage 7: Vor und nach den Wahlen werden die Plattformen, insbesondere Facebook, größtmögliche Transparenz für sich in Anspruch nehmen. Zu unrecht.

Regulierung 2021

Die öffentliche Debatte wird sich in den 27 Mitgliedsstaaten der europäischen Union vermutlich auch weiterhin unverhältnismäßig stark auf die Wahlen und die Gesamtsituation in den USA konzentrieren. Doch einige Organisationen, darunter AlgorithmWatch, werden nach Kräften auch über die Situation in Europa berichten. Unser Report “Automating Society”, der im Sommer 2020 erscheinen wird, markiert dabei einen wichtigen Meilenstein.

Dass schon 2020 Gesetze verabschiedet werden, mit denen die automatisierte Entscheidungsfindung in nennenswertem Maße reguliert wird, ist eher unwahrscheinlich. Die Europäische Kommission wird aller Voraussicht nach im ersten Quartal des Jahres ein Weißbuch zu dem Thema veröffentlichen. Konkrete Regulierungsvorschläge sollen folgen. Der geplante “Digital Services Act”, der auch Elemente der Plattformregulierung enthalten soll, wird Anfang des Jahres seine lange Reise durch das EU-Gesetzgebungsverfahren antreten

In den übrigen großen Ländern der EU werden (außer in Rumänien) im Jahr 2020 keine allgemeine Wahlen stattfinden. Die derzeit amtierenden Regierungen sind entweder zu schwach oder am Thema zu wenig interessiert, als dass man hier ambitionierte Reformen erwarten dürfe.

2020 wird sich insofern vielleicht wie eine legislative Auszeit anfühlen. Aber zumindest eröffnet sich dadurch einzelnen Abgeordneten und zivilgesellschaftlichen Organisationen die Möglichkeit, wirkungsvolle Regulierungsvorschläge zu entwickeln, die 2021 umgesetzt werden könnten.

Vorhersage 8: Die Europäische Kommission wird im ersten Quartal 2020 ein Weißbuch zur Künstlichen Intelligenz, aber keine substanziellen Gesetzesvorhaben vorlegen.
Vorhersage 9: Neben anderen Akteuren wird auch AlgorithmWatch verschiedene konkret umsetzbare Regulierungsvorschläge unterbreiten.

 


Photo by Charles on Unsplash (edited)
Veröffentlicht: 30. 12. 2019
Kategorie: Blog

Kommentieren

Your email address will not be published. Required fields are marked *

AlgorithmWatch wird gefördert durch