AlgorithmWatch ist eine gemeinnützige Forschungs- und Advocacy-Organisation mit dem Ziel, Systeme automatisierter Entscheidungsfindung (ADM) und deren Auswirkungen auf die Gesellschaft zu beobachten und zu analysieren.

Blog

17. Januar 2022

#dsa #europaeischekommission

Wenn Plattformen Recherche im öffentlichen Interesse blockieren: Die EU-Kommission äußert sich zum untersagten AlgorithmWatch-Projekt

Da Facebook ein Forschungsprojekt von AlgorithmWatch stoppte, fragte der Europaparlament-Abgeordnete Patrick Breyer bei der EU-Kommission nach, wie Forschung zu den Auswirkungen von Plattformen auf unsere demokratische Öffentlichkeit geschützt wird, wenn die großen Plattformbetreiber Einblicke in ihre Daten und Algorithmen verwehren. Die Kommission hat nun geantwortet.

Weiterlesen

Emily Morter | Unsplash

Blog

17. Januar 2022

#datenspende #diskriminierung #unding

Verbraucherschutz vor Algorithmen – wie wehrt man sich gegen automatisierte Entscheidungen?

Das Projekt Unding unterstützt Menschen, die von automatischen Entscheidungen benachteiligt wurden. Im Interview berichtet Projektmanagerin Anna Lena Schiller, was Betroffene tun können, und wie Verbraucherschutz im digitalen Zeitalter aussieht

Weiterlesen

Photo: Julia Bornkessel, CC BY 4.0

Story

13. Januar 2022

#onlineformulare #unding

Name zu kurz, Registrierung ausgeschlossen: Diskriminierende Online-Formulare

Eine neue Unding-Umfrage geht Problemen mit Online-Formularen auf den Grund, da deren Voreinstellungen oft Menschen ausschließen. Seitdem ein Rentner mit einem der gewöhnlichsten Namen der Welt diese Erfahrung macht, lässt er den Betreiber·innen der Websites keine Ruhe.

Weiterlesen

Read in English

Blog

27. Dezember 2021

Das Jahr, in dem automatisierte Systeme kein Teil der Lösung waren – 2021 im Rückblick

Das verheerende Hochwasser in Rheinland-Pfalz und die Enthüllungen der „Facebook Files“ haben eines gemeinsam: Die Verantwortlichen hatten zwar alle Informationen, trafen aber die falschen Entscheidungen. Auch 2021 wurden den Algorithmen keine Zügel angelegt – aber es gibt die Hoffnung, dass es 2022 endlich dazu kommt.

Weiterlesen

Read in English

Jill Robidoux | flickr | CC BY 2.0

Position

21. Dezember 2021

#deutschland #Oeffentlicheverwaltung

AlgorithmWatch nimmt Stellung zum Entwurf des Digitalisierungsgesetzes für Schleswig-Holstein

Der Entwurf für ein Digitalisierungsgesetz des Landes Schleswig-Holstein zeigt den deutlichen Willen der Landesregierung, die öffentliche Verwaltung in die Lage zu versetzen, die Digitalisierung zum Wohl der Menschen einzusetzen. Im Detail erkennen wir allerdings einige offene Fragen und auch Fehleinschätzungen.

Weiterlesen

Beatriz Perez

Position

14. Dezember 2021

#digitalservicesact #eu #regulierung

DSA-Meilenstein: Die EU-Gesetzgeber·innen haben unsere Forderungen nach Transparenz für Big Tech wahrgenommen

In den letzten Monaten hat sich AlgorithmWatch dafür eingesetzt, dass der Digital Services Act (DSA) genutzt wird, um Transparenz darüber zu schaffen, wie Online-Plattformen öffentliche Debatten beeinflussen. Unterstützt wurden wir von Dutzenden von zivilgesellschaftlichen Organisationen und Forscher·innen sowie über 6.000 Einzelpersonen. Die wichtige Ausschussabstimmung im Europäischen Parlament zeigt, dass unsere Arbeit etwas bewirkt hat.

Weiterlesen

Read in English

Dmitry Ratushny | Unsplash

Publikation

9. Dezember 2021

#covid19 #contacttracing #tracingthetracers

Tracing The Tracers-Report 2021: Die automatisierte Bekämpfung der COVID-Pandemie

In diesem Abschlussbericht liefern wir eine erste umfassende Einschätzung der wichtigsten Trends und Entwicklungen bei den ADM-gestützten Maßnahmen gegen COVID-19.

Weiterlesen

Read in English

Position

30. November 2021

#aiact #eu #regulierung

Zivilgesellschaftliche Organisationen rufen die EU auf, Grundrechte ins Zentrum der KI-Verordnung zu stellen

115 Organisationen der Zivilgesellschaft, darunter AlgorithmWatch und European Digital Rights (EDRi), haben eine gemeinsame Erklärung veröffentlicht, um zu fordern, dass die bevorstehende Verordnung über künstliche Intelligenz (Artificial Intelligence Act, AI Act) die Grundrechte ins Zentrum stellt.

Weiterlesen

Read in English

Publikationen

Hintergrundberichte, Analysen und Arbeitspapiere - gemeinsam mit anderen Wissenschaftler·innen forschen wir zu den Auswirkungen algorithmischer Entscheidungen und ihren ethischen Fragestellungen. Zu unseren Publikationen
Jonas Tebbe | Unsplash

27. Juli 2021

Digital Autonomy Policy Brief #3 – Tool zur Folgenabschätzung.

Automatisierte Entscheidungsfindungssysteme (ADM) sind im öffentlichen Sektor angekommen. Sie etablieren sich auch in öffentlichen Verwaltungen zunehmend als Instrumente, die Entscheidungsverfahren und Dienstleistungen effizienter, einfacher und nutzerfreundlicher gestalten sollen. Im dritten Policy Brief des Digital Autonomy Hubs legen wir dar, warum ihr Einsatz in der Verwaltung besondere Herausforderungen aufwirft und wie ihnen begegnet werden kann. Hierfür stellen wir ein Instrument vor, mit dem die Folgen von ADM-Systemen eingeschätzt, Risiken identifiziert und gegebenenfalls die Systeme angepasst werden können.

Weiterlesen

Stories

Wie beeinflussen automatische Entscheidungssysteme unser aller Alltag? Wo werden sie konkret eingesetzt und was läuft dabei schief? Unsere journalistischen Recherchen zu aktuellen Fälle und Fehlern automatischer Entscheidungssysteme. Zu unseren Stories

22. September 2021

Erste DataSkop-Ergebnisse: Axel Springers WELT-Kanal dominiert die YouTube „Top Stories“

Erste Auswertungen der Datenspenden zeigen, dass in den deutschsprachigen (automatischen generierten) Top Stories der YouTube-News werden wesentlich mehr Videos vom Kanal WELT Nachrichtensender gezeigt als von anderen Kanälen.

Weiterlesen

Positionen

Lesen Sie unsere Stellungnahmen zu laufenden politischen Entwicklungen und Regulierungsprozessen rund um automatisierte Entscheidungsprozesse. Unsere Positionen
Christian Lue | Unsplash

25. November 2021

Digitaler Aufbruch? – Ampel-Koalitionsvertrag zeigt gute Ansätze, Klärungsbedarf bleibt

Der Koalitionsvertrag von SPD, Bündnis 90/Die Grünen und FDP ist da. Viele gute Ideen sind enthalten: Die digitale Zivilgesellschaft soll gestärkt werden, Digitalisierung soll die Bedürfnisse der Menschen in den Mittelpunkt stellen, digitale Grundrechte werden geschützt. Der Grundton ist ermutigend. Aber bei der konkreten Ausgestaltung ist Luft nach oben – insbesondere mit Blick auf Systeme des automatisierten Entscheidens (ADM-Systeme).

Weiterlesen

Blog

Aktuelle Veranstaltungen, Kampagnen und Neuigkeiten über unser Team – hier finden Sie die Updates von AlgorithmWatch. Zum Blog

4. Januar 2022

From evidence to impact: Stiftung Mercator fördert AlgorithmWatch

Die Stiftung Mercator wird AlgorithmWatch in den kommenden vier Jahren (2022-2025) unterstützen, um die Organisation darin zu stärken, sich für eine am Gemeinwohl orientierte Digitalpolitik und Governance von Algorithmen einzusetzen.

Weiterlesen

Projekte

Ob Nachhaltigkeit, COVID-19, Social-Media-Plattformen oder Arbeit - mit konkreten Forschungsprojekten untersuchen wir die Risiken und Auswirkungen von automatisierten Entscheidungssystemen auf bestimmte gesellschaftliche Bereiche. Und Sie können mitmachen!
Projekte ansehen

11. März 2021

SustAIn: Der Nachhaltigkeitsindex für Künstliche Intelligenz

Wie nachhaltig ist Künstliche Intelligenz? Wir wissen, dass in der Entwicklung und Anwendung von KI viel Energie benötigt wird, dass Menschen als sogenannte Clickworker unter sehr schlechten Arbeitsbedingungen Trainingsdatensätze für KI-Systeme bearbeiten und diese nicht selten bestehende Diskriminierungsmuster verstärken. Angesichts einer steigenden Zahl an KI-Systemen, braucht es daher dringend eine Diskussion, wie KI nachhaltiger gestaltet werden kann. Hier setzt unser Projekt SustAIn an.

Weiterlesen