AlgorithmWatch ist eine Menschenrechtsorganisation mit Sitz in Berlin und Zürich. Wir setzen uns dafür ein, dass Algorithmen und Künstliche Intelligenz (KI) Gerechtigkeit, Demokratie und Nachhaltigkeit stärken, statt sie zu schwächen.

Algorithmic Accountability Reporting

Recherche in der Blackbox

Sozialbetrugsscoring, Predictive Policing oder Chat-GPT: Regierungen und Behörden weltweit setzen zunehmend Algorithmen ein, meist völlig intransparent. Algorithmic Accountability Reporting beleuchtet ihre Funktionsweise und Wirkung. Doch nur wenige Medien leisten sich solche Recherchen. Was ist da los?

Illustration: Julia Schwarz

Blog

15. Juni 2023

#datenspende #work

Datenspende

Hilf uns, Ungerechtigkeit in der Jobvergabe zu bekämpfen!

Spende deinen Lebenslauf, um gemeinsam gegen automatisierte Diskriminierung in Bewerbungsverfahren zu kämpfen!

Position

13. April 2023

#aiact #gpai

Pressemitteilung

AlgorithmWatch fordert Regulierung von “General Purpose AI” in der KI-Verordnung der EU

Dass große KI-Sprachmodelle das Ende der Menschheit einläuten, ist reine Spekulation. Schäden richten sie allerdings bereits jetzt an. AlgorithmWatch fordert daher die deutsche Bundesregierung und die EU auf, konkrete Vorkehrungen zu treffen, um eine Eskalation zu verhindern.

Ungerechtigkeit vorprogrammiert: Wenn Algorithmen diskriminieren

Algorithmische Entscheidungssysteme sind inzwischen in allen Lebensbereichen zu finden. Mit der Technik sind allerdings nicht alle Probleme gelöst, manchmal werden Menschen sogar durch sie benachteiligt.

Blog

26. September 2022 (Update: 15. August 2023)

#aiact #deutschland #eu #explainer #leitfaden

Explainer

Ein Leitfaden zum AI Act: Wie die EU KI regulieren will und was das für uns alle bedeutet

Die EU will Künstliche Intelligenz (KI) über alle Bereiche hinweg regulieren. In diesem hart umkämpften Prozess stehen die Interessen großer Tech-Konzerne denjenigen gegenüber, die für Grundrechte und die Interessen der Bevölkerung kämpfen. In diesem Leitfaden erklären wir, wozu das neue Gesetz da ist, warum wir alle davon betroffen sind und welche Systeme bald verboten werden könnten.

Publikationen

Hintergrundberichte, Analysen und Arbeitspapiere - gemeinsam mit anderen Wissenschaftler·innen forschen wir zu den Auswirkungen algorithmischer Entscheidungen und ihren ethischen Fragestellungen. Zu unseren Publikationen

Yasmin Dwiputri & Data Hazards Project / Better Images of AI / AI across industries / Licenced by CC-BY 4.0

21. August 2023

Was folgt aus dem Digital Services Act

Plattformregulierung: Wie lassen sich systemische Risiken für die Demokratie erkennen?

Wie sollen die Betreiber von großen Plattformen und Suchmaschinen dem Digital Services Act (DSA) zufolge „systemische Risiken“ erkennen? AlgorithmWatch hat eine Methodik entworfen, an der wir uns als zivilgesellschaftliche Watchdog-Organisation orientieren werden, um die gerade stattfindenden Risikobewertungen kritisch zu begleiten.

Weiterlesen

Stories

Wie beeinflussen automatische Entscheidungssysteme unser aller Alltag? Wo werden sie konkret eingesetzt und was läuft dabei schief? Unsere journalistischen Recherchen zu aktuellen Fälle und Fehlern automatischer Entscheidungssysteme. Zu unseren Stories

Foto von Gilles Lambert auf Unsplash

5. Juni 2023

Cybergrooming | Teil 1 von 3

Die automatisierte Jagd auf Cybergroomer

Cybergroomer machen sich online an Minderjährige heran, Algorithmen sollen solche Versuche aufdecken. Doch die Zuverlässigkeit automatisierter Systeme ist umstritten – und sie können sogar Kinder und Jugendliche kriminalisieren.

Weiterlesen

Positionen

Lesen Sie unsere Stellungnahmen zu laufenden politischen Entwicklungen und Regulierungsprozessen rund um automatisierte Entscheidungsprozesse. Unsere Positionen

Foto von Aneta Pawlik auf Unsplash

28. September 2023

Offener Brief mit Amnesty International

Wir fordern Schutz unserer Menschenrechte vor den Risiken von KI-Systemen

Die aktuellen Verhandlungen zur KI-Verordnung nehmen alarmierende Entwicklungen an. Daher fordern wir gemeinsam mit Amnesty International Minister Buschmann und Minister Habeck auf, unsere Menschenrechte mit der KI-Verordnung zu schützen.

Weiterlesen

Blog

Aktuelle Veranstaltungen, Kampagnen und Neuigkeiten über unser Team – hier finden Sie die Updates von AlgorithmWatch. Zum Blog

Von Stephan Röhl - https://www.flickr.com/photos/boellstiftung/8588726539/, CC BY-SA 2.0,

25. September 2023

Digitalisierung und KI

Kein Wegducken bei der KI-Regulierung

Die Verhandlungen über den europäischen AI Act sind auf der Zielgeraden. In allerletzter Minute haben die beiden federführenden deutschen Ministerien Organisationen der Zivilgesellschaft zu einem Austausch eingeladen. Damit sich dieses Gespräch nicht als Feigenblatt erweist, müssen BMWK und BMJ die Forderungen der NGOs ernst nehmen.

Weiterlesen

Projekte

Ob Nachhaltigkeit, COVID-19, Social-Media-Plattformen oder Arbeit - mit konkreten Forschungsprojekten untersuchen wir die Risiken und Auswirkungen von automatisierten Entscheidungssystemen auf bestimmte gesellschaftliche Bereiche. Und Sie können mitmachen!
Projekte ansehen

Irem Kurt for AlgorithmWatch, CC BY 4.0

20. April 2023

Automation on the Move

Mit dem Projekt „Automation on the Move“ will AlgorithmWatch einen Beitrag dazu leisten, etwas an der untragbaren Situation von People on the Move zu ändern.

Weiterlesen