AlgorithmWatch ist eine Menschenrechtsorganisation mit Sitz in Berlin und Zürich. Wir setzen uns dafür ein, dass Algorithmen und Künstliche Intelligenz (KI) Gerechtigkeit, Demokratie und Nachhaltigkeit stärken, statt sie zu schwächen.

19. März 2024

#work

Join the ride side

Du fährst für Lieferando und die App lässt dich im Dunkeln darüber, wie über Fahrten, Gehälter und Boni entscheiden wird? Du möchtest mehr Transparenz, bessere Arbeitsbedingungen und mehr Geld? Dann mach mit bei unserer Umfrage!

Die algorithmische Verwaltung: Automatisierte Entscheidungssysteme im öffentlichen Sektor

Eine Automatisierung der Verwaltung verspricht Effizienz, benachteiligt Menschen aber nicht selten, wie Beispiele aus ganz Europa beweisen. Wir erklären, warum die öffentliche Verwaltung ein besonders heikles Einsatzfeld für automatisierte Systeme ist und wie sich Risiken frühzeitig erkennen lassen könnten.

Blog

19. Februar 2024

#aiact #generativeki #ki

„KI“ und die falsche Balance

„Jede hinreichend fortschrittliche Technologie ist von Magie nicht zu unterscheiden.” Wir sollten uns diesen Satz des legendären Science-Fiction-Autors Arthur C. Clarke immer wieder in Erinnerung rufen, wenn wir Debatten über Technologien auf dem Höhepunkt von Hype-Zyklen führen, wie das derzeit der Fall ist. Ein Kommentar.

Foto von Maxime Gilbert auf Unsplash

Blog

14. Februar 2024

#dsa #publicsphere

DSA Day und Plattformrisiken

Social-Media-Konto gesperrt oder Forschungsdaten gesucht? – Ab jetzt gibt es (theoretisch) Hilfe

Das EU-Gesetz über digitale Dienste (Digital Services Act, DSA) soll Risiken durch Online-Plattformen und Suchmaschinen regulieren. Es ist seit 2023 in Kraft, aber erst ab dem 17. Februar 2024, dem „DSA-Day“, gelten einige der wichtigsten Bestimmungen.

Explainer

Nachhaltige KI: Ein Widerspruch in sich?

Ist KI ein Mittel, um die Klimakrise zu bewältigen, oder eine schlimmere Umweltsünde als das Fliegen? Wir erklären, wie viel Energie KI-Systeme wirklich fressen, warum wir bessere Messungen brauchen, wie KI nachhaltiger werden kann und was das alles mit der KI-Verordnung der EU zu tun hat.

Schlussbericht: Untersuchung zu Microsoft Bing Chat

KI-Chatbot liefert falsche Antworten auf Fragen zu demokratischen Wahlen

Bing Chat, der in Microsofts Suchmaschine Bing integrierte KI-Chatbot, erfindet Skandale, denkt sich Umfragewerte aus und gibt den Wahltermin falsch an. Microsoft scheint nicht in der Lage oder nicht willens zu sein, das Problem zu beheben. Das zeigt eine Studie von AlgorithmWatch und AI Forensics, deren Schlussbericht nun vorliegt. Darin haben wir das Antwortverhalten des Chatbots zu Wahlen in Bayern, Hessen und der Schweiz im Oktober 2023 untersucht.

KI und Nachhaltigkeit

SustAIn-Magazin #3 – KI anders denken: Wie wir selber entscheiden, mit welcher KI wir leben wollen

Die dritte und letzte Ausgabe des SustAIn-Magazins befasst sich mit der Frage, wer dafür Verantwortung übernehmen könnte, Irrfahrten bei der KI-Entwicklung wieder in die richtige Richtung zu lenken.

Blog

15. Oktober 2023

#newsroom

Online-Spiel

Kannst du den Algorithmus knacken?

So geht Berichterstattung über Algorithmen und Plattformaufsicht: AlgorithmWatch präsentiert ein Online-Spiel, in dem eine Journalistin einem Social-Media-Algorithmus auf den Grund gehen soll.

mit MidJourney unter Aufsicht von Alexandre Grilletta erstellt

Publikationen

Hintergrundberichte, Analysen und Arbeitspapiere - gemeinsam mit anderen Wissenschaftler·innen forschen wir zu den Auswirkungen algorithmischer Entscheidungen und ihren ethischen Fragestellungen. Zu unseren Publikationen

Zwischenergebnisse: Untersuchung zu Microsoft Bing Chat

Große KI-Sprachmodelle im Kontext von Wahlen

Was folgt aus dem Digital Services Act

Plattformregulierung: Wie lassen sich systemische Risiken für die Demokratie erkennen?

Digital Autonomy Policy Brief #9

Biometrische Überwachung

Stories

Wie beeinflussen automatische Entscheidungssysteme unser aller Alltag? Wo werden sie konkret eingesetzt und was läuft dabei schief? Unsere journalistischen Recherchen zu aktuellen Fälle und Fehlern automatischer Entscheidungssysteme. Zu unseren Stories

Wie Bildgeneratoren die Welt zeigen: Stereotypen statt Vielfalt

Das Jahr, in dem wir auf Taten warteten: 2023 im Rückblick

Plattformregulierung

Diskriminierende Anzeigen: KI ist auch keine Lösung

Positionen

Lesen Sie unsere Stellungnahmen zu laufenden politischen Entwicklungen und Regulierungsprozessen rund um automatisierte Entscheidungsprozesse. Unsere Positionen

Stellungnahme

Die UN muss sich entscheiden: Will sie der Menschheit helfen oder dem KI-Hype nachgeben?

Pressemitteilung

AlgorithmWatch unterstützt Initiative gegen Monopole

Pressemitteilung

Bundestag stimmt über Gesetz für besseren Schutz im Netz ab

Blog

Aktuelle Veranstaltungen, Kampagnen und Neuigkeiten über unser Team – hier finden Sie die Updates von AlgorithmWatch. Zum Blog

Manifest: Nehmt den KI-Monopolen die Macht!

Jetzt bewerben: Wir suchen eine*n IT-Werkstudierende*n für unser Berliner Büro!

Jetzt bewerben: Wir suchen eine*n Manager*in Communications & Campaigns!

Projekte

Ob Nachhaltigkeit, COVID-19, Social-Media-Plattformen oder Arbeit - mit konkreten Forschungsprojekten untersuchen wir die Risiken und Auswirkungen von automatisierten Entscheidungssystemen auf bestimmte gesellschaftliche Bereiche. Und Sie können mitmachen!
Projekte ansehen

Neue Recherche

ChatGPT und Co: Gefährden KI-getriebene Suchmaschinen demokratische Wahlen?

Automation on the Move

Neues Projekt: Algorithmen auf systemische Risiken prüfen