Meldeformular

Algorithmische Diskriminierung melden!

Wenn wir online einen Kredit beantragen oder uns um eine Wohnung oder auf einen Job bewerben, verarbeiten Unternehmen unsere Daten immer häufiger mit automatisierten Entscheidungssystemen. Die Entscheidungen solcher Systeme wirken sich auf unser Leben aus. Der Haken an der Sache ist nur, dass die Systeme nicht neutral sind und Vorurteile über Menschen reproduzieren können, die in der Gesellschaft verbreitet sind. Was können wir tun, damit undurchsichtige automatisierte Systeme keine Menschen benachteiligen? Wir müssen algorithmische Diskriminierung sichtbar machen, und du kannst uns dabei helfen!

Themenseite

Was ist algorithmische Diskriminierung?

Diskriminierung und Künstliche Intelligenz (KI): Wir geben einen Überblick über das Thema.

Explainer: Predictive Policing

Algorithmische Polizeiarbeit: Vorauseilende Schuldvermutung

Algorithmische Polizeiarbeit bedeutet, dass auf der Grundlage von historischen Verbrechensdaten angeblich algorithmisch vorausgesagt wird, wer in der Zukunft welche Verbrechen begehen wird. Wir erklären, warum diese Praxis oft diskriminierend, rechtlich fragwürdig und längst nicht so wirksam ist, wie ihr nachgesagt wird.

Demokratie schützen, Gemeinwohl fördern: Online-Plattformen brauchen Kontrolle

Über 75 NGOs, Unternehmen und Gewerkschaften fordern eine strengere Kontrolle der amerikanischen und chinesischen Big-Tech-Firmen. Wir haben uns diesem Anruf, initiiert von GermanWatch anlässlich der Sondierungsgespräche von Union und SPD, angeschlossen.

Der Musk-Effekt: Welchen Einfluss X auf die Bundestagswahl hatte

AlgorithmWatch und das DFRLab haben im Vorfeld der Bundestagswahl auf der Plattform X Posts von deutschen Politiker*innen und bekannten Organisationen untersucht, die sich gegen Rechtsextremismus engagieren. Wir haben herausgefunden, dass die am weitesten verbreiteten Posts auf Elon Musk und dessen Unterstützung für die AfD verweisen.

Der KI-Aktionsgipfel: eine verpasste Gelegenheit?

Letzte Woche waren Angela Müller, die Geschäftsleiterin von AlgorithmWatch CH, und Matthias Spielkamp, der Geschäftsführer von AlgorithmWatch, beim internationalen KI-Aktionsgipfel in Paris. War der Gipfel mehr als eine ununterbrochene Big-Tech-Party, bei der milliardenschwere Versprechen gemacht wurden? Hier teilen sie ihre Eindrücke.

KI und Wahlen: Was muss ich beachten?

Bald ist die Bundestagswahl und viele Menschen denken noch darüber nach, wem sie ihre Stimme geben. Das Internet kann bei der Entscheidung helfen, doch Warnungen vor Chatbots und „Deepfake“-Videos verunsichern. Ist KI wirklich eine Gefahr für die Demokratie? Wir ordnen ein, welche Rolle KI und Algorithmen bei Wahlen aktuell spielen und wie Wähler*innen sich zuverlässig informieren können.

Explainer: KI & Energieverbrauch

KI und Rechenzentren: Woher die ganze Energie nehmen?

Hilft Künstliche Intelligenz dabei, den Klimawandel in den Griff zu bekommen, oder verschlimmert sie die Krise nur? Für die derzeitige Flut an KI-Anwendungen werden immer mehr Rechenzentren gebraucht, die vor allem durch fossile Energiequellen betrieben werden.

Ab Februar 2025: Schädliche KI-Anwendungen verboten

In der EU treten Verbote der KI-Verordnung in Kraft. Bestimmte schädliche KI-Systeme, die bereits erprobt wurden oder in Betrieb sind, dürfen jetzt – zumindest teilweise – nicht mehr eingesetzt werden.

Zuckerberg formt Meta nach Trumps Wünschen um

Statement von AlgorithmWatch: Mark Zuckerberg biedert sich der Republikanischen Partei an, indem er auf Meta-Plattformen die Moderation und Faktenchecks quasi abschafft. Solche Maßnahmen gefährden unsere Demokratien.

Dein Geschenk mit Sinn

Du suchst nach einem Geschenk, mit dem du etwas Gutes tust? Verschenke jetzt eine Spende zugunsten von AlgorithmWatch und engagiere dich damit für einen fairen Einsatz von KI und Algorithmen.

Kampagne: Gesichtserkennung stoppen

Factsheet zum Sicherheitspaket: Biometrische Fernidentifizierung

Biometrische Erkennung im öffentlichen Raum bedeutet Massenüberwachung und gefährdet Grundrechte. Dieses Factsheet des Bündnisses Gesichtserkennung Stoppen bietet eine faktenbasierte Einordnung der Behauptungen und hilft bei der Bewertung des Sicherheitspakets.

Konferenz

Ein zivilgesellschaftlicher Gipfel zu Technologie, Gesellschaft und Umwelt

Beim „Civil Society Summit on Tech, Society, and the Environment“ unter der Schirmherrschaft von EDRi kommen AlgorithmWatch und über 100 zivilgesellschaftliche Partnerorganisationen aus der ganzen Welt zusammen. Gemeinsam wollen wir eine Brücke zwischen Organisationen, die sich für digitale Rechte einsetzen, und politischen Entscheidungsträger*innen bauen, damit die EU-Digitalpolitik verantwortungsvoller wird und sich am Wohl der Menschen ausrichtet.

AlgorithmWatch erhält den Bundespreis Verbraucherschutz 2024

Aufklärung und Forschung zu Algorithmen und Künstlicher Intelligenz (KI), Engagement und Forderungen für mehr Gerechtigkeit in der digitalen Welt: Dafür hat AlgorithmWatch den Bundespreis Verbraucherschutz der Deutschen Stiftung Verbraucherschutz (DSV) 2024 erhalten. Eine vierzehnköpfige Jury wählte AlgorithmWatch aus 40 Vorschlägen als Sieger aus.

Explainer: Biometrische Erkennungssysteme

Zeige dein Gesicht und KI sagt dir, wer du bist

Mit biometrischen Erkennungstechnologien lassen sich Menschen identifizieren und überwachen. Die KI-basierten Systeme sollen für mehr Sicherheit sorgen, gefährden aber die Grundrechte, diskriminieren und können sogar zu Massenüberwachung führen.

AlgorithmWatch diskutiert:

KI und Demokratie – Welchen Einfluss haben Chatbots auf Wahlentscheidungen?

AlgorithmWatch hat erneut getestet, ob KI-Chatbots Fragen zu Wahlen korrekt und unvoreingenommen beantworten. Die Chatbots sind zwar in einzelnen Aspekten besser geworden, taugen aber immer noch nicht als zuverlässige Informationsquelle. Am Donnerstag, den 12. September 2024 um 19:30 diskutierten wir mit Expert*innen aus Wissenschaft und Politik über die Ergebnisse unserer Recherche sowie über den Einfluss, den Chatbots auf Wahlentscheidungen haben können.

Im Vorfeld der Landtagswahlen:

Chatbots bringen noch immer viele Falschinformationen in Umlauf

Im September 2024 finden in den Bundesländern Thüringen, Sachsen und Brandenburg Landtagswahlen statt. AlgorithmWatch und CASM Technology haben getestet, ob KI-Chatbots Fragen zu diesen Wahlen korrekt und unvoreingenommen beantworten. Das Ergebnis: Sie sind nicht verlässlich.

Explainer: Algorithmische Diskriminierung

Wie und warum Algorithmen diskriminieren

Automatisierte Entscheidungssysteme können diskriminieren. Wir erklären, welche Ursachen das hat, was in solchen Fällen passieren kann und warum die bestehenden Gesetze nicht ausreichend vor algorithmischer Diskriminierung schützen.

Explainer: KI & Arbeitsrecht

Was geht und was nicht: KI-Systeme und Arbeitsrecht

In vielen Unternehmen werden Beschäftigte von automatisierten Systemen gesteuert, am stärksten bei der Plattformarbeit. Der Einsatz dieser Systeme in Arbeitsverhältnissen ist rechtlich noch nicht umfassend geregelt. Erste Gesetz(entwürf)e sollen Arbeiter*innen zu ihrem Recht verhelfen.

Explainer: KI am Arbeitsplatz

Der Algorithmus als Boss: Wie KI die Arbeitswelt verändert

Automatisierte Entscheidungssysteme steuern unsere Arbeit, ob in Unternehmen oder über Plattformen, die Aufträge vermitteln. Die Unternehmen können damit ihre Effizienz steigern, aber diese Systeme können auch die Überwachung von Mitarbeiter*innen unangemessen ausweiten. Hinter ihnen versteckt sich außerdem oft die Ausbeutung von Mensch und Umwelt.

10 Fragen zu KI und Wahlen

2024 ist ein Super-Wahljahr. Wähler*innen auf der ganzen Welt denken darüber nach, wem sie ihre Stimme geben, machen sich aber auch Sorgen über KI: Sind Chatbots und „Deepfake“-Videos eine Gefahr für die Demokratie? Können wir Online-Inhalten noch trauen? Wir erklären, warum der Hype um KI und Wahlen teilweise übertrieben ist und auf welche Risiken wir stattdessen reagieren sollten.

Kampagne: ADM und People on the Move

Grenzen ohne KI

29.000 Menschen sind in den vergangenen zehn Jahren im Mittelmeer ums Leben gekommen – beim Versuch, die EU zu erreichen. Arbeiten die EU und Wissenschaftler*innen in ganz Europa deshalb fieberhaft daran, diese Tragödie mit neuesten Technologien zu stoppen? Nein, das Gegenteil ist der Fall: Mit sogenannter Künstlicher Intelligenz werden höhere Mauern errichtet, finanziert mit Steuergeld.

Manifest: Nehmt den KI-Monopolen die Macht!

Die großen Tech-Konzerne haben in den vergangenen Monaten einige der angesagtesten KI-Unternehmen der Welt unter ihre Kontrolle gebracht. Die EU muss handeln, damit die Monopole die Demokratie nicht weiter bedrohen. Ein Kommentar von Matthias Spielkamp.

Liefern am Limit: Arbeitsrechte in der Gig Economy

Die digital gesteuerte Plattformarbeit verändert die Arbeitsbedingungen grundlegend und die gegenwärtige Gesetzgebung hinkt dieser Entwicklung hinterher. Deshalb setzt sich die Kampagne „Liefern am Limit“ für die Rechte von Lieferando-Fahrer*innen ein.