Blog

Mut zu Transparenz: Öffentliche Sitzungen im Digitalausschuss

In einem offenen Brief wenden sich über 20 Organisationen aus der Zivilgesellschaft an den Vorsitzenden des Ausschusses für Digitales und Staatsmodernisierung, Hansjörg Durz (CDU/CSU), sowie an die Obleute aller demokratischen Fraktionen.

Job Opening: Senior Policy Manager – Technology & Democracy (Elternzeitvertretung)

AlgorithmWatch sucht eine*n Senior Policy Manager*in – Technologie & Demokratie.

„Falsch Positiv“: ein Podcast über das automatisierte Sperren von Konten

Zusammen mit Agence France-Presse hat AlgorithmWatch im Rahmen des „Algorithmic Accountability Reporting“-Fellowships eine sechsmonatige Recherche durchgeführt, deren Ergebnisse jetzt als Podcast abrufbar sind.

Algorithmische Diskriminierung melden!

Wenn wir online einen Kredit beantragen oder uns um eine Wohnung oder auf einen Job bewerben, verarbeiten Unternehmen unsere Daten immer häufiger mit automatisierten Entscheidungssystemen. Die Entscheidungen solcher Systeme wirken sich auf unser Leben aus. Der Haken an der Sache ist nur, dass die Systeme nicht neutral sind und Vorurteile über Menschen reproduzieren können, die in der Gesellschaft verbreitet sind. Was können wir tun, damit undurchsichtige automatisierte Systeme keine Menschen benachteiligen? Wir müssen algorithmische Diskriminierung sichtbar machen, und du kannst uns dabei helfen!

Was ist algorithmische Diskriminierung?

Diskriminierung durch Algorithmen und Künstliche Intelligenz (KI): Wir geben einen Überblick über das Thema.

Explainer: Predictive Policing

Algorithmische Polizeiarbeit: Vorauseilende Schuldvermutung

Algorithmische Polizeiarbeit bedeutet, dass auf der Grundlage von historischen Verbrechensdaten angeblich algorithmisch vorausgesagt wird, wer in der Zukunft welche Verbrechen begehen wird. Wir erklären, warum diese Praxis oft diskriminierend, rechtlich fragwürdig und längst nicht so wirksam ist, wie ihr nachgesagt wird.

Demokratie schützen, Gemeinwohl fördern: Online-Plattformen brauchen Kontrolle

Über 75 NGOs, Unternehmen und Gewerkschaften fordern eine strengere Kontrolle der amerikanischen und chinesischen Big-Tech-Firmen. Wir haben uns diesem Anruf, initiiert von GermanWatch anlässlich der Sondierungsgespräche von Union und SPD, angeschlossen.

Der Musk-Effekt: Welchen Einfluss X auf die Bundestagswahl hatte

AlgorithmWatch und das DFRLab haben im Vorfeld der Bundestagswahl auf der Plattform X Posts von deutschen Politiker*innen und bekannten Organisationen untersucht, die sich gegen Rechtsextremismus engagieren. Wir haben herausgefunden, dass die am weitesten verbreiteten Posts auf Elon Musk und dessen Unterstützung für die AfD verweisen.

Der KI-Aktionsgipfel: eine verpasste Gelegenheit?

Letzte Woche waren Angela Müller, die Geschäftsleiterin von AlgorithmWatch CH, und Matthias Spielkamp, der Geschäftsführer von AlgorithmWatch, beim internationalen KI-Aktionsgipfel in Paris. War der Gipfel mehr als eine ununterbrochene Big-Tech-Party, bei der milliardenschwere Versprechen gemacht wurden? Hier teilen sie ihre Eindrücke.

KI und Wahlen: Was muss ich beachten?

Bald ist die Bundestagswahl und viele Menschen denken noch darüber nach, wem sie ihre Stimme geben. Das Internet kann bei der Entscheidung helfen, doch Warnungen vor Chatbots und „Deepfake“-Videos verunsichern. Ist KI wirklich eine Gefahr für die Demokratie? Wir ordnen ein, welche Rolle KI und Algorithmen bei Wahlen aktuell spielen und wie Wähler*innen sich zuverlässig informieren können.

Explainer: KI & Energieverbrauch

KI und Rechenzentren: Woher die ganze Energie nehmen?

Hilft Künstliche Intelligenz dabei, die Klimakrise in den Griff zu bekommen, oder verschlimmert sie sie nur? So oder so werden durch die Flut von KI-Anwendungen immer mehr Rechenzentren gebraucht, für die derzeit Energieressourcen fehlen.

Ab Februar 2025: Schädliche KI-Anwendungen verboten

In der EU treten Verbote der KI-Verordnung in Kraft. Bestimmte schädliche KI-Systeme, die bereits erprobt wurden oder in Betrieb sind, dürfen jetzt – zumindest teilweise – nicht mehr eingesetzt werden.

Zuckerberg formt Meta nach Trumps Wünschen um

Statement von AlgorithmWatch: Mark Zuckerberg biedert sich der Republikanischen Partei an, indem er auf Meta-Plattformen die Moderation und Faktenchecks quasi abschafft. Solche Maßnahmen gefährden unsere Demokratien.

Dein Geschenk mit Sinn

Du suchst nach einem Geschenk, mit dem du etwas Gutes tust? Verschenke jetzt eine Spende zugunsten von AlgorithmWatch und engagiere dich damit für einen fairen Einsatz von KI und Algorithmen.

Kampagne: Gesichtserkennung stoppen

Factsheet zum Sicherheitspaket: Biometrische Fernidentifizierung

Biometrische Erkennung im öffentlichen Raum bedeutet Massenüberwachung und gefährdet Grundrechte. Dieses Factsheet des Bündnisses Gesichtserkennung Stoppen bietet eine faktenbasierte Einordnung der Behauptungen und hilft bei der Bewertung des Sicherheitspakets.

Konferenz

Ein zivilgesellschaftlicher Gipfel zu Technologie, Gesellschaft und Umwelt

Beim „Civil Society Summit on Tech, Society, and the Environment“ unter der Schirmherrschaft von EDRi kommen AlgorithmWatch und über 100 zivilgesellschaftliche Partnerorganisationen aus der ganzen Welt zusammen. Gemeinsam wollen wir eine Brücke zwischen Organisationen, die sich für digitale Rechte einsetzen, und politischen Entscheidungsträger*innen bauen, damit die EU-Digitalpolitik verantwortungsvoller wird und sich am Wohl der Menschen ausrichtet.

AlgorithmWatch erhält den Bundespreis Verbraucherschutz 2024

Aufklärung und Forschung zu Algorithmen und Künstlicher Intelligenz (KI), Engagement und Forderungen für mehr Gerechtigkeit in der digitalen Welt: Dafür hat AlgorithmWatch den Bundespreis Verbraucherschutz der Deutschen Stiftung Verbraucherschutz (DSV) 2024 erhalten. Eine vierzehnköpfige Jury wählte AlgorithmWatch aus 40 Vorschlägen als Sieger aus.

Explainer: Biometrische Erkennungssysteme

Zeige dein Gesicht und KI sagt, wer du bist

Mit biometrischen Erkennungstechnologien lassen sich Menschen identifizieren und überwachen. Sie sollen für mehr Sicherheit sorgen, gefährden aber die Grundrechte, diskriminieren und können sogar zu Massenüberwachung führen.

Kampagne

Gesichtserkennung stoppen – kein Türöffner für Massenüberwachung! 

Gemeinsam mit Organisationen aus dem Bündnis „Gesichtserkennung stoppen“ fordert AlgorithmWatch Bundestagsabgeordnete auf, sich klar und entschieden gegen biometrische Fernidentifikation zu positionieren. Mach mit und hilf uns, Druck auf die Politik auszuüben! Hier eine Sammlung unserer Aktionen und Hintergrundinformationen zum Thema.

AlgorithmWatch diskutiert:

KI und Demokratie – Welchen Einfluss haben Chatbots auf Wahlentscheidungen?

AlgorithmWatch hat erneut getestet, ob KI-Chatbots Fragen zu Wahlen korrekt und unvoreingenommen beantworten. Die Chatbots sind zwar in einzelnen Aspekten besser geworden, taugen aber immer noch nicht als zuverlässige Informationsquelle. Am Donnerstag, den 12. September 2024 um 19:30 diskutierten wir mit Expert*innen aus Wissenschaft und Politik über die Ergebnisse unserer Recherche sowie über den Einfluss, den Chatbots auf Wahlentscheidungen haben können.

Im Vorfeld der Landtagswahlen:

Chatbots bringen noch immer viele Falschinformationen in Umlauf

Im September 2024 finden in den Bundesländern Thüringen, Sachsen und Brandenburg Landtagswahlen statt. AlgorithmWatch und CASM Technology haben getestet, ob KI-Chatbots Fragen zu diesen Wahlen korrekt und unvoreingenommen beantworten. Das Ergebnis: Sie sind nicht verlässlich.

Explainer: Algorithmische Diskriminierung

Wie und warum Algorithmen diskriminieren

Automatisierte Entscheidungssysteme können diskriminieren. Wir erklären, welche Ursachen das hat, was in solchen Fällen passieren kann und warum die bestehenden Gesetze nicht ausreichend vor algorithmischer Diskriminierung schützen.

Explainer: KI & Arbeitsrecht

Was geht und was nicht: KI-Systeme und Arbeitsrecht

In vielen Unternehmen werden Beschäftigte von automatisierten Systemen gesteuert, am stärksten bei der Plattformarbeit. Der Einsatz dieser Systeme in Arbeitsverhältnissen ist rechtlich noch nicht umfassend geregelt. Erste Gesetz(entwürf)e sollen Arbeiter*innen zu ihrem Recht verhelfen.

Explainer: KI am Arbeitsplatz

Der Algorithmus als Boss: Wie KI die Arbeitswelt verändert

Automatisierte Entscheidungssysteme steuern unsere Arbeit, ob in Unternehmen oder über Plattformen, die Aufträge vermitteln. Die Unternehmen können damit ihre Effizienz steigern, aber diese Systeme können auch die Überwachung von Mitarbeiter*innen unangemessen ausweiten. Hinter ihnen versteckt sich außerdem oft die Ausbeutung von Mensch und Umwelt.

10 Fragen zu KI und Wahlen

2024 ist ein Super-Wahljahr. Wähler*innen auf der ganzen Welt denken darüber nach, wem sie ihre Stimme geben, machen sich aber auch Sorgen über KI: Sind Chatbots und „Deepfake“-Videos eine Gefahr für die Demokratie? Können wir Online-Inhalten noch trauen? Wir erklären, warum der Hype um KI und Wahlen teilweise übertrieben ist und auf welche Risiken wir stattdessen reagieren sollten.