Blog

A female person walking in front of a fence with a tree in the background is recorded on a phone. To the right of the phone, her likeness becomes distorted in three steps, ultimately turning her image into abstract blue shapes.

Explainer: NSTs

Sexualisierte Gewalt im digitalen Raum: Wer ist betroffen, was sind die Folgen, wie könnt ihr euch wehren?

Sexualisierte Gewalt gegen Frauen, Kinder und LGBTQI+-Personen wird zunehmend mithilfe technologischer Mittel angewendet – eine Fortsetzung patriarchaler Machtverhältnisse im digitalen Raum. Generative KI dient dabei immer häufiger als Werkzeug. Die Folgen reichen weit über den individuellen Schaden hinaus und verdrängen Frauen aus digitalen öffentlichen Räumen.

Petition

Klimaschutz statt KI-Wahn

Die Rechenzentren von Google, Amazon und Co. zerstören unser Klima. Doch anstatt davor zu schützen, schlagen sich Merz und Reiche auf die Seite der Tech-Riesen. Das müssen wir verhindern!

Nahaufnahme einer schwarzen Computertastatur mit den drei Tasten X, C und V im Vordergrund. Unterhalb der Tasten sind die zugehörigen Funktionen als Beschriftung zu lesen: „Cut" (Ausschneiden), „Copy" (Kopieren) und „Paste" (Einfügen). Die Tastatur weist sichtbare Gebrauchsspuren auf.

Kopieren, Einfügen, Regieren: Wie Microsoft der EU-Kommission Gesetze diktierte, um den Energieverbrauch von Rechenzentren geheim zu halten

Die EU-Gesetzgebung zu Rechenzentren erlaubt es Unternehmen, Verbrauchsinformationen über Rechenzentren unter Verschluss zu halten. Untersuchungen von Corporate and Europe Observatory und AlgorithmWatch zeigen, dass die Kommission einen von Microsoft und der Lobbygruppe Digital Europe vorgeschlagenen Änderungsantrag schlicht kopiert und ins Gesetz eingefügt hat. Das Ziel: NGOs daran zu hindern, Informationen über energieintensive Rechenzentren zu erhalten. Die Recherche wurden nun von Investigate Europe veröffentlicht.

Eine Montage aus drei Szenen: Links eine Menschenmenge im öffentlichen Raum, über mehreren Personen liegen weiße Rechtecke wie bei automatischer Gesichtserkennung. In der Mitte ein großer, moderner Überwachungskamera‑Kopf mit rotem Licht. Rechts ist Innenminister Dobrindt, der in ein blaues Mikrofon spricht.

Petition

Stoppt Dobrindts Überwachungspläne – Nein zu Palantir & Co. für Polizei und Behörden!

KI-gestützte Massenüberwachung und automatisierte Datenanalysen dürfen nicht Gesetz werden. Wir fordern von Bundesinnenminister Dobrindt, die Gesetzentwürfe zu stoppen. Jede Unterschrift zählt.

Was vor sexualisierter Gewalt im digitalen Raum wirklich schützen kann

AlgorithmWatch legt Empfehlungen vor, wie ein Verbot von Deepfakes in der KI-Verordnung (AI Act) im Rahmen des KI-Omnibus-Verfahrens gestaltet werden sollte. Um Betroffene wirksam vor sexualisierter Gewalt im digitalen Raum zu schützen, müssen KI-Firmen, Plattformen und Täter konsequent zur Verantwortung gezogen werden.

Junge Frau sitzt am Laptop, stützt den Kopf mit den Händen und sieht gestresst auf den Bildschirm; im Vordergrund zwei rote Feuerwehrschläuche, aus denen Textzeilen wie Lichtkegel auf die Szene strahlen.

Was bedeutet es für die Demokratie, wenn Menschen in Politik und Verwaltung zulassen, dass KI ihre Entscheidungen beeinflusst?

AlgorithmWatch hat untersucht, wie sich KI-Tools wie Chatbots auf die Demokratie auswirken könnten.

Kampagne: Klimaschutz bei Rechenzentren nicht weiter aufweichen

Klimaschutz statt KI-Wahn. Reiche und Merz – kein Einknicken vor Google & Co!

Die Bundesregierung will es Google und Co. erleichtern, noch mehr fossile Energie mit ihren Rechenzentren zu verbrauchen und diesen Energieverbrauch auch noch zu verschleiern. So können die Tech-Giganten weiter ungestört das Klima zerstören. Mach mit bei unserer Kampagne für Klimaschutz und Transparenz und informier Dich über konkrete Aktionsmöglichkeiten.

The collage shows 4 archival images of women. In these of the images, the women are nude. There is also one portrait of a woman with yellow shapes and bounding boxes on her face.

Sexualisierte Deepfakes auf X: Was wir dagegen tun und was die EU tun sollte

Elon Musks Chatbot „Grok“ erzeugt auf der Plattform X Bilder echter Menschen in Bikinis ohne deren Zustimmung, darunter auch Kinder. Das Problem dieser sexualisierten Darstellungen durch KI geht jedoch weit über X hinaus, wie unsere Untersuchungen zeigen. X selbst hat unsere Forschungen jedoch blockiert. Die EU-Kommission muss viel entschlossener vorgehen, um Menschen vor dieser Art von Gewalt zu schützen.

Illustration auf orangefarbenem, texturiertem Hintergrund zeigt mehrere stilisierte Figuren mit verschiedenen Mobilitätshilfen: zwei Personen im Gespräch, eine Person mit Blindenstock, eine Person mit Gehhilfe und Hund, sowie eine Person im Rollstuhl. Die Figuren sind in warmen Rottönen gezeichnet. Im unteren Bildbereich befinden sich gelbe geometrische Linienformen, die an ein Netzwerk oder verbundene Strukturen erinnern.

KI & Behinderung

KI im Leben von Menschen mit Behinderungen: Von Assistenz bis Ausschluss

KI-Anwendungen können den Alltag von Menschen mit Behinderungen erleichtern, andere jedoch ihre Grundrechte tangieren. Ein Überblick über die Chancen und Risiken Künstlicher Intelligenz für Menschen mit Behinderungen.

Weißer Regenschirm mit Binärcode-Muster auf gelbem Hintergrund

Explainer: Diskriminierung im Recruiting

Automatisch aussortiert? Wenn KI-Systeme in Bewerbungsprozessen diskriminieren

KI-unterstützte Systeme in der Personalauswahl können Bewerbungen vorsortieren und bewerten oder Kandidat*innen empfehlen. Solche auf Algorithmen basierende Systeme mögen Personalverantwortlichen Zeit sparen, sie bergen aber auch das Risiko einer systematischen Diskriminierung – die oft unbemerkt bleibt.

Eine Gruppe von Vintage-Figuren fährt auf einer kreisförmigen Maschine, die den endlosen, sich wiederholenden Zyklus des algorithmischen Scrollens und oberflächlicher Interaktionen symbolisiert.

Anatomie eines Souveränitäts-Theaters

Heute findet in Berlin der deutsch-französische Gipfel zu digitaler Souveränität statt. Uns erwarten flammende Bekenntnisse dazu, dass wir uns aus technologischer Abhängigkeit befreien müssen. Derweil treffen Bundes- und Landesregierungen im Wochentakt Entscheidungen, die diesem Ziel zuwider laufen.

Eine Reihe von farbenfrohen, fossilartigen Dateneindrücken, die die statische Natur von KI-Modellen widerspiegeln, belastet mit veralteten Kontexten und Vorurteilen.

Themenübersicht

Ressourcenverbrauch von KI: Die Nimmersatt-Industrie und ihre Kosten

Künstliche Intelligenz fällt nicht vom Himmel. Ihre Entwicklung, die Hardware-Herstellung und die tägliche Nutzung fordern enorme Mengen an Strom, Wasser und weiteren Ressourcen. Wie hoch die Kosten für Mensch und Umwelt tatsächlich sind, wollen Tech-Unternehmen jedoch nicht preisgeben. Wir bieten einen Überblick über das Thema.

Zeitungsständer mit deutschen Tageszeitungen in Schwarzweiß-Aufnahme, darunter Die Zeit und Süddeutsche Zeitung

Gefährden Googles KI-Zusammenfassungen unseren Medienpluralismus? Neue Regeln ermöglichen Untersuchung.

Google könnte den Web-Traffic zunichtemachen, der bisher eine Lebensader für zuverlässige Informationen im Netz ist. Grund dafür sind die KI-Zusammenfassungen (AI Overviews) in Googles Suchfunktion, die Links zu anderen Websites zur Randfunktion degradieren und den Fokus auf kurze Zusammenfassungen lenken. Die sind jedoch keineswegs immer korrekt: So konnte man beispielsweise noch ein halbes Jahr nach der Bundestagswahl lesen, Olaf Scholz sei weiterhin Kanzler. AlgorithmWatch stellt nun einen der ersten Anträge auf Datenzugang nach neuen EU-Vorschriften, um die KI-Zusammenfassungen als systemisches Risiko für die Medienfreiheit zu untersuchen.

Job Opening: AlgorithmWatch sucht einen Redakteurin für das Berliner Büro

Praktische Erfahrungen als Redakteur*in im NGO-Umfeld, in Berlin, zeitnah einsatzbereit? Dann bewirb dich!

Webinar zum Thema KI-gestützte Überwachung: Was nach mehr Sicherheit klingt, greift die Demokratie an

Sicherheitspaket, biometrische Fernidentifizierung und Massenüberwachung – du hast das alles schon mal gehört, aber nur eine vage Vorstellung davon, was diese Begriffe bedeuten? Wir helfen dir auf die Sprünge! Jetzt weiterlesen und anmelden zum Webinar für Einsteiger*innen.

AlgorithmWatch und Campact übergeben die Petition an Dr. Anna Lührmann - v.l.: Kira Mössinger (Senior Campaigns Managerin AlgorithmWatch), Dr. Anna Lührmann (stv. Vorsitzende Ausschuss für Digitales und Staatsmodernisierung, Bündnis 90/Die Grünen), Matthias Spielkamp (Geschäftsführer AlgorithmWatch), Felix Hoffmann (Campaigner Campact)

Kampagne: Gesichtserkennung stoppen

50.000+! Petition gegen biometrische Überwachung an Bundestag übergeben

Bild Speaker*innen: Maria Exner, Meredith Whittaker, Matthias Spielkamp.

Verantstaltung

Das Individuum in der Maschine – Meredith Whittaker über die Rückgewinnung der Privatsphäre im Zeitalter der KI

Am 25. September lud AlgorithmWatch zu einem Exklusivgespräch mit Meredith Whittaker, Präsidentin der Messenger-Plattform Signal ein: Meredith Whittaker, Maria Exner (Publix) und Matthias Spielkamp (AlgorithmWatch) diskutierten über die Frage, wie wir Technologie wieder stärker an menschlichen Bedürfnissen ausrichten können – vor allem beim Schutz unserer Privatsphäre gegenüber großen Plattformen und Betriebssystemanbietern.

Grafik einer Erdkugel mit Servern darauf, die Wurzeln in die Erde schlagen.

Einfach erklärt

Die Umweltkosten der KI-Lieferkette

Die KI-Lieferkette vom Rohstoff-Abbau bis zur Entsorgung.

Mut zu Transparenz: Öffentliche Sitzungen im Digitalausschuss

In einem offenen Brief wenden sich über 20 Organisationen aus der Zivilgesellschaft an den Vorsitzenden des Ausschusses für Digitales und Staatsmodernisierung, Hansjörg Durz (CDU/CSU), sowie an die Obleute aller demokratischen Fraktionen.

Mockup vom Podcast "Falsch Positiv" mit einem Handy, auf dem der Podcast als Vorschau zu sehen ist.

„Falsch Positiv“: ein Podcast über das automatisierte Sperren von Konten

Zusammen mit Agence France-Presse hat AlgorithmWatch im Rahmen des „Algorithmic Accountability Reporting“-Fellowships eine sechsmonatige Recherche durchgeführt, deren Ergebnisse jetzt als Podcast abrufbar sind.

Petition auf WeAct unterschreiben: Pride und freien Protest schützen! Ausbreitung von biometrischer Massenüberwachung stoppen

Meldeformular

Algorithmische Diskriminierung melden!

Wenn wir online einen Kredit beantragen oder uns um eine Wohnung oder auf einen Job bewerben, verarbeiten Unternehmen unsere Daten immer häufiger mit automatisierten Entscheidungssystemen. Die Entscheidungen solcher Systeme wirken sich auf unser Leben aus. Der Haken an der Sache ist nur, dass die Systeme nicht neutral sind und Vorurteile über Menschen reproduzieren können, die in der Gesellschaft verbreitet sind. Was können wir tun, damit undurchsichtige automatisierte Systeme keine Menschen benachteiligen? Wir müssen algorithmische Diskriminierung sichtbar machen, und du kannst uns dabei helfen!

Themenseite

Was ist algorithmische Diskriminierung?

Diskriminierung und Künstliche Intelligenz (KI): Wir geben einen Überblick über das Thema.

Explainer: Predictive Policing

Algorithmische Polizeiarbeit: Vorauseilende Schuldvermutung

Algorithmische Polizeiarbeit bedeutet, dass auf der Grundlage von historischen Verbrechensdaten angeblich algorithmisch vorausgesagt wird, wer in der Zukunft welche Verbrechen begehen wird. Wir erklären, warum diese Praxis oft diskriminierend, rechtlich fragwürdig und längst nicht so wirksam ist, wie ihr nachgesagt wird.

Demokratie schützen, Gemeinwohl fördern: Online-Plattformen brauchen Kontrolle

Über 75 NGOs, Unternehmen und Gewerkschaften fordern eine strengere Kontrolle der amerikanischen und chinesischen Big-Tech-Firmen. Wir haben uns diesem Anruf, initiiert von GermanWatch anlässlich der Sondierungsgespräche von Union und SPD, angeschlossen.