AlgorithmWatch ist eine gemeinnützige Forschungs- und Advocacy-Organisation mit dem Ziel, Systeme automatisierter Entscheidungsfindung (ADM) und deren Auswirkungen auf die Gesellschaft zu beobachten und zu analysieren.

Blog

25. Mai 2022

#pressemitteilung

Christina Elmer wird Gesellschafterin bei AlgorithmWatch

Christina Elmer, Professorin für Digitalen Journalismus an der TU Dortmund und eine der profiliertesten Datenjournalist*innen Deutschlands, verstärkt als neue Gesellschafterin die gemeinnützige Watchdog-Organisation.

Europarat schafft Rahmenbedingungen für Künstliche Intelligenz

Der Europarat hat die Aufgabe, Menschenrechte, Demokratie und Rechtsstaatlichkeit in Europa zu wahren. Seine Mitgliedsstaaten arbeiten aktuell daran, unsere Grundrechte beim Einsatz von Künstlicher Intelligenz besser zu schützen. Wir geben hier einen Überblick zu den Entwicklungen.

Stanford University Libraries via Public Domain Review

Zivilgesellschaft reagiert auf Entwurfsbericht zum AI Act der EU

Gemeinsam mit Partner*innen aus der Zivilgesellschaft nehmen wir in unserer Einschätzung den Entwurfsbericht der beiden wichtigsten EU-Parlamentsausschüsse zur geplanten KI-Verordnung der EU (AI Act) unter die Lupe. Wir zeigen die wichtigen Schritte auf, die der Entwurf vorsieht – und die Lücken, die er noch schließen muss, damit der AI Act tatsächlich unsere Grundrechte zu schützen vermag.

Aliane Schwartzhaupt | Unsplash

Blog

27. April 2022

#dsa #eu #publicsphere

Der Digital Services Act: EU verpflichtet Plattformen zu einem neuen Rechenschaftsstandard

Beim Gesetz über digitale Dienste (Digital Services Act, DSA) wurde vergangene Woche eine politische Einigung erzielt. Dies könnte ein Durchbruch sein, um im Internet Grundrechte zu schützen und die großen Tech-Konzerne zur Verantwortung zu ziehen. Die Plattformen müssen nun das Design und die Funktionsweise der algorithmischen Systeme, die ihrem Geschäftsmodell zugrunde liegen, transparenter machen.

Aman Pal | Unsplash

Position

11. April 2022

#aiact #publicsector

Forderungen von AlgorithmWatch in den Verhandlungen zum Artificial Intelligence Act der EU

Der AI Act wird derzeit in Brüssel verhandelt. AlgorithmWatch fordert einen Regulierungsrahmen, der unsere Grundrechte zu schützen vermag.

Hans Reniers | Unsplash

Gemeinsame Erklärung im Vorfeld der Verhandlungen über einen Rechtsrahmen zu KI im Europarat

Heute nimmt das Committee on Artificial Intelligence (CAI) des Europarats die Verhandlungen zu einem neuen Rechtsrahmen für Systeme der Künstlichen Intelligenz (KI) auf. In einer gemeinsamen Erklärung fordern AlgorithmWatch und andere zivilgesellschaftliche Organisationen die Mitgliedstaaten auf, einen Rechtsrahmen für KI zu schaffen, der sich am Mandat des Europarates orientiert: dem Schutz der Menschenrechte, der Demokratie und der Rechtsstaatlichkeit.

Tingey Injury Law | Unsplash

Publikationen

Hintergrundberichte, Analysen und Arbeitspapiere - gemeinsam mit anderen Wissenschaftler·innen forschen wir zu den Auswirkungen algorithmischer Entscheidungen und ihren ethischen Fragestellungen. Zu unseren Publikationen

Max Gruber | Better Images of AI | Clickworker 3d-printed | CC-BY 4.0

10. Februar 2022

Digital Autonomy Policy Brief #5 – Algorithmenbasierte Diskriminierung

Im fünften Digital Autonomy Policy-Brief beschreiben wir die Besonderheiten algorithmenbasierter Diskriminierung. Wir zeigen, dass gegenwärtige Antidiskriminierungsgesetze rund um ADM-Systeme Rechtslücken aufweisen und skizzieren, welche Anpassungen es geben muss, damit Betroffene ihr Recht auf Nichtdiskriminierung auch im digitalen Raum durchsetzen können.

Weiterlesen

Stories

Wie beeinflussen automatische Entscheidungssysteme unser aller Alltag? Wo werden sie konkret eingesetzt und was läuft dabei schief? Unsere journalistischen Recherchen zu aktuellen Fälle und Fehlern automatischer Entscheidungssysteme. Zu unseren Stories

13. Januar 2022

Name zu kurz, Registrierung ausgeschlossen: Diskriminierende Online-Formulare

Eine neue Unding-Umfrage geht Problemen mit Online-Formularen auf den Grund, da deren Voreinstellungen oft Menschen ausschließen. Seitdem ein Rentner mit einem der gewöhnlichsten Namen der Welt diese Erfahrung macht, lässt er den Betreiber·innen der Websites keine Ruhe.

Weiterlesen

Positionen

Lesen Sie unsere Stellungnahmen zu laufenden politischen Entwicklungen und Regulierungsprozessen rund um automatisierte Entscheidungsprozesse. Unsere Positionen

Ravi Sharma | Unsplash

30. März 2022

DSA-Trilogverhandlungen in der Endphase: Plattformtransparenz muss eine Priorität sein

Die Trilogverhandlungen nähern sich ihrem Abschluss. Bevor es zu einer finalen Fassung des Gesetzes über digitale Dienste (Digital Services Act, DSA) kommt, müssen aber noch wichtige Fragen geklärt werden. In diesem Policy Paper fordern wir die EU-Verhandlungsparteien auf, stärker auf diejenigen Themen einzugehen, die für die im DSA festgelegte Rechenschaftspflicht von zentraler Bedeutung sind.

Weiterlesen

Blog

Aktuelle Veranstaltungen, Kampagnen und Neuigkeiten über unser Team – hier finden Sie die Updates von AlgorithmWatch. Zum Blog

Montatip Silitsanong | Unsplash

13. April 2022

Das Bündnis F5 lädt zum Austausch über den Digital Services Act ein

Am 24. März 2022 hat das Bündnis F5 gemeinsam mit Digitalpolitiker·innen im Rahmen eines Parlamentarischen Frühstücks im Bundestag über die Chancen und Risiken des Digital Services Act (DSA) diskutiert.

Weiterlesen

Projekte

Ob Nachhaltigkeit, COVID-19, Social-Media-Plattformen oder Arbeit - mit konkreten Forschungsprojekten untersuchen wir die Risiken und Auswirkungen von automatisierten Entscheidungssystemen auf bestimmte gesellschaftliche Bereiche. Und Sie können mitmachen!
Projekte ansehen

11. März 2021

SustAIn: Der Nachhaltigkeitsindex für Künstliche Intelligenz

Wie nachhaltig ist Künstliche Intelligenz? Wir wissen, dass in der Entwicklung und Anwendung von KI viel Energie benötigt wird, dass Menschen als sogenannte Clickworker unter sehr schlechten Arbeitsbedingungen Trainingsdatensätze für KI-Systeme bearbeiten und diese nicht selten bestehende Diskriminierungsmuster verstärken. Angesichts einer steigenden Zahl an KI-Systemen, braucht es daher dringend eine Diskussion, wie KI nachhaltiger gestaltet werden kann. Hier setzt unser Projekt SustAIn an.

Weiterlesen