AlgorithmWatch ist eine gemeinnützige Forschungs- und Advocacy-Organisation mit dem Ziel, Systeme automatisierter Entscheidungsfindung (ADM) und deren Auswirkungen auf die Gesellschaft zu beobachten und zu analysieren.
Christina Elmer, Professorin für Digitalen Journalismus an der TU Dortmund und eine der profiliertesten Datenjournalist*innen Deutschlands, verstärkt als neue Gesellschafterin die gemeinnützige Watchdog-Organisation.
Der Europarat hat die Aufgabe, Menschenrechte, Demokratie und Rechtsstaatlichkeit in Europa zu wahren. Seine Mitgliedsstaaten arbeiten aktuell daran, unsere Grundrechte beim Einsatz von Künstlicher Intelligenz besser zu schützen. Wir geben hier einen Überblick zu den Entwicklungen.
Gemeinsam mit Partner*innen aus der Zivilgesellschaft nehmen wir in unserer Einschätzung den Entwurfsbericht der beiden wichtigsten EU-Parlamentsausschüsse zur geplanten KI-Verordnung der EU (AI Act) unter die Lupe. Wir zeigen die wichtigen Schritte auf, die der Entwurf vorsieht – und die Lücken, die er noch schließen muss, damit der AI Act tatsächlich unsere Grundrechte zu schützen vermag.
Beim Gesetz über digitale Dienste (Digital Services Act, DSA) wurde vergangene Woche eine politische Einigung erzielt. Dies könnte ein Durchbruch sein, um im Internet Grundrechte zu schützen und die großen Tech-Konzerne zur Verantwortung zu ziehen. Die Plattformen müssen nun das Design und die Funktionsweise der algorithmischen Systeme, die ihrem Geschäftsmodell zugrunde liegen, transparenter machen.
Der AI Act wird derzeit in Brüssel verhandelt. AlgorithmWatch fordert einen Regulierungsrahmen, der unsere Grundrechte zu schützen vermag.
Heute nimmt das Committee on Artificial Intelligence (CAI) des Europarats die Verhandlungen zu einem neuen Rechtsrahmen für Systeme der Künstlichen Intelligenz (KI) auf. In einer gemeinsamen Erklärung fordern AlgorithmWatch und andere zivilgesellschaftliche Organisationen die Mitgliedstaaten auf, einen Rechtsrahmen für KI zu schaffen, der sich am Mandat des Europarates orientiert: dem Schutz der Menschenrechte, der Demokratie und der Rechtsstaatlichkeit.
Hintergrundberichte, Analysen und Arbeitspapiere - gemeinsam mit anderen Wissenschaftler·innen forschen wir zu den Auswirkungen algorithmischer Entscheidungen und ihren ethischen Fragestellungen. Zu unseren Publikationen
Im fünften Digital Autonomy Policy-Brief beschreiben wir die Besonderheiten algorithmenbasierter Diskriminierung. Wir zeigen, dass gegenwärtige Antidiskriminierungsgesetze rund um ADM-Systeme Rechtslücken aufweisen und skizzieren, welche Anpassungen es geben muss, damit Betroffene ihr Recht auf Nichtdiskriminierung auch im digitalen Raum durchsetzen können.
WeiterlesenWie beeinflussen automatische Entscheidungssysteme unser aller Alltag? Wo werden sie konkret eingesetzt und was läuft dabei schief? Unsere journalistischen Recherchen zu aktuellen Fälle und Fehlern automatischer Entscheidungssysteme. Zu unseren Stories
Eine neue Unding-Umfrage geht Problemen mit Online-Formularen auf den Grund, da deren Voreinstellungen oft Menschen ausschließen. Seitdem ein Rentner mit einem der gewöhnlichsten Namen der Welt diese Erfahrung macht, lässt er den Betreiber·innen der Websites keine Ruhe.
WeiterlesenLesen Sie unsere Stellungnahmen zu laufenden politischen Entwicklungen und Regulierungsprozessen rund um automatisierte Entscheidungsprozesse. Unsere Positionen
Die Trilogverhandlungen nähern sich ihrem Abschluss. Bevor es zu einer finalen Fassung des Gesetzes über digitale Dienste (Digital Services Act, DSA) kommt, müssen aber noch wichtige Fragen geklärt werden. In diesem Policy Paper fordern wir die EU-Verhandlungsparteien auf, stärker auf diejenigen Themen einzugehen, die für die im DSA festgelegte Rechenschaftspflicht von zentraler Bedeutung sind.
WeiterlesenAktuelle Veranstaltungen, Kampagnen und Neuigkeiten über unser Team – hier finden Sie die Updates von AlgorithmWatch. Zum Blog
Am 24. März 2022 hat das Bündnis F5 gemeinsam mit Digitalpolitiker·innen im Rahmen eines Parlamentarischen Frühstücks im Bundestag über die Chancen und Risiken des Digital Services Act (DSA) diskutiert.
WeiterlesenOb Nachhaltigkeit, COVID-19, Social-Media-Plattformen oder Arbeit - mit konkreten Forschungsprojekten untersuchen wir die Risiken und Auswirkungen von automatisierten Entscheidungssystemen auf bestimmte gesellschaftliche Bereiche. Und Sie können mitmachen!
Projekte ansehen
Wie nachhaltig ist Künstliche Intelligenz? Wir wissen, dass in der Entwicklung und Anwendung von KI viel Energie benötigt wird, dass Menschen als sogenannte Clickworker unter sehr schlechten Arbeitsbedingungen Trainingsdatensätze für KI-Systeme bearbeiten und diese nicht selten bestehende Diskriminierungsmuster verstärken. Angesichts einer steigenden Zahl an KI-Systemen, braucht es daher dringend eine Diskussion, wie KI nachhaltiger gestaltet werden kann. Hier setzt unser Projekt SustAIn an.
Weiterlesen