Gemeinsam mit Partner*innen aus der Zivilgesellschaft nehmen wir in unserer Einschätzung den Entwurfsbericht der beiden wichtigsten EU-Parlamentsausschüsse zur geplanten KI-Verordnung der EU (AI Act) unter die Lupe. Wir zeigen die wichtigen Schritte auf, die der Entwurf vorsieht – und die Lücken, die er noch schließen muss, damit der AI Act tatsächlich unsere Grundrechte zu schützen vermag.
Der AI Act wird derzeit in Brüssel verhandelt. AlgorithmWatch fordert einen Regulierungsrahmen, der unsere Grundrechte zu schützen vermag.
Weiterlesen
Heute nimmt das Committee on Artificial Intelligence (CAI) des Europarats die Verhandlungen zu einem neuen Rechtsrahmen für Systeme der Künstlichen Intelligenz (KI) auf. In einer gemeinsamen Erklärung fordern AlgorithmWatch und andere zivilgesellschaftliche Organisationen die Mitgliedstaaten auf, einen Rechtsrahmen für KI zu schaffen, der sich am Mandat des Europarates orientiert: dem Schutz der Menschenrechte, der Demokratie und der Rechtsstaatlichkeit.
Weiterlesen
Die Trilogverhandlungen nähern sich ihrem Abschluss. Bevor es zu einer finalen Fassung des Gesetzes über digitale Dienste (Digital Services Act, DSA) kommt, müssen aber noch wichtige Fragen geklärt werden. In diesem Policy Paper fordern wir die EU-Verhandlungsparteien auf, stärker auf diejenigen Themen einzugehen, die für die im DSA festgelegte Rechenschaftspflicht von zentraler Bedeutung sind.
Weiterlesen
Im Koalitionsvertrag haben die Regierungsparteien angekündigt, das AGG evaluieren zu wollen. Diese Gelegenheit muss genutzt werden, um Betroffene besser vor algorithmenbasierter Diskriminierung zu schützen. Deshalb fordern wir in Bezug auf das AGG, ein Verbandsklagerecht einzuführen, mehr Transparenz zu schaffen und die Anwendungsbereiche des Gesetzes auszuweiten.
Weiterlesen
Derzeit verhandeln der Rat der EU, das EU-Parlament und die EU-Kommission gemeinsam die finale Version des Gesetzes über digitale Dienste (Digital Services Act, DSA). In einem gemeinsam mit elf weiteren zivilgesellschaftlichen Organisationen erstellten Paper fassen wir unsere wichtigsten Prioritäten für diese sogenannten Trilog-Verhandlungen zusammen.
WeiterlesenWenn Technologieunternehmen algorithmische Systeme entwickeln und einsetzen, kann dies Menschenrechte gefährden: Es kann zu Diskriminierung kommen oder der Grundsatz der Gleichbehandlung vor dem Gesetz verletzt werden. In unserer Einreichung beim UNO-Hochkommissariat für Menschenrechte legen wir dar, dass Staaten verpflichtet sind, ihre Bevölkerung vor diesen Risiken zu schützen.
WeiterlesenBeim Einsatz von automatisierten Entscheidungssystemen im öffentlichen Sektor tragen Behörden eine besondere Verantwortung den Menschen gegenüber, die von diesen Entscheidungen betroffen sind. Deshalb sollte ihre Verwendung strikten Transparenzpflichten unterworfen sein, etwa durch öffentliche Verzeichnisse und eine verpflichtende Folgenabschätzung.
Weiterlesen
Um die Online-Desinformation in den Griff zu bekommen, überarbeitet die EU den „Code of Practice on Disinformation“ und ändert die darin formulierten Verpflichtungen für Wirtschaft und Plattformen. Drittbeteiligte werden allerdings bislang in diesem Revisionsprozess nicht berücksichtigt.
Weiterlesen
Im fünften Digital Autonomy Policy-Brief beschreiben wir die Besonderheiten algorithmenbasierter Diskriminierung. Wir zeigen, dass gegenwärtige Antidiskriminierungsgesetze rund um ADM-Systeme Rechtslücken aufweisen und skizzieren, welche Anpassungen es geben muss, damit Betroffene ihr Recht auf Nichtdiskriminierung auch im digitalen Raum durchsetzen können.
Weiterlesen
Im vierten Digital Autonomy Policy-Brief legen wir dar, warum wir die Diskussion über digitale Selbstbestimmung befürworten, warum wir dringend eine Abgrenzung vom Begriff der „digitalen Souveränität“ brauchen, welche digitalpolitischen Leitlinien sich hieraus ergeben und wie eine neue Bundesregierung diese ab sofort umsetzen sollte.
Weiterlesen
Der Entwurf für ein Digitalisierungsgesetz des Landes Schleswig-Holstein zeigt den deutlichen Willen der Landesregierung, die öffentliche Verwaltung in die Lage zu versetzen, die Digitalisierung zum Wohl der Menschen einzusetzen. Im Detail erkennen wir allerdings einige offene Fragen und auch Fehleinschätzungen.
Weiterlesen
In den letzten Monaten hat sich AlgorithmWatch dafür eingesetzt, dass der Digital Services Act (DSA) genutzt wird, um Transparenz darüber zu schaffen, wie Online-Plattformen öffentliche Debatten beeinflussen. Unterstützt wurden wir von Dutzenden von zivilgesellschaftlichen Organisationen und Forscher·innen sowie über 6.000 Einzelpersonen. Die wichtige Ausschussabstimmung im Europäischen Parlament zeigt, dass unsere Arbeit etwas bewirkt hat.
Weiterlesen
AlgorithmWatch hat mit anderen zivilgesellschaftlichen Organisationen (u. a. European Digital Rights (EDRi), Access Now) eine Stellungnahme zur geplanten KI-Verordnung der EU verfasst, mit dem Appell die Grundrechte ins Zentrum der Verordnung zu stellen.
Weiterlesen
Der Koalitionsvertrag von SPD, Bündnis 90/Die Grünen und FDP ist da. Viele gute Ideen sind enthalten: Die digitale Zivilgesellschaft soll gestärkt werden, Digitalisierung soll die Bedürfnisse der Menschen in den Mittelpunkt stellen, digitale Grundrechte werden geschützt. Der Grundton ist ermutigend. Aber bei der konkreten Ausgestaltung ist Luft nach oben – insbesondere mit Blick auf Systeme des automatisierten Entscheidens (ADM-Systeme).
Weiterlesen
Der Einsatz von Gesichtserkennungssystemen breitet sich derzeit in Europa rasant aus. Gesetzliche Schranken gegen die Überwachung mittels Gesichtserkennung fehlen. Gemeinsam mit Amnesty International und der Digitalen Gesellschaft fordern wir ein Verbot von automatischer Gesichtserkennung und biometrischer Massenüberwachung in der Schweiz und lancieren eine Petition. Unterzeichnen Sie jetzt die Petition auf der Webseite unserer Schweizer Kolleg·innen.
WeiterlesenMit Blick auf die Bundestagswahl 2021 hat der Digital Autonomy Hub, der gemeinsam von AlgorithmWatch und der Gesellschaft für Informatik koordiniert wird, die Positionen der Parteien zur digitalen Selbstbestimmung geprüft – und fordert digitalpolitische Weichenstellungen für die kommende Legislaturperiode.
Weiterlesen
AlgorithmWatch schließt sich dem Bündnisaufruf von LobbyControl an. Gemeinsam mit über 50 anderen Organisationen fordern wir einen Lobby-Fußabdruck für alle Gesetze, die Reform und Begrenzung der Parteienfinanzierung und die Offenlegung aller Lobbykontakte der deutschen Bundesregierung.
WeiterlesenAlgorithmWatch sah sich gezwungen, ein Datenspende-Projekt zu beenden, um nicht zu riskieren, von Facebook verklagt zu werden. In unserem offenen Brief, der von 6.126 Personen sowie 36 zivilgesellschaftlichen und wissenschaftlichen Organisationen unterzeichnet wurde, fordern wir einen Digital Services Act, der Forschung zu Plattfromen im öffentlichen Interesse schützt und den Zugang zu Daten von Online-Plattformen rechtlich garantiert.
Weiterlesen
Die Europäische Kommission hat im April 2021 einen Regulierungsvorschlag für Anwendungen Künstlicher Intelligenz vorgelegt. Lesen Sie unsere Stellungnahme zum Vorschlag der Kommission, die im Rahmen des offiziellen öffentlichen Konsultationsverfahrens eingereicht wurde.
WeiterlesenAutomatisierte Entscheidungsfindungssysteme (ADM) sind im öffentlichen Sektor angekommen. Sie etablieren sich auch in öffentlichen Verwaltungen zunehmend als Instrumente, die Entscheidungsverfahren und Dienstleistungen effizienter, einfacher und nutzerfreundlicher gestalten sollen. Im dritten Policy Brief des Digital Autonomy Hubs legen wir dar, warum ihr Einsatz in der Verwaltung besondere Herausforderungen aufwirft und wie ihnen begegnet werden kann. Hierfür stellen wir ein Instrument vor, mit dem die Folgen von ADM-Systemen eingeschätzt, Risiken identifiziert und gegebenenfalls die Systeme angepasst werden können.
Weiterlesen
AlgorithmWatch und AlgorithmWatch Schweiz schließen sich 177 zivilgesellschaftlichen Organisationen, Aktivist·innen und Expert·innen auf der ganzen Welt an, um ein vollständiges Verbot des Einsatzes von Gesichtserkennungs- und biometrischen Fernerkennungs-Technologien zu fordern, die Massenüberwachung und gezielte diskriminierende Überwachung ermöglichen.
WeiterlesenZahlreiche zivilgesellschaftliche Organisationen aus ganz Europa, darunter AlgorithmWatch und AlgorithmWatch Schweiz, haben sich zu einer Koalition gegen Massenüberwachung zusammengeschlossen. Fordern Sie jetzt mit uns ein Verbot von biometrischen Überwachungstechnologien, wie z.B. dem Einsatz von automatischer Gesichtserkennung an öffentlichen Plätzen!
WeiterlesenAm Mittwoch stellte die EU-Kommission ihren lang erwarteten Gesetzentwurf zur Regulierung von Künstlicher Intelligenz (KI) in Europa vor. Sehr wahrscheinlich wird dieses Gesetz die KI-Regulierung der nächsten Jahrzehnte maßgeblich prägen, nicht nur in Europa, sondern weltweit. Der Entwurf verfolgt das Ziel, Grundrechte zu schützen und gleichzeitig Innovationen im Feld der künstlichen Intelligenz zu fördern. Geplant…
Weiterlesen
Weltweit nehmen COVID-19-Impfkampagnen Fahrt auf. Es mehren sich die Rufe nach digitalen Impfnachweisen, um (Bewegungs-)Freiheit und Autonomie der Menschen zu erhöhen. In unserem Policy Brief kartieren wir die verschiedenen Lösungsansätze und gehen den Fragen nach, welche gesellschaftlichen Vor- und Nachteile mit digitalen Impfnachweisen einhergehen und welche Aspekte in der öffentlichen Debatte zu kurz kommen.
WeiterlesenPersonenbezogene Daten selbstbestimmt teilen – geht das? Wie lassen sich unsere Daten für das Gemeinwohl nutzen, ohne die individuelle Selbstbestimmung zu untergraben?
Weiterlesen
AlgorithmWatch reacts to the release of the EU's Digital Services Act (DSA).
Weiterlesen
Der Abschlussbericht der Enquete-Kommission Künstliche Intelligenz ist eine hilfreiche Bestandsaufnahme, aber leider nicht viel mehr. Konkrete Vorschläge, was zu tun ist, fehlen weitgehend. Dabei liegen bereits zahlreiche Handlungsempfehlungen vor. Stellungnahme als PDF lesen Am Mittwoch, den 28. Oktober 2020, hat die vom Deutschen Bundestag eingesetzte Enquete-Kommission Künstliche Intelligenz (KI) ihren Abschlussbericht vorgelegt. Auf mehr als…
Weiterlesen
Eine Koalition von 46 zivilgesellschaftlichen Organisationen und weltbekannten Wissenschaftlern fordert gemeinsam mit AlgorithmWatch und dem European Policy Centre verbindliche Transparenzregeln für Online-Plattformen. In einer heute veröffentlichten Erklärung drängen die Unterzeichner die Europäische Kommission, sinnvolle Transparenz in den Mittelpunkt ihres bevorstehenden Gesetzes über digitale Dienste (Digital Services Act) zu stellen. ?? Die Erklärung ist in englischer…
Weiterlesen
Angesichts der weltweiten Ausbreitung des COVID-19-Virus fragen sich viele, ob und wie man Systeme automatisierter Entscheidungsfindung zur Eindämmung der Pandemie einsetzen kann. Lesen Sie 11 Positionen von AlgorithmWatch zum Einsatz von ADMS im Kampf gegen das Coronavirus.
Weiterlesen
Wie können wir sicherstellen, dass KI-Anwendungen, die in Betrieben eingesetzt werden, den Menschen und dem Gemeinwohl dienen? Dieser Frage soll sich das KI-Observatorium widmen, das Arbeitsminister Hubertus Heil heute in Berlin eröffnet. Wir bei AlgorithmWatch haben schon jetzt einige sehr konkrete Antworten. Personalmanagement-Software, die sogenannte „People Analytics”-Fähigkeiten bietet – also die Möglichkeit, Leistungen und Potenzial…
Weiterlesen
Umfangreiche Regulierungsvorschläge für automatisierte Entscheidungen vorgelegt.
Weiterlesen
Das unlängst vorgestellte Gütesiegel des KI Bundesverbandes ist unzureichend. Es mangelt ihm an Schärfe, Deutlichkeit sowie mess- oder bezifferbaren Zielvorgaben.
Weiterlesen
Zusammen mit mehr als 30 weiteren Organisationen hat AlgorithmWatch den Offenen Brief von Mozilla an Facebook unterzeichnet. Darin fordern wir, dass Facebook sein Versprechen einlöst und im Vorfeld der EU-Parlamentswahlen 2019 mehr Transparenz in der politischen Werbung schafft.
Weiterlesen
Ein Kommentar von Sebastian Gießler und Matthias Spielkamp Der Artikel Die Lügen der hyperaktiven Cyborgs (SZ vom 25. Januar) gibt sich aufklärerisch zum Thema Desinformation, doch er bedient nur bequeme Ressentiments. SZ-Autor Max Muth konstatiert zwar gleich im ersten Absatz „Wie groß das Problem tatsächlich ist, blieb aber unklar“, was die Hoffnung aufkeimen lässt, es…
Weiterlesen
Plötzlich ist Mark Zuckerberg ein Fan der Regulierung sozialer Medien. Was stimmt da nicht?
Weiterlesen
AlgorithmWatch-Mitgründerin Lorena Jaume-Palasí kommentiert die Pläne von Bundesjustizminister Heiko Maas, eine Digitalagentur – eine Art Algorithmen Behörde – schaffen zu wollen.
Weiterlesen
Unsere Antworten auf den Fragenkatalog der Bundestag-Fraktionen stellen gleichzeitig unser 3. Arbeitspapier dar.
Weiterlesen
