Im fünften Digital Autonomy Policy-Brief beschreiben wir die Besonderheiten algorithmenbasierter Diskriminierung. Wir zeigen, dass gegenwärtige Antidiskriminierungsgesetze rund um ADM-Systeme Rechtslücken aufweisen und skizzieren, welche Anpassungen es geben muss, damit Betroffene ihr Recht auf Nichtdiskriminierung auch im digitalen Raum durchsetzen können.
In einem neuen Diskussionspapier von AlgorithmWatch nimmt der Datenschutz-Experte Winfried Veil zum „Data Governance Act“ Stellung. Er sieht darin ein bürokratisches Ärgernis und eine verpasste Gelegenheit, Daten für einen guten Zweck einzusetzen.
Weiterlesen
In ihrem Beitrag in der Zeitschrift für Europarecht erläutert Angela Müller den KI-Verordnungsentwurf („AI Act“) der EU-Kommission und beleuchtet diesen kritisch.
Weiterlesen
Um die Nachhaltigkeit von KI-Systemen ist es mitunter nicht gut bestellt. Es geht dabei unter anderem um Diskriminierung, hohe Energie- und Ressourcenverbräuche sowie die Reproduktion gesellschaftlicher Ungleichheiten. Das Projekt „SustAIn“ hat in einer neuen Publikation umfassende Kriterien für eine systematische Nachhaltigkeitsbewertung von KI-basierten Systemen vorgelegt – mit dem Ziel diese nachhaltiger zu gestalten.
Weiterlesen
Im vierten Digital Autonomy Policy-Brief legen wir dar, warum wir die Diskussion über digitale Selbstbestimmung befürworten, warum wir dringend eine Abgrenzung vom Begriff der „digitalen Souveränität“ brauchen, welche digitalpolitischen Leitlinien sich hieraus ergeben und wie eine neue Bundesregierung diese ab sofort umsetzen sollte.
Weiterlesen
In diesem Abschlussbericht liefern wir eine erste umfassende Einschätzung der wichtigsten Trends und Entwicklungen bei den ADM-gestützten Maßnahmen gegen COVID-19.
WeiterlesenAutomatisierte Entscheidungsfindungssysteme (ADM) sind im öffentlichen Sektor angekommen. Sie etablieren sich auch in öffentlichen Verwaltungen zunehmend als Instrumente, die Entscheidungsverfahren und Dienstleistungen effizienter, einfacher und nutzerfreundlicher gestalten sollen. Im dritten Policy Brief des Digital Autonomy Hubs legen wir dar, warum ihr Einsatz in der Verwaltung besondere Herausforderungen aufwirft und wie ihnen begegnet werden kann. Hierfür stellen wir ein Instrument vor, mit dem die Folgen von ADM-Systemen eingeschätzt, Risiken identifiziert und gegebenenfalls die Systeme angepasst werden können.
Weiterlesen
Wie können wir gewährleisten, dass automatisierte Entscheidungssysteme (automated decision-making systems, ADMS) in der öffentlichen Verwaltung vertrauenswürdig eingesetzt werden? AlgorithmWatch und AlgorithmWatch Schweiz haben ein Instrument zur Folgenabschätzung (Impact Assessment Tool) erarbeitet, das von Behörden verschiedener Verwaltungsebenen für die Analyse spezifischer ADMS verwendet werden kann.
WeiterlesenMichele Loi und Matthias Spielkamp analysieren den Regelungsgehalt von 16 Richtliniendokumenten über den Einsatz von KI im öffentlichen Sektor, indem sie deren Anforderungen mit den Kriterien unserer philosophischen Darstellung von Rechenschaftspflicht abgleichen. Sie kommen zu dem Schluss, dass einige Richtlinien zwar auf Prozesse verweisen, die auf eine Prüfung hinauslaufen, die Debatte jedoch von mehr Klarheit über die Art der Berechtigung von Prüfern und die Ziele der Prüfung profitieren würde. Dies diene nicht zuletzt dazu, ethisch sinnvolle Standards zu entwickeln, anhand derer verschiedene Formen der Prüfung bewertet und verglichen werden können.
WeiterlesenNeue Studie im Auftrag des Kantons Zürich, durchgeführt von Prof. Dr. Nadja Braun Binder, Juristische Fakultät der Universität Basel, und ihrem Team in Zusammenarbeit mit AlgorithmWatch Schweiz
Weiterlesen
Weltweit nehmen COVID-19-Impfkampagnen Fahrt auf. Es mehren sich die Rufe nach digitalen Impfnachweisen, um (Bewegungs-)Freiheit und Autonomie der Menschen zu erhöhen. In unserem Policy Brief kartieren wir die verschiedenen Lösungsansätze und gehen den Fragen nach, welche gesellschaftlichen Vor- und Nachteile mit digitalen Impfnachweisen einhergehen und welche Aspekte in der öffentlichen Debatte zu kurz kommen.
Weiterlesen
Auf dieser Seite finden Sie alle Länderausgaben des Automating Society 2020 Reports sowie Videos von den Launch-Events.
Weiterlesen
Wie werden KI-basierte Systeme von privaten Unternehmen und in der öffentlichen Verwaltung in der Schweiz genutzt? Der Automating Society Report von AlgorithmWatch und der Bertelsmann Stiftung beleuchtet, welche Rolle Systeme automatisierter Entscheidungsfindung (ADM) in unserem Leben spielen. Als Ergebnis der bisher umfassendsten Recherche zu diesem Thema in Europa deckt der Bericht den Einsatz von und die politischen Debatten über ADM-Systeme in 16 europäischen Ländern sowie auf EU-Ebene ab.
Weiterlesen
Der Automating Society Report von AlgorithmWatch und der Bertelsmann Stiftung beleuchtet, welche Rolle Systeme automatisierter Entscheidungsfindung (ADM) in unserem Leben spielen. Lesen Sie jetzt die deutsche Länderausgabe!
WeiterlesenPersonenbezogene Daten selbstbestimmt teilen – geht das? Wie lassen sich unsere Daten für das Gemeinwohl nutzen, ohne die individuelle Selbstbestimmung zu untergraben?
Weiterlesen
Gutachten zur Frage, ob und, falls ja, in welcher Form sog. „Data Trusts“ mit dem geltenden Datenschutzrecht, insbesondere der DSGVO, vereinbar sind und – soweit dies nicht der Fall ist – welche Änderungen im Datenschutzrecht erforderlich wären, um Data Trusts zu ermöglichen.
Weiterlesen
Der Automating Society Report 2020 von AlgorithmWatch und der Bertelsmann Stiftung ist ab sofort als italienische Spezialausgabe verfügbar. Laden Sie das PDF hier herunter: Am 14. November stellt der Projektmanager Fabio Chiusi den Länderreport Italien auf der Biennale Tecnologia vor und diskutiert die Ergebnisse mit Antonella Napolitano (Policy Officer, Privacy International) und Juan Carlos De…
Weiterlesen
Wie werden KI-basierte Systeme von privaten Unternehmen und öffentlichen Behörden in Europa genutzt? Der neue Report von AlgorithmWatch und der Bertelsmann Stiftung beleuchtet, welche Rolle automatisierte Entscheidungsfindungssysteme (ADM) in unserem Leben spielen. Als Ergebnis der bisher umfassendsten Recherche zu diesem Thema in Europa deckt der Bericht den Einsatz von und die politischen Debatten über ADM-Systeme in 16 europäischen Ländern sowie auf EU-Ebene ab.
Weiterlesen
Unser neuer Bericht über den Einsatz automatisierter Entscheidungssysteme in der COVID-19-Pandemie
Weiterlesen
Die Datenschutz-Grundverordnung steht dem Zugang zu Plattformdaten für Forschungszwecke nicht im Weg. Eine neue Studie von AlgorithmWatch zeigt anhand von Fallbeispielen aus dem Gesundheits- und Umweltsektor wie datenschutzkonforme Rahmenbedingungen für den Datenaustausch geschaffen werden können.
WeiterlesenDie Schaffung wirksamer regulatorischer Rahmenbedingungen für Internediäre ist nur mit angemessener Transperenz möglich – in Form von Datenzugang für Journalisten, Akademiker und zivilgesellschaftliche Akteure. Dies ist das Ergebnis zweier neuer Studien, die von AlgorithmWatch in Zusammenarbeit mit dem European Policy Centre und dem Mainzer Medieninstitut veröffentlicht wurden.
Weiterlesen
Immer mehr Unternehmen setzen KI-basierte Systeme für das Personalmanagement ein, um Beschäftigte zu überwachen und zu bewerten. Mithilfe dieser sogenannten „People Analytics“-Verfahren werden mitunter Entscheidungen darüber getroffen, Mitarbeiter·innen zu fördern und sogar zu entlassen. Daher braucht es klare Regeln – aber Beschäftigte müssen auch selbst dafür sorgen, die Funktionsweise hinter den Systemen besser verstehen und beurteilen zu können.
Weiterlesen
Eine neue Untersuchung zur digitalen Identitätsfeststellung in fünf afrikanischen Ländern zeigt, dass sich ein Großteil des Kontinents sich darauf vorbereitet, umfangreiche biometrische Registrierungen einzurichten. Dies könnte in naher Zukunft das umfassende Scoring von Bürger*innen Bürgerbewertung oder eine automatisierte Überwachung ermöglichen. Der AlgorithmWatch-Bericht Identity-management and citizen scoring in Ghana, Rwanda, Tunisia, Uganda, Zimbabwe and China entstand im…
Weiterlesen
Der ‘Atlas der Automatisierung‘ von AlgorithmWatch liefert einen Überblick über teilhaberelevante ADM-Systeme, die in Deutschland im Einsatz sind. Er ist eine Sammlung – in diesem Fall nicht von Landkarten und Grafiken, sondern von Themen, die relevant sind für die Beantwortung der Frage, inwiefern diese Systeme den Zugang zu öffentlichen Gütern und Leistungen sowie die Wahrnehmung…
Weiterlesen
Am 29. Januar haben wir unseren neuen Report Automating Society - Taking Stock of Automated Decision-Making in the EU veröffentlicht, der in Zusammenarbeit mit der Bertelsmann Stiftung und mit Unterstützung der Open Society Foundations entstanden ist. Der Report ist ab sofort (in englischer Sprache) verfügbar unter www.algorithmwatch.org/en/automating-society-2019/ Launch-Event im Europäischen Parlament Auf Einladung der Europaabgeordneten Liisa Jaakonsaari (S&D), Julia Reda (Greens/EFA) und…
Weiterlesen
von Tobias D. Krafft, Michael Gamer, Marcel Laessing und Katharina A. Zweig Google-Suchergebnislisten zu prominenten Politikern weisen im Wesentlichen sehr hohe Ähnlichkeit auf. Im Durchschnitt 7 bis 8 der Ergebnisse von im Mittel 9 der sogenannten organischen Suchergebnisse unterscheiden sich unter den Nutzern des Datenspendeprojekts nicht. Das ist ein Hinweis darauf, dass Personalisierung durch Suchmaschinen eine…
Weiterlesen
Aktuelle ethische Debatten über die Folgen von Automatisierungsprozessen konzentrieren sich auf die Rechte von Individuen. Doch algorithmisch gesteuerte Prozesse haben eine kollektive Dimension. Wie kann man ihr besser gerecht werden? Ein Vorschlag.
Weiterlesen
Unsere Antworten auf den Fragenkatalog der Bundestag-Fraktionen stellen gleichzeitig unser 3. Arbeitspapier dar.
WeiterlesenAlgorithmWatch hat es sich zur Aufgabe gemacht, Algorithmen zu bewerten, die im Rahmen von algorithmisch unterstützten Entscheidungsprozessen genutzt werden. Dabei geht es uns vor allen Dingen um solche Algorithmen, die lebensentscheidende Konsequenzen haben können, insbesondere natürlich solche, die Bürgerrechte betreffen. Dazu gehören auch alle Arten von Algorithmen, die im Rahmen von Polizei- und Geheimdienstarbeit genutzt…
WeiterlesenUnser zweites Arbeitspapier "Überprüfbarkeit von Algorithmen" stellt zuerst die fünf möglichen Klassen von Fehlverhalten von Algorithmen vor, aus denen minimale Kriterien an die Transparenz von Algorithmen abgeleitet werden können, um Überprüfbarkeit zu ermöglichen. Alle Begriffe (kursiv fett gesetzte Worte) werden in der Begriffsklärung weiter unten erläutert. Das Arbeitspapier schließt mit dem Verweis auf weiterführende Literatur. Der Text steht unter einer Creative…
WeiterlesenDieses Arbeitspapier behandelt die Frage danach, was Algorithmen sind und inwieweit sie als neutral oder objektiv betrachtet werden können. Es streift auch die Frage danach, welche Arten von Fehlern auftreten können, wenn Fragen algorithmisch gelöst werden und basierend auf den berechneten Lösungen Entscheidungen getroffen werden – entweder automatisch oder durch Menschen. Alle verlinkten Begriffe werden…
Weiterlesen
