Publikationen

Hintergrundberichte, Analysen und Arbeitspapiere - gemeinsam mit anderen Wissenschaftler·innen forschen wir zu den Auswirkungen algorithmischer Entscheidungen und ihren ethischen Fragestellungen.

Digital Autonomy Policy Brief #3 – Tool zur Folgenabschätzung.

Automatisierte Entscheidungsfindungssysteme (ADM) sind im öffentlichen Sektor angekommen. Sie etablieren sich auch in öffentlichen Verwaltungen zunehmend als Instrumente, die Entscheidungsverfahren und Dienstleistungen effizienter, einfacher und nutzerfreundlicher gestalten sollen. Im dritten Policy Brief des Digital Autonomy Hubs legen wir dar, warum ihr Einsatz in der Verwaltung besondere Herausforderungen aufwirft und wie ihnen begegnet werden kann. Hierfür stellen wir ein Instrument vor, mit dem die Folgen von ADM-Systemen eingeschätzt, Risiken identifiziert und gegebenenfalls die Systeme angepasst werden können.

10. Juni 2021

Automatisierte Entscheidungssysteme im öffentlichen Sektor – Ein Impact-Assessment-Tool für die öffentliche Verwaltung

Wie können wir gewährleisten, dass automatisierte Entscheidungssysteme (automated decision-making systems, ADMS) in der öffentlichen Verwaltung vertrauenswürdig eingesetzt werden? AlgorithmWatch und AlgorithmWatch Schweiz haben ein Instrument zur Folgenabschätzung (Impact Assessment Tool) erarbeitet, das von Behörden verschiedener Verwaltungsebenen für die Analyse spezifischer ADMS verwendet werden kann.

Weiterlesen
Chris Barbalis | Unsplash

18. Mai 2021

Towards accountability in the use of Artificial Intelligence for Public Administrations

Michele Loi und Matthias Spielkamp analysieren den Regelungsgehalt von 16 Richtliniendokumenten über den Einsatz von KI im öffentlichen Sektor, indem sie deren Anforderungen mit den Kriterien unserer philosophischen Darstellung von Rechenschaftspflicht abgleichen. Sie kommen zu dem Schluss, dass einige Richtlinien zwar auf Prozesse verweisen, die auf eine Prüfung hinauslaufen, die Debatte jedoch von mehr Klarheit über die Art der Berechtigung von Prüfern und die Ziele der Prüfung profitieren würde. Dies diene nicht zuletzt dazu, ethisch sinnvolle Standards zu entwickeln, anhand derer verschiedene Formen der Prüfung bewertet und verglichen werden können.

Weiterlesen
Jonathan SimcoeUnsplash

21. April 2021

Einsatz Künstlicher Intelligenz in der Verwaltung: ethische und rechtliche Fragen

Neue Studie im Auftrag des Kantons Zürich, durchgeführt von Prof. Dr. Nadja Braun Binder, Juristische Fakultät der Universität Basel, und ihrem Team in Zusammenarbeit mit AlgorithmWatch Schweiz

Weiterlesen
MandicJovan/stock.adobe.com und tarokate/pixabay.com

29. März 2021

Digital Autonomy Policy Brief #2 – Digitale Impfzertifikate

Weltweit nehmen COVID-19-Impfkampagnen Fahrt auf. Es mehren sich die Rufe nach digitalen Impfnachweisen, um (Bewegungs-)Freiheit und Autonomie der Menschen zu erhöhen. In unserem Policy Brief kartieren wir die verschiedenen Lösungsansätze und gehen den Fragen nach, welche gesellschaftlichen Vor- und Nachteile mit digitalen Impfnachweisen einhergehen und welche Aspekte in der öffentlichen Debatte zu kurz kommen.

Weiterlesen

9. März 2021

Automating Society 2020 – Länderausgaben Deutschland, Frankreich, Italien, Schweiz & Spanien

Auf dieser Seite finden Sie alle Länderausgaben des Automating Society 2020 Reports sowie Videos von den Launch-Events.

Weiterlesen

28. Januar 2021

Jetzt lesen: Schweizer Länderausgabe des Automating Society Reports 2020

Wie werden KI-basierte Systeme von privaten Unternehmen und in der öffentlichen Verwaltung in der Schweiz genutzt? Der Automating Society Report von AlgorithmWatch und der Bertelsmann Stiftung beleuchtet, welche Rolle Systeme automatisierter Entscheidungsfindung (ADM) in unserem Leben spielen. Als Ergebnis der bisher umfassendsten Recherche zu diesem Thema in Europa deckt der Bericht den Einsatz von und die politischen Debatten über ADM-Systeme in 16 europäischen Ländern sowie auf EU-Ebene ab.

Weiterlesen

25. Januar 2021

Jetzt verfügbar: Die deutsche Ausgabe des Automating Society Reports 2020

Der Automating Society Report von AlgorithmWatch und der Bertelsmann Stiftung beleuchtet, welche Rolle Systeme automatisierter Entscheidungsfindung (ADM) in unserem Leben spielen. Lesen Sie jetzt die deutsche Länderausgabe!

Weiterlesen
Charles Deluvio | Unsplash

18. Dezember 2020

Digital Autonomy Policy Brief #1 – Data Trusts

Personenbezogene Daten selbstbestimmt teilen – geht das? Wie lassen sich unsere Daten für das Gemeinwohl nutzen, ohne die individuelle Selbstbestimmung zu untergraben?

Weiterlesen

6. Dezember 2020

Die Vereinbarkeit von Data Trusts mit der Datenschutzgrundverordnung (DSGVO)

Gutachten zur Frage, ob und, falls ja, in welcher Form sog. „Data Trusts“ mit dem geltenden Datenschutzrecht, insbesondere der DSGVO, vereinbar sind und – soweit dies nicht der Fall ist – welche Änderungen im Datenschutzrecht erforderlich wären, um Data Trusts zu ermöglichen.

Weiterlesen

13. November 2020

Veröffentlichung des Automating-Society-2020-Länderreports Italien

Der Automating Society Report 2020 von AlgorithmWatch und der Bertelsmann Stiftung ist ab sofort als italienische Spezialausgabe verfügbar. Laden Sie das PDF hier herunter: Am 14. November stellt der Projektmanager Fabio Chiusi den Länderreport Italien auf der Biennale Tecnologia vor und diskutiert die Ergebnisse mit Antonella Napolitano (Policy Officer, Privacy International) und Juan Carlos De…

Weiterlesen

28. Oktober 2020

Jetzt lesen: Automating Society Report 2020

Wie werden KI-basierte Systeme von privaten Unternehmen und öffentlichen Behörden in Europa genutzt? Der neue Report von AlgorithmWatch und der Bertelsmann Stiftung beleuchtet, welche Rolle automatisierte Entscheidungsfindungssysteme (ADM) in unserem Leben spielen. Als Ergebnis der bisher umfassendsten Recherche zu diesem Thema in Europa deckt der Bericht den Einsatz von und die politischen Debatten über ADM-Systeme in 16 europäischen Ländern sowie auf EU-Ebene ab.

Weiterlesen

1. September 2020

Europa will ein Vorbild für technologische Antworten auf COVID-19 sein. Aber es ist kompliziert.

Unser neuer Bericht über den Einsatz automatisierter Entscheidungssysteme in der COVID-19-Pandemie

Weiterlesen

25. Juni 2020

AlgorithmWatch-Studie widerlegt ‘DSGVO-Ausrede’ von Facebook

Die Datenschutz-Grundverordnung steht dem Zugang zu Plattformdaten für Forschungszwecke nicht im Weg. Eine neue Studie von AlgorithmWatch zeigt anhand von Fallbeispielen aus dem Gesundheits- und Umweltsektor wie datenschutzkonforme Rahmenbedingungen für den Datenaustausch geschaffen werden können.

Weiterlesen

26. Mai 2020

Der einzige Weg, um Facebook, Google und Co. zur Rechenschaft zu ziehen: Mehr Zugang zu Plattformdaten

Die Schaffung wirksamer regulatorischer Rahmenbedingungen für Internediäre ist nur mit angemessener Transperenz möglich – in Form von Datenzugang für Journalisten, Akademiker und zivilgesellschaftliche Akteure. Dies ist das Ergebnis zweier neuer Studien, die von AlgorithmWatch in Zusammenarbeit mit dem European Policy Centre und dem Mainzer Medieninstitut veröffentlicht wurden.

Weiterlesen

7. Februar 2020

Webdossier: Automatisiertes Personalmanagement und Mitbestimmung

Immer mehr Unternehmen setzen KI-basierte Systeme für das Personalmanagement ein, um Beschäftigte zu überwachen und zu bewerten. Mithilfe dieser sogenannten „People Analytics“-Verfahren werden mitunter Entscheidungen darüber getroffen, Mitarbeiter·innen zu fördern und sogar zu entlassen. Daher braucht es klare Regeln – aber Beschäftigte müssen auch selbst dafür sorgen, die Funktionsweise hinter den Systemen besser verstehen und beurteilen zu können.

Weiterlesen

22. Oktober 2019

Neuer Bericht von AlgorithmWatch: Identitätsmanagement und Citizen-Scoring in Ghana, Ruanda, Tunesien, Uganda, Simbabwe und China

Eine neue Untersuchung zur digitalen Identitätsfeststellung in fünf afrikanischen Ländern zeigt, dass sich ein Großteil des Kontinents sich darauf vorbereitet, umfangreiche biometrische Registrierungen einzurichten. Dies könnte in naher Zukunft das umfassende Scoring von Bürger*innen Bürgerbewertung oder eine automatisierte Überwachung ermöglichen. Der AlgorithmWatch-Bericht Identity-management and citizen scoring in Ghana, Rwanda, Tunisia, Uganda, Zimbabwe and China entstand im…

Weiterlesen

11. April 2019

Atlas der Automatisierung

Der ‘Atlas der Automatisierung‘ von AlgorithmWatch liefert einen Überblick über teilhaberelevante ADM-Systeme, die in Deutschland im Einsatz sind. Er ist eine Sammlung – in diesem Fall nicht von Landkarten und Grafiken, sondern von Themen, die relevant sind für die Beantwortung der Frage, inwiefern diese Systeme den Zugang zu öffentlichen Gütern und Leistungen sowie die Wahrnehmung…

Weiterlesen

29. Januar 2019

Jetzt lesen: “Automating Society 2019” – Unser Report zu ADM in der EU

Am 29. Januar haben wir unseren neuen Report Automating Society - Taking Stock of Automated Decision-Making in the EU veröffentlicht, der in Zusammenarbeit mit der Bertelsmann Stiftung und mit Unterstützung  der Open Society Foundations entstanden ist. Der Report ist ab sofort (in englischer Sprache) verfügbar unter www.algorithmwatch.org/en/automating-society-2019/ Launch-Event im Europäischen Parlament Auf Einladung der Europaabgeordneten Liisa Jaakonsaari (S&D), Julia Reda (Greens/EFA) und…

Weiterlesen

8. September 2017

Filterblase geplatzt? Kaum Raum für Personalisierung bei Google-Suchen zur Bundestagswahl 2017

von Tobias D. Krafft, Michael Gamer, Marcel Laessing und Katharina A. Zweig Google-Suchergebnislisten zu prominenten Politikern weisen im Wesentlichen sehr hohe Ähnlichkeit auf. Im Durchschnitt 7 bis 8 der Ergebnisse von im Mittel 9 der sogenannten organischen Suchergebnisse unterscheiden sich unter den Nutzern des Datenspendeprojekts nicht. Das ist ein Hinweis darauf, dass Personalisierung durch Suchmaschinen eine…

Weiterlesen

1. Juni 2017

Ethik und algorithmische Prozesse zur Entscheidungsfindung oder -vorbereitung

Aktuelle ethische Debatten über die Folgen von Automatisierungsprozessen konzentrieren sich auf die Rechte von Individuen. Doch algorithmisch gesteuerte Prozesse haben eine kollektive Dimension. Wie kann man ihr besser gerecht werden? Ein Vorschlag.

Weiterlesen

22. März 2017

3. Arbeitspapier: Unsere Antworten zur Anhörung zu „Künstlicher Intelligenz“ des Ausschusses Digitale Agenda

Unsere Antworten auf den Fragenkatalog der Bundestag-Fraktionen stellen gleichzeitig unser 3. Arbeitspapier dar.

Weiterlesen

Fallstudie, 26. November 2016

1. Fallstudie: Sollte soziale Netzwerkanalyse in der Polizei zur Analyse von Bandenstrukturen verwendet werden?

AlgorithmWatch hat es sich zur Aufgabe gemacht, Algorithmen zu bewerten, die im Rahmen von algorithmisch unterstützten Entscheidungsprozessen genutzt werden. Dabei geht es uns vor allen Dingen um solche Algorithmen, die lebensentscheidende Konsequenzen haben können, insbesondere natürlich solche, die Bürgerrechte betreffen. Dazu gehören auch alle Arten von Algorithmen, die im Rahmen von Polizei- und Geheimdienstarbeit genutzt…

Weiterlesen

7. Juli 2016

2. Arbeitspapier: Überprüfbarkeit von Algorithmen

Unser zweites Arbeitspapier "Überprüfbarkeit von Algorithmen" stellt zuerst die fünf möglichen Klassen von Fehlverhalten von Algorithmen vor, aus denen minimale Kriterien an die Transparenz von Algorithmen abgeleitet werden können, um Überprüfbarkeit zu ermöglichen. Alle Begriffe (kursiv fett gesetzte Worte) werden in der Begriffsklärung  weiter unten erläutert. Das Arbeitspapier schließt mit dem Verweis auf weiterführende Literatur. Der Text steht unter einer Creative…

Weiterlesen

12. Mai 2016

1. Arbeitspapier: Was ist ein Algorithmus?

Dieses Arbeitspapier behandelt die Frage danach, was Algorithmen sind und inwieweit sie als neutral oder objektiv betrachtet werden können. Es streift auch die Frage danach, welche Arten von Fehlern auftreten können, wenn Fragen algorithmisch gelöst werden und basierend auf den berechneten Lösungen Entscheidungen getroffen werden – entweder automatisch oder durch Menschen. Alle verlinkten Begriffe werden…

Weiterlesen