Publikationen

Hintergrundberichte, Analysen und Arbeitspapiere - gemeinsam mit anderen Wissenschaftler·innen forschen wir zu den Auswirkungen algorithmischer Entscheidungen und ihren ethischen Fragestellungen.

Policy Brief zu Online-Plattformen: Unabhängige Forschung braucht Datenzugang

Um große Online-Plattformen wie Facebook und YouTube zur Verantwortung zu ziehen, brauchen Forscher*innen einen unabhängigen Zugang zu Plattformdaten. In neuen Policy Brief des Digital Autonomy Hub erklären wir, warum der neue Digital Services Act ein Schritt nach vorn ist.

Image by Alan Warburton / © BBC / Better Images of AI / Social Media / Licenced by CC-BY 4.0

28. Juni 2022

Neues SustAIn-Magazin zu nachhaltiger KI in der Praxis

KI hat ökologische, soziale und wirtschaftliche Kosten zur Folge. Wissenschaft, Industrie, Zivilgesellschaft und Politik müssen dringend auf der Grundlage von Fakten über diese Kosten sprechen und handeln. Mit dem ersten SustAIn-Magazin wollen wir unseren Beitrag zu solch einem Austausch leisten.

Weiterlesen

20. Juni 2022

Was tun, wenn Algorithmen diskriminieren? Ein Ratgeber von AutoCheck

In Deutschland werden womöglich täglich Menschen durch algorithmische Systeme diskriminiert, ohne es zu wissen. Eine neue Handreichung hilft dabei, Fälle zu erkennen und zu bekämpfen. Dabei legt sie auch Lücken in der Gesetzeslage offen.

Weiterlesen
Max Gruber | Better Images of AI | Clickworker 3d-printed | CC-BY 4.0

10. Februar 2022

Algorithmenbasierte Diskriminierung – Warum Antidiskriminierungsgesetze jetzt angepasst werden müssen

Im fünften Digital Autonomy Policy-Brief beschreiben wir die Besonderheiten algorithmenbasierter Diskriminierung. Wir zeigen, dass gegenwärtige Antidiskriminierungsgesetze rund um ADM-Systeme Rechtslücken aufweisen und skizzieren, welche Anpassungen es geben muss, damit Betroffene ihr Recht auf Nichtdiskriminierung auch im digitalen Raum durchsetzen können.

Weiterlesen
Susan Q Yin ǀ Unsplash

27. Januar 2022

Die EU und Datenspenden: Eine gute Idee im Keim erstickt

In einem neuen Diskussionspapier von AlgorithmWatch nimmt der Datenschutz-Experte Winfried Veil zum „Data Governance Act“ Stellung. Er sieht darin ein bürokratisches Ärgernis und eine verpasste Gelegenheit, Daten für einen guten Zweck einzusetzen.

Weiterlesen
Gertruda Valaseviciute | Unsplash

26. Januar 2022

Der Artificial Intelligence Act der EU: Ein risikobasierter Ansatz zur Regulierung von KI – was er vorschlägt und wozu er taugt

In ihrem Beitrag in der Zeitschrift für Europarecht erläutert Angela Müller den KI-Verordnungsentwurf („AI Act“) der EU-Kommission und beleuchtet diesen kritisch.

Weiterlesen
Taylor Vick | Unsplash

25. Januar 2022

Nachhaltigkeitskriterien für Künstliche Intelligenz – Bewertungsansatz vorgelegt

Um die Nachhaltigkeit von KI-Systemen ist es mitunter nicht gut bestellt. Es geht dabei unter anderem um Diskriminierung, hohe Energie- und Ressourcenverbräuche sowie die Reproduktion gesellschaftlicher Ungleichheiten. Das Projekt „SustAIn“ hat in einer neuen Publikation umfassende Kriterien für eine systematische Nachhaltigkeitsbewertung von KI-basierten Systemen vorgelegt – mit dem Ziel diese nachhaltiger zu gestalten.

Weiterlesen
Gilles Lambert | Unsplash

24. Januar 2022

Digital Autonomy Policy Brief #4 – Digitale Selbstbestimmung

Im vierten Digital Autonomy Policy-Brief legen wir dar, warum wir die Diskussion über digitale Selbstbestimmung befürworten, warum wir dringend eine Abgrenzung vom Begriff der „digitalen Souveränität“ brauchen, welche digitalpolitischen Leitlinien sich hieraus ergeben und wie eine neue Bundesregierung diese ab sofort umsetzen sollte.

Weiterlesen

9. Dezember 2021

Tracing The Tracers-Report 2021: Die automatisierte Bekämpfung der COVID-Pandemie

In diesem Abschlussbericht liefern wir eine erste umfassende Einschätzung der wichtigsten Trends und Entwicklungen bei den ADM-gestützten Maßnahmen gegen COVID-19.

Weiterlesen
Jonas Tebbe | Unsplash

27. Juli 2021

Digital Autonomy Policy Brief #3 – Tool zur Folgenabschätzung.

Automatisierte Entscheidungsfindungssysteme (ADM) sind im öffentlichen Sektor angekommen. Sie etablieren sich auch in öffentlichen Verwaltungen zunehmend als Instrumente, die Entscheidungsverfahren und Dienstleistungen effizienter, einfacher und nutzerfreundlicher gestalten sollen. Im dritten Policy Brief des Digital Autonomy Hubs legen wir dar, warum ihr Einsatz in der Verwaltung besondere Herausforderungen aufwirft und wie ihnen begegnet werden kann. Hierfür stellen wir ein Instrument vor, mit dem die Folgen von ADM-Systemen eingeschätzt, Risiken identifiziert und gegebenenfalls die Systeme angepasst werden können.

Weiterlesen

10. Juni 2021

Automatisierte Entscheidungssysteme im öffentlichen Sektor – Ein Impact-Assessment-Tool für die öffentliche Verwaltung

Wie können wir gewährleisten, dass automatisierte Entscheidungssysteme (automated decision-making systems, ADMS) in der öffentlichen Verwaltung vertrauenswürdig eingesetzt werden? AlgorithmWatch und AlgorithmWatch Schweiz haben ein Instrument zur Folgenabschätzung (Impact Assessment Tool) erarbeitet, das von Behörden verschiedener Verwaltungsebenen für die Analyse spezifischer ADMS verwendet werden kann.

Weiterlesen
Chris Barbalis | Unsplash

18. Mai 2021

Towards accountability in the use of Artificial Intelligence for Public Administrations

Michele Loi und Matthias Spielkamp analysieren den Regelungsgehalt von 16 Richtliniendokumenten über den Einsatz von KI im öffentlichen Sektor, indem sie deren Anforderungen mit den Kriterien unserer philosophischen Darstellung von Rechenschaftspflicht abgleichen. Sie kommen zu dem Schluss, dass einige Richtlinien zwar auf Prozesse verweisen, die auf eine Prüfung hinauslaufen, die Debatte jedoch von mehr Klarheit über die Art der Berechtigung von Prüfern und die Ziele der Prüfung profitieren würde. Dies diene nicht zuletzt dazu, ethisch sinnvolle Standards zu entwickeln, anhand derer verschiedene Formen der Prüfung bewertet und verglichen werden können.

Weiterlesen

Working paper, 7. Mai 2021

KI-basierte Systeme für das Personalmanagement – was ist fair, was ist erlaubt?

Zusammenfassung der Ergebnisse des Forschungsprojekts „Automatisiertes Personalmanagement und Mitbestimmung“

Weiterlesen
Jonathan SimcoeUnsplash

21. April 2021

Einsatz Künstlicher Intelligenz in der Verwaltung: ethische und rechtliche Fragen

Neue Studie im Auftrag des Kantons Zürich, durchgeführt von Prof. Dr. Nadja Braun Binder, Juristische Fakultät der Universität Basel, und ihrem Team in Zusammenarbeit mit AlgorithmWatch Schweiz

Weiterlesen
MandicJovan/stock.adobe.com und tarokate/pixabay.com

29. März 2021

Digital Autonomy Policy Brief #2 – Digitale Impfzertifikate

Weltweit nehmen COVID-19-Impfkampagnen Fahrt auf. Es mehren sich die Rufe nach digitalen Impfnachweisen, um (Bewegungs-)Freiheit und Autonomie der Menschen zu erhöhen. In unserem Policy Brief kartieren wir die verschiedenen Lösungsansätze und gehen den Fragen nach, welche gesellschaftlichen Vor- und Nachteile mit digitalen Impfnachweisen einhergehen und welche Aspekte in der öffentlichen Debatte zu kurz kommen.

Weiterlesen

9. März 2021

Automating Society 2020 – Länderausgaben Deutschland, Frankreich, Italien, Schweiz & Spanien

Auf dieser Seite finden Sie alle Länderausgaben des Automating Society 2020 Reports sowie Videos von den Launch-Events.

Weiterlesen

28. Januar 2021

Jetzt lesen: Schweizer Länderausgabe des Automating Society Reports 2020

Wie werden KI-basierte Systeme von privaten Unternehmen und in der öffentlichen Verwaltung in der Schweiz genutzt? Der Automating Society Report von AlgorithmWatch und der Bertelsmann Stiftung beleuchtet, welche Rolle Systeme automatisierter Entscheidungsfindung (ADM) in unserem Leben spielen. Als Ergebnis der bisher umfassendsten Recherche zu diesem Thema in Europa deckt der Bericht den Einsatz von und die politischen Debatten über ADM-Systeme in 16 europäischen Ländern sowie auf EU-Ebene ab.

Weiterlesen

25. Januar 2021

Jetzt verfügbar: Die deutsche Ausgabe des Automating Society Reports 2020

Der Automating Society Report von AlgorithmWatch und der Bertelsmann Stiftung beleuchtet, welche Rolle Systeme automatisierter Entscheidungsfindung (ADM) in unserem Leben spielen. Lesen Sie jetzt die deutsche Länderausgabe!

Weiterlesen
Charles Deluvio | Unsplash

18. Dezember 2020

Digital Autonomy Policy Brief #1 – Data Trusts

Personenbezogene Daten selbstbestimmt teilen – geht das? Wie lassen sich unsere Daten für das Gemeinwohl nutzen, ohne die individuelle Selbstbestimmung zu untergraben?

Weiterlesen

6. Dezember 2020

Die Vereinbarkeit von Data Trusts mit der Datenschutzgrundverordnung (DSGVO)

Gutachten zur Frage, ob und, falls ja, in welcher Form sog. „Data Trusts“ mit dem geltenden Datenschutzrecht, insbesondere der DSGVO, vereinbar sind und – soweit dies nicht der Fall ist – welche Änderungen im Datenschutzrecht erforderlich wären, um Data Trusts zu ermöglichen.

Weiterlesen

13. November 2020

Veröffentlichung des Automating-Society-2020-Länderreports Italien

Weiterlesen

28. Oktober 2020

Jetzt lesen: Automating Society Report 2020

Wie werden KI-basierte Systeme von privaten Unternehmen und öffentlichen Behörden in Europa genutzt? Der neue Report von AlgorithmWatch und der Bertelsmann Stiftung beleuchtet, welche Rolle automatisierte Entscheidungsfindungssysteme (ADM) in unserem Leben spielen. Als Ergebnis der bisher umfassendsten Recherche zu diesem Thema in Europa deckt der Bericht den Einsatz von und die politischen Debatten über ADM-Systeme in 16 europäischen Ländern sowie auf EU-Ebene ab.

Weiterlesen

1. September 2020

Europa will ein Vorbild für technologische Antworten auf COVID-19 sein. Aber es ist kompliziert.

Unser neuer Bericht über den Einsatz automatisierter Entscheidungssysteme in der COVID-19-Pandemie

Weiterlesen

25. Juni 2020

AlgorithmWatch-Studie widerlegt ‘DSGVO-Ausrede’ von Facebook

Die Datenschutz-Grundverordnung steht dem Zugang zu Plattformdaten für Forschungszwecke nicht im Weg. Eine neue Studie von AlgorithmWatch zeigt anhand von Fallbeispielen aus dem Gesundheits- und Umweltsektor wie datenschutzkonforme Rahmenbedingungen für den Datenaustausch geschaffen werden können.

Weiterlesen

26. Mai 2020

Der einzige Weg, um Facebook, Google und Co. zur Rechenschaft zu ziehen: Mehr Zugang zu Plattformdaten

Die Schaffung wirksamer regulatorischer Rahmenbedingungen für Internediäre ist nur mit angemessener Transperenz möglich – in Form von Datenzugang für Journalisten, Akademiker und zivilgesellschaftliche Akteure. Dies ist das Ergebnis zweier neuer Studien, die von AlgorithmWatch in Zusammenarbeit mit dem European Policy Centre und dem Mainzer Medieninstitut veröffentlicht wurden.

Weiterlesen

Gutachten, 28. Februar 2020

Arbeitsrechtliche Aspekte und Beschäftigtendatenschutz

KI-gestützte Automatisierungsverfahren sollen Aufgaben im Personalmanagement übernehmen, die bislang Menschen vorbehalten waren. Schon jetzt haben Beschäftigte das Recht auf mehr Informationen über die Funktionsweise dieser Systeme, als die Anbieter bereit sind mitzuteilen.

Weiterlesen

Leitfaden, 28. Februar 2020

Überprüfung essenzieller Eigenschaften KI-basierter Systeme für Betriebsräte und andere Personalvertretungen

Die Automatisierung des Personalmanagements (Human Resources, Kurzform: HR) wird in Unternehmen weiter voranschreiten. Das bietet einerseits neue Chancen, andererseits birgt es auch Konfliktpotenzial im Betrieb. Denn diese Automatisierung wird die Organisation von Arbeit verändern und damit tiefgreifend die Unternehmensstruktur beeinflussen. Das macht die Einführung und Weiterentwicklung dieser Systeme zu einem wichtigen Thema für Betriebs- und Personalräte. Dieser Leitfaden soll Mitglieder dieser Interessenvertretungen in die Lage versetzen, den Prozess kompetent zu gestalten.

Weiterlesen

Gutachten, 28. Februar 2020

People Analytics muss den Menschen zugutekommen

In seinem Gutachten entwickelt Michele Loi vom Institut für Biomedizinische Ethik und Medizingeschichte der Universität Zürich Empfehlungen dafür, wie Systeme zum automatisierten Personalmanagement ethisch angemessen eingesetzt werden können.

Weiterlesen

Positionspapier, 27. Februar 2020

Rechte und Autonomie von Beschäftigten stärken

Unternehmen, die im Personalmanagement Systeme mit so genannter Künstlicher Intelligenz verwenden, handeln möglicherweise rechtswidrig – oft, ohne sich darüber im Klaren zu sein. Denn „People Analytics“-Verfahren dürfen nicht eingesetzt werden, ohne dass Beschäftigte individuell eingewilligt haben oder eine Betriebsvereinbarung vorliegt. Das wird in der Praxis oft nicht der Fall sein.

Weiterlesen

7. Februar 2020

Webdossier: Automatisiertes Personalmanagement und Mitbestimmung

Immer mehr Unternehmen setzen KI-basierte Systeme für das Personalmanagement ein, um Beschäftigte zu überwachen und zu bewerten. Mithilfe dieser sogenannten „People Analytics“-Verfahren werden mitunter Entscheidungen darüber getroffen, Mitarbeiter·innen zu fördern und sogar zu entlassen. Daher braucht es klare Regeln – aber Beschäftigte müssen auch selbst dafür sorgen, die Funktionsweise hinter den Systemen besser verstehen und beurteilen zu können.

Weiterlesen

Gutachten, 1. November 2019

Bestehende und künftige Regelungen des Einsatzes von Algorithmen im HR-Bereich

Der Einsatz neuer Technologien verändert das rechtliche Gefüge, in dem Unternehmen, Arbeitnehmern und deren Vertreter agieren und erfordert stellenweise, dass der Gesetzgeber tätig wird. Kai v. Lewinski, Raphael de Barros Fritz und Katrin Biermeier beleuchten in einem ihrem Gutachten die geltenden Regelungen für den Einsatz von Algorithmen in der Arbeitswelt und mögliche künftige Normierungsstrategien aus einer juristischen Perspektive.

Weiterlesen

22. Oktober 2019

Neuer Bericht von AlgorithmWatch: Identitätsmanagement und Citizen-Scoring in Ghana, Ruanda, Tunesien, Uganda, Simbabwe und China

Weiterlesen

29. Januar 2019

Jetzt lesen: “Automating Society 2019” – Unser Report zu ADM in der EU

Weiterlesen

8. September 2017

Filterblase geplatzt? Kaum Raum für Personalisierung bei Google-Suchen zur Bundestagswahl 2017

Weiterlesen

1. Juni 2017

Ethik und algorithmische Prozesse zur Entscheidungsfindung oder -vorbereitung

Aktuelle ethische Debatten über die Folgen von Automatisierungsprozessen konzentrieren sich auf die Rechte von Individuen. Doch algorithmisch gesteuerte Prozesse haben eine kollektive Dimension. Wie kann man ihr besser gerecht werden? Ein Vorschlag.

Weiterlesen

22. März 2017

3. Arbeitspapier: Unsere Antworten zur Anhörung zu „Künstlicher Intelligenz“ des Ausschusses Digitale Agenda

Unsere Antworten auf den Fragenkatalog der Bundestag-Fraktionen stellen gleichzeitig unser 3. Arbeitspapier dar.

Weiterlesen

Fallstudie, 26. November 2016

1. Fallstudie: Sollte soziale Netzwerkanalyse in der Polizei zur Analyse von Bandenstrukturen verwendet werden?

Weiterlesen

7. Juli 2016

2. Arbeitspapier: Überprüfbarkeit von Algorithmen

Weiterlesen

12. Mai 2016

1. Arbeitspapier: Was ist ein Algorithmus?

Weiterlesen