Um große Online-Plattformen wie Facebook und YouTube zur Verantwortung zu ziehen, brauchen Forscher*innen einen unabhängigen Zugang zu Plattformdaten. In neuen Policy Brief des Digital Autonomy Hub erklären wir, warum der neue Digital Services Act ein Schritt nach vorn ist.
KI hat ökologische, soziale und wirtschaftliche Kosten zur Folge. Wissenschaft, Industrie, Zivilgesellschaft und Politik müssen dringend auf der Grundlage von Fakten über diese Kosten sprechen und handeln. Mit dem ersten SustAIn-Magazin wollen wir unseren Beitrag zu solch einem Austausch leisten.
Weiterlesen
In Deutschland werden womöglich täglich Menschen durch algorithmische Systeme diskriminiert, ohne es zu wissen. Eine neue Handreichung hilft dabei, Fälle zu erkennen und zu bekämpfen. Dabei legt sie auch Lücken in der Gesetzeslage offen.
Weiterlesen
Im fünften Digital Autonomy Policy-Brief beschreiben wir die Besonderheiten algorithmenbasierter Diskriminierung. Wir zeigen, dass gegenwärtige Antidiskriminierungsgesetze rund um ADM-Systeme Rechtslücken aufweisen und skizzieren, welche Anpassungen es geben muss, damit Betroffene ihr Recht auf Nichtdiskriminierung auch im digitalen Raum durchsetzen können.
Weiterlesen
In einem neuen Diskussionspapier von AlgorithmWatch nimmt der Datenschutz-Experte Winfried Veil zum „Data Governance Act“ Stellung. Er sieht darin ein bürokratisches Ärgernis und eine verpasste Gelegenheit, Daten für einen guten Zweck einzusetzen.
Weiterlesen
In ihrem Beitrag in der Zeitschrift für Europarecht erläutert Angela Müller den KI-Verordnungsentwurf („AI Act“) der EU-Kommission und beleuchtet diesen kritisch.
Weiterlesen
Um die Nachhaltigkeit von KI-Systemen ist es mitunter nicht gut bestellt. Es geht dabei unter anderem um Diskriminierung, hohe Energie- und Ressourcenverbräuche sowie die Reproduktion gesellschaftlicher Ungleichheiten. Das Projekt „SustAIn“ hat in einer neuen Publikation umfassende Kriterien für eine systematische Nachhaltigkeitsbewertung von KI-basierten Systemen vorgelegt – mit dem Ziel diese nachhaltiger zu gestalten.
Weiterlesen
Im vierten Digital Autonomy Policy-Brief legen wir dar, warum wir die Diskussion über digitale Selbstbestimmung befürworten, warum wir dringend eine Abgrenzung vom Begriff der „digitalen Souveränität“ brauchen, welche digitalpolitischen Leitlinien sich hieraus ergeben und wie eine neue Bundesregierung diese ab sofort umsetzen sollte.
Weiterlesen
In diesem Abschlussbericht liefern wir eine erste umfassende Einschätzung der wichtigsten Trends und Entwicklungen bei den ADM-gestützten Maßnahmen gegen COVID-19.
WeiterlesenAutomatisierte Entscheidungsfindungssysteme (ADM) sind im öffentlichen Sektor angekommen. Sie etablieren sich auch in öffentlichen Verwaltungen zunehmend als Instrumente, die Entscheidungsverfahren und Dienstleistungen effizienter, einfacher und nutzerfreundlicher gestalten sollen. Im dritten Policy Brief des Digital Autonomy Hubs legen wir dar, warum ihr Einsatz in der Verwaltung besondere Herausforderungen aufwirft und wie ihnen begegnet werden kann. Hierfür stellen wir ein Instrument vor, mit dem die Folgen von ADM-Systemen eingeschätzt, Risiken identifiziert und gegebenenfalls die Systeme angepasst werden können.
Weiterlesen
Wie können wir gewährleisten, dass automatisierte Entscheidungssysteme (automated decision-making systems, ADMS) in der öffentlichen Verwaltung vertrauenswürdig eingesetzt werden? AlgorithmWatch und AlgorithmWatch Schweiz haben ein Instrument zur Folgenabschätzung (Impact Assessment Tool) erarbeitet, das von Behörden verschiedener Verwaltungsebenen für die Analyse spezifischer ADMS verwendet werden kann.
WeiterlesenMichele Loi und Matthias Spielkamp analysieren den Regelungsgehalt von 16 Richtliniendokumenten über den Einsatz von KI im öffentlichen Sektor, indem sie deren Anforderungen mit den Kriterien unserer philosophischen Darstellung von Rechenschaftspflicht abgleichen. Sie kommen zu dem Schluss, dass einige Richtlinien zwar auf Prozesse verweisen, die auf eine Prüfung hinauslaufen, die Debatte jedoch von mehr Klarheit über die Art der Berechtigung von Prüfern und die Ziele der Prüfung profitieren würde. Dies diene nicht zuletzt dazu, ethisch sinnvolle Standards zu entwickeln, anhand derer verschiedene Formen der Prüfung bewertet und verglichen werden können.
Weiterlesen
Zusammenfassung der Ergebnisse des Forschungsprojekts „Automatisiertes Personalmanagement und Mitbestimmung“
WeiterlesenNeue Studie im Auftrag des Kantons Zürich, durchgeführt von Prof. Dr. Nadja Braun Binder, Juristische Fakultät der Universität Basel, und ihrem Team in Zusammenarbeit mit AlgorithmWatch Schweiz
Weiterlesen
Weltweit nehmen COVID-19-Impfkampagnen Fahrt auf. Es mehren sich die Rufe nach digitalen Impfnachweisen, um (Bewegungs-)Freiheit und Autonomie der Menschen zu erhöhen. In unserem Policy Brief kartieren wir die verschiedenen Lösungsansätze und gehen den Fragen nach, welche gesellschaftlichen Vor- und Nachteile mit digitalen Impfnachweisen einhergehen und welche Aspekte in der öffentlichen Debatte zu kurz kommen.
Weiterlesen
Auf dieser Seite finden Sie alle Länderausgaben des Automating Society 2020 Reports sowie Videos von den Launch-Events.
Weiterlesen
Wie werden KI-basierte Systeme von privaten Unternehmen und in der öffentlichen Verwaltung in der Schweiz genutzt? Der Automating Society Report von AlgorithmWatch und der Bertelsmann Stiftung beleuchtet, welche Rolle Systeme automatisierter Entscheidungsfindung (ADM) in unserem Leben spielen. Als Ergebnis der bisher umfassendsten Recherche zu diesem Thema in Europa deckt der Bericht den Einsatz von und die politischen Debatten über ADM-Systeme in 16 europäischen Ländern sowie auf EU-Ebene ab.
Weiterlesen
Der Automating Society Report von AlgorithmWatch und der Bertelsmann Stiftung beleuchtet, welche Rolle Systeme automatisierter Entscheidungsfindung (ADM) in unserem Leben spielen. Lesen Sie jetzt die deutsche Länderausgabe!
WeiterlesenPersonenbezogene Daten selbstbestimmt teilen – geht das? Wie lassen sich unsere Daten für das Gemeinwohl nutzen, ohne die individuelle Selbstbestimmung zu untergraben?
Weiterlesen
Gutachten zur Frage, ob und, falls ja, in welcher Form sog. „Data Trusts“ mit dem geltenden Datenschutzrecht, insbesondere der DSGVO, vereinbar sind und – soweit dies nicht der Fall ist – welche Änderungen im Datenschutzrecht erforderlich wären, um Data Trusts zu ermöglichen.
Weiterlesen
Wie werden KI-basierte Systeme von privaten Unternehmen und öffentlichen Behörden in Europa genutzt? Der neue Report von AlgorithmWatch und der Bertelsmann Stiftung beleuchtet, welche Rolle automatisierte Entscheidungsfindungssysteme (ADM) in unserem Leben spielen. Als Ergebnis der bisher umfassendsten Recherche zu diesem Thema in Europa deckt der Bericht den Einsatz von und die politischen Debatten über ADM-Systeme in 16 europäischen Ländern sowie auf EU-Ebene ab.
Weiterlesen
Unser neuer Bericht über den Einsatz automatisierter Entscheidungssysteme in der COVID-19-Pandemie
Weiterlesen
Die Datenschutz-Grundverordnung steht dem Zugang zu Plattformdaten für Forschungszwecke nicht im Weg. Eine neue Studie von AlgorithmWatch zeigt anhand von Fallbeispielen aus dem Gesundheits- und Umweltsektor wie datenschutzkonforme Rahmenbedingungen für den Datenaustausch geschaffen werden können.
WeiterlesenDie Schaffung wirksamer regulatorischer Rahmenbedingungen für Internediäre ist nur mit angemessener Transperenz möglich – in Form von Datenzugang für Journalisten, Akademiker und zivilgesellschaftliche Akteure. Dies ist das Ergebnis zweier neuer Studien, die von AlgorithmWatch in Zusammenarbeit mit dem European Policy Centre und dem Mainzer Medieninstitut veröffentlicht wurden.
WeiterlesenKI-gestützte Automatisierungsverfahren sollen Aufgaben im Personalmanagement übernehmen, die bislang Menschen vorbehalten waren. Schon jetzt haben Beschäftigte das Recht auf mehr Informationen über die Funktionsweise dieser Systeme, als die Anbieter bereit sind mitzuteilen.
Weiterlesen
Die Automatisierung des Personalmanagements (Human Resources, Kurzform: HR) wird in Unternehmen weiter voranschreiten. Das bietet einerseits neue Chancen, andererseits birgt es auch Konfliktpotenzial im Betrieb. Denn diese Automatisierung wird die Organisation von Arbeit verändern und damit tiefgreifend die Unternehmensstruktur beeinflussen. Das macht die Einführung und Weiterentwicklung dieser Systeme zu einem wichtigen Thema für Betriebs- und Personalräte. Dieser Leitfaden soll Mitglieder dieser Interessenvertretungen in die Lage versetzen, den Prozess kompetent zu gestalten.
WeiterlesenIn seinem Gutachten entwickelt Michele Loi vom Institut für Biomedizinische Ethik und Medizingeschichte der Universität Zürich Empfehlungen dafür, wie Systeme zum automatisierten Personalmanagement ethisch angemessen eingesetzt werden können.
Weiterlesen
Unternehmen, die im Personalmanagement Systeme mit so genannter Künstlicher Intelligenz verwenden, handeln möglicherweise rechtswidrig – oft, ohne sich darüber im Klaren zu sein. Denn „People Analytics“-Verfahren dürfen nicht eingesetzt werden, ohne dass Beschäftigte individuell eingewilligt haben oder eine Betriebsvereinbarung vorliegt. Das wird in der Praxis oft nicht der Fall sein.
WeiterlesenImmer mehr Unternehmen setzen KI-basierte Systeme für das Personalmanagement ein, um Beschäftigte zu überwachen und zu bewerten. Mithilfe dieser sogenannten „People Analytics“-Verfahren werden mitunter Entscheidungen darüber getroffen, Mitarbeiter·innen zu fördern und sogar zu entlassen. Daher braucht es klare Regeln – aber Beschäftigte müssen auch selbst dafür sorgen, die Funktionsweise hinter den Systemen besser verstehen und beurteilen zu können.
WeiterlesenDer Einsatz neuer Technologien verändert das rechtliche Gefüge, in dem Unternehmen, Arbeitnehmern und deren Vertreter agieren und erfordert stellenweise, dass der Gesetzgeber tätig wird. Kai v. Lewinski, Raphael de Barros Fritz und Katrin Biermeier beleuchten in einem ihrem Gutachten die geltenden Regelungen für den Einsatz von Algorithmen in der Arbeitswelt und mögliche künftige Normierungsstrategien aus einer juristischen Perspektive.
Weiterlesen
Aktuelle ethische Debatten über die Folgen von Automatisierungsprozessen konzentrieren sich auf die Rechte von Individuen. Doch algorithmisch gesteuerte Prozesse haben eine kollektive Dimension. Wie kann man ihr besser gerecht werden? Ein Vorschlag.
Weiterlesen
Unsere Antworten auf den Fragenkatalog der Bundestag-Fraktionen stellen gleichzeitig unser 3. Arbeitspapier dar.
Weiterlesen
