Matthias Spielkamp (er/ihm)

Geschäftsführer, Mitgründer und Gesellschafter

Foto: Julia Bornkessel, CC BY 4.0

Matthias ist Mitgründer und Geschäftsführer von AlgorithmWatch (Brandenburger Freiheitspreis 2023, Theodor-Heuss-Medaille 2017, nominiert für den Grimme Online Award 2019). Er ist Mitglied im Vorstand bei Reporter ohne Grenzen, im Kuratorium der Stiftung Warentest und der Freudenberg-Stiftung, im Beirat des Whistleblower-Netzwerks und im Fachausschuss Kommunikation/Information der Deutschen UNESCO-Kommission. Von 2020 bis 2022 war er Mitglied der Initiative Global Partnership on Artificial Intelligence (GPAI). Matthias war Sachverständiger in Anhörungen des Europarats, des EU-Parlaments und des Bundestags. Er ist Herausgeber der Automating Society Reports und Autor von Büchern zu Algorithmen, KI und Automatisierung, zur Zukunft des Journalismus und des Urheberrechts sowie zur Internet Governance. Seine journalistischen Beiträge sind in MIT Technology Review, Die Zeit oder auch brand eins erschienen.

Beiträge für AlgorithmWatch

Foto von Maxime Gilbert auf Unsplash

Blog, 19. Februar 2024

„KI“ und die falsche Balance

„Jede hinreichend fortschrittliche Technologie ist von Magie nicht zu unterscheiden.” Wir sollten uns diesen Satz des legendären Science-Fiction-Autors Arthur C. Clarke immer wieder in Erinnerung rufen, wenn wir Debatten über Technologien auf dem Höhepunkt von Hype-Zyklen führen, wie das derzeit der Fall ist. Ein Kommentar.

Weiterlesen

9. Dezember 2023

Pressemitteilung

Einigung zum AI Act: Wichtiger Schutz und gefährliche Schlupflöcher

Nach einem Verhandlungsmarathon haben sich die EU-Gesetzgeber Freitagnacht auf die KI-Verordnung geeinigt – das Gesetz, das regeln soll, wie Systeme Künstlicher Intelligenz (KI) in der EU entwickelt und genutzt werden. Dem EU-Parlament ist es gelungen, eine Reihe wichtiger Schutzmaßnahmen auszuhandeln, die den Entwurfstext wesentlich verbessern. Die Mitgliedstaaten haben sich demgegenüber dafür eingesetzt, dass KI verwendet werden darf, schutzbedürftige Menschen zu kontrollieren und zu überwachen.

Weiterlesen
Foto: Stephan Röhl | CC BY-SA 2.0 DEED

Position, 21. November 2023

KI-Gesetzgebung

Habeck, Boss der Bosse

Der Wirtschaftsminister ist auch für die künstliche Intelligenz aus Deutschland zuständig. Bei der wesentlichen Frage steht er stramm an der Seite der Konzerne.

Weiterlesen
Von Stephan Röhl - https://www.flickr.com/photos/boellstiftung/8588726539/, CC BY-SA 2.0,

Blog, 25. September 2023

Digitalisierung und KI

Kein Wegducken bei der KI-Regulierung

Die Verhandlungen über den europäischen AI Act sind auf der Zielgeraden. In allerletzter Minute haben die beiden federführenden deutschen Ministerien Organisationen der Zivilgesellschaft zu einem Austausch eingeladen. Damit sich dieses Gespräch nicht als Feigenblatt erweist, müssen BMWK und BMJ die Forderungen der NGOs ernst nehmen.

Weiterlesen
Photo by Micaela Parente on Unsplash

Position, 6. Dezember 2022

Risiken Künstlicher Intelligenz: Wie die deutsche Regierung beschloss wegzusehen

Heute treffen sich die Minister*innen der EU-Mitgliedstaaten in Brüssel, um die Version der KI-Verordnung (AI Act) zu verabschieden, auf die sich ihre Regierungen geeinigt haben. In seiner jetzigen Form steht der Entwurf in krassem Gegensatz zum Versprechen der deutschen Regierung, die Grundrechte zu schützen. Stattdessen sieht er weitreichende Ausnahmen für Sicherheitsbehörden vor.

Weiterlesen
Jonas Tebbe | Unsplash

Publikation, 27. Juli 2021

Digital Autonomy Policy Brief #3 – Tools zur Folgenabschätzung

Automatisierte Entscheidungsfindungssysteme (ADM) sind im öffentlichen Sektor angekommen. Sie etablieren sich auch in öffentlichen Verwaltungen zunehmend als Instrumente, die Entscheidungsverfahren und Dienstleistungen effizienter, einfacher und nutzerfreundlicher gestalten sollen. Im dritten Policy Brief des Digital Autonomy Hubs legen wir dar, warum ihr Einsatz in der Verwaltung besondere Herausforderungen aufwirft und wie ihnen begegnet werden kann. Hierfür stellen wir ein Instrument vor, mit dem die Folgen von ADM-Systemen eingeschätzt, Risiken identifiziert und gegebenenfalls die Systeme angepasst werden können.

Weiterlesen
Chris Barbalis | Unsplash

Publikation, 18. Mai 2021

Towards accountability in the use of Artificial Intelligence for Public Administrations

Michele Loi und Matthias Spielkamp analysieren den Regelungsgehalt von 16 Richtliniendokumenten über den Einsatz von KI im öffentlichen Sektor, indem sie deren Anforderungen mit den Kriterien unserer philosophischen Darstellung von Rechenschaftspflicht abgleichen. Sie kommen zu dem Schluss, dass einige Richtlinien zwar auf Prozesse verweisen, die auf eine Prüfung hinauslaufen, die Debatte jedoch von mehr Klarheit über die Art der Berechtigung von Prüfern und die Ziele der Prüfung profitieren würde. Dies diene nicht zuletzt dazu, ethisch sinnvolle Standards zu entwickeln, anhand derer verschiedene Formen der Prüfung bewertet und verglichen werden können.

Weiterlesen

Working paper, 7. Mai 2021

KI-basierte Systeme für das Personalmanagement – was ist fair, was ist erlaubt?

Zusammenfassung der Ergebnisse des Forschungsprojekts „Automatisiertes Personalmanagement und Mitbestimmung“

Weiterlesen
Jon Moore | Unsplash

Blog, 5. August 2019

Community Standards + KI + Beirat = Informationsfreiheit weltweit?

Das deutsche Netzwerkdurchsetzungsgesetz hat weltweit Aufsehen erregt. Obwohl in Deutschland nahezu einhellig und zum Teil sehr scharf kritisiert, weckt es in anderen Ländern die Hoffnung, man könne große Informationsintermediäre wie Facebook, Google/Youtube und Twitter mithilfe strengerer Gesetze endlich „in die Schranken weisen“. Das ist durchaus verständlich in Ländern, die mit wesentlich schlimmeren Auswirkungen koordinierter Desinformationskampagnen zu kämpfen haben als Deutschland. Andererseits ist es wenig aussichtsreich und offenbart ein Dilemma, das nahezu ausweglos erscheint: auf grenzübergreifenden Plattformen landesspezifische Kulturen der Informationsfreiheit durchzusetzen, ohne zugleich die Informationsfreiheit weltweit einzuschränken.

Weiterlesen
Suganth | Unsplash

Story, 22. Juli 2019

Wenn Algorithmen über den Job entscheiden

Welche Gruppen von Arbeitslosen sollen gefördert werden, welche nicht? In welchen Familien sind Kinder in Gefahr, vernachlässigt zu werden? Fragen dieser Art versucht man immer öfter über automatisierte Systeme zu klären. Auch in Österreich.

Weiterlesen