Pressemitteilung

Europarat: KI-Konvention wird Menschenrechte nicht angemessen schützen

Ende letzter Woche hat sich der Europarat auf eine Konvention zu Künstlicher Intelligenz (KI) geeinigt – und damit den Weg frei gemacht für den ersten bindenden internationalen Vertrag zu KI. Ausnahmen und Schlupflöcher für Unternehmen und Sicherheitsbehörden lassen befürchten, dass die Konvention Menschenrechte, Demokratie und Rechtsstaatlichkeit nicht umfassend zu schützen vermag.

Ein KI-Transparenzregister für den Staat: Autonomie und Menschenrechte schützen, der Verwaltung helfen

Explainer: ADM im öffentlichen Sektor

Die algorithmische Verwaltung

Eine Automatisierung der Verwaltung verspricht Effizienz, benachteiligt Menschen aber nicht selten, wie Beispiele aus ganz Europa beweisen. Wir erklären, warum die öffentliche Verwaltung ein besonders heikles Einsatzfeld für automatisierte Systeme ist und wie sich Risiken frühzeitig erkennen lassen könnten.

In eigener Sache

Gesellschafter*innenwechsel bei AlgorithmWatch

Angela Müller, Leiterin von AlgorithmWatch CH in Zürich, wird Gesellschafterin der Berliner AW AlgorithmWatch gGmbH. Lorenz Matzat, Mitgründer der Organisation und langjähriger Gesellschafter, scheidet aus und widmet sich seinem neuen Unternehmen JETZT STUDIOS.

„KI“ und die falsche Balance

„Jede hinreichend fortschrittliche Technologie ist von Magie nicht zu unterscheiden.” Wir sollten uns diesen Satz des legendären Science-Fiction-Autors Arthur C. Clarke immer wieder in Erinnerung rufen, wenn wir Debatten über Technologien auf dem Höhepunkt von Hype-Zyklen führen, wie das derzeit der Fall ist. Ein Kommentar.

DSA Day und Plattformrisiken

Social-Media-Konto gesperrt oder Forschungsdaten gesucht? – Ab jetzt gibt es (theoretisch) Hilfe

Das EU-Gesetz über digitale Dienste (Digital Services Act, DSA) soll Risiken durch Online-Plattformen und Suchmaschinen regulieren. Es ist seit 2023 in Kraft, aber erst ab dem 17. Februar 2024, dem „DSA-Day“, gelten einige der wichtigsten Bestimmungen.

Generative KI-Systeme in der öffentlichen Verwaltung: Passt das?

Ist es rechtlich sicher, generative KI-Anwendungen wie ChatGPT in der Landesverwaltung zu erproben? In unserer Stellungnahme erklären wir, warum das nicht der Fall ist

Explainer: KI & Nachhaltigkeit

Nachhaltige KI: Ein Widerspruch in sich?

Ist KI ein Mittel, um die Klimakrise zu bewältigen, oder eine schlimmere Umweltsünde als das Fliegen? Wir erklären, wie viel Energie KI-Systeme wirklich fressen, warum wir bessere Messungen brauchen, wie KI nachhaltiger werden kann und was das alles mit der KI-Verordnung der EU zu tun hat.

Social media

AlgorithmWatch stellt Aktivitäten auf X, ehemals Twitter, ein

Die Entscheidung ist die Folge des anhaltenden und raschen Zerfalls der Diskussionskultur auf der Social-Media-Plattform, seit sie vor mehr als einem Jahr von ihrem neuen Eigentümer übernommen wurde.

Online-Spiel

Kannst du den Algorithmus knacken?

So geht Berichterstattung über Algorithmen und Plattformaufsicht: AlgorithmWatch präsentiert ein Online-Spiel, in dem eine Journalistin einem Social-Media-Algorithmus auf den Grund gehen soll.

Digitalisierung und KI

Kein Wegducken bei der KI-Regulierung

Die Verhandlungen über den europäischen AI Act sind auf der Zielgeraden. In allerletzter Minute haben die beiden federführenden deutschen Ministerien Organisationen der Zivilgesellschaft zu einem Austausch eingeladen. Damit sich dieses Gespräch nicht als Feigenblatt erweist, müssen BMWK und BMJ die Forderungen der NGOs ernst nehmen.

Ungerechtigkeit vorprogrammiert: Wenn Algorithmen diskriminieren

Algorithmische Entscheidungssysteme sind inzwischen in allen Lebensbereichen zu finden. Mit der Technik sind allerdings nicht alle Probleme gelöst, manchmal werden Menschen sogar durch sie benachteiligt.

Datenspende

Hilf uns, Ungerechtigkeit in der Jobvergabe zu bekämpfen!

Spende deinen Lebenslauf, um gemeinsam gegen automatisierte Diskriminierung in Bewerbungsverfahren zu kämpfen!

Das Festival für die digitale Gesellschaft

re:publica 2023: Die wichtigsten Informationen & spannendsten Veranstaltungen

Das Festival für die digitale Gesellschaft findet erneut dieses Jahr in Berlin statt und wir sind vor Ort mit vielen spannenden Veranstaltungen.

KI-Register: Mit mehr Kompetenz zu mehr Transparenz

Der Staat muss die Grundrechte schützen, wenn er Systeme mit Künstlicher Intelligenz oder zum automatisierten Entscheiden einsetzt. Ein Transparenzregister kann dabei helfen, Rechte zu sichern und zugleich Behörden unterstützen, so das Fazit einer Diskussionsveranstaltung von Grünen-Bundestagsabgeordneten und AlgorithmWatch.

Was weiß TikTok alles über dich? Finde es heraus!

Unternehmen wie Facebook, Instagram, Google und TikTok wissen oft von den schädlichen Auswirkungen ihrer algorithmischen Systeme und bemühen sich, unabhängige Forschung dazu zu verhindern. Datenspenden wie DataSkop sind bislang eine der wenigen Möglichkeiten, um undurchsichtige Algorithmen zu untersuchen.

AlgorithmWatch begrüßt seine ersten Stipendiat*innen

Nach unserer Ankündigung, dass wir Stipendien vergeben, um journalistische Berichte über den Einsatz von automatisierten Entscheidungssystem in Europa zu fördern, haben wir über hundert Bewerbungen erhalten. Wir freuen uns nun sehr darüber, unsere ersten sechs Stipendiat*innen ankündigen zu dürfen, eine illustre Gruppe aus Journalist*innen, Akademikerinnen und einem Menschenrechtsaktivisten.

War es das Jahr, in dem die Regulierung automatisierter Systeme ihren Anfang nahm? – 2022 im Rückblick

Automatisierte Systeme tauchten 2022 in den Nachrichten überraschenderweise nur am Rande auf. Die europäischen Institutionen haben trotzdem beim Versuch, die großen Plattformen zu regulieren, die Zügel angezogen. Wie weit sie damit kommen, wird von ihrer Entschlossenheit abhängen. Es ist bereits absehbar, wo die erste große Herausforderung lauert.

Video: Datenkompetenz und Schutz vor algorithmenbasierter Diskriminierung

In einem Online-Event des Digital Autonomy Hub wurden am 23. November Perspektiven zur Förderung digitaler Kompetenzen vorgestellt. Anschließend besprachen wir unter anderem mit Ferda Ataman, Unabhängige Bundesbeauftragte für Antidiskriminierung, wo beim Allgemeinen Gleichbehandlungsgesetz (AGG) Reformbedarf besteht.

Über Algorithmen in unserer Gesellschaft schreiben: AlgorithmWatch vergibt 5 Stipendien

Die Stipendiat*innen erhalten sechs Monate lang 1.200 € pro Monat und berichten über den Einsatz von automatisierten Entscheidungssystemen in Europa.

Videos: AlgorithmWatch-Sessions bei der Bits & Bäume 2022

Vom 30. September bis zum 2. Oktober fand die Konferenz Bits & Bäume in Berlin statt. Senior Policy & Advocacy Managerin Anne Mollen war für AlgorithmWatch dabei und in mehreren Sessions vertreten. Die Videos von zwei Panels sind jetzt online.

Explainer: AI Act

Ein Leitfaden zur neuen KI-Verordnung der EU

2024 verabschiedete die EU ein Gesetz, um Künstliche Intelligenz (KI) weitreichend zu regulieren. Diese KI-Verordnung (auf Englisch „AI Act“) ist ein erster Schritt, um Grundrechte von Menschen vor Risiken zu schützen, die der Einsatz von KI hervorruft. Wir erklären, was die neuen Regeln beinhalten und was sie ändern werden − und was nicht.

Explainer: DSA

Eine Einführung in das Gesetz über digitale Dienste (Digital Services Act, DSA)

Alles Wissenswerte zum Gesetz über digitale Dienste (DSA), das mächtige Tech-Plattformen wie YouTube, TikTok, Facebook und Twitter/X transparenter machen soll. Die EU will Anbieter stärker in die Verantwortung nehmen, um systemische Risiken bei der Nutzung ihrer Plattformen einzudämmen.

Ein neuer europäischer Newsroom untersucht automatisierte Systeme

AlgorithmWatch freut sich sehr, ankündigen zu dürfen, dass die Deutsche Postcode Lotterie einen dezentralen Newsroom sponsort, der automatisierte Systeme in Europa untersuchen wird.