Französisch, Englisch, Deutsch
nkb@
PGP Public Key
https://social.nkb.fr/@
Nicolas arbeitet für AlgorithmWatch als Reporter. Nach einem Studium der Wirtschaftswissenschaften entwickelte er 2009 interaktive, datengesteuerte Anwendungen für Le Monde. Anschließend baute er das Datenjournalismus-Team bei OWNI auf, bevor er von 2011 bis 2017 Journalism++ mitbegründete und leitete. Nicolas hält regelmäßig Vorträge auf internationalen Konferenzen, unterrichtet an französischen Journalismusschulen und leitet Schulungen für Redaktionen. Er ist einer der Hauptverfasser des Datajournalism Handbook.
AlgorithmWatch hat getestet, welche Bilder sich kurz vor der EU-Wahl von den großen KI-Systemen generieren lassen: Zwei der größten Anbieter halten sich nicht an Sicherheitsmaßnahmen, die sie selbst angekündigt haben.
Studien dazu befassen sich meistens nur mit MidJourney. Bei anderen Tools ist die ernste Absicht zu erkennen, eine größere Vielfalt im Output darzustellen, wenn auch mit durchwachsenem Erfolg.
Vor genau einem Jahr habe ich geschrieben, dass automatisierte Systeme im Laufe des Jahres 2023 möglicherweise endgültig reguliert werden könnten. Es hat sich gezeigt, dass meine Prognose zu optimistisch war. Die europäischen Institutionen haben es nicht geschafft, die KI-Verordnung zu verabschieden, auch nicht in einer abgeschwächten Version. Mit dem Aufstieg generativer Modelle haben derweil die Probleme zugenommen.
Nach unserer Ankündigung, dass wir Stipendien vergeben, um journalistische Berichte über den Einsatz von automatisierten Entscheidungssystem in Europa zu fördern, haben wir über hundert Bewerbungen erhalten. Wir freuen uns nun sehr darüber, unsere ersten sechs Stipendiat*innen ankündigen zu dürfen, eine illustre Gruppe aus Journalist*innen, Akademikerinnen und einem Menschenrechtsaktivisten.
Automatisierte Systeme tauchten 2022 in den Nachrichten überraschenderweise nur am Rande auf. Die europäischen Institutionen haben trotzdem beim Versuch, die großen Plattformen zu regulieren, die Zügel angezogen. Wie weit sie damit kommen, wird von ihrer Entschlossenheit abhängen. Es ist bereits absehbar, wo die erste große Herausforderung lauert.
Die Stipendiat*innen erhalten sechs Monate lang 1.200 € pro Monat und berichten über den Einsatz von automatisierten Entscheidungssystemen in Europa.
Die australische Wettbewerbsbehörde wirft Meta vor, den Betrug von Nutzer*innen zu begünstigen. Da die Betrugsfälle weltweit stattfinden, könnte die Rechtsprechung dazu globale Konsequenzen haben.
Ein US-amerikanischer Informatiker hat mit Bildern von trans* Menschen ohne ihre Zustimmung einen Datensatz zum Trainieren von Gesichtserkennungssoftware erstellt. Jetzt haben sich die wahren Dimensionen seiner fahrlässigen Herangehensweise gezeigt.
AlgorithmWatch freut sich sehr, ankündigen zu dürfen, dass die Deutsche Postcode Lotterie einen dezentralen Newsroom sponsort, der automatisierte Systeme in Europa untersuchen wird.
Das verheerende Hochwasser in Rheinland-Pfalz und die Enthüllungen der „Facebook Files“ haben eines gemeinsam: Die Verantwortlichen hatten zwar alle Informationen, trafen aber die falschen Entscheidungen. Auch 2021 wurden den Algorithmen keine Zügel angelegt – aber es gibt die Hoffnung, dass es 2022 endlich dazu kommt.
Inhalte der AfD landen im Instagram-Newsfeed weiter oben als die von anderen Parteien. Das zeigt eine Analyse der Süddeutschen Zeitung, die im Projekt #wahlfilter mit Hilfe eines Browser-Add-ons von AlgorithmWatch über 200.000 Datenspenden ausgewertet hat.
LinkedIn stuft Bewerber·innen, die sich für einen Job in einem anderen EU-Land bewerben, zum Teil automatisch als „nicht geeignet“ ein. Das könnte illegal sein. Ich habe sechs nationale und europäische Agenturen darauf aufmerksam gemacht. Keine scheint ein Interesse daran zu haben, geltendes Recht durchzusetzen.
Unter dem Deckmantel, Forschung und Journalismus zu fördern, haben Google, Facebook und andere große Technologieunternehmen ein umfassendes Lobby-System aufgebaut – und damit ein komplexes Netz von Abhängigkeiten und Einflussnahme gesponnen. Transparenz ist längst überfällig.
Navigationsdienste wie TomTom und Google Maps empfehlen Autofahrer·innen, Fahrradstraßen zu benutzen und damit gegen die Verkehrsregeln zu verstoßen. Beide Unternehmen kündigten an, ihre Datenbanken zu aktualisieren. Davon ist jedoch kaum eine endgültige Lösung des Problems zu erwarten.
Teenager-Gruppen nutzen Schwachstellen in den Meldesystemen von Facebook und Instagram, um Konten zu kapern und Nutzer·innen zu belästigen. Die geplante DSA-Verordnung spricht das Problem an, wird aber wahrscheinlich zu kurz greifen.
Im Zuge der Covid-Pandemie haben Regierungen und Firmen den Ausbau automatischer Systeme beschleunigt. Initiativen der Zivilgesellschaft haben versucht, einige davon unter Kontrolle zu halten.
Ein Experiment von AlgorithmWatch zeigt, dass Online-Plattformen die Anzeigenauslieferung in diskriminierender Weise optimieren. Die Nutzung durch Werbetreibende könnte gesetzeswidrig sein.
Eine exklusive Untersuchung deckt auf, dass Instagram Bilder priorisiert, die spärlich bekleidete Männer und Frauen zeigen, und so das Verhalten von Content-Erstellern und die Weltsicht von 140 Millionen Europäern prägt – ein blinder Fleck in den EU-Richtlinien.
Ein 52-jähriger Mann in Hannover stellte fest, dass seine Kreditwürdigkeit von einer Auskunftei falsch eingestuft worden war und ließ das korrigieren. Seine Geschichte offenbart die Lücken in der Regulierung von Bonitätsprüfungen.
Kurz vor Anbruch des Jahres 2020 wagt AlgorithmWatch neun Vorhersagen für das neue Jahr. In zwölf Monaten werden wir schauen, inwieweit wir recht behalten haben
Der Hype um die Künstliche Intelligenz hat sich gelegt, die gesellschaftlichen Auswirkungen von ADM-Systemen wurden dadurch umso sichtbarer. Regierungen, Parlamente und auch die Zivilgesellschaft haben hart darum gerungen, die großen Tech-Konzerne in die Schranken zu weisen. Aber von einem tragfähigen gesellschaftlichen Ausgleich sind wir noch weit entfernt.
Die Mehrheit der nationalen Polizeibehörden, die an einer Befragung durch AlgorithmWatch teilnahmen, gaben an, Software zur Gesichtserkennung bereits einzusetzen oder ihren Einsatz zu planen. Verschiedene Staaten nutzen die Technologie unterschiedlich, doch fast überall mangelt es an Transparenz.
Das Datenanalyse-Unternehmen, bekannt durch sein Mitwirken an der Abschiebe-Maschinerie der US-Regierung, stößt mit einer aggressiven Expansionsstrategie auf den europäischen Kontinent vor. Wer sind seine Kunden?
Betrüger missbrauchen die Werbeplattform von Facebook massiv. Sie setzen dabei sogenannte Cloaking-Dienste ein, um die Sicherheitschecks von Facebook zu umgehen. Das Problem dabei: Facebook könnte Cloaking automatisiert erkennen – trotz gegenteiliger Ankündigungen scheint es die Technik aber zu tolerieren.
Der von den Vereinten Nationen ernannte Sonderberichterstatter für extreme Armut und Menschenrechte hat einen Bericht veröffentlicht, der auf das Schärfste verurteilt, wie Regierungen die Sozialsysteme privatisieren und automatisieren.