Französisch, Englisch, Deutsch
nkb@
PGP Public Key
https://social.nkb.fr/@
Nicolas arbeitet für AlgorithmWatch als Reporter. Nach einem Studium der Wirtschaftswissenschaften entwickelte er 2009 interaktive, datengesteuerte Anwendungen für Le Monde. Anschließend baute er das Datenjournalismus-Team bei OWNI auf, bevor er von 2011 bis 2017 Journalism++ mitbegründete und leitete. Nicolas hält regelmäßig Vorträge auf internationalen Konferenzen, unterrichtet an französischen Journalismusschulen und leitet Schulungen für Redaktionen. Er ist einer der Hauptverfasser des Datajournalism Handbook.
Als ihre Produkte durch neue wissenschaftliche Erkenntnisse und eine mögliche Regulierung bedroht wurden, verteidigten sich viele Unternehmen im 20. Jahrhundert, indem sie in Zweifel an der Wissenschaft säten. Heutzutage gehen die großen KI-Konzerne gehen einen radikal anderen Weg: Sie fluten die Öffentlichkeit mit der Vorstellung potenzieller zukünftiger Risiken.
Wargames erlauben es dem Militär, verschiedene Szenarien durchzuspielen und Entscheidungen wie im Kampfeinsatz zu treffen. Obwohl Expert*innen bereits darüber nachgedacht haben, besteht bislang keine Eile, diese Spiele mit KI auszustatten.
Anekdoten über Leute, die ihre Daten verloren haben, nachdem sie die Beaufsichtigung des eigenen Computers einem Chatbot anvertraut hatten, gibt es inzwischen zuhauf. Ist das ein neuer Trend? Und falls ja, ist KI schuld daran? Oder sind Leute, die Chatbots vertrauen, vielleicht schlichtweg ein bisschen zu leutselig? Dazu fehlt es noch an Forschung, aber KI macht das Problem anscheinend eher größer als kleiner.
Obwohl KI-Unternehmen notorisch unprofitabel sind, fließt weiterhin viel Geld in Datenzentren. Wie war das noch mit der KI-Blase? Wenn sie partout nicht platzt, ist sie vielleicht gar keine. Vielleicht versagen bloß die klassischen wirtschaftswissenschaftlichen Erklärungsmuster.
Heute beleuchte ich geografische Vorurteile bei vier open-weight LLMs. Nach dem Lesen werden vielleicht einige ihr Lebenslauf überarbeiten und alles, was mit Stockholm oder Amsterdam zu tun hat, stärker hervorheben.
Je eifriger Regierungen sich für KI einsetzen, desto mehr werden Entwicklung und Kontrolle großer Sprachmodelle (Large Language Models, LLM) zu Staatsangelegenheiten. Zahlreiche europäische Länder investieren massiv in sogenannte „Sprachressourcen“, und darüber liegt stets ein großer geopolitischer Schatten.
Ich werde häufig gefragt, warum es nur wenige positive Visionen von KI gibt. Schließlich können Maschinen die Arbeit erträglicher machen und, vorausgesetzt, die sich aus ihrem Einsatz ergebenden Vorteile werden gerecht verteilt, zum Nutzen aller sein. Doch ganz so funktioniert generative KI leider nicht.
Ich werde häufig gefragt, warum es nur wenige positive Visionen von KI gibt. Schließlich können Maschinen die Arbeit erträglicher machen und, vorausgesetzt, die sich aus ihrem Einsatz ergebenden Vorteile werden gerecht verteilt, zum Nutzen aller sein. Doch ganz so funktioniert generative KI leider nicht.
Egal welches Modell zum Einsatz kommt, KI‑generierter Text weist häufig eine gewisse Monotonie und Eintönigkeit auf. Dieses Phänomen lässt sich zwar mathematisch analysieren, wie ein Experiment zeigt, aber Unterschiede in der Bedeutung lassen sich letztlich kaum quantifizieren.
KI‑Slop ist allgegenwärtig. Einer Schätzung zufolge wird etwa jeder fünfte Artikel, der über Google Discover angezeigt wird, automatisch erzeugt. Weniger bekannt ist, dass KI‑Slop-Farms die Identität bereits bestehender Journalist*innen und Influencer*innen stehlen, um ihre Chancen zu erhöhen, von diesen Algorithmen ausgewählt zu werden.
Viele sind zu Recht empört darüber, wie sehr Live-Gesichtserkennung und andere Formen der biometrischen Fernidentifizierung unsere Freiheit im öffentlichen Raum einschränken. Durch diese Empörung übersehen sie meiner Meinung nach aber teilweise den Sinn dieser Technologie. Ein Blick auf die Kolonialgeschichte hilft uns zu verstehen, weshalb sie ein beliebtes Herrschaftsinstrument ist.
Ein parlamentarischer Bericht über TikTok hat in den letzten Wochen in Frankreich mediale Wellen geschlagen. Er ist schon an sich interessant, aber außerdem ein Paradebeispiel für den Reflex vieler europäische Politiker*innen, wenn sie sich mit einem Thema beschäftigen, das mit Algorithmen zu tun hat.
In einer Kirche in Österreich war eine KI-generierte Ausstellung zu sehen. Dies entspricht nicht ganz den KI-Richtlinien des Vatikans.
AlgorithmWatch hat getestet, welche Bilder sich kurz vor der EU-Wahl von den großen KI-Systemen generieren lassen: Zwei der größten Anbieter halten sich nicht an Sicherheitsmaßnahmen, die sie selbst angekündigt haben.
Studien dazu befassen sich meistens nur mit MidJourney. Bei anderen Tools ist die ernste Absicht zu erkennen, eine größere Vielfalt im Output darzustellen, wenn auch mit durchwachsenem Erfolg.
Vor genau einem Jahr habe ich geschrieben, dass automatisierte Systeme im Laufe des Jahres 2023 möglicherweise endgültig reguliert werden könnten. Es hat sich gezeigt, dass meine Prognose zu optimistisch war. Die europäischen Institutionen haben es nicht geschafft, die KI-Verordnung zu verabschieden, auch nicht in einer abgeschwächten Version. Mit dem Aufstieg generativer Modelle haben derweil die Probleme zugenommen.
Nach unserer Ankündigung, dass wir Stipendien vergeben, um journalistische Berichte über den Einsatz von automatisierten Entscheidungssystem in Europa zu fördern, haben wir über hundert Bewerbungen erhalten. Wir freuen uns nun sehr darüber, unsere ersten sechs Stipendiat*innen ankündigen zu dürfen, eine illustre Gruppe aus Journalist*innen, Akademikerinnen und einem Menschenrechtsaktivisten.
Automatisierte Systeme tauchten 2022 in den Nachrichten überraschenderweise nur am Rande auf. Die europäischen Institutionen haben trotzdem beim Versuch, die großen Plattformen zu regulieren, die Zügel angezogen. Wie weit sie damit kommen, wird von ihrer Entschlossenheit abhängen. Es ist bereits absehbar, wo die erste große Herausforderung lauert.
Die Stipendiat*innen erhalten sechs Monate lang 1.200 € pro Monat und berichten über den Einsatz von automatisierten Entscheidungssystemen in Europa.
Die australische Wettbewerbsbehörde wirft Meta vor, den Betrug von Nutzer*innen zu begünstigen. Da die Betrugsfälle weltweit stattfinden, könnte die Rechtsprechung dazu globale Konsequenzen haben.
Ein US-amerikanischer Informatiker hat mit Bildern von trans* Menschen ohne ihre Zustimmung einen Datensatz zum Trainieren von Gesichtserkennungssoftware erstellt. Jetzt haben sich die wahren Dimensionen seiner fahrlässigen Herangehensweise gezeigt.
AlgorithmWatch freut sich sehr, ankündigen zu dürfen, dass die Deutsche Postcode Lotterie einen dezentralen Newsroom sponsort, der automatisierte Systeme in Europa untersuchen wird.
Das verheerende Hochwasser in Rheinland-Pfalz und die Enthüllungen der „Facebook Files“ haben eines gemeinsam: Die Verantwortlichen hatten zwar alle Informationen, trafen aber die falschen Entscheidungen. Auch 2021 wurden den Algorithmen keine Zügel angelegt – aber es gibt die Hoffnung, dass es 2022 endlich dazu kommt.
Inhalte der AfD landen im Instagram-Newsfeed weiter oben als die von anderen Parteien. Das zeigt eine Analyse der Süddeutschen Zeitung, die im Projekt #wahlfilter mit Hilfe eines Browser-Add-ons von AlgorithmWatch über 200.000 Datenspenden ausgewertet hat.