Story

OpenAI bricht eigene Regeln: Generatoren produzieren täuschende KI-Bilder zur EU-Wahl

AlgorithmWatch hat getestet, welche Bilder sich kurz vor der EU-Wahl von den großen KI-Systemen generieren lassen: Zwei der größten Anbieter halten sich nicht an Sicherheitsmaßnahmen, die sie selbst angekündigt haben.

Kampagne: ADM und People on the Move

Die automatisierte Festung Europa: Menschenrechte haben hier keinen Platz

29.000 Menschen sind in den vergangenen zehn Jahren beim Versuch, die EU zu erreichen, im Mittelmeer ums Leben gekommen. Man sollte annehmen, die EU und Wissenschaftler*innen in ganz Europa würden fieberhaft daran arbeiten, neue Technologien dafür zu nutzen, diese Tragödie zu stoppen. Das Gegenteil ist der Fall: Mithilfe von Künstlicher Intelligenz werden die digitalen Mauern höher gezogen, finanziert mit Steuergeld.

Wie Bildgeneratoren die Welt zeigen: Stereotypen statt Vielfalt

Studien dazu befassen sich meistens nur mit MidJourney. Bei anderen Tools ist die ernste Absicht zu erkennen, eine größere Vielfalt im Output darzustellen, wenn auch mit durchwachsenem Erfolg.

Das Jahr, in dem wir auf Taten warteten: 2023 im Rückblick

Vor genau einem Jahr habe ich geschrieben, dass automatisierte Systeme im Laufe des Jahres 2023 möglicherweise endgültig reguliert werden könnten. Es hat sich gezeigt, dass meine Prognose zu optimistisch war. Die europäischen Institutionen haben es nicht geschafft, die KI-Verordnung zu verabschieden, auch nicht in einer abgeschwächten Version. Mit dem Aufstieg generativer Modelle haben derweil die Probleme zugenommen.

Plattformregulierung

Diskriminierende Anzeigen: KI ist auch keine Lösung

Ein neues System von Meta sollte dafür sorgen, dass auf Facebook und Instagram Wohnungsanzeigen in den USA weniger diskriminierend sind. In einem Compliance-Bericht wird behauptet, dass die KI-Lösung funktioniere, aber dafür fehlen Beweise einer neutralen Instanz.

KI auf Amazon: ChatGPT und Co. als Ghostwriter

KI-generierte Bücher drängen auf die Verkaufsplattform Amazon – darunter auch Kinderbücher. Über die möglichen Folgen für Autor*innen, Illustrator*innen und junge Zielgruppen.

Algorithmic Accountability Reporting

Recherche in der Blackbox

Sozialbetrugsscoring, Predictive Policing oder Chat-GPT: Regierungen und Behörden weltweit setzen zunehmend Algorithmen ein, meist völlig intransparent. Algorithmic Accountability Reporting beleuchtet ihre Funktionsweise und Wirkung. Doch nur wenige Medien leisten sich solche Recherchen. Was ist da los?

Cybergrooming | Teil 1 von 3

Die automatisierte Jagd auf Cybergroomer

Cybergroomer machen sich online an Minderjährige heran, Algorithmen sollen solche Versuche aufdecken. Doch die Zuverlässigkeit automatisierter Systeme ist umstritten – und sie können sogar Kinder und Jugendliche kriminalisieren.

Cybergrooming | Teil 2 von 3

Die Sprache von Cybergroomern entschlüsseln

Ein Machine-Learning-Tool soll mit linguistischen Methoden versteckte Bedeutungen und Absichten in Nachrichten von Menschen erkennen, die sich online an Minderjährige ranmachen. Zweiter Teil des Beitrags „Die automatisierte Jagd auf Cybergroomer”. (Hier geht's zu Teil 1.)

Cybergrooming | Teil 3 von 3

Die Kriminalisierung von Minderjährigen durch KI

Selbst Kinder und Jugendliche, die sich in Chats nicht übergriffig verhalten, können nach deutschem Recht zu Cybergrooming-Beschuldigten werden. Dritter und letzter Teil des Beitrags „Die automatisierte Jagd auf Cybergroomer”. (Hier geht's zu Teil 1 und Teil 2.)

Die KI-Mobilitätsrevolution auf dem Land: Optimismus trifft auf Ernüchterung

Frieder Schmelzle vom Institut für ökologische Wirtschaftsforschung gibt einen Überblick über die aktuellen Mobilitäts- und Digitalstrategien der deutschen Landesregierungen zum Thema ÖPNV-Anbindung in ländlichen Regionen. Große Erwartungen liegen auf der Automatisierung des Nahverkehrs, wodurch jedoch grundsätzliche Fragen zu nachhaltiger Mobilität auf dem Land in den Hintergrund gedrängt werden.

Kein Einkommen, ohne sich zu outen: Sexarbeiter*innen im Netz

Twitter-Konten, über die meistens schwule Fetisch-Inhalte verbreitet wurden, gerieten im März ins Visier der Staatsanwaltschaft. Ihre Inhaber werden beschuldigt, Minderjährigen pornographische Inhalte zugänglich zu machen, was eine Straftat ist. Die Jugendschutzbeauftragte und Sexarbeiterin Fabienne Freymadl erklärt, wie sich vermeiden lässt, strafrechtlich belangt zu werden, und warum das deutsche Recht Sexarbeiter*innen eine Online-Präsenz nicht einfach macht.

Wird der Hahn abgedreht, wenn Google kommt?

Interview mit Dr. Sebastián Lehuedé von dem Centre of Governance and Human Rights an der Universität Cambridge über Proteste gegen die schädlichen Umweltauswirkungen von Big-Tech-Rechenzentren.

Potenziale und Risiken von KI bei der Energieversorgung

Interview über den Einsatz von KI in der Energieversorgung mit Friederike Rohde und Josephin Wagner vom Institut für ökologische Wirtschaftsforschung.

Automatisierte Kitaplatz-Vergabe: Wenn sich die Wege von Geschwistern trennen

Kitaplätze sind knapp. Um sie zu vergeben, hat die Stadt Münster einen Algorithmus eingesetzt, der für Aufruhr unter den Eltern sorgte.

Wer ist ein „Risiko“? Ab 2023 wird die visumfreie EU-Einreise schwieriger

Die EU-Behörden Frontex und eu-LISA entwickeln gerade das automatische „Risikoprüfungssystem“ ETIAS für die Einreise in die EU. Der Algorithmus, der die Kategorisierung vornimmt, wird zum Teil mit früheren Entscheidungen von Grenzbeamten trainiert.

Meta angeklagt: Algorithmen als Nährboden für Betrug?

Die australische Wettbewerbsbehörde wirft Meta vor, den Betrug von Nutzer*innen zu begünstigen. Da die Betrugsfälle weltweit stattfinden, könnte die Rechtsprechung dazu globale Konsequenzen haben.

Mit KI Arbeitslosigkeit bekämpfen? Wo Neofaschismus, Marktliberalismus und Bürokratismus sich treffen

Die neofaschistische Partei Fratelli d’Italia („Brüder Italiens“) will Künstliche Intelligenz als Arbeitsbeschaffungsmaßnahme für junge Menschen einsetzen. Auch andere EU-Länder suchen zur Bekämpfung der Arbeitslosigkeit „algorithmische Lösungen“.

Grenzwertige Drohn-Gebärden: Griechenlands EU-finanzierte Überwachungstechnik

Die griechische Einwanderungsbehörde hat angekündigt, dass EU-finanzierte „KI-Drohnen“ fortan Migrant*innen beim Überqueren der Grenze aufspüren sollen. Sie sollen auch bei Such- und Rettungsaktionen eingesetzt werden, aber das eher theoretisch.

Datensätze ohne Verfallsdatum: Wie im Namen der Wissenschaft Grundrechte verletzt werden

Ein US-amerikanischer Informatiker hat mit Bildern von trans* Menschen ohne ihre Zustimmung einen Datensatz zum Trainieren von Gesichtserkennungssoftware erstellt. Jetzt haben sich die wahren Dimensionen seiner fahrlässigen Herangehensweise gezeigt.

Hauptsache gesund? Wie der Berliner Senat die Daten von Impfwilligen verscherbelte

Das Land Berlin beauftragte auf dem Höhepunkt der Corona-Pandemie den Software-Anbieter Doctolib damit, Impftermine digital zu verwalten. Neue Dokumente zeigen: Für Berliner*innen war das ein denkbar schlechter Deal.

Kontroverse Dialekterkennung: Das BAMF und sein Pilotprojekt

Nach einer Kleinen Anfrage im Bundestag gibt es Neuigkeiten zur Dialekterkennungssoftware des Bundesamts für Migration und Flüchtlinge (BAMF). Selbst die Einrichtung, aus der das BAMF seine Trainingsdaten bezieht, sieht die Entwicklung kritisch.

Digitale Türsteher: KI in Einstellungsverfahren

Unternehmen setzen bei ihren Einstellungsverfahren immer häufiger auf automatisierte Entscheidungssysteme. Unter Bewerber*innen macht sich Angst breit, aufgrund von antrainierten Vorurteilen maschinell aussortiert zu werden. Arbeitgeber, IT-Dienstleister und Ausbildungsstätte zeigen sich bei dem Thema zugeknöpft.

Facebook demontiert CrowdTangle: Mehr Transparenz durch schlechteren Datenzugang?

Mit CrowdTangle können Akademiker*innen, Watchdog-Organisationen und Journalist*innen Desinformationen und andere problematische Inhalte auf der Plattform ausfindig machen. Facebook arbeitet daran, das Tool unbrauchbar zu machen, und handelt so gegen das eigene Versprechen, einen besseren Datenzugang zu gewährleisten.

Schöne neue Tech-Welt: Gesichtserkennung für alle

Gesichtserkennungstools wie FindClone, PimEyes oder Search4Faces höhlen Privatsphäre und Datenschutz in einem unheimlichen Ausmaß aus. Wir stellen einige Gebrauchs- und Missbrauchsfälle dieser Dienste vor, die für ein Taschengeld zu haben sind.