#eu (25 Ergebnisse)

Sexualisierte Deepfakes auf X: Was wir dagegen tun und was die EU tun sollte

Elon Musks Chatbot „Grok“ erzeugt auf der Plattform X Bilder echter Menschen in Bikinis ohne deren Zustimmung, darunter auch Kinder. Das Problem dieser sexualisierten Darstellungen durch KI geht jedoch weit über X hinaus, wie unsere Untersuchungen zeigen. X selbst hat unsere Forschungen jedoch blockiert. Die EU-Kommission muss viel entschlossener vorgehen, um Menschen vor dieser Art von Gewalt zu schützen.

Pressemitteilung

Zwischenfazit und Geschenk: Der Digital Services Act wird drei Jahre alt

Der Digital Services Act feiert Geburtstag – Zeit für ein Zwischenfazit

Der Digital Services Act (DSA) der EU wird drei Jahre alt. Durch das wegweisende Digitalgesetz zur Kontrolle von Plattform-Unternehmen soll transparenter werden, wie Online-Dienste ihren Nutzer*innen Inhalte anzeigen. Und es soll mehr Möglichkeiten geben gegen diese Unternehmen vorzugehen. Es gibt jedoch noch viel zu tun, damit der DSA wirklich den Bedürfnissen von Bürger*innen und Nutzer*innen gerecht wird.

Offener Brief

Über 40 NGOs fordern klare Haltung gegenüber US-Drohungen

Über 40 NGOs und Einzelpersonen aus dem Digitalrecht-Bereich fordern die EU-Kommission auf, entschlossen auf die jüngste Warnung der US-Regierung zu reagieren. Sie hat mit Sanktionen gedroht, sollte die EU ihre Digitalgesetze nicht zugunsten amerikanischer Konzerne abschwächen.

Digitalpolitik ist heute Geopolitik

Ein neuer Sheriff ist in der Stadt, aber er setzt nicht das Gesetz durch, sondern macht seine eigenen Regeln. Deutschland ist darauf nicht vorbereitet – egal, unter welcher Regierungskoalition, fürchtet AlgorithmWatchs Geschäftsführer Matthias Spielkamp.

Der KI-Aktionsgipfel: eine verpasste Gelegenheit?

Letzte Woche waren Angela Müller, die Geschäftsleiterin von AlgorithmWatch CH, und Matthias Spielkamp, der Geschäftsführer von AlgorithmWatch, beim internationalen KI-Aktionsgipfel in Paris. War der Gipfel mehr als eine ununterbrochene Big-Tech-Party, bei der milliardenschwere Versprechen gemacht wurden? Hier teilen sie ihre Eindrücke.

Ab Februar 2025: Schädliche KI-Anwendungen verboten

In der EU treten Verbote der KI-Verordnung in Kraft. Bestimmte schädliche KI-Systeme, die bereits erprobt wurden oder in Betrieb sind, dürfen jetzt – zumindest teilweise – nicht mehr eingesetzt werden.

Pressemitteilung

Verbote der KI-Verordnung treten in Kraft: Ansatz gut, alles gut?

Berlin, 31.1.2025. In der EU sind ab dem 2. Februar 2025 KI-Systeme verboten, die „unannehmbare Risiken“ für die Sicherheit, Gesundheit oder Grundrechte darstellen, außer wenn es um die „nationale Sicherheit“ geht.

Pressemitteilung

Leitlinien zum „AI Act“: Kritik aus der Zivilgesellschaft

Nach den Konsultationen der EU-Kommission sehen AlgorithmWatch und 20 andere Organisationen aus der Zivilgesellschaft noch einen erheblichen Nachbesserungsbedarf bei den Leitlinien.

Pressemitteilung

Meta, Meinung, Milliardäre: Was heißt das für die EU?

Die Nichtregierungsorganisation AlgorithmWatch sieht nach der Ankündigung von Meta-Chef Mark Zuckerberg, die Inhaltsmoderation auf seinen Plattformen (zunächst nur in den USA) wesentlich einzuschränken, einige Risiken auf die Europäische Union zukommen, sollte Meta hier einen ähnlichen Kurs einschlagen.

Stellungnahme zu Metas Ankündigung, Moderation und Faktenchecks zurückzufahren

Mark Zuckerberg sagt, dass er die „Zensur“ auf den Meta-Plattformen beenden wolle, aber seine geplanten Änderungen werden das Gegenteil bewirken. Sie können auch für Nutzer*innen in der EU schwerwiegende Folgen haben. Welche Möglichkeiten haben die Europäische Kommission und die Mitgliedstaaten, diesen Entwicklungen entgegenzutreten?

Pressemitteilung

DSA: Erste Risikobewertungsberichte über systemische Risiken von großen Online-Plattformen lassen viele Fragen offen

Policy Empfehlungen

KI-Forschung an der Grenze: Mehr Transparenz bei EU-finanzierter Überwachungstechnologie erforderlich

Die EU finanzierte Forschung an KI-gestützter Grenzüberwachung ist ohne wirksame öffentliche Kontrolle. Obwohl diese Forschung aus öffentlichen Mitteln finanziert wird und Risiken für Grundrechte birgt, bleiben viele Forschungsergebnisse und -methoden für die Öffentlichkeit unzugänglich. Das macht es schwer, nachzuvollziehen, wie diese Technologien das Grenzmanagement und die Mobilität von Menschen beeinflussen.

OpenAI bricht eigene Regeln: Generatoren produzieren täuschende KI-Bilder zur EU-Wahl

AlgorithmWatch hat getestet, welche Bilder sich kurz vor der EU-Wahl von den großen KI-Systemen generieren lassen: Zwei der größten Anbieter halten sich nicht an Sicherheitsmaßnahmen, die sie selbst angekündigt haben.

Kampagne: ADM und People on the Move

Grenzen ohne KI

29.000 Menschen sind in den vergangenen zehn Jahren im Mittelmeer ums Leben gekommen – beim Versuch, die EU zu erreichen. Arbeiten die EU und Wissenschaftler*innen in ganz Europa deshalb fieberhaft daran, diese Tragödie mit neuesten Technologien zu stoppen? Nein, das Gegenteil ist der Fall: Mit sogenannter Künstlicher Intelligenz werden höhere Mauern errichtet, finanziert mit Steuergeld.

Kampagne: ADM und People on the Move

Die automatisierte Festung Europa: Menschenrechte haben hier keinen Platz

29.000 Menschen sind in den vergangenen zehn Jahren beim Versuch, die EU zu erreichen, im Mittelmeer ums Leben gekommen. Man sollte annehmen, die EU und Wissenschaftler*innen in ganz Europa würden fieberhaft daran arbeiten, neue Technologien dafür zu nutzen, diese Tragödie zu stoppen. Das Gegenteil ist der Fall: Mithilfe von Künstlicher Intelligenz werden die digitalen Mauern höher gezogen, finanziert mit Steuergeld.

EU-Migrationspakt: Die Europäische Gemeinschaft der Überwachung

An den EU-Grenzen und den dortigen Abschiebelagern werden immer mehr Technologien eingesetzt, die die Privatsphäre verletzen. Der neue Migrations- und Asylpakt ermutigen geradezu, die gesellschaftlich bereits am stärksten Ausgegrenzten mit gefährlichen digitalen Systemen noch intensiver zu überwachen - auch Kinder.

Offener Brief

AI Act: Nachbessern beim Schutz vor Massenüberwachung im öffentlichen Raum

Das Europäische Parlament stimmt heute über die KI-Verordnung ab. Das Gesetz weist beim Schutz vor KI-gestützter Massenüberwachung im öffentlichen Raum eklatante Lücken auf. Deswegen fordern wir die Bundesregierung und Abgeordnete des Bundestags gemeinsam mit 16 weiteren Organisationen heute dazu auf, das Versprechen des Koalitionsvertrages zu halten und biometrische Erkennung im öffentlichen Raum zu verbieten.

Pressemitteilung

EU-Parlament stimmt über KI-Verordnung ab: Mitgliedstaaten müssen nachbessern 

Das Europäische Parlament wird heute den Artificial Intelligence Act (AI Act) verabschieden. Das Gesetz legt fest, wie Systeme mit Künstlicher Intelligenz (KI) in der EU entwickelt und eingesetzt werden dürfen. Zwar sorgt der Act in einigen Fällen dafür, dass Grundrechte besser geschützt und Umweltkosten berücksichtigt werden. Doch er enthält eklatante Schlupflöcher, die den eigentlichen Zweck des Gesetzes zu untergraben drohen.

Pressemitteilung

Tritt die KI-Verordnung jetzt endlich bald in Kraft?

Heute entscheiden die 27 EU-Mitgliedstaaten darüber, ob sie die KI-Verordnung annehmen. Wenn sie grünes Licht geben, muss vor dem Einsatz bestimmter KI-Systeme eine Folgenabschätzung für die Grundrechte durchgeführt werden. In bestimmten Fällen werden Betroffene auch Beschwerde gegen ihren Einsatz einlegen können. Doch der Schutz der Grundrechte wird durch Ausnahmen für Hochrisiko-Systeme beeinträchtigt: bei der Strafverfolgung und Migration und wenn der Einsatz der Systeme die „nationale Sicherheit“ berührt.

Pressemitteilung

Europa reguliert KI – zugunsten von Big Tech und Sicherheit-Hardlinern

Europa steht kurz davor, zwei wichtige Gesetze zu Künstlichen Intelligenz zu verabschieden: die KI-Verordnung (AI Act) der EU und die KI-Konvention des Europarats. Beide Regelwerke waren ursprünglich dazu gedacht, die Menschen wirksam vor Big-Tech-Interessen und dem Missbrauch von KI-Technologie durch Regierungen zu schützen. Doch nun könnten die Technologiekonzerne und Sicherheit-Hardliner in den Regierungen ihre Interessen doch noch durchsetzen.

Pressemitteilung

Einigung zum AI Act: Wichtiger Schutz und gefährliche Schlupflöcher

Nach einem Verhandlungsmarathon haben sich die EU-Gesetzgeber Freitagnacht auf die KI-Verordnung geeinigt – das Gesetz, das regeln soll, wie Systeme Künstlicher Intelligenz (KI) in der EU entwickelt und genutzt werden. Dem EU-Parlament ist es gelungen, eine Reihe wichtiger Schutzmaßnahmen auszuhandeln, die den Entwurfstext wesentlich verbessern. Die Mitgliedstaaten haben sich demgegenüber dafür eingesetzt, dass KI verwendet werden darf, schutzbedürftige Menschen zu kontrollieren und zu überwachen.

Pressemitteilung

Drama um KI-Verordnung: Illegitime Absprachen, verantwortungslose Verhandlungszeiten und unakzeptabler Druck

Inmitten eines Verhandlungsmarathons über den AI Act, die geplante Verordnung zu Künstlicher Intelligenz der EU, legen die EU-Mitgliedstaaten dem EU-Parlament die Daumenschrauben an, um Interessen der nationalen Sicherheit und der Industrie über den Schutz der Rechte der Menschen zu stellen. Nach über 20 Stunden Verhandlungen setzten sich übermüdete Gesetzgeber unter Schlafentzug heute gegenseitig unter Druck, um eine inakzeptable Einigung zu erzielen – zu einigen der grundlegendsten Auswirkungen, die KI auf Mensch und Gesellschaft haben kann.

Policy Paper

Was Forschende jetzt brauchen, um Plattformen zu untersuchen

Wie das Recht auf Datenzugang nach dem Digital Services Act in kommender Gesetzgebung genau ausgestaltet werden sollte, legen wir in einem neuen Policy Paper dar.

Was folgt aus dem Digital Services Act

Plattformregulierung: Wie lassen sich systemische Risiken für die Demokratie erkennen?

Wie sollen die Betreiber von großen Plattformen und Suchmaschinen dem Digital Services Act (DSA) zufolge „systemische Risiken“ erkennen? AlgorithmWatch hat eine Methodik entworfen, an der wir uns als zivilgesellschaftliche Watchdog-Organisation orientieren werden, um die gerade stattfindenden Risikobewertungen kritisch zu begleiten.