#publicsphere (106 Ergebnisse)

Kampagne

Gesichtserkennung stoppen – kein Türöffner für Massenüberwachung! 

Gemeinsam mit Organisationen aus dem Bündnis „Gesichtserkennungstoppen.de“ fordert AlgorithmWatch Bundestagsabgeordnete auf, sich klar und entschieden gegen biometrische Fernidentifikation zu positionieren. Mach mit und hilf uns, Druck auf die Politik auszuüben!

AlgorithmWatch diskutiert:

KI und Demokratie – Welchen Einfluss haben Chatbots auf Wahlentscheidungen?

AlgorithmWatch hat erneut getestet, ob KI-Chatbots Fragen zu Wahlen korrekt und unvoreingenommen beantworten. Die Chatbots sind zwar in einzelnen Aspekten besser geworden, taugen aber immer noch nicht als zuverlässige Informationsquelle. Am Donnerstag, den 12. September 2024 um 19:30 sprechen wir mit Expert*innen aus Wissenschaft und Politik über die Ergebnisse unserer Recherche sowie über den Einfluss, den Chatbots auf Wahlentscheidungen haben können.

Im Vorfeld der Landtagswahlen:

Chatbots bringen noch immer viele Falschinformationen in Umlauf

Im September 2024 finden in den Bundesländern Thüringen, Sachsen und Brandenburg Landtagswahlen statt. AlgorithmWatch und CASM Technology haben getestet, ob KI-Chatbots Fragen zu diesen Wahlen korrekt und unvoreingenommen beantworten. Das Ergebnis: Sie sind nicht verlässlich.

10 Fragen zu KI und Wahlen

2024 ist ein Super-Wahljahr. Wähler*innen auf der ganzen Welt denken darüber nach, wem sie ihre Stimme geben, machen sich aber auch Sorgen über KI: Sind Chatbots und „Deepfake“-Videos eine Gefahr für die Demokratie? Können wir Online-Inhalten noch trauen? Wir erklären, warum der Hype um KI und Wahlen teilweise übertrieben ist und auf welche Risiken wir stattdessen reagieren sollten.

EU-Migrationspakt: Die Europäische Gemeinschaft der Überwachung

An den EU-Grenzen und den dortigen Abschiebelagern werden immer mehr Technologien eingesetzt, die die Privatsphäre verletzen. Der neue Migrations- und Asylpakt ermutigen geradezu, die gesellschaftlich bereits am stärksten Ausgegrenzten mit gefährlichen digitalen Systemen noch intensiver zu überwachen - auch Kinder.

Stellungnahme

Die UN muss sich entscheiden: Will sie der Menschheit helfen oder dem KI-Hype nachgeben?

Wie sollte KI international reguliert werden? Mit dieser schwierigen Frage beschäftigt sich aktuell der Beirat für Künstliche Intelligenz des UN-Generalsekretärs in seinem Zwischenbericht. In einem kürzlich durchgeführten Konsultationsprozess haben wir dazu Stellung bezogen und einige bedenkliche Aspekte des Berichts hervorgehoben.

Pressemitteilung

Bundestag stimmt über Gesetz für besseren Schutz im Netz ab

Der Bundestag stimmt heute über das Digitale-Dienste-Gesetz ab, das dafür sorgen soll, demokratische Debatten und die Rechte von Europäer*innen im Internet besser zu schützen. Ein wichtiger Schritt, der aber für die Wahlen zum EU-Parlament zu spät kommt.

Pressemitteilung

KI-Konvention des Europarats: Kein Freifahrtschein für Unternehmen und Sicherheitsbehörden!

Die KI-Konvention soll das erste rechtsverbindliche internationale Übereinkommen zu KI werden. Ab dem 11. März 2024 finden die abschließenden Verhandlungen dazu in Straßburg statt. Mit am Verhandlungstisch sitzen die Mitglieder des Europarats (darunter die EU-Staaten) und Nicht-Mitglieder wie die USA, Japan oder Kanada. AlgorithmWatch, über 90 Organisationen der Zivilgesellschaft und prominente Wissenschaftler*innen fordern die verhandelnden Staaten auf, Unternehmen und nationalen Sicherheitsbehörden beim Einsatz von KI nicht einfach freie Hand zu lassen.

DSA Day und Plattformrisiken

Social-Media-Konto gesperrt oder Forschungsdaten gesucht? – Ab jetzt gibt es (theoretisch) Hilfe

Das EU-Gesetz über digitale Dienste (Digital Services Act, DSA) soll Risiken durch Online-Plattformen und Suchmaschinen regulieren. Es ist seit 2023 in Kraft, aber erst ab dem 17. Februar 2024, dem „DSA-Day“, gelten einige der wichtigsten Bestimmungen.

Stellungnahme: Der Regierungsentwurf zum Digitale-Dienste-Gesetz in Deutschland

AlgorithmWatch reagiert auf den Regierungsentwurf für ein deutsches Digitale-Dienste-Gesetz (DDG) vom 20.12.2023.

Schlussbericht: Untersuchung zu Microsoft Bing Chat

KI-Chatbot liefert falsche Antworten auf Fragen zu demokratischen Wahlen

Bing Chat, der in Microsofts Suchmaschine Bing integrierte KI-Chatbot, erfindet Skandale, denkt sich Umfragewerte aus und gibt den Wahltermin falsch an. Microsoft scheint nicht in der Lage oder nicht willens zu sein, das Problem zu beheben. Das zeigt eine Studie von AlgorithmWatch und AI Forensics, deren Schlussbericht nun vorliegt. Darin haben wir das Antwortverhalten des Chatbots zu Wahlen in Bayern, Hessen und der Schweiz im Oktober 2023 untersucht.

Pressemitteilung

Studie zu KI-basierter Microsoft-Suche: Gefährlich unzuverlässig

Wer sich vor Wahlen bei Bing Chat informiert, muss mit irreführenden, falschen und einseitigen Antworten rechnen. Die Microsoft-Suchmaschine mit integrierter Chatbot-Funktion erfindet Skandale und denkt sich Umfragewerte aus. Das zeigt eine Studie von AlgorithmWatch und AI Forensics zu den Wahlen in Bayern, Hessen und der Schweiz im Oktober 2023, deren Schlussbericht nun vorliegt. Microsoft scheint keine Lösung für das Problem zu haben.

Policy Paper

Was Forschende jetzt brauchen, um Plattformen zu untersuchen

Wie das Recht auf Datenzugang nach dem Digital Services Act in kommender Gesetzgebung genau ausgestaltet werden sollte, legen wir in einem neuen Policy Paper dar.

Zwischenergebnisse: Untersuchung zu Microsoft Bing Chat

Große KI-Sprachmodelle im Kontext von Wahlen

Wie zuverlässig beantwortet der Chatbot der Microsoft-Suchmaschine Bing Fragen zu den anstehenden Wahlen in Hessen, Bayern und der Schweiz? Unsere Forschung belegt: Das dahinter stehende große Sprachmodell GPT-4 erzeugt und verbreitet ausgedachte und irreführende Informationen. Das könnte zur Gefahr für die Demokratie werden.

Neue Recherche

ChatGPT und Co: Gefährden KI-getriebene Suchmaschinen demokratische Wahlen?

Sich mithilfe großer KI-Sprachmodelle wie Bing Chat darüber zu informieren, wie man wählen sollte, ist eine sehr schlechte Idee. Das zeigen die Ergebnisse einer Untersuchung von AlgorithmWatch und AI Forensics zu den Landtagswahlen in Bayern und Hessen und den nationalen Wahlen in der Schweiz. Die Antworten, die große Sprachmodelle auf wichtige Fragen geben, sind zum Teil komplett falsch, zum Teil irreführend. Bing Chat und Co. können so der öffentlichen Meinungsbildung in einer Demokratie gefährlich werden.

Stellungnahme: Umsetzung des Digital Services Act in Deutschland

AlgorithmWatch nimmt Stellung zum Referentenentwurf des Bundesministeriums für Digitales und Verkehr vom 01.08.2023 für ein deutsches Digitale-Dienste-Gesetz.

Was folgt aus dem Digital Services Act

Plattformregulierung: Wie lassen sich systemische Risiken für die Demokratie erkennen?

Wie sollen die Betreiber von großen Plattformen und Suchmaschinen dem Digital Services Act (DSA) zufolge „systemische Risiken“ erkennen? AlgorithmWatch hat eine Methodik entworfen, an der wir uns als zivilgesellschaftliche Watchdog-Organisation orientieren werden, um die gerade stattfindenden Risikobewertungen kritisch zu begleiten.

Algorithmic Accountability Reporting

Recherche in der Blackbox

Sozialbetrugsscoring, Predictive Policing oder Chat-GPT: Regierungen und Behörden weltweit setzen zunehmend Algorithmen ein, meist völlig intransparent. Algorithmic Accountability Reporting beleuchtet ihre Funktionsweise und Wirkung. Doch nur wenige Medien leisten sich solche Recherchen. Was ist da los?

Pressemitteilung

Digital Services Act: Deutschland braucht eine Plattformaufsicht, keine Poststelle

Deutschland droht die Chance zu verspielen, Internetplattformen unter eine effektive, unabhängige Aufsicht zu stellen. Ministerien und Behörden streiten seit Monaten um Zuständigkeiten und verzögern damit die dringend notwendigen Vorbereitungen für eine effektive Plattformaufsicht.

Kampf in Straßburg: Schutz vor KI-Folgen im Fokus der Zivilgesellschaft

Während die Verhandlungen über eine Konvention zu Künstlicher Intelligenz (KI) im Europarat in eine entscheidende Phase eintreten, erinnern AlgorithmWatch und zehn weitere zivilgesellschaftlichen Organisationen in einem Statement die verhandelnden Staaten an ihr Mandat: den Schutz von Menschenrechten, Demokratie und Rechtsstaatlichkeit zu gewährleisten. Um diesem Mandat gerecht zu werden und sowohl engen staatlichen Interessen als auch der Lobbyarbeit von Konzernen entgegenzuwirken, muss die Stimme der Zivilgesellschaft gehört werden.

Plattformaufsicht: Unsere Forderungen an die Bundesregierung zur Umsetzung des Digital Services Coordinators

Gemeinsam mit 12 zivilgesellschaftlichen Organisationen fordert AlgorithmWatch die deutsche Regierung auf sicherzustellen, dass der Digital Services Coordinators seine Rolle bei der Durchsetzung des Gesetzes über digitale Dienste (DSA) erfüllen kann, um unsere Rechte im digitalen Raum zu schützen und Plattformen zu kontrollieren.

Offener Brief: Meinungsfreiheit bei politischer Kommunikation schützen

Angesichts der Verhandlungen der EU-Gesetzgeber über wichtige neue Transparenzregeln für politische Online-Anzeigen fordern AlgorithmWatch und 8 weitere zivilgesellschaftliche Organisationen die deutsche Regierung auf, schwerwiegende Risiken für den demokratischen Pluralismus und die Meinungsfreiheit im neuesten Vorschlag des Rates zu beheben.

Zivilgesellschaft gegen EU-Pläne zur Chatkontrolle

Gemeinsam mit 22 weiteren zivilgesellschaftliche Organisationen richten wir uns in einem öffentlichen Aufruf gegen die Pläne der Europäischen Kommission zur massenhaften Überwachung von Kommunikation und Onlineinhalten.

Ein Leitfaden zum Digital Services Act: Das neue EU-Gesetz soll den großen Tech-Konzernen Zügel anlegen

Alles Wesentliche zum Digital Services Act (DSA), Europas neuem Instrument, um die mächtigen Plattformen wie YouTube, TikTok, Facebook und Instagram transparenter zu machen und sie für die Risiken zur Rechenschaft zu ziehen, die von ihnen für die Gesellschaft ausgehen.

Offener Brief gegen das Speichern von IP-Daten

Am 20. September verkündet der EU-Gerichtshof seine Entscheidung über das deutsche Gesetz zur Vorratsdatenspeicherung. AlgorithmWatch positioniert sich gegen das Gesetz.