#publicsphere (25 Ergebnisse)

Biometrische Fernidentifizierung als kolonialer Bumerang

Viele sind zu Recht empört darüber, wie sehr Live-Gesichtserkennung und andere Formen der biometrischen Fernidentifizierung unsere Freiheit im öffentlichen Raum einschränken. Durch diese Empörung übersehen sie meiner Meinung nach aber teilweise den Sinn dieser Technologie. Ein Blick auf die Kolonialgeschichte hilft uns zu verstehen, weshalb sie ein beliebtes Herrschaftsinstrument ist.

Kampagne: Gesichtserkennung stoppen

50.000+! Petition gegen biometrische Überwachung an Bundestag übergeben

Offener Brief

Zivilgesellschaft kritisiert Unsicherheitspaket 2.0

Ein breites zivilgesellschaftliches Bündnis fordert in einem offenen Brief den Stopp des Gesetzentwurfs zur „Stärkung digitaler Ermittlungsbefugnisse“. Die geplante Neuauflage des Sicherheitspakets droht, fundamentale Grundrechte zu untergraben.

Schlussbericht: Untersuchung zu Chatbots im Vorfeld der Landtagswahlen 2024

Große Sprachmodelle in Bezug auf Wahlen nach wie vor unzuverlässig

Große Sprachmodelle sind in Bezug auf Wahlen nach wie vor unzuverlässig. Unsere Forschung konnte die Zuverlässigkeit der Schutzmaßnahmen im Microsoft Copilot Chatbot gegen falsche Wahlinformationen in deutscher Sprache erheblich verbessern. Die Barrieren für den Datenzugang schränkten unsere Untersuchungen an anderen Chatbots jedoch stark ein.

Kampagne: Gesichtserkennung stoppen

Factsheet zum Sicherheitspaket: Biometrische Fernidentifizierung

Biometrische Erkennung im öffentlichen Raum bedeutet Massenüberwachung und gefährdet Grundrechte. Dieses Factsheet des Bündnisses Gesichtserkennung Stoppen bietet eine faktenbasierte Einordnung der Behauptungen und hilft bei der Bewertung des Sicherheitspakets.

Stellungnahme

Das „Sicherheitspaket“: ein Verstoß gegen Europarecht, unsere Verfassung und den Datenschutz

In der Debatte zum „Sicherheitspaket“ der Bundesregierung fordert AlgorithmWatch im Bündnis „Gesichtserkennung stoppen", dass die vorgeschlagenen biometrischen Überwachungsbefugnisse gestrichen werden: Sie sind europarechtswidrig, werden verfassungsrechtlichen Mindestanforderungen nicht gerecht und verletzen datenschutzrechtliche Grundregeln.

Kampagne: Gesichtserkennung stoppen

Gesichtserkennung stoppen – kein Türöffner für Massenüberwachung! 

Wir fordern die Politik auf, sich klar und entschieden gegen biometrische Fernidentifikation zu positionieren. Mach mit und hilf uns, Druck auf die Politik auszuüben! Hier eine Sammlung unserer Aktionen und Hintergrundinformationen zum Thema.

AlgorithmWatch diskutiert:

KI und Demokratie – Welchen Einfluss haben Chatbots auf Wahlentscheidungen?

AlgorithmWatch hat erneut getestet, ob KI-Chatbots Fragen zu Wahlen korrekt und unvoreingenommen beantworten. Die Chatbots sind zwar in einzelnen Aspekten besser geworden, taugen aber immer noch nicht als zuverlässige Informationsquelle. Am Donnerstag, den 12. September 2024 um 19:30 diskutierten wir mit Expert*innen aus Wissenschaft und Politik über die Ergebnisse unserer Recherche sowie über den Einfluss, den Chatbots auf Wahlentscheidungen haben können.

Im Vorfeld der Landtagswahlen:

Chatbots bringen noch immer viele Falschinformationen in Umlauf

Im September 2024 finden in den Bundesländern Thüringen, Sachsen und Brandenburg Landtagswahlen statt. AlgorithmWatch und CASM Technology haben getestet, ob KI-Chatbots Fragen zu diesen Wahlen korrekt und unvoreingenommen beantworten. Das Ergebnis: Sie sind nicht verlässlich.

10 Fragen zu KI und Wahlen

2024 ist ein Super-Wahljahr. Wähler*innen auf der ganzen Welt denken darüber nach, wem sie ihre Stimme geben, machen sich aber auch Sorgen über KI: Sind Chatbots und „Deepfake“-Videos eine Gefahr für die Demokratie? Können wir Online-Inhalten noch trauen? Wir erklären, warum der Hype um KI und Wahlen teilweise übertrieben ist und auf welche Risiken wir stattdessen reagieren sollten.

EU-Migrationspakt: Die Europäische Gemeinschaft der Überwachung

An den EU-Grenzen und den dortigen Abschiebelagern werden immer mehr Technologien eingesetzt, die die Privatsphäre verletzen. Der neue Migrations- und Asylpakt ermutigen geradezu, die gesellschaftlich bereits am stärksten Ausgegrenzten mit gefährlichen digitalen Systemen noch intensiver zu überwachen - auch Kinder.

Stellungnahme

Die UN muss sich entscheiden: Will sie der Menschheit helfen oder dem KI-Hype nachgeben?

Wie sollte KI international reguliert werden? Mit dieser schwierigen Frage beschäftigt sich aktuell der Beirat für Künstliche Intelligenz des UN-Generalsekretärs in seinem Zwischenbericht. In einem kürzlich durchgeführten Konsultationsprozess haben wir dazu Stellung bezogen und einige bedenkliche Aspekte des Berichts hervorgehoben.

Pressemitteilung

Bundestag stimmt über Gesetz für besseren Schutz im Netz ab

Der Bundestag stimmt heute über das Digitale-Dienste-Gesetz ab, das dafür sorgen soll, demokratische Debatten und die Rechte von Europäer*innen im Internet besser zu schützen. Ein wichtiger Schritt, der aber für die Wahlen zum EU-Parlament zu spät kommt.

Pressemitteilung

KI-Konvention des Europarats: Kein Freifahrtschein für Unternehmen und Sicherheitsbehörden!

Die KI-Konvention soll das erste rechtsverbindliche internationale Übereinkommen zu KI werden. Ab dem 11. März 2024 finden die abschließenden Verhandlungen dazu in Straßburg statt. Mit am Verhandlungstisch sitzen die Mitglieder des Europarats (darunter die EU-Staaten) und Nicht-Mitglieder wie die USA, Japan oder Kanada. AlgorithmWatch, über 90 Organisationen der Zivilgesellschaft und prominente Wissenschaftler*innen fordern die verhandelnden Staaten auf, Unternehmen und nationalen Sicherheitsbehörden beim Einsatz von KI nicht einfach freie Hand zu lassen.

DSA Day und Plattformrisiken

Social-Media-Konto gesperrt oder Forschungsdaten gesucht? – Ab jetzt gibt es (theoretisch) Hilfe

Das EU-Gesetz über digitale Dienste (Digital Services Act, DSA) soll Risiken durch Online-Plattformen und Suchmaschinen regulieren. Es ist seit 2023 in Kraft, aber erst ab dem 17. Februar 2024, dem „DSA-Day“, gelten einige der wichtigsten Bestimmungen.

Stellungnahme: Der Regierungsentwurf zum Digitale-Dienste-Gesetz in Deutschland

AlgorithmWatch reagiert auf den Regierungsentwurf für ein deutsches Digitale-Dienste-Gesetz (DDG) vom 20.12.2023.

Schlussbericht: Untersuchung zu Microsoft Bing Chat

KI-Chatbot liefert falsche Antworten auf Fragen zu demokratischen Wahlen

Bing Chat, der in Microsofts Suchmaschine Bing integrierte KI-Chatbot, erfindet Skandale, denkt sich Umfragewerte aus und gibt den Wahltermin falsch an. Microsoft scheint nicht in der Lage oder nicht willens zu sein, das Problem zu beheben. Das zeigt eine Studie von AlgorithmWatch und AI Forensics, deren Schlussbericht nun vorliegt. Darin haben wir das Antwortverhalten des Chatbots zu Wahlen in Bayern, Hessen und der Schweiz im Oktober 2023 untersucht.

Pressemitteilung

Studie zu KI-basierter Microsoft-Suche: Gefährlich unzuverlässig

Wer sich vor Wahlen bei Bing Chat informiert, muss mit irreführenden, falschen und einseitigen Antworten rechnen. Die Microsoft-Suchmaschine mit integrierter Chatbot-Funktion erfindet Skandale und denkt sich Umfragewerte aus. Das zeigt eine Studie von AlgorithmWatch und AI Forensics zu den Wahlen in Bayern, Hessen und der Schweiz im Oktober 2023, deren Schlussbericht nun vorliegt. Microsoft scheint keine Lösung für das Problem zu haben.

Policy Paper

Was Forschende jetzt brauchen, um Plattformen zu untersuchen

Wie das Recht auf Datenzugang nach dem Digital Services Act in kommender Gesetzgebung genau ausgestaltet werden sollte, legen wir in einem neuen Policy Paper dar.

Zwischenergebnisse: Untersuchung zu Microsoft Bing Chat

Große KI-Sprachmodelle im Kontext von Wahlen

Wie zuverlässig beantwortet der Chatbot der Microsoft-Suchmaschine Bing Fragen zu den anstehenden Wahlen in Hessen, Bayern und der Schweiz? Unsere Forschung belegt: Das dahinter stehende große Sprachmodell GPT-4 erzeugt und verbreitet ausgedachte und irreführende Informationen. Das könnte zur Gefahr für die Demokratie werden.

Neue Recherche

ChatGPT und Co: Gefährden KI-getriebene Suchmaschinen demokratische Wahlen?

Sich mithilfe großer KI-Sprachmodelle wie Bing Chat darüber zu informieren, wie man wählen sollte, ist eine sehr schlechte Idee. Das zeigen die Ergebnisse einer Untersuchung von AlgorithmWatch und AI Forensics zu den Landtagswahlen in Bayern und Hessen und den nationalen Wahlen in der Schweiz. Die Antworten, die große Sprachmodelle auf wichtige Fragen geben, sind zum Teil komplett falsch, zum Teil irreführend. Bing Chat und Co. können so der öffentlichen Meinungsbildung in einer Demokratie gefährlich werden.

Stellungnahme: Umsetzung des Digital Services Act in Deutschland

AlgorithmWatch nimmt Stellung zum Referentenentwurf des Bundesministeriums für Digitales und Verkehr vom 01.08.2023 für ein deutsches Digitale-Dienste-Gesetz.

Was folgt aus dem Digital Services Act

Plattformregulierung: Wie lassen sich systemische Risiken für die Demokratie erkennen?

Wie sollen die Betreiber von großen Plattformen und Suchmaschinen dem Digital Services Act (DSA) zufolge „systemische Risiken“ erkennen? AlgorithmWatch hat eine Methodik entworfen, an der wir uns als zivilgesellschaftliche Watchdog-Organisation orientieren werden, um die gerade stattfindenden Risikobewertungen kritisch zu begleiten.

Algorithmic Accountability Reporting

Recherche in der Blackbox

Sozialbetrugsscoring, Predictive Policing oder Chat-GPT: Regierungen und Behörden weltweit setzen zunehmend Algorithmen ein, meist völlig intransparent. Algorithmic Accountability Reporting beleuchtet ihre Funktionsweise und Wirkung. Doch nur wenige Medien leisten sich solche Recherchen. Was ist da los?

Pressemitteilung

Digital Services Act: Deutschland braucht eine Plattformaufsicht, keine Poststelle

Deutschland droht die Chance zu verspielen, Internetplattformen unter eine effektive, unabhängige Aufsicht zu stellen. Ministerien und Behörden streiten seit Monaten um Zuständigkeiten und verzögern damit die dringend notwendigen Vorbereitungen für eine effektive Plattformaufsicht.