KI-Aufsicht für Deutschland bleibt vorerst aus – Bundesregierung verpasst Frist

Berlin, 31.07.2025 – Die KI-Verordnung der EU (AI Act) ist das erste umfassende Gesetz, das bestimmte KI-Praktiken reguliert. Sie legt unter anderem fest, welche KI-Systeme verboten sind, weil sie „unannehmbare Risiken für die Sicherheit, die Gesundheit und die Grundrechte der Menschen“ darstellen. Die Bundesregierung wird am 2. August die Frist reißen, die vorsieht, dass jeder EU-Mitgliedsstaat bis zu diesem Stichtag eine nationale Aufsicht im Sinne der KI-Verordnung benennt.

Das europäische Regelwerk zur KI-Regulierung tritt gestaffelt in Kraft: Am 2. August verstreicht die nächste Umsetzungsfrist. EU-Mitgliedsstaaten sollen bis dahin eine nationale Aufsichtsbehörde benennen, die die Durchsetzung der KI-Verordnung in den EU-Ländern sicherstellt.

Die deutsche Bundesregierung wird diese Frist nicht einhalten, da bis dato kein Gesetz zur Umsetzung der KI-Verordnung verabschiedet wurde. Mit diesem Gesetz wäre nicht nur die Benennung der nationalen Aufsichtsbehörde verbunden, sondern auch eine Festlegung von Sanktionen und Geldbußen.

“Durch das Fehlen eines Umsetzungsgesetzes und einer zuständigen Aufsichtsbehörde ist Deutschland beim Thema KI nun gewissermaßen ein Land, in dem es zwar Verkehrsregeln gibt, aber weder einen Bußgeldkatalog noch eine Verkehrspolizei”, sagt Pia Sombetzki, Senior Policy Managerin bei AlgorithmWatch.

Das ist besonders fatal, da der nationalen Aufsicht eine wichtige Wächterinnenrolle hinsichtlich der bereits geltenden Verbote zukommt. An die Aufsicht können Menschen sich richten, wenn sie mutmaßlich verbotene KI-Praktiken beobachten oder erleben: Wenn beispielsweise der Arbeitgeber auf die Idee kommt, eine Emotionsüberwachung in Telefonaten oder Videocalls einbauen, wenn eine Behörde bestimmte Sozialleistungen mit einem Social-Scoring-System verknüpft oder Veranstalter großer Events gezielt biometrische Daten der Besucher*innen für spätere Werbezwecke speichern wollen, wäre die Aufsichtsbehörde zuständig.

„Die Bundesregierung muss ihre Pflicht ernst nehmen, Menschen in Deutschland vor schädlichen KI-Praktiken zu schützen: Ohne eine nationale KI-Aufsicht kann der AI Act in Deutschland nicht seine versprochene Wirkung entfalten und Menschen drohen währenddessen zu Schaden zu kommen“, mahnt Pia Sombetzki.