ChatGPT und KI: Regierung darf sich nicht von Elon Musk & Co. an der Nase herumführen lassen

Ein offener Brief des ”Future of Life Institute”, einer Brüsseler Lobbyorganisation, schürt Ängste vor einem zivilisatorischen Kollaps und warnt vor einer Superintelligenz, die sich von Menschen nicht mehr kontrollieren lässt. Die Unterzeichner*innen, darunter prominente Tech-Unternehmer wie Elon Musk (der die Organisation mitfinanziert) und Apple-Mitgründer Steve Wozniak, fordern eine 6-monatige Pause bei der Entwicklung großer KI-Modelle, um diese Gefahren zu bannen. Der Brief bestimmt seit einem Monat die öffentliche Debatte. Weitgehend unbemerkt verwässert derweil die deutsche Regierung ihre Position zur Regulierung von KI auf EU-Ebene.

Die wirklichen Gefahren von KI

Tatsächlich lenken die nach Science Fiction klingenden Zukunftsspekulationen davon ab, dass ChatGPT und andere KI-Systeme bereits heute Menschen echte Schäden zufügen: Sie reproduzieren Vorurteile, verstärken die Ausbeutung und Überwachung am Arbeitsplatz, bedrohen die Privatsphäre und verbrauchen enorme Energiemengen. Ohne wirksame Regulierung werden diese Grundrechtsverletzungen voraussichtlich nicht weniger werden.

Matthias Spielkamp, Geschäftsführer von AlgorithmWatch, kommentiert: “Viele der Unterzeichner*innen des offenen Briefs verdienen mit KI-Anwendungen ihr Geld oder planen, in diesen Bereich zu investieren. Sie profitieren davon, dass die Öffentlichkeit sich mehr mit spekulativen Weltuntergangsszenarien beschäftigt als mit den realen Gefahren von KI. Der Brief wirkt daher wie ein PR-Ablenkungsmanöver.”

Auch der Zeitpunkt der Veröffentlichung ist wahrscheinlich nicht zufällig gewählt: In den kommenden Wochen stehen in der EU die Verhandlungen zur KI-Verordnung (AI Act) an. Es ist das erste Gesetz weltweit, mit dem KI in allen Lebensbereichen reguliert werden soll. Dieser Prozess wird auf der ganzen Welt genau beobachtet, da das Gesetz über die EU hinaus Wirkung zeigen wird. In den nächsten Wochen wird das EU-Parlament seine Position beschließen. Anschließend beginnen die Verhandlungen zwischen dem EU-Parlament, der EU-Kommission und den Mitgliedstaaten.

Die Regierung darf bei den Risiken von KI nicht wegschauen

Im laufenden Verhandlungsprozess zur KI-Verordnung stehen die Interessen großer Tech-Konzerne den Interessen der Menschen gegenüber, die die Grundrechte verteidigen. Obwohl der Koalitionsvertrag der Ampel-Regierung den Schutz von Grundrechten verspricht, arbeitet die Regierung daran, die Wirksamkeit der Verordnung aufzuweichen.

Zuletzt wurden zwei Forderungen von Innenministerin Nancy Faser (SPD) bekannt, die die Wirksamkeit der KI-Verordnung ernsthaft einschränken könnten:

1) Ausnahmen für Sicherheitsbehörden: Im Rahmen der KI-Verordnung ist eine EU-Datenbank geplant, in der Behörden offenlegen müssen, welche hochriskanten KI-Anwendungen sie einsetzen. Die damit einhergehenden strengen Transparenzanforderungen sollen jedoch in den Bereichen Strafverfolgung, Migration, Asyl und Grenzkontrolle nicht in vollem Umfang gelten.

2) Laxere Regeln für die biometrische Erkennung im öffentlichen Raum: Entgegen ihrer Versprechen im Koalitionsvertrag setzt sich die deutsche Regierung auf EU-Ebene bisher nicht konsequent gegen Massenüberwachung ein. So könnte ein Gesetzentwurf beschlossen werden, der viele gefährliche Schlupflöcher enthält: Bisher ist nur ein Verbot von biometrischer Erkennung in Echtzeit vorgesehen, eine nachträgliche Verarbeitung gespeicherter Daten bliebe zulässig. Außerdem bliebe das Verbot auf die Polizei beschränkt, würde also nicht für private Instanzen oder Behörden gelten. Und schließlich könnte der Entwurf eine Reihe von Ausnahmen enthalten, in denen das Gesetz nicht gelten würde.

Wenn die deutsche Regierung diese Positionen unverändert in die Verhandlungen auf EU-Ebene einbringt, könnte dies zu schwerwiegenden Lücken in der KI-Verordnung führen. Matthias Spielkamp warnt deshalb: “Der aktuelle Hype um den vermeintlichen Weltuntergang durch KI darf nicht dafür sorgen, dass die deutsche Regierung unbemerkt die geplanten Regulierungsmaßnahmen untergräbt.”

Lesen Sie mehr zu unserer Policy & Advocacy Arbeit zum Artificial Intelligence Act.