Ein wichtiger Aspekt, der bislang wenig beachtet wurde, ist der Einsatz von KI durch Menschen, die in unseren Demokratien mit Macht und Einfluss ausgestattet sind – also Regierungspersonal, hochrangige Beamt*innen und Politiker*innen. Wenn Menschen mit Entscheidungsbefugnis diese KI-Werkzeuge nutzen, besteht die Gefahr, dass die Vorurteile und Präferenzen von KI-Modellen in Gesetze und Entscheidungen einfließen, die Staat und Bürger*innen betreffen.

In unserer ersten Untersuchung zum Thema (hier der vollständige Text auf Englisch) konzentrieren wir uns auf drei Fragen:

1. Wie nutzen Regierungsmitglieder, Politiker*innen und hochrangige Beamt*innen in Deutschland, der Schweiz und Großbritannien Chatbots, um Ideen zu entwickeln, sich Themen zu erschließen und politische Entscheidungen bis hin zur Gesetzgebung vorzubereiten?
2. Welche Risiken ergeben sich daraus, dass Chatbots diese Entscheidungen beeinflussen könnten?
3. Welche Schutzmaßnahmen gibt es, welche sollte es geben?

Aus unserer Sicht gibt es mehrere Probleme, die adressiert werden müssen. Eines davon ist, dass klassische Transparenz-Ansätze schnell an ihre Grenzen stoßen: Politiker*innen, darunter auch der deutsche Bundeskanzler, loben den Wert von KI-Chatbots für ihre Arbeit, aber es ist schwer zu prüfen, wie sie die damit verbundenen Risiken einschätzen. Antworten auf parlamentarische Anfragen haben bis dato keine weiteren Details geliefert. Wir wurden lediglich auf Dokumente und ein „Kompetenzzentrum für KI“ verwiesen, das sich seit Jahren im Aufbau befindet.

Während Journalist*innen in Großbritannien mit Informationsfreiheitsanfragen an die Regierung zunächst Erfolg hatten, wurden weitere Anfragen abgelehnt. In Deutschland erhielten wir eine Antwort auf eine Anfrage nach dem Informationsfreiheitsgesetz (IFG), in der es hieß, der deutsche Digitalminister Karsten Wildberger nutze „in seiner Funktion als Bundesminister“ keine KI-Chatbots – obwohl Wildberger in einem Interview selbst davon gesprochen hat, Chatbots „ein, zwei Stunden am Tag“ zu nutzen, um seine Gedanken zu strukturieren. IFG-Anfragen, die wir im Januar 2026 an das Kanzleramt und das Forschungsministerium geschickt haben, wurden bis heute nicht beantwortet. In der Schweiz wurde über eines der wichtigsten Chatbot-Projekte des Bundes zwar in der Presse berichtet, jedoch nicht offiziell seitens der Regierung.

Chatbots können die Entscheidungen herausgehobener Verantwortungsträger*innen beeinflussen. Zu diesem Schluss kommt die wissenschaftliche Literatur, die wir gesichtet haben, und das legen auch unsere Untersuchungen nahe, in denen wir die Antworten von LLMs auf politische Fragen geprüft haben. Beispielsweise wird Regierungspersonal teils empfohlen, ihren Prompts einen Kontext hinzuzufügen, wie z. B. „Ich informiere Minister XYZ über das Thema ABC“. Bei unseren Tests von LLMs haben wir jedoch festgestellt, dass solche Informationen die Antworten von Chatbots erheblich verändern können. In einigen Fällen verkehrten Chatbots politische Positionen, die sie vorgeblich „auf der Grundlage der besten verfügbaren Erkenntnisse“ erstellt hatten, ins Gegenteil – nur, weil beispielsweise im Prompt der Name eines Ministers geändert wurde.

Ohne Schutzmaßnahmen gegen solches Verhalten könnte die Art und Weise, wie Beamt*innen Prompts verfassen, erheblich beeinflussen, wie sie Sachverhalte analysieren und politische Maßnahmen entwickeln. Dies gilt umso mehr, wenn man psychologische Faktoren wie den „Automation Bias“ mit in Betracht zieht, also die Tendenz, maschinell generierte Antworten als objektiv zu betrachten.

Gerade Menschen in hervorgehobenen Positionen müssen in der Lage sein, sich nicht durch verzerrte oder voreingenommene Antworten beeinflussen zu lassen. Das ist alles andere als trivial, da diese Formen der Beeinflussung oft unmerklich stattfinden und ihnen mit einer klassischen Faktenprüfung oft nicht beizukommen ist. Regierungen und Verwaltungen haben zwar bereits Leit- oder Richtlinien mit Sicherheitsvorkehrungen dazu veröffentlicht, wie KI verwendet werden sollte, aber oft bleiben sie vage. Eine beliebte Vorgabe in diesen Richtlinien ist beispielsweise, dass „menschliche Aufsicht“ ausgeübt werden müsse, ohne jedoch klarzustellen, wie das die Probleme lösen würde, die wir ansprechen.

Ohne vollständige Transparenz können Bemühungen, den Einfluss von KI auf die Demokratie zu verstehen und Schutzmaßnahmen zu ergreifen, nur eingeschränkt wirken. Es ist wichtig, dass Prozesse und Methoden dafür, das Risiko zu begrenzen, unabhängig kontrolliert werden, statt lediglich Versprechungen zu Rechenschaftspflicht und Aufsicht zu machen.

Wir entwickeln derzeit selbst Leitlinien für die Verwendung von Chatbots, in denen die Risiken detaillierter behandelt werden. Um herauszufinden, wie sie in der Praxis funktionieren können, würden wir uns über die Bereitschaft von Vertreter*innen aus Ministerien und der öffentlichen Verwaltung, politischen Parteien, Politiker*innen und interessierten Organisationen freuen, sich mit uns darüber auszutauschen.

Weiterlesen

Vollständiger Text (Englisch)

Could AI Chatbots influence a Government’s Decisions?