Risiken und Gefahren von KI

Thema auswählen und mehr erfahren

• KI und Demokratie: Social-Media-Algorithmen als Gefahr für Wahlen
• KI und Diskriminierung: Warum Gesichtserkennung und Überwachung problematisch sind
• KI und Nachhaltigkeit: Eine Belastung für die Umwelt
• KI und Marktkonzentration: Warum KI durch Gesetze reguliert werden sollte

KI und Demokratie: Social-Media-Algorithmen als Gefahr für Wahlen

Zuerst die gute Nachricht: KI-generierte „Fake News“, also Falschnachrichten, und andere irreführende Inhalte haben bislang Wahlen kaum beeinflusst. Für die Stimmabgabe bei Wahlen sind Online-Inhalte nur ein Faktor von vielen. Aber: Generative KI wird dazu eingesetzt, Wähler*innen zu täuschen. Sogenannte Deepfakes imitieren die Stimmen von Politiker*innen und lassen Bildmaterial mit ihnen wie authentische Aufnahmen aussehen. Damit können Aussagen und Auftritte generiert werden, die einzelne Politiker*innen diskreditieren. AlgorithmWatch hat in einigen Untersuchungen festgestellt, dass KI-Chatbots falsche und ungenaue Antworten liefern, politische Skandale und Umfragewerte erfinden oder auch falsche Wahldaten nennen.

Desinformationskampagnen benutzen Social-Media-Algorithmen, um die öffentliche Meinung zu manipulieren. Inhalte, die Emotionen auslösen, führen tendenziell zu mehr Interaktionen. Also werden solche Inhalte Nutzer*innen häufiger angezeigt. Deshalb bekommen polarisierende Inhalte auf Social-Media-Plattformen generell viel Reichweite. Das kann die Meinungsbildung und die Stimmung gegenüber bestimmten Themen beeinflussen. Die Plattformen verdienen an dieser Polarisierung: Wenn Nutzer*innen länger auf den Plattformen bleiben, kann ihnen mehr Werbung angezeigt werden.

KI und Algorithmen sind nicht selbst eine Gefahr für die Demokratie, gefährlich ist die gesellschaftliche Polarisierung, die KI und Algorithmen verstärken. Nutzer*innen werden oft nur Informationen angezeigt, die mit denen übereinstimmen, die sie sich vorher angesehen haben. Darauf bezieht sich das Stichwort „Filterblase“. So schotten Plattformen Nutzer*innen von Inhalten ab, die nicht ihren Meinungen entsprechen.

KI darf nicht zu einem Instrument werden, um zu polarisieren und zu manipulieren. Deshalb muss KI wirksam kontrolliert werden. Ein Versuch dazu ist die KI-Verordnung der EU, der AI Act. Dieses KI-Gesetz verbietet KI-Systeme, die sehr wahrscheinlich erhebliche Schäden haben werden, zum Beispiel Systeme, mit denen gezielt Menschen manipuliert oder getäuscht werden können.

KI und Diskriminierung: Warum Gesichtserkennung und Überwachung problematisch sind

KI-Systeme sind fehleranfällig und führen manchmal zu Diskriminierung. Beim niederländischen Kindergeld-Skandal wurden viele Unschuldige als Betrüger*innen behandelt und so finanziell ruiniert. Gesichtserkennungssysteme sind ein weiteres Beispiel. Durch sie wurden schon Menschen unberechtigt als Straftäter*innen angeklagt und inhaftiert.

Das Problem geht aber über die Fehleranfälligkeit hinaus: Wenn Menschen im öffentlichen Raum jederzeit mit KI identifiziert und überwacht werden können, wird nicht nur ihr Recht auf Privatsphäre verletzt. KI-Überwachung hat auch eine abschreckende Wirkung. Menschen können dadurch abgehalten werden, an Demonstrationen teilzunehmen oder bestimmte Orte aufzusuchen, die zum Beispiel Hinweise auf ihre politische Ausrichtung oder sexuelle Orientierung geben könnten. In solchen Fällen wären ihre Grundrechte beschnitten, das Recht auf freie Meinungsäußerung oder das Recht auf Versammlungsfreiheit.

Gerade repressive Regierungen setzen auf diesen Effekt, zum Beispiel vor Kurzem in Argentinien. Biometrische Massenüberwachung mit KI-Gesichtserkennung trifft besonders stark ohnehin schon benachteiligte Personen und Gruppen sowie politische Aktivist*innen. In Russland verhaftete die Polizei Menschen, die an der Beerdigung des Dissidenten Alexej Nawalny teilgenommen hatten. Eine Gesichtserkennung-Software identifizierte diese Personen, indem sie Aufnahmen der Trauerfeier analysierte. Die Bilder kursierten auf Social Media oder stammten von Überwachungskameras.

KI Diskriminierung passiert, wenn KI falsch eingesetzt wird. Die Technik kann zum Beispiel in Einstellungsverfahren oder bei Kreditvergaben Menschen wegen ihrer ethnischen Zugehörigkeit, ihrem Geschlecht oder ihrem Alter rechtswidrig ausschließen. KI wertet zwar Daten aus, aber das bedeutet nicht, dass ihre Entscheidungen zwangsläufig faktenbasiert, objektiv und präzise sind.

KI und Nachhaltigkeit: Eine Belastung für die Umwelt

KI beruht auf Rechenleistung, die Energie verbraucht. Es ist sehr rechenintensiv, beim Training verwertbare Muster in Datensätzen zu finden und dann während des Betriebs der KI-Systeme zu prüfen, ob die KI-Vorhersagen auch eintreffen. Eine bestimmte Hardware ist dafür notwendig, die in Rechenzentren untergebracht wird. Für die Server dort werden Mineralien benötigt, die in Batterien und Mikroprozessoren stecken. Die Menschen, die diese Mineralien abbauen, sind furchtbaren Arbeitsbedingungen ausgesetzt. Elektro-Abfälle sind oft nicht wiederverwertbar und landen auf Müllhalden in Asien, wo die Menschen unter den Umweltfolgen leiden.

Es ist bekannt, dass Rechenzentren genauso wie die Produktion und der Betrieb der Hardware erheblich zum globalen Kohlenstoffdioxid-Ausstoß beitragen. Aber es liegen kaum Informationen über den tatsächlichen KI-Energieverbrauch und die von KI verursachten Emissionen vor. Dadurch wird es schwieriger, politische Lösungen zu finden, um diese Emissionen zu reduzieren.

Wenn Server in Rechenzentren in Betrieb sind, wird elektrische Energie in Wärme umgewandelt. Um eine Überhitzung der Server zu verhindern, müssen die Server gekühlt werden. Oft wird dazu Wasser verwendet. Beim Training von großen KI-Modellen können Millionen Liter Frischwasser für die Kühlung der Kraftwerke und KI-Server verdampfen. Die enorm gestiegene Nachfrage nach KI führt auch zu einem immer größeren Wasserbedarf. Googles KI-Wasserverbrauch ist zwischen 2021 und 2022 um 20 Prozent gestiegen und hat sich in bestimmten Dürregebieten sogar verdoppelt. In diesem Zeitraum verzeichnete Microsoft einen Anstieg seines KI-Wasserverbrauchs um 34 Prozent.

KI und Marktkonzentration: Warum KI durch Gesetze reguliert werden sollte

Google, Amazon, Apple, Meta und Microsoft: Diese fünf US-amerikanischen IT-Unternehmen dominieren unseren digitalen Alltag. Sie teilen den Markt für digitale Dienste unter sich auf. Von den Konzernen stammen die meistgenutzten Betriebssysteme, Programme und Online-Dienste: die digitalen Infrastrukturen. Wir geraten dadurch in eine gefährliche Abhängigkeit von ihnen. Weite Teile unserer Wirtschaft und der staatlichen Infrastruktur kommen nicht ohne die Produkte der US-Unternehmen aus.

Die öffentliche Verwaltung in Deutschland ist zum Beispiel von Microsoft abhängig. Viele der Bundesbehörden und die Bundesländer – mit Ausnahme von Schleswig-Holstein – verwenden Microsoft-Produkte wie Office 365, Azure oder Teams. Diese Dienste funktionieren nur zuverlässig, solange Microsoft Updates durchführt. In so einer Situation kann ein „Lock-in-Effekt“ auftreten: Kund*innen können wegen zu hoher Kosten oder eines Mangels an Alternativen Produkte, Dienstleistungen oder Anbieter nicht wechseln, weil sie von von ihnen abhängig sind.

Da die Produkte und Dienste der fünf IT-Konzerne den Markt beherrschen, haben die Unternehmen eine große Verhandlungsmacht: Sie können Preise und Bedingungen für Lieferanten diktieren. Das macht es Wettbewerbern extrem schwer, unabhängige Alternativen zu entwickeln. Gerade stellen KI-Konzerne ihre Produkte als Universallösung für alles Mögliche dar. Hier ist besonders Vorsicht geboten: Ein voreiliger Einsatz von KI ohne nachprüfbaren Nutzen wird nur dazu führen, dass die Macht der Konzerne weiter wächst.

---

---