Die Digitalstrategie scheint in Künstlicher Intelligenz (KI) vor allem ein Allheilmittel für komplexe gesellschaftliche Probleme zu sehen. KI-gestützte Systeme sollen Prozesse in der Arbeits- und Sozialverwaltung optimieren, Menschen mit Behinderungen in Form von Assistenztechnologien besser am Arbeitsleben teilhaben lassen und gezielt Desinformation im Netz erkennen. Sicherheitsrisiken und mögliche Benachteiligungen durch KI-Systeme werden kurz erwähnt, auch soll KI gemeinwohlorientiert entwickelt werden, aber konkrete Maßnahmen fehlen. Mit Blick auf Algorithmen und KI ist die Digitalstrategie daher enttäuschend. Die umfassenden Vorschläge aus der Zivilgesellschaft, wie sich KI gemeinwohlorientiert gestalten ließe, finden keine Berücksichtigung.
Eigenverantwortung statt Schutz von Betroffenen
Die Verantwortung wird zudem an verschiedenen Stellen auf die Verbraucher*innen und Betroffenen abgeschoben, anstatt Risiken durch entsprechende Rahmenbedingungen einzudämmen. Die Digitalstrategie verpasst es, durch konkrete Maßnahmen den Einsatz von KI und Algorithmen tatsächlich gemeinwohlorientiert und im Interesse der Menschen zu gestalten. Dabei zeigen Beispiele wie der AMS-Algorithmus in Österreich oder der Skandal um das SyRI-System in den Niederlanden, wie wichtig wirksame Rahmenbedingungen sind – gerade dann, wenn KI-gestützte Systeme in der Verwaltung zum Einsatz kommen sollen.
Konkret braucht es Folgenabschätzungen und öffentliche Register, in denen Informationen zu allen in der öffentlichen Verwaltung eingesetzten Algorithmen enthalten sind. Nur so kann Transparenz über den Einsatz von KI durch Staat und Verwaltung hergestellt werden.
Auch verstärkte „Verbrauchersouveränität im Umgang mit KI” reicht nicht aus. Wir fordern einen zuverlässigen Schutz individueller Rechte – unter anderem eine Anpassung des Allgemeinen Gleichbehandlungsgesetzes, die algorithmenbasierte Diskriminierung berücksichtigt.
Schöne neue Arbeitswelt
Die Digitalstrategie führt an, wie wichtig der Beschäftigtendatenschutz ist, um „grundrechtswahrend und rechtssicher den Weg” zu einer „neuen Arbeitswelt“ zu ebnen. Gerade mit zunehmender Überwachung am Arbeitsplatz zeigt sich, dass es nicht allein um Datenschutz geht. Wenn mehr KI-Systeme am Arbeitsplatz eingesetzt werden, muss durch verschiedene Maßnahmen auch sichergestellt werden, dass Beschäftigte, Betriebsräte und Gewerkschaften Mitbestimmungsmöglichkeit haben.
Vorsichtige Schritte in Richtung Nachhaltigkeit
Schließlich greift die Digitalstrategie auf, was die Regierung im Koalitionsvertrag versprochen hat: Abwärme von Rechenzentren soll besser genutzt und Umweltmanagementsysteme etabliert werden. Aber es bedarf dringend konkreterer Maßnahmen und Zielsetzungen, die über das Schaffen von „Grundlagen“ hinausgehen. Angesichts der Klimakatastrophe muss die Regierung ambitionierter handeln.
Es soll auch mehr in die Forschung zu Green ICT/Clean IT und nachhaltiger KI investiert werden, was wir sehr begrüßen. Konkrete Schritte für den Transfer von Forschung in die Industrie fehlen aber. Wie sollen Methoden zur energieeffizienten Software- und KI-Entwicklung etabliert werden? Konkrete Ideen: Fehlanzeige.