Digitaler Aufbruch? – Ampel-Koalitionsvertrag zeigt gute Ansätze, Klärungsbedarf bleibt

Mehr Automatisierung in der Verwaltung, Nachbesserung bei Risikokontrolle

Gleich das erste Kapitel eröffnet die Perspektive auf einen „digitalen Aufbruch“ für die öffentliche Verwaltung, unter anderem durch den vermehrten Einsatz von „Automation“, wie es im Koalitionsvertrag genannt wird. Digitale und automatisierte Verwaltungsleistungen sollen das „Leben der Menschen einfacher“ machen. Dieses Potenzial kann Automatisierung in der öffentlichen Verwaltung unter Umständen ausschöpfen. Gleichzeitig zeigt der Blick in andere europäische Länder, welche Risiken von sogenannten ADM-Systemen ausgehen können. Gerade wenn es um existenzsichernde Maßnahmen geht, wie bei der neuen Kindergrundsicherung, die automatisiert berechnet und ausgezahlt werden soll, darf es nicht zu falschen, diskriminierenden oder benachteiligenden Entscheidungen kommen. Es braucht daher Transparenz- und Kontrollmechanismen, wie beispielsweise öffentliche Register und verpflichtende fallbezogene Technikfolgenabschätzungen für alle verwendeten ADM-Systeme. Der Koalitionsvertrag sagt dazu nichts. Aber die Ampel-Koalition wird sich am eigenen Anspruch, jeglicher Diskriminierung entgegenzuwirken, messen lassen müssen.

Stärkung der digitalen Zivilgesellschaft, auch für Plattformregulierung

Die geplante Anpassung des Allgemeinen Gleichbehandlungsgesetzes (AGG) setzt ebenfalls hier an. Das AGG soll weiter angewendet werden. Wir fordern mehr: In Anbetracht von Diskriminierung durch Algorithmen muss es ein Verbandsklagerecht geben, um gegen Diskriminierungen ohne identifizierbares Opfer durch Algorithmen vorgehen zu können. Diskriminierende Empfehlungen auf großen Online-Plattformen, beispielsweise bei der Anzeige von Job-Angeboten, werden sonst nicht erfasst. Die diskriminierenden Praktiken sind für die Betroffenen in der Regel nicht zu erkennen, sondern können vornehmlich durch systematische Analysen von Watchdog-Organisationen aufgedeckt werden. Wo die Opfer der Diskriminierung nicht auf den ersten Blick erkennbar sind, gibt es bisher keine Handhabe gegen die Plattformen. Bei einer Anpassung des AGG darf die Ampel-Koalition nicht die Chance verstreichen lassen, diesen Umstand zu ändern.

Damit zivilgesellschaftliche Organisationen große Online-Plattformen zur Verantwortung ziehen können, ist der Zugang zu Plattformdaten entscheidend. Auf EU-Ebene wird im Digitale-Dienste-Gesetz (Digital Services Act – DSA) darum gerungen, wer Zugang zu diesen Daten erhalten kann. Die Ampel-Koalition spricht sich dafür aus, den „Zugang zu Daten sehr großer Plattformen für Forschungszwecke“ zu ermöglichen. Entscheidend ist, dass nicht nur universitäre Forschung Zugang erhält, sondern auch Journalist·innen und zivilgesellschaftliche Organisationen, die Forschung im öffentlichen Interesse durchführen. Außerdem darf Plattformen nicht die Möglichkeit eingeräumt werden, sich hinter “Geschäftsgeheimnissen” zu verstecken, um diesen Datenzugang zu verweigern. Mit Blick auf die anstehenden Trilog-Verhandlungen zwischen EU-Parlament, Mitgliedsstaaten und Europäischer Kommission, muss die Ampel ihre Position deutlicher formulieren.

Europäische Lösungen, wenig Substanz beim Finanz-Scoring

Den Blick nach Europa scheut die Ampel in der Digitalpolitik nicht. Nutzer·innenrechte sollen über den DSA gestärkt werden. Und auch die von der EU geplante KI-Verordnung (AI Act) mit ihrem risikobasierten Ansatz wird unterstützt – ein Ansatz, der durchaus auf Kritik gerade aus der Zivilgesellschaft stößt. Hier macht die Ampel-Koalition dennoch ermutigende Vorstöße. Sowohl biometrische Erkennung im öffentlichen Raum als auch KI-basierte, automatisierte staatliche Scoring-Systeme seien europarechtlich auszuschließen. Wir hoffen, dass auf dem langen Weg nach Brüssel diese Forderungen nicht aufgeweicht werden. Bei biometrischer Massenüberwachung muss ein vollständiges Verbot das Ziel sein.

Leider sind die Aussagen zum Finanz-Scoring, wie es private Finanz-Auskunfteien wie die Schufa betreiben, nicht so ambitioniert wie beim staatlichen Scoring. Die Koalition verspricht lediglich zu prüfen, inwiefern Transparenz zugunsten der Betroffenen erhöht werden kann. Hier zeigt sich Nachholbedarf. Unsere konkreten Forderungen sind, kostenfreien digitalen Zugang für Betroffene zu schaffen: zu den gespeicherten Informationen bei den Auskunfteien und zu den errechneten Scores. Außerdem müssen die Aufsichtsbehörden nicht nur regelmäßig begutachten, ob die eingesetzten Scoring-Verfahren rechtmäßig sind, sie müssen vor allem erst einmal in die Lage versetzt werden, diese Aufgabe erfüllen zu können.

Mutlos bei ADM in der Arbeitswelt, Auftakt für die Nachhaltigkeit

Mehr Mut für einen Aufbruch haben wir uns beim Einsatz von ADM-Systemen in der Arbeitswelt gewünscht. Ein Beschäftigtendatenschutzgesetz, das bereits seit elf Jahren im Raum steht, wird nun erneut in Aussicht gestellt. Wir beobachten gespannt, ob es jetzt tatsächlich angegangen wird. Ebenfalls wird Plattform-Arbeit in den Blick gerückt. Die Pläne sind wenig ambitioniert. Keine Worte zum Arbeitnehmer·innenstatus und der Scheinselbstständigkeit von Plattform-Arbeiter·innen oder zur leichteren tariflichen Organisation von Gig-Workern, wie noch in den Wahlprogrammen von Grünen und SPD gefordert.

Für die ökologische Nachhaltigkeit im Zusammenhang mit Künstlicher Intelligenz und ADM gibt es einen Auftakt – allerdings vor allem mit Blick auf die Nachhaltigkeit von Rechenzentren. Öffentliche Rechenzentren sollen bis 2025 anhand eines europäischen Auditierungsverfahrens (EMAS) ihre Umweltauswirkungen verbessern. Der Bund soll standardmäßig bei IT-Beschaffungen auf nach Umweltzeichen zertifizierte IT setzen. Neue Rechenzentren sind ab 2027 klimaneutral zu betreiben. Darüber hinaus ist es dringend notwendig in den nächsten vier Jahren die ökologischen, sozialen und ökonomischen Nachhaltigkeitsauswirkungen von Systemen künstlicher Intelligenz in den Blick zu nehmen. Von der Ampel-Koalition gibt es hierzu bisher keine Pläne.

Digitale Zivilgesellschaft steht bereit

Die digitale Zivilgesellschaft wird laut Koalitionsvertrag gestärkt – auch durch den Einbezug von zivilgesellschaftlichen Stimmen in digitalpolitische Vorhaben. Wir sehen viele Anknüpfungspunkte. Der Koalitionsvertrag setzt zwar wichtige Schwerpunkte, aber bleibt in vielen Fragen erstaunlich vage. Wir bei AlgorithmWatch, auch als Teil des Bündnisses F5 mit der Gesellschaft für Freiheitsrechte, der Open Knowledge Foundation, Reporter ohne Grenzen und Wikimedia Deutschland, erwarten von der neuen Regierung bald konkrete Gesprächsangebote.

Lesen Sie mehr zu unserer Policy & Advocacy Arbeit zum Bündnis F5.