Die EU und der DSA: Es ist Zeit, sich die großen Tech-Konzerne vorzuknöpfen
Nach monatelangem Tauziehen hat das EU-Parlament heute das Gesetz über digitale Dienste (Digital Services Act, DSA) verabschiedet. Es soll Facebook, YouTube und andere großen Online-Plattformen zwingen, Risiken zu erkennen und zu beseitigen, die sie für einzelne Personen und die öffentliche Meinungsbildung darstellen. Das ist ein großer Schritt. Doch der Erfolg des DSA hängt davon ab, ob das geplante Gesetz auch wirksam durchgesetzt wird.
Dieser Text ist zuerst als Standpunkt beim Tagesspiegel Background Digitalisierung & KI sowie als Op-ed auf Englisch bei Thompson Reuters Foundation News erschienen.
Am 9. März wurde bei einem Luftangriff in der ukrainischen Stadt Mariupol eine Entbindungs- und Kinderklinik schwer getroffen. Mindestens fünf Menschen starben, 17 weitere wurden verletzt. Die Bilder von den Folgen des Bombenangriffs schockierten die Welt, wie das einer Hochschwangeren auf einer Trage, die kurz vor ihrem Tod noch schützend die Arme um ihren Bauch legte.
Sofort als die Nachrichten über diese Bombardierung die Runde machten, begann die russische Botschaft in London, über Twitter ihren Wahrheitsgehalt anzuzweifeln. Ohne jeden Beleg verbreitete sie Behauptungen, das Krankenhaus sei während des Angriffs gar nicht in Betrieb gewesen, die Bilder seien inszeniert. Zu dem Zeitpunkt waren Twitter und andere Plattformen bereits länger damit beschäftigt, die prorussische Desinformationswelle in den Griff zu bekommen, die lange vor der Invasion in der Ukraine ins Rollen gekommen war. Zwar entfernte Twitter die Tweets der Botschaft, aber die falschen russischen Narrative entwickelten in den sozialen Medien ein Eigenleben. Twitters Empfehlungsalgorithmus trug sein Übriges dazu bei, dass solche Nachrichten ein Publikum fanden und finden.
Der Krieg in der Ukraine ist auch ein Informationskrieg. Er ist nur ein Beispiel von vielen: Desinformation gedeiht auf Online-Plattformen besonders gut. Davon geht eine Gefahr aus, die die soziale und institutionelle Verfassung der EU bedroht.
Die großen Plattformen wie Facebook, YouTube, Twitter und Instagram haben einen immensen Einfluss darauf, wie wir uns in demokratischen Gesellschaften unterhalten. Doch den großen Tech-Konzernen bleibt es nach wie vor im Wesentlichen selbst überlassen, wie sie mit den Informationen umgehen, die über ihre Dienste verbreitet werden. Dadurch sind einige wenige Konzerne, die immer wieder bewiesen haben, dass ihnen die eigenen Gewinne wichtiger sind als das Gemeinwohl, sehr mächtig geworden. Sie spielen die Gefahren, die von ihren Angeboten ausgehen, konsequent herunter oder ignorieren sie gleich ganz. Die von der Whistleblowerin Frances Haugen veröffentlichten Dokumente beweisen beispielsweise, dass über einen neuen Newsfeed-Algorithmus von Facebook bekannt war, dass er die Verbreitung von Desinformationen und Gewaltinhalten auf der Plattform begünstigen würde. Doch Facebooks Topmanagement beachtete die Warnungen der eigenen Forschungsabteilung nicht. Ihm ging es letztlich nur darum, dass der Algorithmus die Auseinandersetzungen der Nutzer*innen anfachen würde, was immer gut fürs Geschäft ist.
Die EU hat die Notwendigkeit erkannt, die Regeln zu ändern, um die Macht der Tech-Konzerne einzudämmen und die großen Plattformen zur Verantwortung zu ziehen. Aus dieser Einsicht heraus ist der Vorschlag für ein Gesetz über digitale Dienste (DSA) entstanden: Ein mehr als 300 Seiten starkes Regelwerk, das Tech-Unternehmen vorschreibt, was sie gegen gesetzwidrige Inhalte auf ihren Plattformen tun müssen, wie sie die Rechte ihrer Nutzer*innen schützen und was sie gegen ihren schädlichen Einfluss auf einzelne Menschen und die gesamte Gesellschaft tun müssen – sonst drohen ihnen Geldstrafen in Milliardenhöhe.
Mit dem DSA soll etwas gegen die schlimmsten Auswüchse der Plattformen getan werden: Etwa Tracking-basierte Werbeanzeigen und irreführendes Design („dark patterns“). Er führt wichtige Schutzmaßnahmen ein: Bessere Verfahren, um Online-Inhalte zu markieren, die möglicherweise illegal sind, oder auch Wege, Moderationsentscheidungen zu bestimmten Inhalten anzufechten.
Die vielleicht innovativste Auflage für Online-Plattformen besteht darin, dass sie sogenannte systemische Risiken identifizieren und gegen sie vorgehen müssen. Systemische Risiken sind eine direkte Folge des Plattformdesigns und der Verwendung der Dienste. Dazu gehört, dass dort Hassrede verbreitet und Grundrechte verletzt, gesellschaftliche Diskurse und Wahlprozesse manipuliert werden. Von entscheidender Bedeutung ist, dass unabhängige Prüfer*innen, Regulierungsbehörden und externe Forscher*innen beurteilen müssen, ob die Plattformen angemessen mit solchen systemischen Risiken umgehen. Dazu erhalten diese Aufsichtsinstanzen Zugang zu den Plattformdaten.
In der Vergangenheit haben sich die Plattformen wiederholt gegenüber Forscher*innen, die Plattformdaten untersuchen wollten, geradezu feindselig gezeigt. Im DSA wird nun der Datenzugang für Drittparteien eingeführt. Das ist eine notwendige Voraussetzung dafür, damit in unserer Gesellschaft eine informierte und faktenbasierte Debatte darüber stattfinden kann, wie Plattformen die öffentliche Meinungsbildung beeinflussen. Wir können es nicht den Plattformen selbst überlassen, ihre automatisierten Systeme auf den Prüfstand zu stellen. Wir müssen erfahren, wie sie durch Empfehlungsalgorithmen und gezielte Werbung Inhalte personalisieren, wie sie mit illegalen Inhalten umgehen, wie sie Beschwerden von Nutzer*innen behandeln und wie sie Nutzungsbedingungen anwenden. Obwohl der DSA längst nicht perfekt ist – was zweifellos auch an der massiven Lobbyarbeit der großen Konzerne liegt – könnte er doch als Ganzes gesehen einen Paradigmenwechsel bei der Regulierung von Tech-Unternehmen einläuten. Doch selbst wenn es so sein sollte: Die großen Erwartungen, die der DSA weckt, können nur erfüllt werden, wenn sein Regulierungsansatz konsequent in die Praxis umgesetzt wird.
Lesen Sie mehr zu unserer Policy & Advocacy Arbeit zu ADM und öffentlicher Meinungsbildung.