Habeck, Boss der Bosse

Dieser Text erschien als Gastbeitrag in der Süddeutschen Zeitung.

Bei der Entwicklung künstlicher Intelligenz, so heißt es allenthalben, droht Deutschland abgehängt zu werden von den USA und Firmen wie Open AI, die sogenannte Systeme generativer KI herstellen, wie Chat-GPT. Beinahe im Wochentakt melden sich Wirtschaftsverbände und Wissenschaft mit Forderungen an die Regierung, mehr Forschungsgeld zur Verfügung zu stellen, und warnen vor Überregulierung.

Da war es für Wirtschaftsminister Robert Habeck eine willkommene Abwechslung, dass er Anfang November in Berlin vor die Presse treten konnte, um einen wirtschaftspolitischen Coup zu präsentieren. Gemeinsam mit dem Gründer und CEO Jonas Andrulis verkündete er, dass Andrulis' Unternehmen Aleph Alpha 500 Millionen US-Dollar Kapital zugeschossen bekommt. Aleph Alpha, ein Start-up aus Heidelberg, entwickelt große Sprachmodelle, die mit Chat-GPT und anderen konkurrieren können sollen. Das Geld kommt in erster Linie von den deutschen Unternehmen Schwarz Gruppe (Lidl, Kaufland), SAP und Bosch. Habeck sprach von einer „wahnsinnigen Erfolgsgeschichte“ und davon, dass Europa beim Thema KI „richtig Hackengas geben“ müsse, um international nicht abgehängt zu werden.

„Wir brauchen auch noch ein paar Feldspieler, nicht nur
Schiedsrichter“

Dass ein amtierender Vizekanzler einem Start-up persönlich zu einer Finanzierungsspritze gratuliert, hatte es wohl noch nicht gegeben. Das Manager Magazin berichtete, dass die mehrheitlich deutschen Kapitalgeber die US-Konzerne Intel und Nvidia ausgestochen hätten, die bereits einige Monate zuvor ihre Absicht erklärt hatten, in Aleph Alpha zu investieren. Dass nun also eine deutsche Allianz dazwischenfunkt, ist auch dem Engagement von Bundeskanzler Olaf Scholz und Wirtschaftsminister Robert Habeck zu verdanken", so das Blatt. Ohne weitere Belege, vor allem aber auch ohne den Grund dafür zu nennen, dass Schwarz, Bosch und SAP offenbar ihr Angebot so aufgepeppt hatten, dass es das von Intel und Nvidia übertrumpfte.

Wer Geld in ein Unternehmen steckt, verspricht sich davon eine Rendite, und wenn die nicht hoch genug ausfällt, sucht er sich entweder eine andere Anlage oder verhandelt Bedingungen, die die Gewinnprognose verbessern. Welche könnten das sein? Einen wenig subtilen Hinweis lieferte der Aleph-Alpha-Chef bei der Berliner Pressekonferenz: Die Politik solle die anstehende Regulierung der KI nicht übertreiben, so Andrulis: „Wir brauchen auch noch ein paar Feldspieler, nicht nur Schiedsrichter.“

Vier Tage später fuhr der jüngste Verhandlungstermin zum „Gesetz über künstliche Intelligenz“ der EU, auch bekannt als AI Act, in Brüssel spektakulär gegen die Wand. Die Verhandlungsführer des EU-Parlaments brachen nach zwei Stunden die Gespräche ab. Der Grund: Keine Einigung darüber, welche Anforderungen „Foundation Models“ erfüllen müssen, was aktuelle Brüssel-Terminologie ist für die generativen KI-Systeme von Open AI, Google und Meta - aber eben auch von Aleph Alpha und Mistral AI aus Frankreich, das im Juni 113 Millionen Euro Risikokapital eingeworben hatte. Insidern zufolge hatten große Mitgliedstaaten, allen voran Deutschland und Frankreich, die Vorschläge des EU-Parlaments dazu abgelehnt, wie man diese Modelle regulieren könne. Und zwar so vehement, dass nun das gesamte Gesetz zu scheitern droht.

Habecks Wirtschaftsministerium (BMWK) führt, gemeinsam mit dem Justizministerium, für Deutschland die Verhandlungen mit Kommission, Mitgliedstaaten und Parlament der EU über den AI Act. Die Verhandlungen laufen seit April 2021 und inzwischen unter Hochdruck, denn sie sollen noch in diesem Jahr abgeschlossen werden. Das Gesetz soll gewährleisten, dass die „verwendeten KI-Systeme sicher sind und die bestehenden Grundrechte und die Werte der Union wahren“.

Selbstverständlich kann man KI regulieren und zugleich Innovationen ermöglichen

Das KI-Gesetz, für das seit April 2021 ein Entwurf vorliegt, soll den Schutz der Grundrechte allerdings mit der Logik von Marktregulierung und Produktsicherheit erreichen. Unternehmen, die KI-Systeme entwickeln und verwenden, sollen dafür sorgen, dass ihre Produkte „Konformitätskriterien“ entsprechen, die etwa durch technische Standards definiert werden. Dahinter steht die falsche Annahme, dass Gefahren, die durch technische Entwicklungen entstehen können, immer auch wirksam mit technischen Lösungen begegnet werden kann.

Diskriminierung etwa soll unter anderem dadurch verhindert werden, dass die Datenqualität verbessert wird. Beispiel KI-basierte Gesichtserkennung: Weil Systeme mit mehr Daten von hellhäutigen als von dunkelhäutigen Menschen trainiert werden, ist die Fehlerrate beim Erkennen dunkelhäutiger Menschen höher als bei hellhäutigen. Die Lösung: Bessere Trainingsdaten! Dass das zu geringeren Fehlerraten führen kann, aber damit eben genau auch dazu, dass die Systeme besser zur Überwachung und Kontrolle dunkelhäutiger Menschen eingesetzt werden können, ist im Grunde nicht schwer zu verstehen. Es wirklich zu ändern, würde aber bedeuten, sowohl Unternehmen als auch Regierungen zu verbieten, KI-Technologien für bestimmte Praktiken einzusetzen, also etwa automatisierte Gesichtserkennung an öffentlichen Orten, Emotionserkennung per Computer oder KI-basierte Profilbildung von Migrantinnen und Migranten. In all diesen Fällen würden Grundrechte ausgehöhlt, wovon vor allem ohnehin bereits marginalisierte Minderheiten betroffen wären. Man kann diesen Gefahren aber nicht damit Herr werden, dass die Technik bestimmten Normen entspricht - sondern damit, dass man sie nicht für einen bestimmten Zweck verwendet.

Aus der Ampelregierung gab es durchaus ermutigende Signale. Im Koalitionsvertrag gelobten die Parteien, sich dafür einzusetzen, Gesichtserkennung an öffentlichen Plätzen „europarechtlich auszuschließen“. Als dieser Plan dann allerdings, wenig überraschend, auf Gegenwind der Sicherheitspolitiker in Deutschland und anderen EU-Staaten traf, zeigte Habecks Wirtschaftsministerium wenig Engagement, ihn zu verteidigen - ebenso wenig wie andere Forderungen, vor allem aus der Zivilgesellschaft, KI-Technologien nicht für Zwecke einzusetzen, die die Überwachung, Analyse und Sortierung von Menschen ermöglicht.

Nachdem sowohl Parlament und Mitgliedstaaten nach jahrelanger Arbeit ihre Positionen dazu ausgearbeitet hatten, sind sie im Sommer in den sogenannten Trilog eingestiegen. In diesen Verhandlungen müssen sich Kommission, Parlament und Mitgliedstaaten über die konkreten Formulierungen des Gesetzes einigen, damit es in Kraft treten kann. Nach mehreren Gesprächsrunden schien eine Einigung bereits zum Greifen nahe. Nun steht es wieder Spitz auf Knopf. Denn offenbar sind Deutschland und Frankreich bereit, die gesamte Regulierung aufs Spiel zu setzen, um ihren „Nationalen Champions“ ein besseres Investitionsklima zu schaffen. All das aufgrund der Annahme eines falschen Dilemmas, das lautet: entweder Regulierung oder Innovation. Denn selbstverständlich kann man generative KI gesetzlich regulieren und zugleich Innovationen ermöglichen.

Am Dienstag wird Robert Habeck den Digitalgipfel der Bundesregierung eröffnen. Zeitgleich ist der nächste Verhandlungstermin in Brüssel angesetzt, in dem eine Einigung dafür gefunden werden soll, welche Vorgaben generative KI erfüllen muss, um individuelle Rechte und gesellschaftlichen Zusammenhalt nicht zu gefährden. Ob das gelingt, wird entscheidend davon abhängen, was Robert Habeck den Verhandlern seines Ministeriums mit auf den Weg gibt. Sollten die Gespräche platzen und mit ihnen eine Einigung über den AI Act, muss die Antwort auf die Grundsatzfrage, ob sich KI und Ethik auf einen Nenner bringen lassen, lauten: Offenbar nicht.