Güte gemeint

Ein Kommentar von Lorenz Matzat

Der Bundesverband KI präsentierte vor kurzem ein „KI Gütesiegel“. Der eingetragene Verein wurde im Frühjahr 2018 in Deutschland gegründet und besteht laut eigenen Angaben aus 160 Expert*innen und Unternehmen, die wohl meist als Start-ups zählen dürften.

Das Gütesiegel, das sich zum jetzigen Zeitpunkt selbst vergeben werden kann, gleicht also mehr einer Selbstverpflichtung. Damit ist die Bezeichnung Gütesiegel eher unglücklich gewählt. Suggeriert sie doch, dass das Siegel von einem Dritten vergeben oder verliehen wurde. Ebenfalls unglücklich ist, dass der Bundesverband in dem siebenseitigen Papier zum Siegel keine klare Definition von „Künstlicher Intelligenz“ (KI) liefert (die fehlt zudem sowohl in der Satzung des Verbandes als auch in einem umfangreichen Positionspapier namens „9 Punkte Plan").

Der Bundesverband KI benennt vier Gütekriterien, an denen sich ein KI-Unternehmen selbst messen soll: Ethik, Unvoreingenommenheit, Transparenz, Sicherheit/Datenschutz. Und so stecken in dem Papier zwar einige bedenkenswerte Aspekte und angebrachte Ansätze. Nur mangelt es immer wieder an Schärfe, Deutlichkeit sowie mess- oder bezifferbaren Zielvorgaben. Gleich zu Beginn unter „Ethik“ heißt es etwa: "Künstliche Intelligenz soll zu mehr Freiheit, Gleichheit, Gerechtigkeit, Solidarität, Toleranz und Pluralismus führen und es ist sicher zu stellen, dass sie nicht zur Diskriminierung oder gegen Demokratie oder Menschenrechte genutzt wird.“ Wie soll das auch nur annähernd gewährleistet werden, ohne umfangreiche Testreihen, Technologiefolgeabschätzungen und anschließender Evaluation? Noch dazu von kleinen Unternehmen, die zu Beginn aus einigen wenigen Personen bestehen und über knappe Geldressourcen verfügen? Auf welche Weise könnte die Einhaltung solcher Kriterien beim Einsatz durch einen Kunden garantiert werden? Und wie wiederum sollten Dritte von außen bewerten können, ob das Unternehmen dem sich selbst vergebenen Gütesiegel gerecht wird?

Es ist begrüßenswert, dass sich der Bundesverband KI den ethischen Herausforderungen beim Einsatz von so genannter Künstlicher Intelligenz stellen möchte und seine Mitglieder sensibilisieren will. Allerdings ist das vorliegende Papier dafür unzureichend. Die jüngst erschienene erste Fassung eines umfangreichen Leitfadens des Institute of Electrical and Electronics Engineers (IEEE) für „Ethically Aligned Design“ macht deutlich: So etwas ist ein langwieriges und komplexes Unterfangen.

Möglicherweise wäre eine Checkliste oder ein Fragenkatalog als Handreichung für KI-Unternehmen ein hilfreicher Ansatz. Siehe beispielsweise die „Principles for Accountable Algorithms and a Social Impact Statement for Algorithms“.  Ein Unternehmen könnte solch eine Fragenkatalog beantworten und die Antworten veröffentlichen. Potentielle Kunden, aber auch z.B. die Zivilgesellschaft, können sich dann selbst einen Eindruck verschaffen, ob der Ansatz des Unternehmens und sein Produkt ein Gütesiegel verdient hätten.

Lesen Sie mehr zu unserer Policy & Advocacy Arbeit zu ADM im öffentlichen Sektor.