News

IEEE veröffentlicht erste Fassung seiner Vision für Ethically Aligned Design automatisierter Systeme

Hier finden Sie die deutsche Übersetzung des Executive Summary des IEEE -Leitfadens 'Ethically Aligned Design'…

Das Institute of Electrical and Electronics Engineers (IEEE) hat heute die erste Fassung eines Leitfadens für Ethically Aligned Design veröffentlicht. Der Text entstand im Rahmen der IEEE Global Initiative on Ethics of Autonomous und intelligent Systems und entwirft eine Vision für die Priorisierung von menschlichem Wohlergehen in autonomen und intelligenten Systemen”. Er beinhaltet wissenschaftliche Analysen und liefert pragmatische und anwendungsorientierten Empfehlungen, die in den kommenden Jahren als wichtige Referenz für die Arbeit von Technolog*innen, Pädagog*innen und Politiker*innen dienen sollen. Ethically Aligned Design versteht sich als eine spezifische Anleitung für Standards, Zertifizierung, Regulierung oder Gesetzgebung für Design, Entwicklung und Einsatz von autonomen und intelligenten Systemen.

AlgorithmWatch begrüßt die Veröffentlichung des Leitfadens und betrachtet ihn als wichtigen Schritt auf dem Weg zur Standardisierung und Zertifizierung von automatisierten Entscheidungsprozessen. Wir sind der Überzeugung, dass ethische Grundlagen und gesellschaftliche und politische Richtlinien für automatisierte Systeme in der breiten Öffentlichkeit diskutiert werden müssen.

Aus diesem Grund haben wir die Zusammenfassung ins Deutsche übersetzt und stellen sie hier zur Verfügung, denn im deutschen Sprachraum verdient der Leitfaden Beachtung. Das Dokument spiegelt nicht die Ansichten und Einschätzungen von AlgorithmWatch wider, ist unserer Ansicht nach aber ein wertvoller Impuls für weitere Diskussionen.

 

ETHICALLY ALIGNED DESIGN (1st edition)

Eine Vision für die Priorisierung von menschlichem Wohlergehen in autonomen und intelligenten Systemen

Die Ansichten und Meinungen, die in diesem kollaborativen Werk ausgedrückt werden, sind die der Autor*innen und geben nicht notwendigerweise die offizielle Position oder Strategie ihrer jeweiligen Institutionen oder des Institute of Electrical and Electronics Engineers (IEEE) wieder. Dieses Werk erscheint unter der Schirmherrschaft der IEEE Global Initiative on Ethics of Autonomous and Intelligent Systems mit dem Ziel der Förderung des öffentlichen Verständnisses für die Bedeutung der Berücksichtigung ethischer Überlegungen beim Design autonomer und intelligenter Systeme.

Auf Seite 290 finden Sie unter „How the Document Was Prepared“ weiterführende Informationen über die Entstehung dieses Dokuments.

Einleitung

Je weiter sich autonome und intelligente Systeme (autonomous and intelligent systems – A/IS) durchsetzen, desto dringender müssen wir gesellschaftliche und politische Richtlinien einführen, damit solche Systeme menschzentriert bleiben und menschlichen und ethischen Grundwerten und Prinzipien dienen. Die Systeme müssen auf eine Weise entwickelt werden und funktionieren, dass sie über das simple Erreichen funktioneller Ziele und das Lösen technischer Probleme hinaus Mensch und Umwelt dienen. Dieser Ansatz wird für das erhöhte Maß an Vertrauen der Menschen in die Technik sorgen, das dafür notwendig ist, sie in unserem Alltag gewinnbringend einzusetzen.

Wir, die technische Wissenschaftsgemeinschaft, müssen unsere Herangehensweisen stärker hinterfragen, um positiv und undogmatisch dazu beitragen zu können. Wir müssen eine offene und ehrliche Debatte über unsere expliziten oder impliziten Werte führen; einschließlich unserer Imaginäre* zur sogenannten „Künstlichen Intelligenz“ und den Institutionen, Symbolen und Darstellungen, die sie hervorbringen.

Letztlich sollte unser Ziel die Eudaimonie sein; eine von Aristoteles beschriebene Praxis, die menschliches Wohlergehen sowohl auf der individuellen, als auch auf der kollektiven Ebene als höchste Tugend für eine Gesellschaft definiert: Ungenau mit ‚Glückseligkeit‘ übersetzt, beginnt der Nutzen von Eudaimonie mit dem gezielten Nachdenken darüber, inwiefern uns ethische Erwägungen helfen, zu definieren, wie wir leben wollen.

Ganz gleich, ob unsere ethischen Handlungsweisen in westlichen (z. B. Aristotelisch, Kantianisch), östlichen (z. B. Shinto, 墨家/Schule von Mo, Konfuzianisch), afrikanischen (z. B. Ubuntu) oder anderen Traditionen verwurzelt sind, müssen wir unabdingbar holistische Definitionen von gesellschaftlichem Wohlstand annehmen, statt eindimensionale Ziele wie die Steigerung der Produktivität oder des Bruttosozialproduktes zu verfolgen. Autonome und intelligente Systeme sollten die Priorität und das Ziel haben, unsere unveräußerlichen Grundrechte und unsere Würde explizit zu respektieren, und menschliches Gedeihen und ökologische Nachhaltigkeit zu fördern.

Die IEEE Global Initiative on Ethics of Autonomous und intelligent Systems („The IEEE Globale Initiative“) hat das Ziel, durch ethikorientiertes Design pragmatische und richtungsweisende Erkenntnisse und Empfehlungen zur Verfügung zu stellen, die Technikern, Bildungsexperten und politischen Entscheidungsträgern in den kommenden Jahren als Hauptbezugspunkt für ihre  Arbeit dienen.

Ethically Aligned Design befasst sich mit wissenschaftlichen Analysen und Ressourcen sowie übergeordneten ethischen Prinzipien und anwendungsorientierten Empfehlungen. Der Text bietet eine spezifische Anleitung für Standards, Zertifizierung, Regulierung oder Gesetzgebung für das Design, die Herstellung und Nutzung von A/IS, die nachweislich nach holistisch gedachtem, gesellschaftlichem Wohlergehen und dessen Steigerung streben.

* Die Symbole, Werte, Institutionen und Normen einer gesellschaftlichen Gruppe, durch die sich Menschen ihr Leben vorstellen und ihre Gesellschaften konstituieren.

Zusammenfassung

I. Der Zweck von Ethically Aligned Design, erste Fassung (EAD1e)

Autonome und intelligente technische Systeme sind darauf ausgerichtet, die Notwendigkeit für ein Eingreifen durch Menschen im täglichen Leben zu reduzieren. Dabei wecken diese neuen Systeme Bedenken über ihre Auswirkungen auf den Einzelnen und die Gesellschaft. In der aktuellen Diskussion werden häufig optimistische Erwartungen für die Optimierung von Prozessen und Ressourcenverbrauch, besser fundierten Planungen und Entscheidungen und das Erkennen von nützlichen Mustern in großen Datenmengen (Big Data) vertreten. In der Debatte gibt es aber auch Warnungen vor möglichen Verletzungen der Privatsphäre, vor Diskriminierung, dem Verlust von Fähigkeiten, nachteiligen Auswirkungen auf die Wirtschaft, Risiken für die Sicherheit kritischer Infrastruktur und möglichen negativen Langzeitfolgen für das gesellschaftliche Wohlergehen.

Es liegt im Wesen dieser neuen Technologien, dass sie ihren vollen Nutzen nur dann entfalten werden, wenn sie an gesellschaftlich definierten Werten und ethischen Prinzipien ausgerichtet sind. Der vorliegende Text zielt deshalb darauf ab, einen informativen und gedanklichen Rahmen zu schaffen, der den Dialog und die Debatte um die nicht-technischen Auswirkungen dieser Technologien, insbesondere im Bezug auf ethische Aspekte leitet. Dabei geht ‚ethisch‘ für uns über rein moralische Konstrukte hinaus und bezieht soziale Fairness, ökologische Nachhaltigkeit und unseren Wunsch nach Selbstbestimmung mit ein.

Unsere Analysen und Empfehlungen in Ethically Aligned Design beschäftigen sich ebenso mit den zugrunde liegenden Werten und Absichten wie mit der technischen und rechtlichen Umsetzung. Sie sind zugleich ambitioniert in Bezug auf das erhoffte oder gewünschte Geschehen, und praktisch im Hinblick darauf, was wir–die technische Wissenschaftsgemeinschaft und alle Gruppen, die an diesen Technologien beteiligt oder von ihnen betroffen sind–dafür tun können, dass sich die Gesellschaft in positive Richtungen weiterentwickelt. Die Analysen und Empfehlungen in EAD1e bieten Regierungen, Unternehmen und der breiten Öffentlichkeit eine Orientierungshilfe bieten für die Weiterentwicklung der Technologie zum Wohle der Menschheit.

Kapitelübersicht Ethically Aligned Design, erste Fassung

  1. Von den Prinzipien zur Praxis
  2. Allgemeine Prinzipien
  3. Klassische Ethik in A/IS
  4. Wohlergehen
  5. Affective Computing
  6. Persönliche Daten und individuelle Handlungsmacht
  7. Leitlinien für Methoden ethischer Forschung und ethischen Designs
  8. A/IS für nachhaltige Entwicklung
  9. Einbettung von Werten in autonome intelligente Systeme
  10. Policy
  11. Recht

 

II. Allgemeine Prinzipien

Das ethik- und wertorientierte Design, die Entwicklung und Umsetzung von autonomen und intelligenten Systemen sollte von den folgenden Allgemeinen Prinzipien geleitet werden:

  1. Menschenrechte
    A/IS müssen so gestaltet und eingesetzt werden, dass international anerkannte Menschenrechte respektiert, gefördert und geschützt werden.
  1. Wohlergehen
    Entwickler*innen von A/IS müssen die Steigerung menschlichen Wohlergehens als primäres Erfolgskriterium für die Entwicklung festlegen.
  1. Data Agency
    Entwickler*innen von A/IS müssen den Einzelnen dazu befähigen, auf eigene Daten zuzugreifen und diese sicher zu teilen, um ihnen zu ermöglichen, die Kontrolle über ihre Identität zu bewahren.
  1. Wirksamkeit
    Entwickler*innen und Betreiber*innen von A/IS müssen Beweise für die Effektivität und die Zweckdienlichkeit der A/IS zur Verfügung stellen.
  1. Transparenz
    Die Grundlage einer spezifischen A/IS-Entscheidung muss jederzeit feststellbar sein.
  1. Rechenschaftspflicht
    A/IS sind so zu entwickeln und einzusetzen, dass eine eindeutige Begründung für alle getroffenen Entscheidungen vorliegt.
  1. Bewusstsein für Missbrauch
    Entwickler*innen von A/IS haben vor allem potenziellen Missbrauch und vor möglichen Risiken beim Einsatz zu schützen.
  1. Kompetenz
    Entwickler*innen von A/IS müssen klar definieren, welches Wissen und welche Fähigkeiten für einen sicheren und effektiven Einsatz notwendig sind, und die Anwender müssen sich daran halten.

 

III. Ethische Grundlagen

Klassische Ethik

Ausgehend von der über 2500-Jährigen Tradition klassischer Ethik untersuchten die Autor*innen in Ethically Aligned Design etablierte Ethiksysteme, die sowohl wissenschaftliche und religiöse Ansätze, einschließlich säkularer philosophischer Traditionen, gleichermaßen einbeziehen, um die Frage nach der menschlichen Moral im digitalen Zeitalter zu stellen. Durch die Überprüfung der philosophischen Grundlagen, die Autonomie und Ontologie definieren, hinterfragt dieser Text die angeblich autonomen Fähigkeiten intelligenter technischer Systeme und die Moralität in amoralischen Systemen. Er ergründet, ob die von einem amoralischen System getroffenen Entscheidungen moralische Konsequenzen haben können.

 

IV. Einflussbereiche

A/IS für nachhaltige Entwicklung

Durch den bezahlbaren und universalen Zugang zum Internet und zu Kommunikationsnetzen können autonome und intelligente Systeme der Bevölkerung überall verfügbar gemacht werden und zugutekommen. Sie können Institutionen und institutionelle Beziehungen in menschen-zentriertere Strukturen transformieren, humanitäre Probleme und nachhaltige Entwicklungsziele angehen und damit das individuelle, gesellschaftliche und ökologische Wohlergehen verbessern. Damit das menschliche Wohlergehen zum wichtigsten Erfolgskriterium für die Entwicklung von A/IS wird, könnten solche Bemühungen unterstützt werden durch die Anerkennung und Einhaltung von etablierten Indikatoren gesellschaftlicher Lebensfülle wie den nachhaltigen Entwicklungszielen der Vereinten Nationen (Sustainable Development Goals – SDG).

Individuelle Datenschutzrechte und die Handlungsmacht über die eigene digitale Identität

Menschen haben das Recht, auf ihre Daten und die Einsichten, die sie bieten, zuzugreifen, sie zu teilen und von ihnen zu profitieren. Einzelpersonen brauchen Mechanismen, um die Bedingungen für den Zugang zu ihrer Identität und ihren persönlichen Daten zu schaffen und zu verwalten, sowie deren sicheren, anlassbezogenen und begrenzten Austausch zu kontrollieren. Außerdem bedarf es politischer Richtlinien und Verfahren, die ihnen die Konsequenzen deutlich machen, die sich aus der Anhäufung oder dem Weiterverkauf ihrer persönlichen Informationen ergeben.

Rechtliche Rahmenbedingungen für Rechenschaftspflicht

Der Zusammenfluss von autonomen und intelligenten Systemen mit Robotiktechnologien hat zur Entwicklung von Systemen geführt, die menschliche Eigenschaften simulieren, wie etwa Teil-Autonomie, die Fähigkeit zur Erledigung spezifischer intellektueller Aufgaben und sogar ein menschliches Erscheinungsbild. Die Frage nach dem legalen Status komplexer autonomer und intelligenter Systeme ist daher verwoben mit weiter gefassten rechtlichen Fragen dazu, wie im Schadensfall Verantwortlichkeit sichergestellt und Haftung zugeordnet werden kann. Es ist klar dass:

  • autonome und intelligente technische Systeme dem auf Eigentum anwendbaren Recht unterliegen sollten.
  • die Regierung und Industrie die Arten von Entscheidungen und Vorgängen identifizieren müssen, die niemals an solche Systeme delegiert werden sollten. Diese Akteure sollten Vorschriften und Standards festlegen, die die Ausübung effektiver menschlicher Kontrolle über diese Entscheidungen und die klare Zuordnung der rechtlichen Verantwortung für verursachte Schäden sicherstellen.
  • die Erscheinungsformen, die durch autonome und intelligente Systeme generiert werden, generell durch nationales und internationales Recht geschützt sein sollten.
  • die Entwicklung von autonomen und intelligenten Systemen durch Standards für Transparenz, Kompetenz, Verantwortung und den Nachweis der Effektivität geleitet sein sollte.

Politische Maßnahmen für mehr Bildung und Sensibilisierung

Effektive politische Maßnahmen befassen sich mit dem Schutz und der Förderung von Menschenrechten, Sicherheit, Privatsphäre und Cybersicherheit und fördern das allgemeine Verständnis für die potenziellen gesellschaftlichen Auswirkungen autonomer und intelligenter technischer Systeme. Damit sie dem öffentlichen Interesse wirklich am besten dienen, sollten politische Maßnahmen:

  • international anerkannte Rechtsnormen unterstützen, fördern und ermöglichen.
  • in der Regierung eine Expertise zu solchen Technologien entwickeln.
  • sicherstellen, dass Governance und Ethik essenzielle Bestandteile in der Forschung, der Entwicklung, dem Erwerb und der Nutzung sind.
  • Regulierungen schaffen, um öffentliche Sicherheit und verantwortliches Systemdesign sicherzustellen.
  • die Öffentlichkeit über die gesellschaftlichen Auswirkungen solcher Technologien aufklären.

 

V. Umsetzung

Kennzahlen für Wohlergehen

Damit autonome und intelligente Systeme nachweislich einen bestimmten Nutzen für die Menschheit fördern können, muss es klare Indikatoren dafür geben. Übliche Kennzahlen für Fortschritt sind unter anderem Profit, Bruttosozialprodukt, Konsumniveau und Arbeitsplatzsicherheit. Aber auch wenn diese Kennzahlen wichtig sind, können sie nicht das gesamte Spektrum des Wohlergehens von Individuen, Umwelt und Gesellschaft abbilden, denn psychologische, soziale und ökonomische Fairness sowie Umweltfaktoren sind ebenso relevant. Kennzahlen für Wohlergehen beinhalten Faktoren, die es ermöglichen, den aus technologischem Fortschritt resultierenden Nutzen umfassender zu evaluieren und diesen auf unbeabsichtigte negative, das menschliche Wohlergehen reduzierende Konsequenzen hin zu untersuchen. A/IS können die Erfassung und Analyse diesbezüglicher Daten verbessern, was wiederum dabei helfen kann, zu erkennen, wo diese Systeme menschliches Wohlergehen steigern und so neue Wege für gesellschaftliche und technologische Innovation ebnen können.

Einbettung von Werten in autonome und intelligente Systeme

Wenn Maschinen als quasi-autonom Handelnde an menschlichen Gemeinschaften teilnehmen, dann muss von ihnen erwartet werden, dass sie den sozialen und moralischen Normen dieses Gemeinwesens folgen. Normen in solche quasi-autonomen Systeme einzubetten, bedarf einer klaren Abgrenzung der Gemeinschaft, in der sie eingesetzt werden sollen. Des Weiteren werden selbst innerhalb einer Gemeinschaft unterschiedliche technische Umsetzungen verschiedene Normengefüge erfordern. Der erste Schritt ist die Identifizierung der Normen der spezifischen Gemeinschaft, in denen die Systeme eingesetzt werden sollen. Das betrifft insbesondere Normen, die für die Art der Aufgaben relevant sind, für deren Ausführung die Systeme konzipiert werden.

Leitlinien für Methoden ethischer Forschung und ethischen Designs

Um autonome und intelligente technische Systeme zu entwickeln, die das Wohlergehen und die Freiheit von Menschen stärken und erweitern, muss wertebasiertes Design den menschlichen Fortschritt ins Zentrum der Entwicklung technischer Systeme stellen.

Parallel dazu muss anerkannt werden, dass Maschinen den Menschen dienen sollten, nicht anders herum. Systementwickler sollten wertebasierte Designmethoden anwenden, um nachhaltige Systeme zu schaffen, deren Bewertung nicht nur auf den durch sie eingebrachten zusätzlichen wirtschaftlichen Nutzen für das Unternehmen basiert, sondern auch auf den damit verbundenen weiter gefassten sozialen Kosten und Nutzen.

Affective Computing

Affekte sind ein Kernaspekt von Intelligenz. Treibende Kräfte und Gefühle wie Wut, Angst und Freude sind oft die Grundlagen der Handlungen im Laufe unseres Lebens. Um sicherzustellen, dass intelligente technische Systeme dafür genutzt werden, der Menschheit in allen Zusammenhängen im größtmöglichen Ausmaß zu helfen, sollten autonome und intelligente Systeme, die an der menschlichen Gesellschaft teilnehmen oder sie unterstützen, keinen Schaden dadurch verursachen, dass sie menschliche Emotionserfahrungen verstärken oder dämpfen.

 

Von den Prinzipien zur Praxis
Ethically-Aligned-Design-Konzeptrahmen

Ethically Aligned Design, erste Fassung (EAD1e) stellt mehr als einen umfassenden Bericht dar, der den Konsens seiner riesigen Community von Entwicklern zu einer Reihe von übergeordneten ethischen Prinzipien, Kernfragen und praktischen Empfehlungen zusammenfasst. EAD1e ist ein tiefgründiges bahnbrechendes Werk, eine einzigartige Abhandlung, die nicht nur eine breitere Öffentlichkeit informieren, sondern auch das Publikum und die Leserschaft von Wissenschaftlern, Ingenieuren, politischen Entscheidungsträgern und Herstellern von autonomen und intelligenten Systemen (A/IS)1 zum Handeln anregen soll.

Dieses Kapitel, “Von den Prinzipien zur Praxis”, bietet eine Darstellung des konzeptionellen Rahmens von Ethically Aligned Design. Es skizziert die Logik hinter den “Drei Säulen”, die die Grundlage von EAD1e bilden, und verbindet die Säulen mit übergeordneten “Allgemeinen Prinzipien”, die alle Arten von ethischem A/IS-Design leiten. Anschließend wird der Inhalt der Kapitel von EAD1e auf diese Prinzipien abgebildet. Abschließend werden Beispiele für EAD1e beschrieben, die bereits in der Praxis eingesetzt werden.

Absätze in diesem Kapitel:

  • Die Drei Säulen des Ethically-Aligned-Design-Konzeptrahmens
  • Die allgemeinen Prinzipien des Ethically Aligned Design
  • Zuordnung der Säulen zu den Prinzipien
  • Abbildung der Prinzipien auf den Inhalt der Kapitel
  • Von den Prinzipien zur Praxis
  • Ethically Aligned Design in der Implementierung

Die Drei Säulen des Ethically-Aligned-Design-Konzeptrahmens

Die Säulen des Ethically-Aligned-Design-Konzeptrahmens fallen im Wesentlichen in drei Bereiche, die anthropologische, politische und technische Aspekte widerspiegeln:

  1. Universelle menschliche Werte: A/IS können eine enorme Kraft für das Gute in der Gesellschaft sein, vorausgesetzt, sie sind darauf ausgerichtet, die Menschenrechte zu respektieren, sich an den menschlichen Werten auszurichten und das Wohlbefinden ganzheitlich zu steigern und gleichzeitig so viele Menschen wie möglich zu stärken. Sie sollten auch so konzipiert sein, dass sie unsere Umwelt und unsere natürlichen Ressourcen schützen. Diese Werte sollen politische Entscheidungsträger sowie Ingenieure, Designer und Entwickler leiten. Fortschritte bei A/IS sollten im Dienste aller Menschen stehen und nicht nur kleinen Gruppen, einer einzelnen Nation oder einem Unternehmen zugute kommen.
  2. Politische Selbstbestimmung und Data Agency: A/IS – wenn sie richtig konzipiert und umgesetzt werden – haben ein großes Potenzial, politische Freiheit und Demokratie im Einklang mit den kulturellen Geboten der einzelnen Gesellschaften zu fördern, wenn Menschen Zugang zu und Kontrolle über die Daten haben, die ihre Identität konstituieren und repräsentieren. Diese Systeme können die Effektivität und Verantwortlichkeit der Regierung verbessern, das Vertrauen fördern und unsere Privatsphäre schützen, aber nur, wenn die Menschen über ihre digitale Identität verfügen und ihre Daten nachweislich geschützt sind.
  3. Technische Verlässlichkeit: Letztendlich sollten A/IS Dienste bereitstellen, denen man vertrauen kann.2 Dieses Vertrauen bedeutet, dass A/IS die Ziele, für die sie konzipiert wurden, zuverlässig, sicher und proaktiv erreichen und gleichzeitig die menschlich getriebenen Werte, die sie widerspiegeln sollten, fördern. Die Technologien sollten überprüft werden, um sicherzustellen, dass ihr Einsatz vorgegebenen ethischen Zielen entspricht, die sich an den menschlichen Werten und den kodifizierten Rechten orientieren. Darüber hinaus sollten Validierungs- und Verifikationsprozesse, einschließlich Aspekte der Erklärbarkeit, entwickelt werden, die zu einer besseren Auditierbarkeit und zur Zertifizierung von A/IS3 führen könnten.

 

Die Allgemeinen Prinzipien von Ethically Aligned Design

Die Allgemeinen Prinzipien von Ethically Aligned Design sind durch die kontinuierliche Arbeit engagierter, offener Communities in einem mehrjährigen, kreativen und konsensbildenden Prozess entstanden. Sie formulieren übergeordnete Prinzipien, die für alle Arten von autonomen und intelligenten Systemen (A/IS) gelten sollten. Entwickelt, um das Handeln zu steuern und um in Normen und politische Entscheidungen einzufließen, legen die Allgemeinen Prinzipien Imperative für das ethische Design, die Entwicklung, den Einsatz, die Anpassung und die Außerbetriebnahme von autonomen und intelligenten Systemen. Die Prinzipien berücksichtigen die Rolle

  • der A/IS-Schöpfer, d.h. derjenigen, die entwerfen und herstellen,
  • der A/IS-Betreiber, d.h. derjenigen, die über fachspezifische Kenntnisse verfügen,
  • anderer Nutzer,
  • allen anderen Interessengruppen oder betroffenen Gruppen.

Die Allgemeinen Prinzipien4 von Ethically Aligned Design

  1. Menschenrechte – A/IS sollen geschaffen und angewendet werden, um international anerkannte Menschenrechte zu respektieren, zu fördern und zu schützen.
  2. Wohlbefinden – A/IS-Entwickler sollen gesteigertes menschliches Wohlbefinden als primäres Erfolgskriterium für die Entwicklung nehmen.
  3. Data Agency – A/IS befähigen Einzelpersonen, auf ihre Daten zuzugreifen und sie sicher zu teilen, um die Handlungsfähigkeit der Personen zu erhalten, Kontrolle über ihre Identität zu haben.
  4. Wirksamkeit – A/IS-Schöpfer*innen und -Betreiber*innen müssen den Nachweis der Wirksamkeit und Eignung für die Zwecke von A/IS erbringen.
  5. Transparenz – Die Grundlage einer bestimmten A/IS-Entscheidung sollte immer erkennbar sein.
  6. Rechenschaftspflicht – A/IS werden so geschaffen und betrieben, dass eine eindeutige Begründung für alle getroffenen Entscheidungen vorliegt.
  7. Bewusstsein für Missbrauch – Die Entwickler*innen von A/IS müssen potenziellen Missbräuchen und Risiken von A/IS bei der Anwendung vorbeugen.
  8. Kompetenz – Die Entwickler*innen von A/IS müssen die Kenntnisse und Fähigkeiten, die für einen sicheren und effektiven Einsatz erforderlich sind, angeben und die Betreiber*innen müssen sich daran halten.

 

Zuordnung der Säulen zu den Prinzipien

Während die Säulen des Ethically-Aligned-Design-Konzeptrahmens umfassende anthropologische, politische und technische Aspekte im Zusammenhang mit autonomen und intelligenten Systemen darstellen, bieten die Allgemeinen Prinzipien kontextuelle Filter für eine tiefergehende Analyse und pragmatische Umsetzung.

Es ist außerdem wichtig zu beachten, dass die Allgemeinen Prinzipien nicht isoliert von den Säulen des EAD existieren und umgekehrt. Während das Allgemeine Prinzip der “Transparenz” die Gestaltung eines bestimmten autonomen oder intelligenten Systems beeinflussen kann, muss das A/IS auch universelle menschliche Werte, politische Selbstbestimmung und Data Agency berücksichtigen. Zudem geht Transparenz über technische Merkmale hinaus. Sie ist auch für die Prozesse der Politik und Gesetzgebung eine wichtige Voraussetzung. Auf diese Weise bilden die Säulen von EAD1e die ganzheitliche ethische Grundlage, auf der die Prinzipien aufbauen können, und letztere können in verschiedenen Bereichen der menschlichen Tätigkeit Anwendung finden.

 

Zuordnung der Prinzipien zum Inhalt der Kapitel

Die Kapitel in Ethically Aligned Design bieten eine fundierte Sachkenntnis, die es den Lesern ermöglicht, von den Allgemeinen Prinzipien zur tieferen Analyse ethischer A/IS-Fragen im Rahmen ihrer spezifischen Arbeit überzugehen.

Die in der folgenden Tabelle dargestellte Abbildung oder Indexierung dient als richtungsweisender Ausgangspunkt, da Elemente eines Prinzips wie “Kompetenz” in mehreren EAD1e Kapiteln nachklingen können. Darüber hinaus haben wir unser Bestes getan, um in unserem Mapping unten darzulegen, wo Kernthemen vorrangig durch spezifische Kapitel abgedeckt werden.

 

Von den Prinzipien zur Praxis

In diesem Schritt des Ethically-Aligned-Design-Konzeptrahmens werden die Leser*innen in der Lage sein, die Prinzipien und Kapitel zu identifizieren, die für ihre Arbeit von zentraler Bedeutung sind. Die in den EAD1e Kapiteln enthaltenen Inhalte sind nach “Themen” gegliedert, die als die dringlichsten ethischen Fragen im Zusammenhang mit dem gegenwärtigen A/IS-Design identifiziert wurden, sowie nach “Empfehlungen”, wie dies geschehen sollte.

Durch die Überprüfung dieser Themen und Empfehlungen im Hinblick auf ein bestimmtes A/IS-Produkt, eine bestimmte Dienstleistung oder ein bestimmtes System wird der Leserin oder dem Leser eine einfache Form der Folgenabschätzung und des Sorgfaltspflichtprozesses zur Verfügung gestellt, um seine “Prinzipien in die Praxis” umzusetzen. Natürlich ist eine verfeinerte kundenspezifische Anpassung und Modifizierung des Inhalts von EAD1e an bestimmte Sektoren oder Anwendungsbereiche möglich und wird in naher Zukunft angestrebt. Nachfolgend finden Sie einige Beispiele für Implementierungen, die bereits durchgeführt werden.

 

Ethically Aligned Design in der Implementierung

Ethically Aligned Design, erste Fassung, stellt den Höhepunkt eines dreijährigen Prozesses dar, der seit 2015 nach dem Prinzip des Bottom-Up durch die Rigorosität und die Standards des Ingenieurberufs sowie durch einen weltweit offenen und iterativen Prozess mit Hunderten von globalen Expert*innen geführt wird. Die Analyse der im Rahmen eines iterativen Prozesses entwickelten Prinzipien, Themen und Empfehlungen hat bereits zur Entstehung von vierzehn IEEE-Standardisierungsprojekten, einem Zertifizierungsprogramm, A/IS-Ethikkursen und mehrerer anderer handlungsorientierter Programme, die sich derzeit in der Entwicklung befinden, beigetragen.

In seinen früheren Manifestationen begründete Ethically Aligned Design die Zusammenarbeit im Bereich der A/IS-Governance mit einem breiten Spektrum von Regierungs- und zivilgesellschaftlichen Organisationen, darunter die Vereinten Nationen, die Europäische Kommission, die Organisation für wirtschaftliche Zusammenarbeit und Entwicklung sowie viele nationale und kommunale Regierungen und Institutionen.5 Darüber hinaus hat das Engagement in all diesen Bereichen und mit den genannten Partner*innen das kollektive Wissen und die Kreativität der IEEE Global Initiative in den Dienst der globalen Politikgestaltung mit konkreten und sichtbaren Ergebnissen gestellt. Neben der Impulsgebung für die Politik hat EAD1e und die wachsende Zahl der Projekte auch die Entwicklung branchenbezogener Ressourcen beeinflusst.6

Es ist an der Zeit, “von den Prinzipien zur Praxis” in der Gesellschaft überzugehen, wenn es um die Governance neu entstehender autonome und intelligente Systeme geht. Die Umsetzung ethischer Prinzipien muss durch zuverlässige Anwendungen von A/IS in der Praxis unter Berücksichtigung unseres Wunsches nach politischer Selbstbestimmung und Data Agency validiert werden. Um gesellschaftlichen Fortschritt zu erzielen, müssen die von uns geschaffenen autonomen und intelligenten Systeme vertrauenswürdig, beweisbar und rechenschaftspflichtig sein und sich an unseren explizit formulierten menschlichen Werten orientieren.

Wir hoffen, dass Ethically Aligned Design und dieser Konzeptrahmen auch für Ihre Arbeit handlungsorientierte Anregungen liefern.

 

Endnoten

[1] Wir ziehen es vor, den vagen Begriff “KI” so weit wie möglich nicht zu verwenden und stattdessen den Begriff autonome und intelligente Systeme (A/IS) zu verwenden. Diese Terminologie wird im gesamten Ethically Aligned Design, erste Fassung, verwendet, um eine möglichst breite Anwendung ethischer Aspekte bei der Entwicklung der angesprochenen Technologien und Systeme zu gewährleisten.
[2] Siehe auch die Draft ethics Guidelines for trustworthy AI der High Level Expert Group on AI („Entwurf von Ethikleitlinien für eine vertrauenswürdige KI“ der hochrangigen Expertengruppe der Europäischen Kommission für KI, HLEG).
[3] A/IS sollte spezifischen Zertifizierungsverfahren durch kompetente und qualifizierte Stellen unter Beteiligung oder Kontrolle von öffentlichen Behörden unterliegen, so wie andere technische Systeme vor dem Einsatz eine Zertifizierung erfordern. Das IEEE hat eines der weltweit ersten Programme zur Einführung von A/IS-Zertifizierungsverfahren gestartet. Das Ethik-Zertifizierungsprogramm für Autonome und Intelligente Systeme (The Ethics Certification Program for Autonome and Intelligent Systems , ECPAIS) bietet Prozesse, mit denen Unternehmen zertifizierte A/IS-Produkte, -Systeme und -Dienstleistungen suchen können. Sie werden im Rahmen einer weitreichenden und zugänglichen öffentlich-privaten Partnerschaft entwickelt.
[4] Für ihre allgemeine Einordnung siehe Kapitel “Allgemeine Prinzipien”.
[5] Als Beispiel wird in den kürzlich veröffentlichten Draft ethics Guidelines for trustworthy AI der High Level Expert Group on AI (HLEG) der Europäischen Kommission ausdrücklich EAD als eine wichtige Quelle ihrer Inspiration genannt. Das EAD hat auch die Ausarbeitung von politischen Maßnahmen für die Bemühungen der Vereinten Nationen und der Organisation für wirtschaftliche Zusammenarbeit und Entwicklung vorangetrieben.
[6] Everyday Ethics for Artificial Intelligenz: A Practical Guide for Designers and Developers

 


Urheber des zugrunde liegenden Texts und der Grafiken ist das IEEE.
Lizenziert unter Creative Commons Attribution-NonCommercial 4.0
Übersetzung: AlgorithmWatch (Kristina Penner & Maike Majewski)

Published: March 25, 2019

Category: News

   

Kommentieren

Your email address will not be published. Required fields are marked *