Das ADM-Manifest | The ADM Manifesto

English version

Prozesse algorithmischer Entscheidungsfindung (algorithmic decision making, ADM) gehören längst zum täglichen Leben; zukünftig werden sie noch eine viel größere Rolle spielen. Sie bergen enorme Gefahren und bieten enorme Chancen. Dass ADM-Prozesse dem Blick derjenigen entzogen werden, die von ihnen betroffen sind, ist kein Naturgesetz. Es muss sich ändern

  1. ADM ist niemals neutral.
  2. Die Schöpfer von ADM-Prozessen sind verantwortlich für ihre Resultate. ADM-Prozesse werden nicht nur von ihren Entwicklern erschaffen.
  3. ADM-Prozesse müssen nachvollziehbar sein, damit sie demokratischer Kontrolle unterworfen werden können.
  4. Demokratische Gesellschaften haben die Pflicht, diese Nachvollziehbarkeit herzustellen: durch eine Kombination aus Technologien, Regulierung und geeigneten Aufsichtsinstitutionen.
  5. Wir müssen entscheiden, wie viel unserer Freiheit wir an ADM übertragen wollen.

Algorithmische Entscheidungsfindung setzt sich aus den folgenden Bestandteilen zusammen:

  • Prozesse zur Datenerfassung zu entwickeln,
  • Daten zu erfassen,
  • Algorithmen zur Datenanalyse zu entwickeln, die die
    • Daten analysieren,
    • auf der Basis eines menschengmachten Deutungsmodells interpretieren,
    • automatisch handeln, indem die Handlung mittels eines menschengemachten Entscheidungsmodells aus dieser Interpretation abgeleitet wird.

Unser Mission Statement.

The ADM Manifesto
The ADM Manifesto

Algorithmic decision making (ADM)* is a fact of life today; it will be a much bigger fact of life tomorrow. It carries enormous dangers; it holds enormous promise. The fact that most ADM procedures are black boxes to the people affected by them is not a law of nature. It must end.

  1. ADM is never neutral.
  2. The creator of ADM is responsible for its results. ADM is created not only by its designer.
  3. ADM has to be intelligible in order to be held accountable to democratic control.
  4. Democratic societies have the duty to achieve intelligibility of ADM with a mix of technologies, regulation, and suitable oversight institutions.
  5. We have to decide how much of our freedom we allow ADM to preempt.

* We call the following process algorithmic decision making (ADM):

  • design procedures to gather data,
  • gather data,
  • design algorithms to
    • analyse the data,
    • interpret the results of this analysis based on a human-defined interpretation model,
    • and to act automatically based on the interpretation as determined in a human-defined decision making model.

Read our mission statement.