Leitbild

Unsere Vision

Wir streben eine Welt an, in der Technologie im Allgemeinen und algorithmische Systeme im Besonderen den Menschen zugute kommen. Die Systeme sollen Gesellschaften gerechter, demokratischer, inklusiver und nachhaltiger machen – sei es hinsichtlich zugeschriebener Herkunft und Gender, Rassifizierung, sexueller Orientierung, Alter, Klasse und Wohlstand oder Ressourcenverbrauch. 

Unsere Mission

Wir stellen sicher, dass wir alle – nicht nur einige Wenige – von der Verwendung algorithmischer Systeme profitieren. Wir kämpfen dafür, dass sie Demokratie und Rechtsstaatlichkeit statt Autoritarismus stärken, Freiheit statt Überwachung, Menschenrechte statt Entmenschlichung, Autonomie statt Machtungleichgewichte, Gerechtigkeit und Gleichheit statt Ungleichheit und Diskriminierung, und eine solidarische und nachhaltige statt einer ausbeuterischen Lebensweise ermöglichen. 

Um diese Mission zu erreichen,

  • entwickeln und nutzen wir Tools, um den Einsatz von algorithmischen Entscheidungsprozessen und deren Auswirkungen auf Menschen und die Gesellschaft zu beleuchten und zu analysieren; 
  • erklären wir die Eigenschaften dieser komplexen algorithmischen Prozesse und die Machtstrukturen dahinter. Wir weisen die Öffentlichkeit sowie Entscheidungsträger*innen auf ihre Risiken, Konflikte und mögliche Schäden hin und helfen ihnen, Systeme, die auf wissenschaftlich solider und ethisch verantwortungsvoller Forschung beruhen, von reinem Schlangenöl zu unterscheiden; 
  • entwickeln wir evidenzbasierte und wirksame Rahmenbedingungen für den Einsatz von algorithmischen Systemen, in denen Transparenz, Nachvollziehbarkeit, individuelle und demokratische Kontrolle sowie Rechenschaftspflichten gewährleistet sind;
  • machen wir öffentlich aufmerksam auf Missbrauch, diskriminierende oder andere negative Auswirkungen von algorithmischen Systemen auf Menschenrechte und Gemeinwohl und führen Kampagnen durch, um wirksame Nachvollziehbarkeit und Rechenschaftspflichten zu schaffen. Wir engagieren uns dafür, dass diverse Perspektiven bei allen Aspekten algorithmischer Systeme berücksichtigt werden – inklusive bei der Entscheidung, ob eine Anwendung zu einem bestimmten Zweck gerechtfertigt ist; 
  • erschaffen wir eine Community von Menschen und Organisationen verschiedener Hintergründe, Kulturen und Disziplinen, um gemeinsam diese Ziele zu erreichen;
  • fördern wir die breitere Debatte dazu, ob es Grenzen geben sollte bei der Verwendung von rechengestützten (computational) Ansätzen zur Lösung menschlicher Probleme, und inwiefern diese sich kategorisch unterscheiden von nicht-rechengestützten Ansätzen.

Unsere Werte

Bei AlgorithmWatch praktizieren wir, was wir von anderen erwarten: Respekt, Fairness, Solidarität, Integrität, Inklusivität, Diversität, Transparenz, Rechenschaft. Wir haben hohe Ansprüche und fordern viel, sind aber nicht nachtragend, sondern leben eine offene Fehlerkultur. Wir geben unser Bestes, erkennen aber gleichzeitig an, dass Fehler ein notwendiger Teil des Lernens und der Weiterentwicklung sind, sowohl als Individuen, als auch als Organisation. Wir ermutigen einander, statt uns herabzusetzen. Wir stehen füreinander ein. 

Unsere Positionen und Forderungen sind evidenzbasiert und gründen auf professioneller und an hohen Standards orientierter Forschung. Politisch und konfessionell sind wir unabhängig. Wir sagen offen, was wir für Unsinn halten, egal wer ihn verbreitet, stellen Machtstrukturen infrage und sind jederzeit offen dafür, unsere Positionen zu überprüfen, wenn gute Gründe dafür vorliegen. Wir arbeiten mit allen zusammen, die glaubwürdig und mit gutem Willen zur Lösung von Problemen beitragen möchten, sei es aus der Zivilgesellschaft, Regierungen, öffentlichen Behörden, der Wissenschaft oder privaten Unternehmen. 

Wir sind überzeugt davon, dass die Zivilgesellschaft sowie jene Personen und Gruppen, die von algorithmischen Systemen betroffen sind, eine zentrale Stimme in dieser Debatte haben sollten, und wir streben danach, eine glaubwürdige und respektvolle Vertreterin des Gemeinwohls zu sein. 

Wir akzeptieren Fördermittel nur dann, wenn sie uns niemals darin beeinträchtigen, Themen unabhängig, gründlich und objektiv anzugehen. Wir erstellen und veröffentlichen genaue und aktuelle Berichte darüber, was wir tun und woher unsere Mittel stammen.

Als Team betrachten wir Menschen als Individuen mit Würde, nicht als Humankapital, dessen Wert quantifiziert und anhand von Leistungsmetriken gemessen werden kann. Wir verstehen, dass es ein kontinuierlicher Prozess ist, ein diverses und inklusives Team zu sein. Um diesen Prozess erfolgreich zu gestalten, müssen wir bereit sein zuzuhören und zu lernen, Privilegien zu erkennen und zu hinterfragen – und dementsprechend zu handeln. Wir streben eine ausgewogene und vielfältige Zusammensetzung unseres Teams und unserer Leitungsgremien an. 

Wir nehmen uns selbst nicht ernster als notwendig. Wir sind überzeugt, dass jeder Tag, an dem wir nicht miteinander und über uns selbst gelacht haben, ein vergeudeter Tag ist.

Das ADM-Manifest

Prozesse algorithmischer Entscheidungsfindung (algorithmic decision making, ADM) gehören längst zum täglichen Leben; zukünftig werden sie noch eine viel größere Rolle spielen. Sie bergen enorme Gefahren und bieten enorme Chancen. Dass ADM-Prozesse dem Blick derjenigen entzogen werden, die von ihnen betroffen sind, ist kein Naturgesetz. Es muss sich ändern

  1. ADM ist niemals neutral.
  2. Die Schöpfer von ADM-Prozessen sind verantwortlich für ihre Resultate. ADM-Prozesse werden nicht nur von ihren Entwicklern erschaffen.
  3. ADM-Prozesse müssen nachvollziehbar sein, damit sie demokratischer Kontrolle unterworfen werden können.
  4. Demokratische Gesellschaften haben die Pflicht, diese Nachvollziehbarkeit herzustellen: durch eine Kombination aus Technologien, Regulierung und geeigneten Aufsichtsinstitutionen.
  5. Wir müssen entscheiden, wie viel unserer Freiheit wir an ADM übertragen wollen.

Algorithmische Entscheidungsfindung setzt sich aus den folgenden Bestandteilen zusammen:

  • Prozesse zur Datenerfassung zu entwickeln,
  • Daten zu erfassen,
  • Algorithmen zur Datenanalyse zu entwickeln, die die
    • Daten analysieren,
    • auf der Basis eines menschengmachten Deutungsmodells interpretieren,
    • automatisch handeln, indem die Handlung mittels eines menschengemachten Entscheidungsmodells aus dieser Interpretation abgeleitet wird.

Über AlgorithmWatch

AlgorithmWatch wurde 2016 von Lorena Jaume-Palasí, Lorenz Matzat, Matthias Spielkamp und Katharina Anna Zweig gegründet. Seit Februar 2017 sind wir eine gemeinnützige GmbH (Gesellschafter sind Christina Elmer, Lorenz Matzat und Matthias Spielkamp); Geschäftsführer ist Matthias Spielkamp.