Das Themenfeld automatisierter Entscheidungssysteme ist weitreichend und komplex. Technische Konzepte sind für Nutzer*innen und Betroffene oft schwer zu verstehen, was solche Systeme noch obskurer macht, als sie eh schon sind. Mit unseren Erklärvideos bieten wir einen leichten Einstieg in wichtige Grundlagen. Wir hoffen, so ein wenig Licht in die „Black Box“ der Algorithmen zu werfen und über die begleitenden Risiken aufzuklären.
Proxy Variablen sind Stellvertreter, die oft in Software-Anwendungen vorkommen. Obwohl bestimmte Merkmale, wie z.B. die Herkunft von Bewerber·innen, von einem System ignoriert werden sollen, können diese mithilfe von Proxy-Variablen dennoch bestimmt werden. Dies kann z.B. in Software, die zur automatisierten Bewertung von Bewerbungen eingesetzt werden, zu Diskriminierung führen.
Externer Inhalt von youtube-nocookie.com
Wir möchten Ihnen Inhalte anzeigen, die nicht auf unseren Servern gehostet werden.
Erst wenn Sie Ihre Zustimmung geben, werden die Inhalte von externen Servern geladen. Bitte beachten Sie, dass der Drittanbieter dann möglicherweise Daten verarbeitet, die Ihr Browser übermittelt. Zusätzlich könnten Informationen auf Ihrem Gerät gespeichert werden, beispielsweise in Cookies. Weitere Details dazu erhalten Sie direkt vom Drittanbieter..
Korrelation & Kausalität
Korrelation ≠ Kausalität. Korrelationen, also Zusammenhänge von Ereignissen oder Phänomenen, begegnen uns täglich. Zum Beispiel steigt im Sommer sowohl der Konsum von Eis, als auch die Anzahl Toter durch Ertrinken. Daraus lässt sich jedoch nicht unbedingt schließen, dass die Ursache (Kausalität) für die Ertrunkenen der steigende Eiskonsum ist. Wenn bei der Interpretation von Daten Korrelation und Kausalität gleich gesetzt werden, kann es schnell zu Trugschlüssen kommen.
Externer Inhalt von youtube-nocookie.com
Wir möchten Ihnen Inhalte anzeigen, die nicht auf unseren Servern gehostet werden.
Erst wenn Sie Ihre Zustimmung geben, werden die Inhalte von externen Servern geladen. Bitte beachten Sie, dass der Drittanbieter dann möglicherweise Daten verarbeitet, die Ihr Browser übermittelt. Zusätzlich könnten Informationen auf Ihrem Gerät gespeichert werden, beispielsweise in Cookies. Weitere Details dazu erhalten Sie direkt vom Drittanbieter..
Software, die in der öffentlichen Verwaltung oder anderen gesellschaftssensiblen Bereichen eingesetzt wird, sollte demokratisch kontrollierbar sein. Transparenz allein, z.B. im Rahmen von öffentlichem Quellcode ("Open Source"), reicht dafür nicht aus. Deshalb geht es vor allem um die Erläuterung des Prozesses: Wie werden welche Daten von wem verarbeitet? Dies spielt auch eine wichtige Rolle bei lernenden Systemen, die zuerst mit Trainingsdaten "gefüttert" werden müssen.
Externer Inhalt von youtube-nocookie.com
Wir möchten Ihnen Inhalte anzeigen, die nicht auf unseren Servern gehostet werden.
Erst wenn Sie Ihre Zustimmung geben, werden die Inhalte von externen Servern geladen. Bitte beachten Sie, dass der Drittanbieter dann möglicherweise Daten verarbeitet, die Ihr Browser übermittelt. Zusätzlich könnten Informationen auf Ihrem Gerät gespeichert werden, beispielsweise in Cookies. Weitere Details dazu erhalten Sie direkt vom Drittanbieter..
