Algorithmen in Form mathematisch-statistischer Verfahren diskriminieren nicht, heißt es oft. Das stimmt aber nicht. Algorithmen sind weder per se neutral, noch ist es unmöglich, dass sogenannte selbstlernende Systeme diskriminieren, ganz im Gegenteil. Gerade bei diesen ist die Gefahr einer systematischen Diskriminierung durch die erlernten Modell groß, denn sie wer den auf historischen Daten „trainiert“, die sämtliche historischen und aktuellen Diskriminierungen unserer Gesellschaft nachbilden. Gleichwohl muss man Algorithmen nicht verteufeln, denn sie bieten auch die Möglichkeit, Diskriminierung offenzulegen und zu verhindern.
