N2_Ä8

„Diskriminierung in algorithmischen Systemen

„Bei der Entwicklung lernender Systeme werden zusätzliche Annahmen getroffen, die ebenfalls eine verzerrende Wirkung entfalten können. So setzt der Lernprozess auf Daten aus der Vergangenheit auf, die nicht zwangsläufig heutige Zielvorstellung enthalten. Wenn z. B. in der Vergangenheit bevorzugt Männer gegenüber Frauen eingestellt wurden, so wird sich dieses Verhalten auch in daraus resultierende Entscheidung wiederfinden. Zusätzlich gilt es zu beachten, dass Daten immer mit zufälligen oder systematisch Fehlern in Ihrer Erhebung versehen sein können, was sich ebenfalls verzerrend auswirken kann.“