Immer wieder wird darüber diskutiert, wie sehr unsere Lebenswelten inzwischen von Algorithmen geformt werden. Fast alle Technologien, die wir nutzen, basieren in ihren Prozessen auf Vorannahmen über die Welt, die von den technischen Routinen gemäß der Logik ihrer Programmierer auf zu lösende Probleme angewendet werden. Dabei gerät leicht aus dem Blick, dass die so genannte künstliche Intelligenz, selbst wenn sie über Mechanismen des Selbstlernens verfügt, niemals autonom ist. Am Anfang steht immer der Mensch, mit seinen Stärken und Schwächen, seinen Visionen, aber auch seinen Denkbegrenzungen. "Algorithmen sind nicht rassistisch. Menschen, die Algorithmen einsetzen, obwohl sie rassistische Ergebnisse produzieren, sind rassistisch. Dennoch muss man sich fragen, wie es dazu kommt, dass Algorithmen rassistische Ergebnisse produzieren. ... Wer eine ... KI gestalten wollte, würde hierfür Daten aus vergangenen Entscheidungen in einen Computer einspeisen, auf deren Basis ein Algorithmus entwickelt wird. Wenn allerdings diese Trainings- und Testdaten bereits rassistisch diskriminieren, weil in der Vergangenheit Menschen durch menschliche Entscheider rassistisch diskriminiert worden sind, dann werden deren subjektive Fehler durch den Algorithmus lediglich objektiviert", erklärt der Philosoph Sebastian Rosengrün in einem Interview mit dem Philosophie Magazin. Er plädiert dafür, Entscheidungen und Prozesse, die mit Menschen zu tun haben, nicht allein auf Maschinen zu verlagern: "Das eigentliche Unding besteht vielmehr darin, dass überhaupt Entscheidungen über menschliche Schicksale an Maschinen delegiert und damit automatisiert werden. Immer wenn Menschen nicht als Menschen angesehen, sondern auf Datenpunkte reduziert werden, läuft etwas grundlegend falsch."
Sebastian Rosengrün: „Algorithmen sind nicht rassistisch, Menschen sind rassistisch“, Philosophie Magazin 5.5.21