Algoritmos y discriminación sexista

Segregación: Un estudio de Télécom ParisTech muestra los sesgos de los algoritmos que pueden llevar a tratos desiguales y da pistas para limitarlos.

Feria de programaciíon en Nueva Zelanda. FOTO:   Kristina D.C. Hoeppner

Ya se trate de herramientas de ayuda a la hora de decidir una carrera universitaria como Parcoursup, de recomendaciones de vídeos, de Netflix a Youtube, o de calcular el riesgo para dar un crédito, los algoritmos toman decisiones que pueden ser discriminatorias.

Los ejemplos son legión. El algoritmo de Amazon que analizaba los currículum vítae atribuía con frecuencia malas notas a mujeres, quienes, sin embargo, estaban cualificadas para ocupar los puestos a cubrir. El utilizado por la justicia estadounidense para prevenir la probabilidad de reincidencia de una persona inculpada sobrevaloraba la de los afroamericanos e infravaloraba la de los blancos.

La tecnología no es por naturaleza sexista o racista, se trata de sesgos debidos al modo en que...