Algoritmos y discriminación sexista

Segregación: Un estudio de Télécom ParisTech muestra los sesgos de los algoritmos que pueden llevar a tratos desiguales y da pistas para limitarlos.

Feria de programaciíon en Nueva Zelanda. FOTO:   Kristina D.C. Hoeppner

Ya se trate de herramientas de ayuda a la hora de decidir una carrera universitaria como Parcoursup, de recomendaciones de vídeos, de Netflix a Youtube, o de calcular el riesgo para dar un crédito, los algoritmos toman decisiones que pueden ser discriminatorias.

Los ejemplos son legión. El algoritmo de Amazon que analizaba los currículum vítae atribuía con frecuencia malas notas a mujeres, quienes, sin embargo, estaban cualificadas para ocupar los puestos a cubrir. El utilizado por la justicia estadounidense para prevenir la probabilidad de reincidencia de una persona inculpada sobrevaloraba la de los afroamericanos e infravaloraba la de los blancos.

La tecnología no es por naturaleza sexista o racista, se trata de sesgos debidos al modo en que se conciben los algoritmos o los datos sobre los que se basan, subrayan los autores de un estudio de la escuela de ingenieros Télécom ParisTech.

“La...