“La IA ni es inteligencia ni es artificial”

Chilena de origen y en Madrid desde 2006, Paula Guerra Cáceres lleva una vida en la lucha contra la discriminación.

¿Cómo afecta la IA al género?
La inteligencia artificial no es una herramienta neutral que produce resultados objetivos, porque todas las tecnologías de inteligencia artificial se piensan, se desarrollan y se implementan en un marco global de racismo estructural. 

Las personas que hacen los algoritmos son hombres blancos.
Normalmente, tienen un perfil muy concreto: hombres blancos de clase media y alta que suelen estudiar las mismas carreras, se desenvuelven en los mismos ambientes y mandan a sus hijos e hijas a los mismos colegios. Y con esa mirada crean algoritmos sesgados.
Por ejemplo, al determinar qué datos va a clasificar y va a dejar fuera en el momento de entrenar un algoritmo. Esto se ve, por ejemplo, en los algoritmos de la policía predictiva.

¿Y en género, cómo afecta?
Estamos estudiando, por ejemplo, el sesgo algorítmico en los programas pensados para determinar qué mujeres pueden ser víctimas de violencia de género. Uno es el VioGen, que se utiliza en todas las comisarías de España. Y...