Accede sin límites desde 55 €/año

Suscríbete  o  Inicia sesión

El reto de democratizar la IA

Comparte
Logo OpenAI

La irresponsabilidad ética con la que OpenAI y sus competidores aceleran el despliegue de sus grandes modelos de lenguaje (LLM) ha provocado un resurgir del espíritu del techlash que la pandemia había relegado a un segundo o tercer plano. Más de 50.000 personas se han adherido a una propuesta de pausar el entrenamiento (no la investigación) de estos LLM en tanto no haya una confianza razonable en que "sus efectos serán positivos y sus riesgos manejables".

La propuesta ha sido también objeto de críticas radicales, incluyendo las de quienes se centran en matar al mensajero y la de los que la consideran como un brindis al sol, dado lo improbable que empresas tecnológicas acostumbradas a campar a sus anchas atiendan a una petición de esta naturaleza. Es sabido, por ejemplo, que OpenAI defiende adoptar una estrategia de prueba y error que se apoya en la información que obtiene de los millones de usuarios de ChatGPT para abordar a posteriori los riesgos de su IA y los peligros de su uso.

Otras posturas críticas inciden, en mi opinión con fundamento, en que los LLM actuales ya representan riesgos evidentes que es necesario atajar antes de que las nuevas versiones de GPT-4 y similares los amplifiquen. Urgen pues a los gobiernos, en aras del interés público y de los derechos de las personas, a promulgar cuanto antes leyes y reglamentos que protejan a la sociedad del despliegue sin control de las inteligencias artificiales. Es, sin embargo, bien sabido que los reguladores no se caracterizan por su agilidad. La entrada en vigor de la legislación europea sobre protección de datos y privacidad en Internet (GDPR) no tuvo lugar hasta cuatro años desde la publicación de sus primeros bocetos. El Gobierno italiano ha acordado una prohibición temporal de ChatGPT que quizá sea secundada por otros países. Con todo, la justifica solo en dudas sobre el uso de informaciones personales y derechos de autor, sin entrar a fondo en otras consideraciones tanto o más importantes.

Los portavoces de la industria, por su parte, cuestionan la capacidad de los legisladores para comprender la tecnología y el perjuicio que una moratoria sobre la IA ocasionaría a EEUU en su pugna con China por la supremacía tecnológica. Más bien al contrario, defienden acelerar los avances de esta tecnología para que sus beneficios lleguen cuanto antes a la sociedad, aunque sin comentar una encuesta del Pew Research Center según la cual esos avances generan más preocupación que entusiasmo a la mayoría de estadounidenses.

Creo pertinente ver la controversia generada por esa carta abierta como un indicador de la urgente necesidad de politizar unos procesos de digitalización que llevan demasiado tiempo al margen de los procedimientos democráticos de supervisión y control. De sublevarse contra la versión tecnológica de un despotismo ilustrado que reclama para sí la libertad de decidir "todo por el pueblo, pero sin el pueblo".