La tentación del 'chatbot'

El debut en la escena pública de ChatGPT, un generador automático de textos de la empresa OpenAI, se ha convertido en un acontecimiento tecnológico y mediático de primer orden. A las pocas semanas de su lanzamiento, más de 100 millones de personas habían experimentado cómo un algoritmo estocástico, determinado a partir del análisis textual de millones de documentos, genera textos que pueden parecer tan correctos y verosímiles como muchos de los escritos por humanos, como mínimo a primera vista.
Aunque el algoritmo actual de ChatGPT comete todavía errores de bulto, se trata de un avance tecnológico relevante, que se añade al goteo durante el último año de anuncios de éxitos de la (mal llamada) inteligencia artificial. Es también una confirmación más de que una tecnología lo bastante avanzada puede resultar indistinguible de la magia, más aún si la propaganda tecnófila se aplica a presentarla como tal. Cuando presenciamos una función de magia convencional tiene sentido aceptar sin reservas el juego que propone el prestidigitador, aun a sabiendas de que nos engaña, de que manipula con destreza nuestra atención para que veamos solo lo que a él le interesa. En el caso de ChatGPT, sin embargo, conviene que en lugar de mirar solo hacia donde el mago señala, dirijamos la atención también hacia su trastienda, para así vislumbrar que la adopción a escala de esta especie de cotorras estocásticas comporta un riesgo cierto de daños colaterales que convendría prevenir.

¿Para qué todo esto?
ChatGPT es una muestra más de la obsesión por construir automatismos que emulen los resultados de actividades humanas; la de la escritura en este caso. La historia enseña que uno de los principales objetivos de la automatización —la industrial primero, la digital ahora— es aumentar los beneficios a base de hacer crecer la producción. No hay, sin embargo, una necesidad objetiva de aumentar el volumen de producción de textos y documentos: ya los hay en abundancia, incluso en exceso. Además, como ChatGPT se alimenta de textos accesibles en Internet pero sin ser para nada consciente de si lo que lee o escribe tiene sentido, su adopción masiva aumentará el nivel de cotorreo y el volumen de información falsa y fraudulenta que ya hay en la re d. 
Cabe,pues, la posibilidad de que el para qué de los promotores de ChatGPT no sea tanto dar respuesta a una necesidad como crearla, incluso hasta el punto de que su algoritmo llegue a considerarse imprescindible. No sería la primera vez que la industria tecnológica se comporta de este modo. Su propaganda destaca por sistema que las herramientas digitales son prácticas, útiles, fáciles de utilizar, a la vez que desvía nuestra atención de las contrapartidas de la adopción masiva de lo práctico y lo útil. 
Para los promotores de lo digital, convertir sus creaciones en indispensables es una estrategia para acceder a cuotas desproporcionadas de dinero y poder. El fervor por ChatGPT no ha llegado aún a este nivel, pero hay precedentes que ilustran las consecuencias de que ello llegue a suceder. Me limitaré a solo dos ejemplos. Google, a la vez que promociona la utilidad de su buscador, extrae de sus usuarios más información de la que muchos de ellos son conscientes. La afirmación del filósofo Byung-Chul Han de que el teléfono móvil se ha convertido en un "instrumento de dominación, una herramienta de subyugación digital que crea adictos" no suena exagerada si caemos en la cuenta de que estar atentos a una pantalla siempre encendida se ha convertido en poco menos que una obligación.
Conviene al tiempo recordar que la historia social de la automatización desmiente el discurso que sostiene que ChatGPT y herramientas generativas como DALL-E liberarán a escritores, artistas y otros profesionales de las tareas más rutinarias, permitiéndoles así concentrarse en las más creativas. Es más probable que, como ya ha sucedido en otros ámbitos desde la invención de la máquina de hilar a finales del siglo XVIII, la consecuencia de la equívoca democratización de estas herramientas sea desvalorizar los resultados del trabajo creativo en general, forzando así a muchos profesionales a producir más para mantener su actual nivel de ingresos. Es una presión que, si no me equivoco, ya experimenta el colectivo de traductores.
La aparición de ChatGPT puede verse también como un añadido a las tentaciones digitales que debilitan la disposición de las personas a pensar, sentir y actuar de manera autónoma y consciente. A dispersar su atención entre mareas desbordantes de información que quitan tiempo para pensar y disminuyen el aliciente para hacerlo. A que el contenido emocional de muchas interacciones en las redes resulte en la exaltación de sus propios sentimientos. A tomar como modelos de comportamiento a los influencers de Instagram o TikTok. Ahora, la disponibilidad de ChatGPT representa una tentación adicional no fácil de resistir: la de renunciar al esfuerzo de escribir bien, que conlleva también el de pensar bien.
 

Amenazas
El pensamiento, el sentimiento y la voluntad son tres capacidades centrales de los humanos. Las tentaciones de la interpasividad digital, de traspasar a lo digital porciones crecientes de estas capacidades y a no ejercitarlas de forma autónoma, representan una amenaza a nuestra conciencia y a nuestra libertad. A esto se añade la evidencia cada vez más patente de que la ideología de los adalides de la interpasividad digital se asienta en principios incompatibles con una ética que guíe lo que se debe hacer o renunciar a hacer. Una ideología en la que se basa su injustificada pretensión de que si un desarrollo tecnológico es posible, resulta obligado llevarlo a cabo, sea cual sea la suerte de quienes resulten perjudicados.
Añadiré a lo anterior que Serge Brin, uno de los fundadores de Google, afirmó aspirar a que Google se convierta en la tercera mitad de nuestro cerebro. Que Eric Schmidt, antiguo CEO de la empresa, defendía la pretensión de Google de dictar a sus usuarios lo que tenían que hacer, sin limitarse a dar respuesta a sus consultas. Sam Altman, el CEO de OpenAI, va aún más allá al afirmar que los humanos ya somos "cotorras estocásticas". Todo esto me inclina a coincidir con quienes sugieren que aceptar sin más la oferta de ChatGPT y de otras tentaciones a la interpasividad digital equivale a aceptar un acuerdo fáustico con el diablo, un acuerdo en el que los humanos ganan comodidad en tanto que entregan su alma.