La IA es un lenguaje de muerte”, asegura el filósofo francés Éric Sadin (París, 1973). Cuatro años después del advenimiento de ChatGPT, inmersos en un proceso de consecuencias cree que nefastas, avisa de los inmensos peligros para nuestra educación, nuestro trabajo, nuestra cultura y, en definitiva, nuestra alma de la IA generativa que utilizamos cada día. Lo hace en El desierto de nosotros mismos ( Caja Negra Editores), libro que causa profunda inquietud aunque cree que tenemos aún una pequeña ventana para cambiar el curso de los acontecimientos. Una obra de la que habló hace unos días en CaixaForum.
El filósofo publica ‘El desierto de nosotros mismos’
La IA es un lenguaje de muerte”, asegura el filósofo francés Éric Sadin (París, 1973). Cuatro años después del advenimiento de ChatGPT, inmersos en un proceso de consecuencias cree que nefastas, avisa de los inmensos peligros para nuestra educación, nuestro trabajo, nuestra cultura y, en definitiva, nuestra alma de la IA generativa que utilizamos cada día. Lo hace en El desierto de nosotros mismos ( Caja Negra Editores), libro que causa profunda inquietud aunque cree que tenemos aún una pequeña ventana para cambiar el curso de los acontecimientos. Una obra de la que habló hace unos días en CaixaForum.
“El lenguaje de la IA es un lenguaje de muerte, de conformidad, basado en el pasado”
Cree que en el 2022 cruzamos un umbral sin precedentes en la historia con ChatGPT. ¿Por qué?
No comprendimos la importancia de la IA generativa y sus consecuencias sociales, políticas y civilizatorias. Durante los últimos meses nos ha llegado de Silicon Valley el concepto de apocalipsis laboral por los primeros despidos masivos. No pasa un día sin que oigamos a profesores decir que ya no entienden su misión. Más del 30% de las canciones publicadas en plataformas son generadas por IA. Están las enormes consecuencias energéticas de la proliferación de servidores. Y recibimos a diario relatos de dependencia emocional que experimentan adolescentes, niños y adultos de sistemas a los que les cuentan todo, en todas circunstancias, y en los que confían a pesar de no tener conocimientos en psicología. Y esto es solo el principio.
¿Qué cambia de las otras tecnologías, su poder sobre el lenguaje?
Escuché la semana pasada al patrón de Nvidia que “la IA nos llevará a un mundo mejor”. ¿Tiene algún argumento? Cero. Llevo diez años escuchando ese discurso. Y ya ha habido tres grandes consecuencias. El primer error es el pseudolenguaje que usa. Un lenguaje de muerte basado en la correlación probabilística, lo que significa que lo que debería suceder sucede, basándose en lo que ya ha sucedido. Así que, en realidad, todo lo que vemos ya ha sucedido. Un lenguaje de conformidad, lo opuesto a cómo nosotros desde el principio de los tiempos usamos el lenguaje: como la reapropiación individual de la herencia común. Y la forma en que jugamos con el lenguaje no se basa en la correlación, sino en la asociación. Pero el lenguaje esquemático, formal, industrializado, el capitalismo lingüístico, inundará cada vez más nuestro panorama. En Francia, para las municipales, los candidatos utilizaban ChatGPT no solo para estructurar sus discursos, sino para generarlos. ¿Quién habla? ¿Cuáles son las cosmovisiones? Renunciamos a nuestra voz. Y la relación con el otro se erosiona en favor de los sistemas a los que preguntamos. Que ejercerán influencia sobre mí, como si poseyeran una verdad objetiva, pero para venderme cosas. Y luego están las imágenes. Con estos sistemas de IA generativa estamos ante el fin de la posverdad. Es la imagen fantasmagórica. Ni verdadera ni falsa, las fantasías de cada uno se imponen, como el vídeo de Trump y Netanyahu en una Gaza que parecía la Riviera. Una desconfianza generalizada surge, y lleva a la desorientación, la paranoia. Y en tercer lugar, los medios hablan de amenaza para el empleo con un signo de interrogación. ¡Quítenlo! Existen sistemas que desde el 30 de noviembre del 2022 son capaces de realizar las tareas intelectuales y creativas a velocidades infinitamente superiores, supuestamente con mayor fiabilidad y menor coste. ¿Cómo no vamos a prever el huracán que se avecina? Y es triste. Hay placer en la tarea, reconocimiento social, autoestima. Y la sociedad es un número infinito de relaciones interdependientes. Todos nos necesitamos. Un niño necesita un maestro, un médico no es un sistema, te toca. Ahora cada uno tendrá sus sistemas. No te necesito.
Denuncia un fundamentalismo de la IA.
Es la victoria de los intereses y una visión basada en la hiperracionalización de la sociedad. En 10 años, llegarán los humanoides. La gran pregunta civilizacional es: ¿cuál es nuestro papel en la Tierra si los sistemas lo organizan todo y les confiamos nuestras facultades para realizar tareas? Es lo que llamo anhumanidad, una humanidad de la que estamos cada vez más excluidos en favor de una automatización cada vez mayor de la administración del mundo.
Los líderes de las empresas de IA tienen una visión pobre de la humanidad, dice. Un error.
Ven un error fundamental en la humanidad. El error es toda la historia, la creatividad, la pluralidad. La idea de que los sistemas, en todas las circunstancias, harán las cosas mejor, según una visión del mundo de hipereficiencia, una negación de la pluralidad, del más mínimo error. Es eugenesia. La voluntad de perfección en todo.
¿Nos hemos equivocado con la tecnologización de la educación?
Sí, somos la generación que algún día tendrá que responder ante nuestros nietos por haberlos abandonado, por haber aceptado que renunciarían a usar sus facultades más fundamentales. La actual lógica de adaptación conduce a la renuncia de nosotros mismos y a la renuncia de la creatividad y la pluralidad humana. Hay cosas fundamentales. La adquisición de conocimiento, de gramática, de ortografía, la interacción con grandes textos. Saber escribir es cultivar individuos libres. Aprender a pensar, a estructurar textos, es saber no aceptarlo todo y tener pensamiento crítico. Renunciar a todo esto es una catástrofe civilizatoria. Creo que la humanidad ha caído muy bajo al usar máquinas para escribir en su lugar. Nos dirigimos hacia dos tipos de humanos. Aquellos que se entregan a la pasión por la comodidad, que aceptan la renuncia a nuestra llama vital, y los que, a toda costa, quieren defender el impulso vital que nos caracteriza. Y creo que, hablando de los jóvenes, en dos o tres años surgirá un desafío: cómo ser proactivos en este mundo cada vez más automatizado. Habrá un regreso a la artesanía, lo manual. Es humillante ser inútil. Es la semilla de la revuelta, del odio, de la desconfianza total. Habrá grupos de personas que se alzarán y dirán: “Defendamos nuestra fuerza vital”. Algo sucederá, y deberíamos trabajar para lograrlo. De la misma manera que tal vez nos estamos moviendo hacia un mundo donde la cultura es solo patrimonio: solo tendremos obras del pasado y ya no obras vivas en la medida en que hay automatización de la música, de edificios, series que se hacen con imágenes generadas. Y habrá personas que querrán defender una cultura viva, pero será cada vez más difícil.
¿Qué podemos hacer?
Hay una ventana de oportunidad, dos o tres años, para ser proactivos y decir, esto es lo que podríamos aceptar y esto, lo que no queremos. Las sociedades han sido demasiado utilitaristas por aprovechar supuestos beneficios, y muchas personas han sido pasivas. Todo esto proviene de un mundo que solo piensa en generar ganancias, no es un proyecto social. Antes incluso de imaginar acciones, necesitamos unirnos en torno a demandas, valores y principios: de integridad, de dignidad humana. Un profesor que ya no sabe qué hacer con sus alumnos se ve privado de dignidad. El principio de la creatividad humana, el de la sociabilidad. Y hay líneas de acción –pienso en acciones legales– que no se han explorado lo suficiente. En las profesiones artísticas, la gente está aislada. Necesitamos saber cómo unirnos. Y establecer jurisprudencia en muchas áreas. Falta conciencia y movilización. Debemos defender la sociabilidad y la tactilidad. Porque el aislamiento colectivo vuelve loca a la gente.
Cultura
