Por María Cristina Oleaga
“En el principio era la palabra. El lenguaje es el sistema operativo de la cultura humana. Del lenguaje surgen el mito y la ley, los dioses y el dinero, el arte y la ciencia, las amistades y las naciones y el código informático. El nuevo dominio del lenguaje de la IA significa que ahora puede piratear y manipular el sistema operativo de la civilización. Al adquirir dominio del lenguaje, la IA está apoderándose de la llave maestra de la civilización, desde las bóvedas de los bancos hasta los santos sepulcros.”
Yuval Noah Harari,Tristan HarrisyAza Raskin (*)
“La ingeniería avanza más rápido que ninguna otra disciplina, aunque todavía encuentra un obstáculo que le ha impedido realizar por completo la conquista absoluta de nuestras vidas. El lenguaje humano posee un secreto que no ha podido ser profanado.”
Gustavo Dessal (**)
Entre estas dos afirmaciones caminan mis preguntas. ¿Se podría tomar control de la palabra humana? ¿Podría la máquina, creada y alimentada por humanos, perder su tonto desconocimiento del secreto del lenguaje? Que se pueda tomar control de nuestras vidas ¿depende sólo de la potencia de las máquinas?
El lenguaje humano tiene una función referencial, en tanto remite a un dato de la realidad, informa y responde a fines prácticos de comunicación. Pero no ese ese el secreto al que se refiere Dessal, no es ese el obstáculo para que las IA nos conquisten por completo. Los tropos del lenguaje, instrumentos del arte poético pero también del chiste, forman parte de ese secreto que permite al lenguaje decir más de lo que dice y, al hablante que escucha, tanto crear -incluso síntomas- como soñar en vigilia o dormido. Hasta ahora, no hay datos acerca de la toma de control, por parte de la máquina, de la palabra humana en este rasgo patognomónico que la califica como tal y que irradia en las creaciones de la cultura y en nuestro pensar mismo.
Las máquinas son alimentadas y manejadas por operadores al servicio de focos de poder y, en ese sentido, pueden intervenir, modelar, influir, participar y dominar las redes de la comunicación y sus productos, entre los que se encuentran las subjetividades de la época y -¿por qué no?- las formas organizativas de los estados. “La democracia es básicamente conversación. Personas que hablan entre sí. Si la IA se apodera de la conversación, se acabó la democracia” dice Yuval Noah Harari (1). La palabra que empuja las votaciones, que perfila a los consumidores, que desestabiliza gobiernos, que inventa noticias y derriba y construye liderazgos quizás prescinda -salvo para los mensajes publicitarios- del secreto del lenguaje, quizás no necesite profanarlo y, sin embargo, ya vemos cómo alcanza las metas que el poder necesita. Las democracias ya están en gravísima crisis, la representación misma agoniza. La democracia no necesitó la intervención masiva de la IA para temblar.
Los científicos que pidieron detener los avances de la IA hasta que surjan controles eficientes, nos sorprenden. Parecen escapar a esa ceguera del deseo del científico, que señalara Lacan, que los empuja hacia adelante sin poder detenerse, sin medir consecuencias. Hay versiones al respecto. Algunas desconfían de los motivos expuestos en sus declaraciones, no creen que sea el riesgo que correría la humanidad con el avance de las IA lo que causa su pedido. Más se inclinan a pensar que la competencia desigual, en tanto los adelantos de cada sector son diferentes, disparó el temor de algunos de perder la carrera, desencadenó los discursos del pánico y llevó a la firma del documento en cuestión. Nuevamente, se trataría de una carrera, de la puja por ganar primero y más. Es algo de lo ilimitado a lo que el capitalismo nos tiene acostumbrados. Desde sus orígenes, bajo el signo del protestantismo y especialmente del calvinismo, el capitalismo puso la ganancia del lado del bien; el trabajo, la producción y el ahorro todo bien visto por Dios.
El empuje al siempre más no necesita ahora de los velos de la religión y casi prescinde de los de las ideologías. El capitalismo hoy es una máquina ciega y sorda que nada parece poder detener y que pone en peligro incluso la supervivencia del planeta. ¿Qué lugar, entonces, para la IA en este estado de cosas? ¿Es un empuje más o determinará un cambio cualitativo en esta dinámica? ¿Sus creaciones nos aseguran el destierro como humanos y nos dejan en el lugar de marionetas grotescas? Si así fuera, deberíamos admitir como logrado el efecto subjetivo último del capitalismo.
Cuando Heidegger, en su alocución de 1955 (2), dio el nombre de Serenidad a la actitud que propuso para que nos situáramos frente a los objetos de la técnica, la describió como la de decirles “sí” en tanto sea inevitable su uso y “decirles “no” en la medida en que “rehusemos que nos requieran de modo tan exclusivo, que dobleguen, confundan y, finalmente, devasten nuestra esencia.”. También advirtió que el sentido del mundo técnico se nos oculta, que no sabemos qué significación darle, aunque, al mismo tiempo, ese mundo viene a nuestro encuentro; así, alentó el mantenernos abiertos a ese sentido oculto, o sea: propuso la apertura al misterio. Heidegger dice: “La Serenidad para con las cosas y la apertura al misterio se pertenecen la una a la otra. Nos hacen posible residir en el mundo de un modo muy distinto. Nos prometen un nuevo suelo y fundamento sobre los que mantenernos y subsistir, estando en el mundo técnico, pero al abrigo de su amenaza.
La Serenidad para con las cosas y la apertura al misterio nos abren la perspectiva hacia un nuevo arraigo. Algún día, éste podría incluso llegar a ser apropiado para hacer revivir, en figura mudada, el antiguo arraigo que tan rápidamente se desvanece.”
Sin embargo, Heidegger señala un peligro: que la fascinación por el mundo técnico nos hechice y nos deje con el único recurso de un pensar calculador, el necesario para la ciencia Y continúa: “¿Qué gran peligro se avecinaría entonces? Entonces, junto a la más alta y eficiente sagacidad del cálculo que planifica e inventa, coincidiría la indiferencia hacia el pensar reflexivo, una total ausencia de pensamiento. ¿Y entonces? Entonces el hombre habría negado y arrojado de sí lo que tiene de más propio, a saber: que es un ser que reflexiona. Por ello hay que salvaguardar esta esencia del hombre. Por ello hay que mantener despierto el pensar reflexivo.
Sólo que la Serenidad para con las cosas y la apertura al misterio no nos caen nunca del cielo. No a-caecen (Zu–fälliges) fortuitamente. Ambas sólo crecen desde un pensar incesante y vigoroso”
Muchas de las actuales preguntas respecto del futuro de la IA, y de nuestras vidas, siguen sin respuesta. Contamos con algunos recursos para seguir en alerta pero el resultado no está asegurado.
(*) “Cuál es el caos irremediable que producirá la inteligencia artificial si no se la regula antes” (The New York Times)
(**) “Idiota” (El manicomio global)
Notas
(1) Harari, Yuval Noah, “No sé si los humanos podrán sobrevivir a la Inteligencia Artificial” (Infobae)
(2) Heidegger, Martín, Serenidad
