Aprendices de brujo

 Las provincias, 2024

 

El término griego “mythos” significa “una desconcertante multitud de cosas […] palabra, discurso, conversación, proverbio […] historia, relato, saga, fábula” y posiblemente se da preferencia al sentido de “historia inventada, ‘no verdadera’” (Josef Pieper). El racionalismo solo ve en el relato mítico algo inventado, no científico, lo que es una enorme pérdida. Los cuentos de hadas de los niños son mitos y, en general, los relatos que los sereshumanos nos contamos (o nos contábamos) nos enseñan mucho de la vida. Dice Chesterton que los cuentos de hadas nos enseñan que en la vida existen límites. “Toda la felicidad dependía de no hacer algo que se puede hacer a cada instante y que, en general, ni siquiera se entiende por qué se ha de dejar de hacer”. Cenicienta, por ejemplo, debía dejar el baile antes de las doce, pero no sabía la razón.

La modernidad científica no escucha la sabiduría que antes se transmitía a los niños: la vida posee límites. Estos límites, son transmitidos por la autoridad de los padres. Pero es el poder desatado y terrible, y no la autoridad, lo que ha dominado la modernidad hasta su cierre. El totalitarismo es un fenómeno de la dominación que consiste en afirmar “Todo es posible” (Arendt), la autoridad en cambio dice: existen los límites.

Hace poco se hizo una entrevista informal a miembros de empresas que están marcando los atropellados avances de la llamada inteligencia artificial general en busca de los motivos más profundos de su empeño. El entrevistador concluye que los tecnólogos piensan lo siguiente: 1. Consideran algo bueno e inevitable la sustitución de la vida biológica por la digital. 2. Tienen el deseo hablar con la entidad más inteligente que jamás hayan conocido. Y señalan: “Es emocionante prender unfuego. Sienten que morirán de cualquier manera, así que prefieren encenderlo y ver qué pasa”.

Los tecnólogos transhumanistas han olvidado los viejos cuentos de hadas. En particular han olvidado el aprendiz de brujo (Josh Schrei). Este relato hunde sus raíces en el antiguo Egipto, fue llevado a un poema por Goethe y es conocido por el gran público por el largometraje de Disney llamado “Fantasía”. El relato es más o menos así. Un aprendiz de brujo se queda solo porque el Gran Maestro se marcha encargándole que llene un recipiente de agua. El aprendiz decide que puede usar su magia para ahorrarse trabajo: “¡Vieja escoba, sin demora / Toma tu traje harapiento! / Siempre has sido sierva, ahora / Cumplirás mi mandamiento!”. La escoba hechizada cumple su cometido, pero el joven brujo ha desatado una fuerza que no sabe como parar. Solo la llegada del Gran Maestro puede detener el terrible hechizo que inunda ya toda la casa.

Las grandes empresas de IAG lanzan hechizos aquí y allá desatando fuerzas que les superan y que no saben cómo repercutirán en el mundo. Muchos de ellos ya claman arrepentidos por los incendios que han provocado. El problema es que no tienen un Gran Maestro, nadie por encima que vaya a detener el desastre. El problema es viejo: Quis custodiet ipsos custodes? (“¿Quién vigila a los vigilantes?”). Desde hace siglos hemos optado por tratar de que el Derecho constituya un límite al poder, también al técnico. El problema es que estas tecnologías disruptivas parecen inasibles por el derecho judicial y, menos aún, por el lento derecho legal. 

Cuando se lanza nueva tecnología nuestro mundo se vuelve mucho más complejo, no más sencillo. Ni nuestro lenguaje, ni nuestro Derecho son capaces de dar cuenta de estos cambios, o lo hacen a duras penas y con enorme retraso. Apenas empezamos a comprender las redes sociales creadas hace dos décadas años y, aún así, la mayor parte de la gente conserva ideas erróneas sobre ellas y de ninguna manera el Derecho ha logrado regularlas. Y ahora añadiremos a las redes, nuevos hechizos que, arrojados al mundo, no sabremos como desarmar: IA generativa o la capacidad de fabricar falsedades verosímiles a escala, en vídeo, audio o texto, la capacidad de crear atroces falsedades en minutos. 

La irresponsabilidad de los ingenieros supera al aprendiz de brujo. No se trata solo de lanzar un hechizo sin saber cómo deshacerlo, ellos ofrecen frívolamente el libro de hechizos a la humanidad entera, de modo que el cambio que producen con sus inventos es exponencial. La arquitectura de internet convierte a cualquiera, sin filtros, en potencial aprendiz de brujo. Esta estructura “abierta” de internet no es, en este sentido, nada positiva. Conceder ciertos poderes a toda la población es aumentar el riesgo y la inseguridad que ya derivan de su uso por unas pocas personas. Además, esto supone sacudir al ser humano de su lugar en el mundo, allanar el camino de la prescindencia del ser humano. Un ejemplo: antes el arte era monopolio del ser humano, ahora la IA generativa es capaz de “copiarnos” de forma tan sofisticada que no podemos distinguirla de un ser humano.

Todo maestro, recuerda Josh Schrei, educa con paciencia, dice que “No” al discípulo, “Todavía no estás preparado”. La sabiduría del “No”, incluso del “Nunca”,es la sabiduría de la autoridad, también de los padres. El aprendiz de brujo al equivocarse tuvo una autoridad a la que recurrir. Quizá hasta que no recuperemos la autoridad no podremos recuperar la cordura.