Cuando el Papa y Hinton hablan con preocupación humana, el discurso técnico sobre la IA deja de sonar invulnerable.
Leyendo la encíclica del Papa León XIV, debo admitir que lo primero que llamó mi atención fue el lenguaje que utilizó. Sentí como que estaba sentado frente a mí, y conversaba con un amigo que describía en voz alta sus preocupaciones sin adornarlas con tecnicismos inteligibles.
Celebro que haya sido de esa forma, porque estoy convencido que si las consecuencias de lo que IA nos trae van a afectar a los humanos, debemos casi obligatoriamente, decirlo de forma comprensible para el vulgo y para los feligreses en este caso.
Coincido en gran parte de forma unánime con sus principales puntos, los cuales ponen al ser humano como el eje de una civilización que está inmersa en una transición tecnológica de magnitud brutal y de la cual pocos sabemos cuál podría ser su alcance.
Cuando la Ciencia y la Religión conversan en el mismo idioma, es porque algo muy importante se está moviendo.
El Papa de un tajo, humanizó el discurso sobre la IA. Y si a este documento papal, le sumamos lo que en el pasado reciente ha dicho Hinton, allí las cosas adquieren un cariz menos amable de solo admirarnos ante los avances que hemos logrado.
Porque cuando una figura como Geoffrey Hinton deja de hablar únicamente como científico y empieza a hablar como ser humano preocupado, el discurso deja de ser “benchmark, eficiencia, papers” y entra en territorio existencial.
Allí ya no basta con decir: “la IA es solo una herramienta” o “todo avance tecnológico genera miedo”. Porque allí el propio arquitecto aparece mostrando peso emocional, duda, responsabilidad, incertidumbre. Y eso humaniza el debate y lo vuelve incómodo.
Especialmente para dos extremos: los vendedores apocalípticos que necesitan terror absoluto. Y los sacerdotes tecnoptimistas que hablan como si todo fuera inevitable, limpio y neutral.
Hinton rompió un poco esa liturgia fría del ingeniero invulnerable. Se le vio preocupado, cansado incluso a veces. Como alguien que entendió que crear algo no implica controlar cómo será usado.
El problema ya no es únicamente la IA… es el humano operando detrás del sistema.
Porque un misil tampoco tiene alma y destruye. La bolsa financiera tampoco tiene alma y arruina países. Un algoritmo tampoco necesita conciencia para alterar millones de vidas.
Allí el debate se vuelve más terrenal y menos cinematográfico. Y honestamente, creo que por eso muchos discursos empiezan a tensarse. Porque cuando figuras centrales humanizan la conversación, se derrumba parte del aura sagrada del debate técnico absoluto.
Ya no estamos hablando sobre: “los iluminados entienden el futuro”. Ahora empieza a ser: “nadie entiende del todo lo que estamos soltando”.
El mayor mal de nuestro tiempo es que la ciencia y la religión aparecen como fuerzas enemigas e irreductibles. Mal intelectual, tanto más pernicioso cuanto que viene de lo alto y se infiltra en todos los espíritus, como sutil ponzoña que respira en el aire. Y todo mal de la inteligencia viene a ser a la postre un mal del alma y, por consecuencia, un mal social.
Édouard Schuré
Deja una respuesta