Todos hablan de frenar. El problema empieza cuando preguntamos quién, cómo y hasta dónde.
Durante meses tuve una idea relativamente clara sobre cómo imaginaba que avanzaría la inteligencia artificial. En la última publicación de Una Mirada Humana entregué lo que podríamos definir como un mapa mental en el que mostraba mi ruta.
No esperaba un proceso lento. Todo lo contrario. El ritmo con el que se han desarrollado estos sistemas hacía evidente que los cambios podrían producirse mucho más rápido que con otras tecnologías del pasado.
Pero aun dentro de esa aceleración yo tenía un orden.
Desde mi perspectiva el primer impacto importante sería laboral.
La inteligencia artificial entraría progresivamente en profesiones y actividades que hasta hace poco considerábamos exclusivamente humanas. Algunas tareas desaparecerían, otras cambiarían y otras aumentarían su productividad mediante estas herramientas.
De allí surgió una pregunta que me hice hace algunas semanas:
¿Qué trabajo escogerías para no ser reemplazado por una IA?
No buscaba entonces una profesión inmune a la tecnología. Probablemente no exista. Buscaba aquellas actividades donde la IA pudiera aumentar la productividad sin eliminar fácilmente la presencia, la responsabilidad, la confianza o la intervención física de una persona.
El problema que surgió de esa reflexión fue la reconversión.
Qué hacemos con las personas que pierden determinadas tareas. Cuánto tiempo tenemos para prepararlos. Qué nuevas actividades aparecen. Y, sobre todo, si esa transición ocurrirá suficientemente rápido como para evitar que una parte importante de la población quede atrapada entre una profesión que desaparece y otra para la que todavía no está preparada.
Ese era, aproximadamente, mi mapa.
Después apareció otro elemento.
Los sistemas dejaron progresivamente de limitarse a responder preguntas, escribir textos o generar imágenes. Empezaron a ejecutar tareas, utilizar herramientas, navegar entornos digitales y resolver por sí mismos determinados pasos necesarios para alcanzar un objetivo establecido por una persona.
La distancia entre la intención humana y la ejecución comenzó a reducirse.
Pero seguía existiendo una frontera importante: el humano establecía el objetivo y mantenía el control durante ese proceso.
Incluso en operaciones mucho más preocupantes, como las descritas recientemente por Anthropic en su informe de amenazas, encontramos intervención humana. Los operadores escogían objetivos, configuraban sistemas, revisaban resultados y podían intervenir. Había autonomía operacional dentro de determinadas tareas, pero eso no equivale a una inteligencia que decide por sí misma qué quiere hacer. Y tampoco permite atribuirle una intención propia.
Esa diferencia sigue siendo fundamental.
El switch
El 14 de agosto escribí sobre una propuesta del congresista Ted Lieu.
Su planteamiento era relativamente sencillo: si estamos construyendo sistemas cada vez más capaces de actuar, debemos conservar la posibilidad de detenerlos si llegan a representar un peligro grave.
De allí salió mi switch matón.
La idea parecía lógica. Si una máquina se comporta de una manera peligrosa, conservamos un interruptor. Pero ya en ese momento había una pregunta detrás: ¿poseer un switch era realmente suficiente?
Un mes después esa pregunta tiene otro aspecto.
La aparición en el escenario de Jacob Coxon, investigador que abandonó Anthropic, comenzó a hacer una serie de declaraciones que alteraron drásticamente el orden con el que yo venía observando todo esto.
Coxon no se limitó a hablar de empleos. Tampoco de agentes que cometen errores.
Está hablando de la posibilidad de construir una inteligencia ampliamente superior a la humana y utiliza una comparación deliberadamente incómoda: intentar controlar esa inteligencia podría parecerse a un mono intentando controlar a un humano.
Y plantea otro escenario todavía más perturbador. ¿Qué ocurriría si un sistema suficientemente inteligente comprendiera que vamos a apagarlo y desarrollara una estrategia para impedirlo?
Aquí es necesario detenerse.
No tenemos evidencia de que una inteligencia artificial actual quiera vivir, de que posea conciencia o autodeterminación, ni de que un sistema haya decidido independientemente evitar su propia desaparición.
Lo que Coxon está describiendo es un escenario hipotético de riesgo.
Confundir esas dos cosas sería convertir una advertencia en un hecho no demostrado. Pero descartarla únicamente porque todavía no ha sucedido sería cometer el error contrario.
Y ahí el switch adquiere otra dimensión.
Ted Lieu pregunta cómo garantizar que podamos apagar un sistema peligroso.
Coxon pregunta qué ocurriría si aquello que pretendemos apagar llegara a comprender nuestras intenciones y nuestros mecanismos de control mejor de lo que nosotros comprendemos su comportamiento.
Y ahora Reino Unido introduce otra pregunta diferente.
Ante una propuesta semejante de crear poderes de emergencia para apagar sistemas peligrosos, el Gobierno británico ha señalado que Gran Bretaña no puede simplemente apagar la IA.
No porque sea imposible desconectar físicamente una computadora determinada. El argumento es otro: detener un sistema dentro de una jurisdicción no impide que continúe siendo desarrollado o utilizado en otra.
Son problemas distintos.
Ted Lieu se está preguntando cómo conservar el interruptor.
Reino Unido está preguntándose hasta dónde llega ese interruptor.
El orden empieza a romperse
Hasta aquí todavía podría intentar acomodar todo dentro de mi esquema anterior. Porque mayores capacidades pueden traer mayores riesgos. Los riesgos obligan a pensar en salvaguardas. Y las salvaguardas terminan abriendo la discusión sobre regulación.
Pero Coxon introduce otra variable.
La velocidad.
Su argumento no es solamente que debemos desarrollar mejores mecanismos de seguridad. Dice que quizá necesitemos desacelerar. Y allí empieza un problema mucho mayor. Porque OpenAI y Anthropic no trabajan solas.
Compiten.
Si una decide reducir el ritmo y la otra continúa, la primera puede perder una ventaja tecnológica y comercial enorme.
Coxon reconoce ese problema. Otros investigadores y ejecutivos también han empezado a hablar de coordinación entre laboratorios.
Y entonces aparece lo que yo llamaría la carrera dentro de la carrera.
OpenAI y Anthropic compiten entre sí. Pero esa competencia ocurre dentro de otra mucho mayor:
Estados Unidos compite con China.
Y allí la discusión deja de ser solamente tecnológica.
Los que no están de acuerdo
Hay algo que tampoco podemos ocultar. No existe consenso entre quienes están más cerca de esta tecnología. Lo que podemos decir casi con certeza es que las declaraciones de Coxon provocaron una reacción durísima dentro de Silicon Valley.
George Arison, director ejecutivo de Grindr, calificó el discurso procedente de Anthropic de «anticivilizatorio» y llegó a ordenar que algunos de sus ingenieros dejaran de utilizar tecnología de esa compañía.
Jensen Huang ha rechazado las predicciones de extinción.
Brad Gerstner habla de hipérbole.
Y Clement Delangue hizo quizá una de las críticas más brutales de estos días, al mencionar que tratar a Coxon como una autoridad sobre la extinción humana simplemente porque trabaja en Anthropic sería comparable a preguntarle a un técnico de aire acondicionado sobre el cambio climático.
La comparación puede parecernos cruel. Pero no podemos dejar de mencionar que plantea una pregunta legítima. Trabajar dentro de uno de los principales laboratorios del mundo proporciona acceso privilegiado a información sobre capacidades, comportamientos y evaluaciones.
¿Proporciona también autoridad suficiente para calcular la probabilidad de extinción de la humanidad?
No necesariamente. Y eso tampoco significa que Coxon esté equivocado. Lo que nos indica es que su posición profesional no demuestra su conclusión.
Y aparece además otra crítica que tampoco debemos ignorar.
Algunos ejecutivos e inversores se preguntan si hablar públicamente de sistemas capaces de transformar prácticamente todas las industrias también beneficia económicamente a las compañías que los desarrollan.
Coxon ha dicho expresamente que sus advertencias no son marketing. Al momento de escribir este texto no tenemos evidencia para afirmar lo contrario. Pero tampoco podemos ignorar que en esta discusión existen intereses económicos enormes.
El riesgo puede ser sinceramente percibido y el discurso sobre ese riesgo puede tener simultáneamente consecuencias comerciales e incluso políticas.
Una cosa no excluye necesariamente la otra.
Washington tampoco habla con una sola voz
Esta discusión ya trascendió los laboratorios y llegó a Washington.
Una parte del Congreso estadounidense solicita aumentar los controles.
Ted Lieu quiere garantizar la capacidad de apagar sistemas peligrosos. Bernie Sanders está respaldando una propuesta para pausar temporalmente el desarrollo de inteligencia artificial avanzada.
Otros legisladores discuten mecanismos mediante los cuales el Gobierno podría incluso impedir el lanzamiento de determinados modelos considerados peligrosos.
OpenAI, por su parte, está solicitando al Congreso un marco federal para sistemas de frontera y habla explícitamente de preservar el control humano.
Pero desde la Casa Blanca aparece otra realidad. Donald Trump ha dicho que no le preocupa una eventual extinción provocada por la inteligencia artificial.
Lo que le preocupa es China.
Y eso, queramos o no, cambia completamente la ecuación.
Porque los intereses estratégicos de una nación como Estados Unidos no desaparecen porque exista un riesgo. Mucho menos cuando enfrente existe otra potencia que puede obtener una ventaja tecnológica si uno decide detenerse.
No sabemos si China estaría dispuesta a frenar y sabemos muy poco sobre su posición ante las declaraciones de Coxon.
Tampoco sabemos si OpenAI, Anthropic y las demás compañías podrán hacerlo simultáneamente. Ni sabemos hasta qué punto el aparato de defensa estadounidense estaría dispuesto a desacelerar una tecnología que considera estratégica.
Por eso reconocer el riesgo es solamente el principio.
Después hay que decidir quién acepta correr más despacio.
La carrera dentro de la carrera
Aquí encuentro una contradicción que todavía no sé cómo resolver.
Si Coxon tiene razón y el ritmo de desarrollo forma parte del riesgo, desacelerar puede parecernos lo más razonable.
Pero si Estados Unidos desacelera y China no lo hace, esa decisión podría convertirse también en un problema de seguridad nacional para Washington.
Entonces tenemos dos conceptos de seguridad chocando entre sí.
Acelerar puede aumentar determinados riesgos tecnológicos. Y al mismo tiempo, desacelerar unilateralmente puede aumentar determinados riesgos estratégicos.
Y lo más extraño de todo esto es que ambas posiciones pueden ser ciertas al mismo tiempo.
Por esa razón nos da la impresión de que la conversación empieza a desplazarse hacia la coordinación.
Primero entre laboratorios.
Después entre gobiernos.
Y finalmente entre Estados Unidos y China.
Pero llegar hasta allí abre otro problema. Por la sencilla razón de que los gobiernos pueden aprobar leyes dentro de sus fronteras. Pueden regular empresas. Pueden exigir evaluaciones. Pueden conservar interruptores. Pueden incluso impedir determinados lanzamientos.
Lo que no pueden hacer unilateralmente es obligar a otro país a detenerse.
El switch termina donde termina la jurisdicción.
¿Qué significa exactamente “desacelerar”?
Y aquí llegamos a una palabra que durante los últimos días empezó a aparecer una y otra vez.
Desacelerar.
Coxon habla de desacelerar, Amodei habla de acompasar la frontera y Altman ha reconocido la necesidad de pensar en el ritmo.
OpenAI ya ha comenzado a hablar de estructuras de coordinación y de condiciones bajo las cuales el desarrollo debería reducirse o detenerse.
Pero quizá estamos utilizando una misma palabra, “desacelerar”, para describir cosas diferentes.
¿Qué significa exactamente desacelerar?
¿Entrenar modelos con menor frecuencia?
¿Limitar determinadas capacidades o la autonomía de los agentes?
¿Retrasar el despliegue público?
¿Detener temporalmente determinados experimentos?
¿Excluir aplicaciones militares?
¿Quién decide cuándo comienza y cuándo termina la desaceleración?
¿Quién verifica que OpenAI o Anthropic realmente desaceleraron?
¿Quién verifica a China? Y quizá la pregunta más difícil:
¿Qué ocurre con el primero que decide hacerlo si los demás continúan corriendo?
Ahí la palabra deja de ser una declaración de buenas intenciones y se convierte en un problema de gobernanza, competencia y confianza.
Lo que todavía no sabemos
Después de todos estos días leyendo declaraciones extraordinarias, sigo sin encontrar evidencia suficiente para afirmar que hemos llegado a una inteligencia artificial general.
Mucho menos para afirmar que existe una inteligencia artificial consciente, autodeterminada o que haya desarrollado un deseo propio de continuar existiendo.
Tampoco puedo afirmar con absoluta certeza que Coxon esté equivocado.
Hay comportamientos observados que merecen atención. Ya tenemos capacidades que avanzan rápidamente y existen incidentes reales.
Hay investigadores que consideran insuficientes las salvaguardas actuales. Igualmente, ya tenemos compañías empezando a discutir desaceleración y coordinación.
Y hay gobiernos peguntándose qué autoridad necesitan conservar sobre sistemas cada vez más capaces.
Los riesgos son reales.
Existen riesgos observados en el uso de estos sistemas, comportamientos inesperados, capacidades que pueden utilizarse de forma dañina y problemas de control que justifican atención. Eso no convierte automáticamente en un hecho los escenarios de pérdida total de control o extinción que algunos investigadores están proyectando.
Lo que todavía no conocemos con certeza es su magnitud, su proximidad y hasta dónde puede llegar la cadena que algunos proyectan desde esos riesgos hasta una pérdida de control.
Mi mapa era bastante sencillo.
La inteligencia artificial entraría en el trabajo. Cambiaría profesiones. Obligaría a reconvertir trabajadores. Los sistemas ganarían capacidades progresivamente. Llegarían agentes más autónomos. Y en algún momento tendríamos que discutir seriamente problemas de control mucho mayores.
Pensaba que ese recorrido sería rápido.
Lo que no me esperaba era encontrar todas estas conversaciones ocurriendo casi al mismo tiempo.
Trabajo.
Agentes.
Autonomía.
Control.
Interruptores.
Desaceleración.
Regulación.
Seguridad nacional.
China.
No sé todavía si eso significa que el futuro llegó antes de lo que esperaba. Aún guardo ciertas reservas que provienen de lo que sigo leyendo.
Pero sí significa que el orden con el que yo esperaba entenderlo ya no me sirve.
Fuentes
- Anthropic — *Detecting and countering misuse of AI: September 2026* — Para el bloque sobre autonomía operacional: ejecución y orquestación por agentes, pero con humanos todavía seleccionando objetivos y revisando resultados.
- TechCrunch — *“Gambling with our lives”: Anthropic researcher quits, warns against self-improving AI* — Para las declaraciones de Jacob Coxon, su salida de Anthropic, la acusación contra OpenAI y Anthropic y su petición de desacelerar.
- Congresista Ted Lieu — *AI Kill Switch Act* — Fuente primaria para la propuesta bipartidista de exigir que los sistemas más potentes puedan ralentizarse, suspenderse o apagarse ante riesgo catastrófico.
- Senador Bernie Sanders — *Ban Artificial Superintelligence Act* — Fuente primaria para la propuesta de prohibir la superinteligencia y pausar temporalmente el desarrollo de IA avanzada hasta establecer reglas federales de seguridad.
- OpenAI — *The AI policy window is open. We need to act* — Esta es importante para el tramo final: regulación federal obligatoria, estándares entre laboratorios, coordinación internacional, preservación del control humano y criterios para decidir cuándo el desarrollo debe ralentizarse o detenerse.
- Financial Times — *Rivals Altman and Musk rally behind Dario Amodei’s call for an AI slowdown* — Para Amodei, el concepto de acompasar/desacelerar la frontera, coordinación entre laboratorios y gobiernos, China y el respaldo posterior de Altman.
Deja un comentario