Modelos abiertos, salvaguardas y una disputa que podría decidir quién controlará la inteligencia artificial más poderosa.
Durante mucho tiempo, la discusión sobre los modelos abiertos y cerrados pareció un debate reservado para ingenieros, investigadores y empresas tecnológicas. Era, de alguna forma, un debate en el que las personas estábamos solo como espectadores.
Ya no lo es.
En las últimas horas se ha hecho visible una profunda división dentro de la propia industria sobre una pregunta que probablemente influirá en el futuro de la inteligencia artificial:
¿Quién podrá acceder a los modelos más avanzados y bajo qué condiciones?
Por un lado, Nvidia, Microsoft, Meta, OpenAI y otras grandes empresas están defendiendo la continuidad de los modelos de pesos abiertos. Estos son modelos cuyos parámetros aprendidos pueden descargarse, modificarse y ejecutarse en sistemas propios, sin depender permanentemente de los servidores de la empresa que los desarrolló.
Este grupo, sostiene que imponer restricciones generales podría frenar la investigación, reducir la competencia y concentrar el poder tecnológico en un pequeño grupo de compañías
Nvidia acaba de llevar esa posición un poco más lejos con la creación de la “Open Secure AI Alliance”, una coalición formada por empresas tecnológicas, organizaciones de ciberseguridad e instituciones vinculadas al desarrollo de software abierto.
Su propuesta básicamente consiste en crear y compartir herramientas, modelos y sistemas que puedan ser utilizados para detectar vulnerabilidades, investigar ataques y fortalecer la ciberdefensa.
El argumento es relativamente sencillo: si quienes atacan pueden utilizar inteligencia artificial, quienes se defienden también necesitan herramientas poderosas que puedan inspeccionar, modificar y ejecutar dentro de sus propias infraestructuras. En otras palabras, una carrera en la que unas IA podrían atacar y otras ayudarían a defendernos.
Anthropic mantiene una posición diferente.
La empresa aclaró que no propone prohibir todos los modelos de pesos abiertos. Incluso reconoce que muchos de ellos pueden representar un bien público y contribuir a la investigación y la innovación.
Su mayor preocupación aparece cuando esos modelos alcanzan capacidades consideradas peligrosas.
Una vez publicados los pesos, explica Anthropic, las salvaguardas pueden eliminarse. El modelo puede copiarse, modificarse y ejecutarse localmente sin que la empresa original pueda supervisar su uso, retirar el acceso o corregir posteriormente sus mecanismos de seguridad.
En otras palabras, ambas posiciones parten de una preocupación legítima, pero llegan a conclusiones distintas.
Para Nvidia y sus aliados, una mayor apertura permite que más investigadores, empresas y defensores encuentren vulnerabilidades y construyan mejores sistemas de protección.
Para Anthropic, esa misma apertura puede hacer irreversible la difusión de capacidades que faciliten ciberataques, el desarrollo de armas biológicas u otros usos peligrosos. O sea, ya estamos hablando de un asunto de seguridad nacional. Ahí está el verdadero conflicto.
Ya no se discute solamente una licencia de software. Tampoco se trata de decidir cuál empresa nos agrada más. Se está discutiendo quién controlará la próxima generación de inteligencia artificial.
Podríamos progresar hacia un ecosistema abierto, donde universidades, pequeñas empresas, gobiernos e investigadores puedan descargar y adaptar los modelos.
Podríamos terminar en un sistema cerrado, donde unas pocas compañías mantengan los modelos más poderosos dentro de sus servidores y decidan quién puede utilizarlos.
O podría surgir una solución intermedia: modelos abiertos hasta cierto nivel de capacidad y controles adicionales cuando aparezcan riesgos considerados demasiado elevados.
En el mundo laboral, la apertura podría permitir que pequeñas empresas desarrollen herramientas propias sin pagar constantemente por servicios controlados por las grandes plataformas. Pero también podría acelerar la automatización y extender modelos potentes a sectores que todavía no están preparados para utilizarlos.
En la ciencia, los pesos abiertos podrían ampliar la investigación, facilitar la reproducción de experimentos y permitir que más universidades participen en avances que hoy requieren enormes recursos. Al mismo tiempo, algunas capacidades científicas podrían utilizarse con propósitos peligrosos.
En materia de seguridad nacional, un país puede considerar los modelos abiertos una herramienta para fortalecer su independencia tecnológica. Pero esos mismos modelos podrían ser descargados por gobiernos rivales, organizaciones criminales o grupos capaces de eliminar sus salvaguardas.
Y en el ámbito social aparece otra pregunta: ¿queremos realmente que una tecnología con tanta influencia permanezca en manos de unas pocas empresas o que circule ampliamente, aun sabiendo que una vez liberada será prácticamente imposible volver a encerrarla?
Sin duda, este es un tema muy delicado, en este punto creo que la posición de Amodei tiene solidez. Pero, esto es tan solo mi opinión. Lo que verdaderamente considero que deben hacer y pronto, es llegar a un acuerdo en el que ambos bandos, puedan seguir trabajando de forma segura para los que estamos de este lado y tendremos que vivir con las consecuencias.
Mi intención al seguir este debate no es convertirme en experto en modelos de inteligencia artificial. Mucho menos convertir en expertos a quienes me leen.
Lo que intento es comprender sus implicaciones.
Porque detrás de palabras como código, pesos, modelos abiertos o salvaguardas se están tomando decisiones que pueden afectar el empleo, la investigación científica, la seguridad de los países y la forma en que esta tecnología llegará a nuestras vidas.
Para comprender la discusión,
Primero necesitamos evitar una confusión frecuente:
Y un modelo de pesos abiertos no es necesariamente un modelo completamente abierto. Esa diferencia puede parecer pequeña.
Pero alrededor de ella podría comenzar a decidirse quién tendrá acceso a la inteligencia artificial más poderosa, quién podrá controlarla y quién asumirá las consecuencias cuando ese control deje de ser posible.
Deja una respuesta