La inteligencia artificial está cada vez más presente, se desarrolla más rápido de lo previsto y está dejando una huella cada vez más visible en el mundo. En las últimas semanas, a raíz del lanzamiento de Claude Mythos —el nuevo modelo de Anthropic, capaz de identificar vulnerabilidades de seguridad que pusieron en alerta a varios gobiernos—, la atención se concentró en los cinco hombres que dominan el mercado de los modelos de frontera: Dario Amodei, Demis Hassabis, Sam Altman, Mark Zuckerberg y Elon Musk. Sus personalidades, sus ambiciones, sus visiones disímiles sobre lo que la inteligencia artificial debe ser. Cinco hombres no electos cuyas decisiones afectan al mercado laboral, a la seguridad nacional y al debate público global.

En paralelo, la guerra en Irán ha vuelto evidente —no es que antes no se supiera— el uso militar de la inteligencia artificial. Los modelos analizan imágenes satelitales, sintetizan documentos, sugieren blancos. El sistema Maven, que integra tecnología de Anthropic, se utiliza en las operaciones del Comando Central de los Estados Unidos. En febrero, ese uso derivó en un conflicto.

El Departamento de Guerra exigió a Anthropic que retirara dos cláusulas de su contrato: la que prohíbe usar sus sistemas para vigilancia masiva sobre ciudadanos estadunidenses, y la que prohíbe integrarlos a armas autónomas capaces de matar sin supervisión humana. Anthropic se negó. El 3 de marzo, el Pentágono respondió declarándola "amenaza para la cadena de suministro" —figura jurídica reservada hasta entonces para Huawei— y la administración ordenó a las agencias federales abandonar el modelo en un plazo de seis meses. OpenAI aceptó un esquema contractual más amplio con el Pentágono, bajo el argumento de que sus usos quedarían sujetos a límites legales y salvaguardas internas.

Lo singular del episodio es la arquitectura institucional que dejó al descubierto. La única instancia que impuso límites al uso militar de la inteligencia artificial contra ciudadanos estadunidenses fue una empresa privada. No el Congreso, no los tribunales, no una agencia reguladora. Una empresa defendiendo cláusulas de su propio contrato. Que esas cláusulas existan es notable; que sean lo único que existe es alarmante. Si mañana el director ejecutivo cambia, cede o vende, la resistencia desaparece.

Los dos episodios —la llegada de Claude Mythos y el conflicto entre Anthropic y el Pentágono— devolvieron al centro del debate público la necesidad de regular el desarrollo y el uso de la IA. Y también complicaron la pregunta y las posibles respuestas.

¿Podemos confiar la regulación a los gobiernos? Uno de esos gobiernos acaba de pedir vigilancia masiva sin orden judicial y armas autónomas sin que nadie apriete el gatillo. ¿A las empresas? Una resistió; otra firmó. La diferencia no es estructural: depende de quién dirige cada compañía, de quién encabeza cada gobierno. Por eso la pregunta no es cómo regular cada modelo, sino cómo impedir que ciertos usos queden disponibles para cualquier actor con poder suficiente para imponérselos.

Regular es, además, técnicamente difícil. Quienes deben hacerlo —legisladores, jueces, funcionarios— no necesariamente comprenden el objeto. Y aunque lo entendieran, regularían lo que ven hoy: un modelo que sintetiza textos, analiza imágenes, sugiere blancos. Pero los modelos dentro de pocos meses (o semanas) harán cosas que ahora no imaginamos, lo que significa que cualquier regulación demasiado específica nace obsoleta. La velocidad del desarrollo tecnológico supera estructuralmente la del cambio institucional. Esto no es nuevo —pasó con la imprenta, con la radio, con internet—, pero esta vez la brecha es mayor y los costos de equivocarse, también.

De ahí que la regulación útil sea probablemente la que renuncia a regular cada producto y se concentra en principios: qué usos quedan fuera de toda discusión —vigilancia indiscriminada, decisiones letales sin supervisión humana, manipulación masiva del debate público—; qué obligaciones de transparencia rigen para los datos de entrenamiento y los casos de uso; qué mecanismos de auditoría independiente sobreviven a los cambios de gobierno y a los cambios de director ejecutivo. Una regulación general, basada en valores, dialogada en serio entre gobiernos, desarrolladores, sociedad civil y academia. No un manual técnico de un objeto que mutará antes de imprimirse, sino un marco ético que cualquier desarrollo futuro deba respetar.

El problema es que el contexto político vuelve esa conversación casi imposible. La desconfianza es generalizada y simétrica: la sociedad desconfía de las empresas, las empresas desconfían de los gobiernos, las empresas y los gobiernos compiten entre sí. La opinión pública oscila entre el pánico al desempleo y la fascinación por la próxima maravilla, sin espacio para la deliberación sostenida. Y esa desconfianza, como sucede en general con las tecnologías nuevas, es más visceral que reflexiva: nace del miedo y de la visibilidad repentina, no de un examen pausado de lo que está en juego.

Lo peligroso no es que la inteligencia artificial merezca escrutinio —lo merece, y mucho—. Lo peligroso es que la desconfianza, cuando se vuelve rechazo irreflexivo, paraliza la capacidad de imaginar y construir las instituciones que necesitamos. Y aquí necesitamos imaginar mucho: arquitecturas de gobernanza que todavía no existen, contrapesos que no encajan en el molde de la regulación nacional, formas de cooperación internacional para las que no hay precedentes cómodos. Si el debate público sigue atrapado entre el optimismo de los desarrolladores y el miedo difuso de quienes sólo intuyen lo que se viene, la decisión la tomarán por nosotros los cinco hombres y los gobiernos que los presionan. Algo que, en realidad, ya está ocurriendo.