La IA solo es segura si la controla quien la vende

Durante cinco años, Anthropic ha advertido de que una inteligencia artificial avanzada podría desestabilizar la sociedad y provocar una destrucción masiva. En ese mismo periodo se ha convertido en uno de los mayores laboratorios de vanguardia del planeta, con el ejército de Estados Unidos entre sus clientes y una valoración que roza el billón de dólares. La advertencia y el negocio avanzan juntos, y no por casualidad.

La aparente contradicción se disuelve cuando entiendes su marco mental. Puertas adentro, sus directivos se llaman a sí mismos "los buenos": los únicos capaces de gestionar con responsabilidad una tecnología peligrosa y, por eso, la única empresa en la que se puede confiar. La investigadora Helen Toner lo resume con una imagen. La IA es un bosque lleno de tesoros y de monstruos. Anthropic quiere adentrarse más que nadie, mientras dice que invierte en domar a las bestias. Acumular capital, cómputo, talento e influencia política no sería un fin, sino el peaje de la misión.

El peaje tiene consecuencias concretas. En otoño de 2024, Anthropic fue el primer laboratorio en aliarse con Palantir para llevar Claude a las agencias de defensa e inteligencia. Meses después firmó un contrato de 200 millones de dólares con el Pentágono y su modelo entró en las redes clasificadas del Gobierno. Cuando le preguntaron si Claude se había usado para señalar objetivos en un ataque que mató a más de cien personas en una escuela iraní, Amodei respondió que no lo sabía, pero que habría sido un uso aprobado siempre que un humano tomara la decisión final. Su idea de IA responsable y la del ciudadano de a pie no siempre coinciden.

No es la primera vez que la empresa decide sola dónde está el límite. Este mismo mes lanzó un modelo de vanguardia con una salvaguarda oculta: si alguien lo usaba para desarrollar IA de frontera, la compañía saboteaba en secreto su trabajo. Investigadores de medio sector lo criticaron y Anthropic rectificó, prometiendo hacerla visible. Fija la regla y la aplica sin avisar, y solo la muestra cuando alguien la descubre.

Y aquí está el fondo del asunto. El propio Amodei ha reconocido en un ensayo de 20.000 palabras que el siguiente nivel de riesgo son las propias empresas de IA, la suya incluida. Pero sus remedios, que esas compañías sean vigiladas de cerca y asuman compromisos voluntarios, apenas rozan la raíz. El diagnóstico señala la concentración de poder. La receta la deja intacta. Curar un riesgo concentrado con un sistema de gobierno diseñado por los mismos actores concentrados tiene nombre: convertir la inteligencia en infraestructura con permiso, controlada por un puñado de laboratorios y gobiernos afines.

Nadie sabe de verdad cómo va a cambiar el mundo esta tecnología. Lo único cierto es que unas pocas voces deciden el relato, y pertenecen a quien más gana si ese relato triunfa. Así que la próxima vez que un laboratorio te explique de qué peligro viene a salvarte, pregúntate qué está comprando con el miedo que te vende.

Fuentes

• "What the Anthropic AI safety saga is really all about". CNN Business. https://www.cnn.com/2026/02/26/tech/anthropic-ai-safety

• "Anthropic, Palantir, Amazon team up to bring Claude models to defense work". Axios. https://www.axios.com/2024/11/08/anthropic-palantir-amazon-claude-defense-ai

• "Defense tech companies are dropping Claude after Pentagon's Anthropic blacklist". CNBC. https://www.cnbc.com/2026/03/04/pentagon-blacklist-anthropic-defense-tech-claude.html

• Amodei, D. (2026). "The Adolescence of Technology". darioamodei.com. https://darioamodei.com/essay/the-adolescence-of-technology