Un autoproclamado escéptico de la IA advirtió al mundo que Mythos era demasiado peligroso para su distribución. Ahora es él quien presiona a la Casa Blanca para que permita que una versión del sistema vuelva a estar en línea.
Resumen de la respuesta: Anthropic envió al investigador sénior de seguridad Nicholas Carlini a Washington para presionar a la administración Trump a fin de que revirtiera los controles de exportación que obligaron a la compañía a retirar sus dos modelos más potentes, Mythos 5 y Fable 5. La ironía es evidente: Carlini es el mismo investigador que, meses antes, instó a Anthropic a no lanzar Mythos. La disputa gira en torno a un informe de Amazon que afirma que las medidas de seguridad de Fable podrían eludirse parcialmente para exponer vulnerabilidades de software. Anthropic cuestiona la gravedad de la situación y argumenta que esta misma capacidad ya está disponible en modelos públicos de la competencia.
El escéptico que cambió de bando
Nicholas Carlini, de 35 años, se forjó una reputación como el "escéptico profesional" de la industria de la ciberseguridad, el hombre que durante años desmintió las exageradas afirmaciones sobre la seguridad de la IA. En 2019, consideró que OpenAI estaba siendo irrazonable al sugerir que GPT-2 era demasiado peligroso para ser lanzado. Luego, tuvo acceso a Mythos.
En marzo, Carlini se presentó ante 700 investigadores de seguridad en San Francisco y les mostró cómo había utilizado la IA de Anthropic para encontrar y explotar fallos críticos en Ghost, una herramienta de publicación web, y en Linux, uno de los sistemas operativos más analizados del mundo. Nunca antes había encontrado un fallo en ninguno de los dos. De repente, empezó a encontrar muchos. Dos días después, envió un memorándum a Anthropic: «No creo que debamos lanzar Mythos todavía»
Esa charla, que ya ha sido vista más de 360.000 veces, dio inicio a lo que los investigadores comenzaron a llamar "Bugmageddon"
Por qué el “Bugmageddon” asustó a Washington
El principal temor es la escala. Carlini describió a Mythos como el primer modelo capaz de encontrar y explotar vulnerabilidades a gran escala, no de una en una. Probó el modelo con Linux y este analizó el código miles de veces, descubriendo 479 errores, mientras que un humano se habría rendido. Anthropic afirma que Mythos ha encontrado ya más de 10 000 errores en software fundamental para el funcionamiento de la economía en general.
La ventaja defensiva es real. El riesgo ofensivo es el problema. El mismo motor que ayuda a un proveedor a parchear su software también ayuda a un atacante a escribir el exploit antes de que se instale el parche. El caso Ghost es una advertencia: Carlini informó del fallo, el proveedor lo parcheó en febrero y, en cuestión de semanas, los hackers aplicaron ingeniería inversa a la solución y atacaron más de 700 sitios que no se habían actualizado.
El informe de Amazon que desencadenó la prohibición
La reacción en cadena comenzó con una llamada telefónica. El director ejecutivo de Amazon, Andy Jassy, llamó a funcionarios del gobierno, incluido el secretario del Tesoro, Scott Bessent, para informarles que los investigadores de Amazon habían encontrado la manera de eludir las medidas de seguridad de Fable 5, el modelo que Anthropic acababa de lanzar al público. Fable es esencialmente Mythos con medidas de seguridad añadidas a sus capacidades de ciberseguridad, biología y química. Si se logran eliminar esas medidas, los usuarios obtienen el modelo en bruto a través de una puerta trasera.
El viernes, el director nacional de ciberseguridad, Sean Cairncross, dio un ultimátum: colaborar con el gobierno y retirar los modelos ese mismo día, o enfrentarse a una prohibición para usuarios extranjeros. Trump autorizó personalmente la restricción y designó al secretario de Comercio, Howard Lutnick, para que la gestionara. Cuando Amodei le dijo a Lutnick que la norma implicaba que Anthropic no podía impedir el acceso al modelo, la respuesta de Lutnick, según se informó, fue tajante: «Esa es la cuestión». Anthropic cerró todo el acceso para cumplir con la normativa, ya que la prohibición también afectaba a los empleados nacidos en el extranjero, lo que hacía inviable un cierre parcial.
De qué se trata realmente esto para Anthropic
He aquí la interpretación estratégica. Anthropic ha dedicado años a construir una marca basada en la seguridad de la IA, presentando la cautela como una ventaja, no como un inconveniente. Esa misma postura ahora se está utilizando en su contra. El asesor de IA de la Casa Blanca, David Sacks, ha acusado públicamente a la compañía de emplear «tácticas alarmistas», y el argumento de la administración es, en esencia: nos advirtieron que esto era peligroso, así que lo estamos tratando como tal.
Para una empresa valorada en aproximadamente un billón de dólares y que se prepara para salir a bolsa, una prohibición de exportación no es un simple rasguño en su imagen pública. Representa un golpe directo a la disponibilidad comercial de su producto estrella y a la credibilidad de sus relaciones con el gobierno. Anthropic argumenta que el hallazgo de Amazon describe una vulnerabilidad limitada y no universal, que modelos públicos rivales como GPT-5.5 pueden lograr lo mismo y que los defensores utilizan esta capacidad habitualmente. La empresa también afirma haber recibido aprobación explícita para implementar Fable.
Por eso, en lugar de cabilderos, enviaron personal técnico de alto nivel. Carlini, el líder del equipo de pruebas Logan Graham y el jefe de salvaguardias Dave Orr son los presentes. La apuesta es que una presentación técnica creíble será más efectiva que un comunicado de prensa ante esta administración, que se ha quejado repetidamente de que Anthropic "habla otro idioma"
Los precedentes que los fundadores deberían observar
Dejando de lado las personalidades, esto representa un hito en materia de gobernanza. A principios de junio, Trump firmó una orden ejecutiva que obligaba a los laboratorios de IA a proporcionar al gobierno acceso a los modelos 30 días antes de su lanzamiento público. El cierre de Fable constituye la primera aplicación rigurosa de esta postura y establece que un modelo de vanguardia puede ser retirado del mercado con tan solo 90 minutos de aviso por una conclusión de seguridad cuestionada.
Para quienes desarrollan proyectos basados en estos modelos, la lección es que el riesgo regulatorio es ahora una parte fundamental de la cadena de suministro de IA, no una simple nota a pie de página. El Estado puede interrumpir la distribución rápidamente, y el simple hecho de contar con la aprobación puede no ser suficiente.
Preguntas rápidas
¿Quién es Nicholas Carlini? Un investigador sénior de seguridad en Anthropic, conocido anteriormente en el campo de la ciberseguridad como el principal escéptico de las afirmaciones sobre el pirateo informático mediante IA, antes de que su propia investigación lo convenciera de que la amenaza era real.
¿Qué son Mythos 5 y Fable 5? Mythos es el modelo más potente de Anthropic. Fable es la versión para el público general, con medidas de seguridad en ámbitos de alto riesgo como la ciberseguridad, la biología y la química. Ambos fueron retirados tras la prohibición.
¿Por qué los prohibió el gobierno? Un informe de Amazon afirmaba que las medidas de seguridad de Fable podían eludirse parcialmente para exponer vulnerabilidades del software, lo que alarmó lo suficiente a los funcionarios de la Casa Blanca como para imponer controles de exportación al acceso extranjero.
¿Está de acuerdo Anthropic con la prohibición? No. Considera que el hallazgo es una vulneración parcial, no total, y argumenta que la misma capacidad ya existe en modelos públicos de la competencia.
¿Qué es el bucle de Carlini? Es una técnica de inducción que Carlini demostró y que induce al modelo a devolver resultados diferentes en cada pasada por el código fuente, lo que ayuda a detectar más errores. Al parecer, no le gusta el nombre.
La perspectiva del analista de modelos de negocio
Anthropic construyó una sólida reputación basada en la confianza, y este episodio muestra la doble cara de esa estrategia. Cuando toda tu marca proclama "nos tomamos el peligro en serio", les brindas a los reguladores la justificación exacta que necesitan para actuar cuando lo decidan. La empresa se encuentra ahora en la extraña posición de argumentar que su propio producto es menos peligroso de lo que sugerían sus advertencias anteriores, mientras que el investigador que dio la voz de alarma viaja a Washington D.C. para intentar calmar los ánimos.
La clave para los operadores reside en el control. Una empresa valorada en casi un billón de dólares acaba de sufrir la desconexión de su producto estrella por parte del Estado con tan solo 90 minutos de aviso, y su principal defensa, la aprobación previa, no fue suficiente. Si su plan de negocio presupone un acceso ininterrumpido a un modelo de vanguardia, está asumiendo un riesgo político que no puede prever ni mitigar. Prepárese para el día en que la API deje de funcionar, porque para los clientes de Anthropic, eso acaba de suceder.
