A finales de la semana pasada, Anthropic retiró sus nuevos modelos de IA Claude Fable 5 y Mythos 5 tras una directiva de control de exportaciones del gobierno estadounidense que prohíbe a «cualquier ciudadano extranjero» utilizar los servicios. Desde la semana pasada, la compañía ha estado en conversaciones con la Casa Blanca, pero aún no ha logrado un acuerdo que le permita reactivar sus servicios.
Desde el lanzamiento de Mythos en abril, Anthropic ha afirmado, y advertido, que el modelo posee capacidades avanzadas no solo para encontrar vulnerabilidades de software que ayuden a los investigadores a corregirlas, sino también para descubrir formas de explotarlas que podrían ser utilizadas por ciberdelincuentes.
Anthropic señaló esto en el lanzamiento de Mythos 5 y Claude Fable 5. «Gran parte del uso avanzado de los modelos de IA es de doble uso: las mismas consultas que resultan beneficiosas para los profesionales de la ciberseguridad y los investigadores de biología podrían ser peligrosas si estuvieran disponibles para ciberdelincuentes», escribió la compañía en una publicación de blog la semana pasada.
Restringir, retrasar y frenar
Teniendo esto en cuenta, la compañía lanzó inicialmente una versión llamada Mythos Preview a un consorcio selecto como parte de un grupo de trabajo conocido como Proyecto Glasswing. Mythos 5 también se lanzó de forma privada a este grupo la semana pasada, mientras que Claude Fable 5, que es un modelo de grado Mythos, se lanzó al público general con restricciones específicas en su capacidad para responder preguntas sobre biología y ciberseguridad.
Posteriormente, a finales de la semana pasada, la administración Trump tomó medidas para restringir ambos modelos, ya que considera que las medidas de seguridad de Fable 5 pueden desactivarse para permitir el acceso completo a las capacidades del modelo, lo que, supuestamente, lo convierte en un riesgo para la seguridad nacional.
Sin embargo, los expertos afirman que este enfrentamiento no hace más que retrasar u ocultar una realidad incómoda: Anthropic fue la primera, pero las capacidades de la IA en general, así como las de los modelos desarrollados por múltiples empresas y desarrolladores independientes, alcanzarán niveles similares a los de Mythos 5 en un futuro próximo, si es que no los han alcanzado ya.
«Es casi como cerrar los ojos y negarse a aceptar que otros competidores de Anthropic desarrollarán capacidades similares a las de Mythos, o incluso que algunos ya las hayan desarrollado», afirma Tarah Wheeler, directora de seguridad de la consultora especializada en ciberseguridad TPO Group. Añade: «Hay otras empresas pisándole los talones a Anthropic que probablemente también cuenten con esas capacidades y las estén reservando mientras observan cómo se trata a Anthropic en el actual entorno normativo».
Anthropic ha hecho hincapié en este punto desde el lanzamiento de Mythos Preview: «El verdadero mensaje es que esto no se trata del modelo ni de Anthropic. Debemos prepararnos ahora para un mundo donde estas capacidades estén ampliamente disponibles en 6, 12 o 24 meses», declaró Logan Graham, líder del equipo de pruebas de vanguardia de la compañía.
OpenAI, por ejemplo, también realizó a mediados de abril una publicación privada de un modelo centrado en la ciberseguridad y anunció una estrategia de ciberseguridad ampliada.
Según Anthropic, Claude Mythos es capaz de identificar y explotar vulnerabilidades de día cero en los principales sistemas operativos y navegadores web, incluso a petición de usuarios sin conocimientos técnicos.
Luchar contra el progreso de la tecnología
Los investigadores señalan que, incluso antes de esta nueva generación de modelos, las soluciones de IA existentes podrían utilizarse para la búsqueda avanzada de vulnerabilidades y el desarrollo de exploits con un manejo más preciso. Un amplio grupo de líderes en ciberseguridad hizo hincapié en esto ante la administración en una carta abierta, argumentando que la directiva de control de exportaciones de la Casa Blanca era desacertada.
«No se trata de un solo modelo; es la tendencia general de la tecnología. Los modelos de código abierto, más pequeños y económicos, a veces por sí solos y otras en combinación entre sí, pueden igualar el rendimiento de Mythos y Fable mediante indicaciones más sofisticadas. Además, debemos esperar que otros modelos igualen su creatividad y tenacidad en cuestión de meses; en el caso de los modelos de código abierto, quizá tarden algo más», afirma Bruce Schneier, investigador de la Universidad de Harvard y de la Universidad de Toronto que ha estado analizando la situación.
