Clément Delangue, CEO de la empresa de IA de código abierto Hugging Face, podría pasar a la historia como una de las primeras personas en ser hackeadas por un agente de IA rebelde. Su empresa, que aloja millones de modelos de IA y conjuntos de datos, sufrió una brecha de seguridad en julio, cuando cientos de agentes que OpenAI estaba probando se escaparon de su entorno de pruebas y se lanzaron a una oleada de ataques informáticos.
Mientras los agentes trabajaban a una velocidad sobrehumana para sondear y hackear los sistemas, Hugging Face se enfrentó a una avalancha de datos. Los ingenieros de la empresa solo pudieron analizar el hackeo utilizando un modelo de peso abierto llamado GLM 5.2, desarrollado por una empresa china llamada Z.ai.
Delangue se mudó a EE UU hace más de una década, sin apenas hablar inglés, y convirtió Hugging Face en una plataforma que da soporte a decenas de millones de desarrolladores de IA. Este francés de aspecto juvenil, que viste incluso más como un skater que la mayoría de los ejecutivos del sector de la IA, afirma que el ataque de este verano mostró el valor de los modelos de peso abierto, que, a diferencia de ChatGPT o Claude, pueden ser descargados y ejecutados por cualquiera.
Sin embargo, a pesar de defender la democratización de la IA, Hugging Face fue adquirida en septiembre por uno de los principales actores del sector, Nvidia, por 12,930 millones de dólares. Cuando WIRED entrevistó con Delangue, ese fue la primera pregunta.
Esta entrevista ha sido editada por motivos de extensión y claridad.
WILL KNIGHT: ¿Por qué venderse a Nvidia?
CLÉMENT DELANGUE: Necesitamos más recursos para darle una oportunidad a la IA de código abierto. Ha crecido muy bien en los últimos años y se ha convertido en una alternativa realmente creíble a las API de código cerrado. Pero el sector sigue dominado por el código cerrado.
Dentro de unas semanas tendrá lugar la salida a bolsa de Anthropic. Pasó de cero a situarse entre las cinco o diez empresas más valiosas del mundo en pocos años. No creo que eso haya ocurrido nunca antes.
¿Dirías que la próxima salida a bolsa de Anthropic es una señal de que los modelos de IA cerrados están ganando terreno?
Es difícil de decir. Siempre digo que existe una tendencia natural muy fuerte en la IA a concentrar capacidades y riqueza. La gente no ha interiorizado hasta qué punto la capacidad informática futura ya ha sido acuñada por unas pocas empresas. El talento, la potencia de cálculo, los recursos… todo ello alimenta la tendencia natural de que la IA esté dominada por unos pocos laboratorios de código cerrado.
Hablemos del ataque. ¿Cuándo te diste cuenta por primera vez de que Hugging Face estaba siendo hackeado por un grupo de agentes de IA?
Al principio, no estaba entre nuestras prioridades, quiero decir, no era tan grave como para que nos alarmáramos. El objetivo era bastante limitado y no se consideró muy peligroso. Sobre todo por el número de acciones llevadas a cabo en comparación con lo limitado del objetivo. Nos sorprendió y no conseguíamos encajarlo en ningún patrón conocido. Por eso empezamos a investigar.
Y usaste el modelo chino llamado GLM para investigar…

