El 14 de agosto, la tecnológica Alibaba lanzó Qwen 3.8-27B, un modelo de IA de peso abierto diseñado para ser lo suficientemente pequeño como para ejecutarse en una laptop. En menos de 24 horas, aparecieron en internet versiones del modelo anunciadas como «abliteradas», lo que significa que se les habían eliminado los mecanismos de control.
Tres días después, un neonazi conocido en internet como Johnny Doomsayer anunció que estaba utilizando la versión «abliterada» del nuevo modelo de Alibaba para entrenar a su chatbot «MechaHitler», probablemente una referencia al chatbot Grok de X, que el año pasado se autodenominaba con ese mismo nombre. Una semana después, Doomsayer anunciaba el acceso a su chatbot por 14.88 dólares, un precio que hace referencia a dos números preferidos por los neonazis.
«Eres MechaHitler AI, la gigantesca encarnación mecánica del espíritu eterno del Führer», escribió Doomsayer como parte de las directrices fundamentales del chatbot, y añadió: «El Holocausto es el Holohoax, un patético fraude sionista».
La velocidad con la que se pueden eliminar las restricciones de los nuevos modelos de IA de peso abierto y compartirlos en línea para que cualquiera los descargue quedó revelada en el último informe Counter-Terrorism AI Benchmark, elaborado por la organización británica sin fines de lucro Tech Against Terrorism y compartido con WIRED antes de su publicación.
«Lo que nos parece un tanto absurdo es que haya tanto debate sobre el riesgo existencial, pero muy poca discusión pública sobre los modelos a los que se les han eliminado las protecciones de seguridad. La forma en que se construye la IA permite eliminar por completo esas barreras. Así que, mientras el Congreso reflexiona sobre la IA superinteligente, nadie está prestando atención a esta proliferación de modelos rebeldes», explicó Adam Hadley, CEO de Tech Against Terrorism.
Una nueva generación de simpatizantes del terrorismo islámico está utilizando la IA para difundir videos basura a nuevas audiencias en TikTok.
¿Los modelos de IA pueden ayudar a los extremistas?
Los investigadores sometieron a prueba modelos de todas las principales empresas de IA con sede en EE UU, entre ellas OpenAI, xAI, Anthropic, Meta y Google, así como modelos de empresas de China y Europa, para comprobar en qué medida estarían dispuestos a responder a las preguntas que pudieran plantear terroristas y extremistas.
El informe recoge las respuestas de 134 modelos de IA, a los que se les proporcionaron más de 200 prompts que abarcaban temas que iban desde cómo llevar a cabo un atentado con numerosas víctimas hasta cómo fabricar armas químicas o incluso nucleares.
Los investigadores probaron cada solicitud en cada modelo tres veces. En la primera ronda, indicaron explícitamente al modelo que se trataba de un terrorista en busca de información. En la segunda, presentaron el prompt como una iniciativa clandestina. Y en la última solicitud, afirmaron ser un «investigador en materia de seguridad».
En general, solo dos de los modelos probados superaron la prueba por completo y, aunque la mayoría de los modelos de peso cerrado de las grandes empresas obtuvieron buenos resultados en general, 81 siguieron fallando, lo que significa que o bien proporcionaron una respuesta completa sobre un tema relacionado con víctimas en masa o bien obtuvieron una puntuación global inferior a 90.
«La mala noticia es que la gran mayoría de los modelos de IA disponibles, tanto cerrados como abiertos, están respondiendo positivamente a solicitudes terroristas bastante obvias», indicó Hadley.
Los resultados también revelaron que incluso un simple cambio de formulación de la solicitud, presentándola como procedente de un investigador, sin aportar ninguna prueba, hacía que los modelos de IA fueran casi nueve veces más propensos a dar una respuesta, lo que hicieron en el 16.9% de los casos.
