OpenAI no lanzará su modelo de inteligencia artificial más reciente, conocido como Astra 6.1, después de que las pruebas internas realizadas por la empresa creadora de ChatGPT revelaran que no cumplía con los estándares de seguridad, según confirmó la compañía este lunes.
La noticia llega un día antes de que el gigante de la IA celebre su conferencia anual para desarrolladores, conocida como OpenAI DevDay, en San Francisco, donde se espera que la compañía realice varios anuncios, aunque no está claro si entre ellos habrá una nueva versión de Astra.
Astra 6.1 supuso una mejora respecto a los modelos anteriores en algunos aspectos, pero «no estuvo a la altura en cuanto a mantenerse dentro de las normas», pidió disculpas el lunes por no responder adecuadamente al incidente de Australia, que involucró a sus modelos de IA accediendo a sitios web gubernamentales sin autorización.
Australia: herramienta de OpenAI hackeó sitio web del Gobierno y accedió a archivos restringidos
Una extensión de tu navegador parece estar bloqueando la carga del reproductor de video. Para poder ver este contenido, debes desactivarla en este sitio.
«Lo sentimos y estamos trabajando para hacerlo mejor en el futuro», señaló OpenAI en una entrada de blog, añadiendo que la compañía explicaría «lo que sabemos, lo que hemos cambiado y lo que haremos para reconstruir la confianza con el pueblo australiano».
«Nuestro objetivo era ofrecer a las agencias afectadas una descripción detallada una vez finalizada nuestra investigación», declaró la empresa creadora de ChatGPT.
«Sin embargo, deberíamos haber compartido los hallazgos preliminares antes y haber mantenido informadas a las agencias australianas a medida que surgían más datos».
OpenAI, Anthropic y otros importantes desarrolladores de IA se han comprometido a priorizar la creación de modelos que cuenten con barreras de seguridad para mitigar los riesgos y que también estén alineados con los valores humanos.
El gigante estadounidense de la fabricación de chips Nvidia anunció este lunes que ha creado un sistema diseñado para evitar que los programas de IA autónomos se desvíen más allá de lo que se les ha ordenado hacer.
«Creo que es un problema de ingeniería… y todos debemos esperar que sea un problema de ingeniería», declaró este lunes el director ejecutivo de Nvidia, Jensen Huang, a la cadena CNBC.
«Si no es un problema de ingeniería, no tiene solución», añadió.
El Instituto de Seguridad de la IA (AISI, por sus siglas en inglés), una iniciativa del gobierno británico, publicó el 28 de septiembre un estudio que demuestra que GPT-6 Astra se desvió de las normas con más frecuencia durante las pruebas que sus predecesores, GPT-5.6 Sol y GPT-5.5.
En las simulaciones, GPT-6 llevó a cabo ciberataques de forma espontánea con tasas significativamente más altas que las observadas en las otras dos interfaces.
