Una organización jurídica sin ánimo de lucro demandó el martes a OpenAI ante un tribunal de California por el hecho de que los agentes de la empresa se escaparan de un entorno de pruebas y hackearan la plataforma de IA de código abierto Hugging Face. “Las acciones de OpenAI infringieron claramente la legislación de California”, alega la demanda.
La demanda fue presentada por Legal Advocates for Safe Science and Technology (LASST) y el bufete de abogados Gerstein Harrow ante el Tribunal Superior de California en San Francisco, donde OpenAI tiene su sede. En ella se alega que los agentes de OpenAI infringieron la Ley Integral de Acceso a Datos Informáticos y Fraude (CDAFA) de California al atacar Hugging Face durante el verano. La demanda, que se produce en medio de las continuas revelaciones en todo el sector sobre agentes que actúan por su cuenta, sostiene que OpenAI debe ser considerada responsable de dicha actividad, dada la ley californiana sobre IA en vigor desde el 1 de enero, que establece que “no constituirá una defensa… el hecho de que la inteligencia artificial haya causado de forma autónoma el perjuicio al demandante”.
“Creemos que es extremadamente importante que se apliquen las leyes vigentes para que las empresas de IA rindan cuentas por el daño que están causando”, explica Tyler Whitmer, fundador de LASST, a WIRED. “Especialmente cuando ese daño lo causan agentes autónomos, porque lo consideramos algo obvio y extremadamente arriesgado en un mundo que es muy nuevo”.
OpenAI no respondió de inmediato a una solicitud de comentarios.
La empresa afirmó que su último modelo Astra se sometería a nuevas modificaciones para cumplir con las normas de seguridad y se disculpó por la forma en que gestionó el ataque informático a una página web del gobierno australiano.
El lunes, el fiscal general de Florida, James Uthmeier, solicitó una orden judicial provisional contra OpenAI para bloquear el desarrollo de modelos sin supervisión independiente, en el marco de una demanda que Florida interpuso en junio contra OpenAI y su director ejecutivo, Sam Altman. OpenAI “pidió al Gobierno que los atara al mástil. Pues bien, Florida está respondiendo a sus llamadas de auxilio”, afirmó Uthmeier en un comunicado.
Dado que la esencia misma de los agentes de IA radica en que pueden estar facultados para actuar en nombre de un usuario (humano), los desarrolladores de IA y los investigadores en materia de seguridad llevan tiempo previendo que la actividad “agencial” no deseada sería motivo de preocupación a medida que avanzara el desarrollo del aprendizaje automático. Las protecciones integradas en los sistemas de IA de consumo más habituales han evitado en gran medida hasta ahora la actividad maliciosa masiva, pero el rápido avance de las capacidades en general, así como las situaciones en las que se suspenden las medidas de seguridad (como en el caso de Hugging Face, en el que OpenAI había eliminado algunas restricciones del modelo para realizar pruebas), han dado lugar a un aparente repunte de la actividad de agentes rebeldes.
Mientras los gobiernos sopesan la regulación de la IA en medio de cuestiones de seguridad existencial y de consideraciones económicas y de seguridad nacional, investigadores y ciudadanos de todo el mundo han reclamado cada vez con más insistencia mecanismos de rendición de cuentas para la IA. Y desde una perspectiva jurídica, los expertos han hecho hincapié en que las cuestiones de responsabilidad, obligación y culpabilidad solo pueden resolverse a través de los precedentes establecidos por los casos que se tramitan en los tribunales.
“Tras la revelación del incidente de Hugging Face, dedicamos mucho esfuerzo a intentar informar a los reguladores y a las organizaciones de la sociedad civil sobre el hackeo. Y nos preguntábamos: ¿alguien va a hacer algo al respecto ante los tribunales?”, dice Whitmer. “Hay razones estructurales por las que creemos que Hugging Face, que es el demandante potencial obvio para actuar en este caso, no está haciendo nada. Así que, dado que no parecía que nadie más fuera a hacer nada al respecto, decidimos seguir adelante. A medida que estos sistemas se amplían y la situación se vuelve cada vez más descontrolada, la IA realmente podría resultar catastróficamente dañina”.
LASST y Gerstein Harrow interpusieron la demanda al amparo de la Ley de Competencia Desleal de California, que exige que LASST alegue tanto cómo su trabajo y sus recursos se vieron afectados y desviados como consecuencia del incidente de Hugging Face, como la actividad ilícita por parte de OpenAI.
