Los presidentes de empresas tan influyentes como OpenAI y Anthropic coincidieron en que el mundo, a través del Consejo de Seguridad de Naciones Unidas, debería establecer algún tipo de salvaguardia, es decir, control real, para evitar que esta tecnología se vuelva demasiado poderosa e incontrolable.
El primer ministro australiano, Anthony Albanese, declaró este miércoles 23 de septiembre que un agente de inteligencia artificial desarrollado por OpenAI se infiltró en un sitio web del Gobierno en junio, accediendo a archivos públicos y privados.
Coincidencia o no, este, que es el primer caso conocido de un agente de IA que piratea un sitio web gubernamental, salió a la luz mientras los mayores líderes de la industria pretendían despejar las enormes dudas sobre la seguridad de la tecnología.
Leer tambiénEn directo I Líderes de la IA advierten en la ONU del riesgo que corre la humanidad si no se regula
¿Puede la inteligencia artificial, cada vez más potente, perfeccionarse, escapar al control humano y amenazar la seguridad internacional?, fueron algunos de los cuestionamientos a resolver durante la Asamblea General de Naciones Unidas.
La respuesta se resume en estas dos frases de dos de los más grandes representantes de la industria (y competidores entre sí):
Si se gestiona mal, creo que la IA podría incluso representar un riesgo para la humanidad en su conjunto
– Dario Amodei, director ejecutivo de Anthropic
Podríamos perder el control del futuro a manos de la IA
– Sam Altman, director ejecutivo de OpenAI
El objetivo principal de la reunión de este miércoles era poner de relieve los riesgos prácticos de que la IA pierda el control, lo que afectaría a la seguridad internacional.
Los líderes de la industria pidieron al mundo que garantice que el poder de la IA no se concentre en una sola empresa o país.
Sam Altman agregó: “A medida que los sistemas de IA se vuelven más capaces y autónomos, podrían avanzar más rápido que nuestras instituciones, concentrar el poder en muy pocas manos o tomar decisiones que las personas ya no comprenden ni controlan”.
Si la IA ha de ser democrática, las decisiones más importantes no pueden ser tomadas únicamente por laboratorios en San Francisco. Deben ser moldeadas mediante procesos democráticos y por gobiernos responsables ante la ciudadanía
Ventajas y desventajas de una tecnología que llegó para quedarse
Mientras advertían de sus riesgos, los líderes también resaltaron los beneficios de la inteligencia artificial para el progreso de la humanidad y lo que Altman denominó «dar a las personas mayor control sobre sus propias vidas».
“A pesar de las diferencias entre las personas presentes en esta sala, debemos dejarlas de lado para afrontar esta oportunidad y amenaza global que se nos presenta simultáneamente. Ningún líder, ninguna empresa ni ninguna nación puede gestionar esto sola”, agregó su colega Amodei.
El Consejo de Seguridad de la ONU, compuesto por 15 miembros, escuchó este miércoles, además, a Clément Delangue, cofundador de Hugging Face – quien, paradójicamente, habló a través de una conexión remota con fallos técnicos-.
También fueron invitados los representantes de Estados Unidos y China, los principales rivales en el campo de la IA.
El asesor científico de la Casa Blanca, Michael Kratsios, afirmó que las preocupaciones sobre el control de la IA “no son motivo para detener su desarrollo ni para limitarlo con una nueva estructura de gobernanza global”.
El martes 22 de septiembre, Donald Trump había dicho a sus colegas que rechazaba cualquier “intento de construir un plan globalista para controlar” la IA, describiendo la tecnología como asombrosa.
Ahora mismo estamos muy por delante de China y de todos los demás, y vamos a mantener esa ventaja (…) No voy a frenar el crecimiento de algo que será más grande que la Revolución Industrial
– Donald Trump, presidente de Estados Unidos
“Vamos a fomentarla, no a restringirla. La vigilaremos de cerca a través del Departamento de Justicia”, declaró el mandatario.
El secretario general de la ONU, António Guterres, también había advertido previamente que el rápido avance de la inteligencia artificial plantea riesgos que no se pueden ignorar.
Con Reuters, AP y AFP
