Los sistemas actuales de gobernanza se ven superados por el acelerado avance de la inteligencia artificial (IA), una situación que podría intensificar las amenazas asociadas con esta tecnología. Esa es la principal conclusión de un informe preliminar elaborado por el Panel Científico Internacional Independiente sobre Inteligencia Artificial de la Organización de las Naciones Unidas (ONU), el cual propone establecer un marco regulatorio común para evitar que el desarrollo acelerado de estos sistemas amplíe la desigualdad a escala mundial.
El organismo científico, integrado por 40 especialistas de distintas regiones del mundo, reconoce que el uso responsable y ético de la IA podría facilitar el cumplimiento de los Objetivos de Desarrollo Sostenible mediante la optimización de la atención sanitaria, la educación, la investigación científica, la agricultura y la accesibilidad para las personas con discapacidad.
Un informe de la ONU propone que la organización asuma un papel mucho más activo en el seguimiento y la supervisión de la IA.
No obstante, advierte que “la mayoría de los países, incluidas muchas economías avanzadas, carecen de los conocimientos técnicos necesarios para evaluar los modelos de frontera más potentes o participar de manera efectiva en su gobernanza”.
La instancia especializada de la ONU sostiene que la ausencia de un marco normativo, así como “el despliegue rápido y descontrolado de esta tecnología a gran escala”, plantea riesgos considerables, entre ellos los efectos negativos sobre la salud mental de los usuarios, su posible utilización como herramienta destructiva, las repercusiones en los sistemas sociales, económicos y ambientales, además de las limitaciones para garantizar un control efectivo sobre esta tecnología.
El informe destaca que la evolución de la IA y el alcance de sus capacidades han registrado avances extraordinarios en apenas unos años. Se estima que, a nivel mundial, más de 1,000 millones de personas utilizan sistemas como ChatGPT cada semana, no solo para generar texto o responder consultas generales, sino también para escribir código informático, analizar grandes volúmenes de datos, crear contenidos hiperrealistas y desarrollar razonamientos científicos avanzados.
Los especialistas enfatizan que el progreso tecnológico no se detiene y que la industria ya atraviesa una “nueva ola” marcada por la proliferación de agentes de IA con capacidad para ejecutar tareas complejas con poca o ninguna supervisión humana. Aunque reconocen que este avance podría acelerar el crecimiento económico y fortalecer la investigación científica, también advierten que incrementa los riesgos.
“No existen métodos fiables para mantener el control sobre sistemas de IA altamente autónomos. No hay garantías científicas de que los agentes de IA no vayan a incumplir las instrucciones, y cada vez se documentan más casos en que ya las incumplen”, argumentan.
La IA podría agravar la desigualdad que ya está generando
El panel considera indispensable implementar mecanismos de evaluación más rigurosos y fortalecer la cooperación internacional para garantizar la seguridad, la transparencia y la rendición de cuentas de los sistemas de IA. Advierte que, sin estas medidas, entre otras consecuencias negativas, el desarrollo de esta tecnología podría agravar la desigualdad que ya comienza a manifestarse.
Actualmente, la mayor parte de la infraestructura de cómputo destinada al desarrollo de IA se concentra en solo dos países. Se estima que Estados Unidos posee alrededor de tres cuartas partes de la capacidad mundial de procesamiento, mientras que China concentra aproximadamente el 15%. En conjunto, ambas naciones controlan cerca del 90% de esta capacidad.
