Lo que se inició como una publicación con tintes apocalípticos de un exempleado de Anthropic y OpenAI en X el 8 de septiembre ha escalado hasta convertirse en un tema de interés nacional en Estados Unidos: el riesgo de que una superinteligencia artificial actúe de forma autónoma en contra de la humanidad y se convierta en una amenaza existencial.
Cuando se esperaba un desmentido corporativo ridiculizando la posición de Jacob Coxon (el hombre que advirtió que “ninguna compañía está actuando responsablemente”), lo que siguió, en cambio, fue una cascada de posiciones validando sus preocupaciones.
Y no fueron opiniones de poco peso. Primero fue Evan Hubinger, responsable de ciencia de alineamiento en Anthropic, luego Dario Amodei (director ejecutivo de esta misma empresa) y finalmente las dos voces de más peso en la carrera tecnológica: Sam Altman y su antiguo socio y hoy rival de negocios Elon Musk.
Amodei publicó un comunicado denominado “Debemos pausar la Frontera”, en referencia a la IA de frontera, el sistema más moderno del que se dispone actualmente dotado de razonamiento avanzado.
En el documento, admitía que “la IA conlleva riesgos y, dado que es una tecnología tan poderosa, estos riesgos son serios”, y enumeraba los más graves: perder el control de los sistemas, el uso potencial para bioterrorismo y ciberataques y “una grave disrupción económica”.
Una extensión de tu navegador parece estar bloqueando la carga del reproductor de video. Para poder ver este contenido, debes desactivarla en este sitio.
Era el primer paso para alinearse con una carta firmada unos días antes por los líderes de 100 empresas líderes de la industria tecnológica, que pedían una mayor implicación de los gobiernos. Fue también el paso al frente en el que luego lo acompañaron Altman y Musk.
Los otros dos grandes líderes de la IA dieron la razón a los denunciantes y a Amodei en la necesidad de desacelerar el desarrollo y promover la regulación federal.
En ese llamado se han encontrado con el muro de Donald Trump y sus aliados, reticentes a frenar la marcha para revisar el programa, citando la carrera tecnológica con China para explicar la negativa.
Leer tambiénTrump cuestiona a las «fuerzas negativas» que piden desacelerar el desarrollo de la IA
“Quien gana la IA, gana”, dijo Trump este 13 de septiembre, mientras que el presidente de la Cámara de Representantes, Mike Johnson, apuntaba que “no podemos imponer una moratoria a esto porque China nos va a sobrepasar”.
¿Qué hay detrás de las posiciones de los magnates que piden regulaciones y los líderes llamados a regular que se resisten?
¿Creer o no creer?
La premisa de la aniquilación a manos de modelos que alcanzan autonomía y se vuelven contra la raza humana, como si de una película de ciencia ficción se tratara, es vista con escepticismo por expertos del área de tecnología, que prefieren poner el peso del impacto en otras implicaciones de la IA.
“El modelo cerrado ya tiene un gran riesgo: el control de la narrativa, la delegación cognitiva (que se expresa en el descenso generalizado del desempeño escolar recientemente revelado por el informe PISA) y la idea de que cada cosa que se hace pasa a estar bajo la órbita de Estados Unidos, que convierte a estas tecnologías en máquinas de vigilancia masiva”, advierte Beatriz Busaniche, directora de la fundación Vía Libre, que defiende derechos en entornos digitales.
Leer tambiénEuropa, Asia y Latinoamérica: ¿qué pasa con la educación? El informe PISA enciende alarma
La urgencia de un marco regulatorio, en el que esta vez hay una posición concertada de los tres principales actores de la industria, no es nueva, y ya ha sido señalada desde hace al menos cuatro años, como apunta Emilse Garzón, periodista de investigación especializada en tecnopolítica, ciberseguridad y cultura digital.
“Desde 2022 se está pidiendo, incluso a nivel de la ONU, frenar el desarrollo de IA de forma militarizada. No veo que eso sea lo que se está planteando acá. De hecho, lo que ya se tiene es bastante agresivo y no se está buscando una vía para retroceder con eso”, señala Garzón.
“Los responsables de los modelos de Anthropic y OpenAI están hablando de ciberataques que no pueden controlar. Con ello pueden estar abriendo la puerta para adueñarse del área de ciberseguridad y establecer un control en materia de defensa en los países en los que se cree esa dependencia”, advierte la experta.
Leer tambiénLa lucha por el uso militar ético de la IA: Anthropic demanda para impedir sanciones del Pentágono
Garzón y Busaniche coinciden en calificar de poco creíble el argumento de la amenaza existencial, y ven la posición coordinada de los líderes de la industria como un alineamiento interesado para tener ventaja en la carrera por la regulación.
“Hay que recordar que los empleados y gerentes de estas tecnológicas firman contratos de no divulgación, así que es difícil creer que Coxon y Hubinger estén pasando por encima de la obligación de confidencialidad”, apunta Busaniche.
Emilse Garzón agrega otro elemento: una estrategia para reaccionar al rechazo de un mercado de usuarios que no ha respondido según lo esperado. Según la experta, esa posición se expresa “en las campañas contra los centros de datos, las preocupaciones sobre privacidad o el riesgo para la democracia. El mercado de usuarios podría estar marcando una posición”.
“Hay una fuerte mirada en relación con la burbuja que se puede generar con la IA y la percepción de que no está cumpliendo con los resultados esperados. No hay una altísima adopción, eso se tiene que empujar y la forma de empujarlo es a partir de una narrativa. No se ha logrado la inserción esperada, y al no haber ese nivel de penetración, no se crea una dependencia tecnológica”, explica la analista.
Garzón también quita el acento del barniz ético de los pronunciamientos de esta semana: “Cuando hablamos de IA e implementaciones tenemos que ver, por ejemplo, un uso como el de Palantir, que utiliza estas herramientas para la guerra, para el asesinato, para el exterminio, para la vigilancia. Entonces, ¿a qué nos referimos cuando hablamos de detener la inteligencia artificial? ¿A la extracción de datos, a usos como el de Palantir?”.
Una extensión de tu navegador parece estar bloqueando la carga del reproductor de video. Para poder ver este contenido, debes desactivarla en este sitio.
“Si los movieran cuestiones éticas de base, no deberían haber eliminado en Grok, Meta y OpenAI la parte de alineamiento en seguridad”, recuerda Garzón.
La lupa sobre el desempeño económico
El director ejecutivo de OpenAI, Sam Altman, anunció el 12 de septiembre en una entrevista con la revista de negocios ‘Fortune’ que retrasará la salida a bolsa de la startup, que estaba prevista para octubre, argumentando las preocupaciones sobre seguridad que acapararon los titulares esta semana.
«De hecho, creo que, dado todo lo que está ocurriendo con la seguridad, ahora mismo sería un momento poco acertado para hacerlo público, y no sentimos presión por ello», explicó Altman.
Natalia Zuazo, especialista en políticas tecnológicas, no cree que la decisión obedezca al discurso ético que ha copado la opinión pública los últimos días, sino a intereses puramente financieros.
“Si OpenAI no hace pública la compañía, tiene que dar menos explicaciones de los riesgos y los efectos negativos de sus desarrollos. Si sale a bolsa va a tener que rendir más cuentas, habilitar más medidas de transparencia ante los accionistas e inversores”, argumenta.
Para la experta, la coyuntura de esta semana dio una coartada a una decisión que probablemente había sido tomada mucho antes.
“Hacer el pronunciamiento todos juntos (Amodei, Altman y Musk) le quita costo a ese retraso de la salida a bolsa, que hubiera sido solo de Altman de no haberse producido esta posición concertada. Si los tres dicen lo mismo al mismo tiempo, es una forma de socializar el impacto, la pérdida potencial, además de blindar la credibilidad, al venderse como confiables”, agrega Zuazo.
Una extensión de tu navegador parece estar bloqueando la carga del reproductor de video. Para poder ver este contenido, debes desactivarla en este sitio.
Beatriz Busaniche agrega otra motivación detrás del consenso de los líderes de la industria: la búsqueda de nuevos capitales, ante el ritmo voraz con el que esta tecnología devora las inversiones.
“Nada es accidental. Lo que se vio esta semana fue una puesta en escena que busca la captura de la intención regulatoria”, advierte la experta, para quien “la amenaza existencial es la excusa para ir detrás de los fondos de los estados”.
Busaniche advierte que esta tecnología padece de un “problema sistémico: agotó la capacidad de cómputo y necesita cada vez más inversión, que ya los privados no pueden proveer, entonces ahora van detrás de los fondos de los estados, tratando de posicionarse como los únicos con capacidad de ganar la carrera a China”.
¿Regular o no regular?
Mientras los magnates tecnológicos buscan aparentemente un marco regulatorio común, los llamados a diseñarlo, el Gobierno y el Congreso de Estados Unidos, han expresado sus dudas sobre una desaceleración que, a su juicio, beneficiaría a China.
Para Natalia Zuazo, este razonamiento parte de premisas falaces. “Trump y los grandes magnates tecnológicos repiten que mientras más regulación hay, más se frena la innovación, lo cual en la práctica no se comprueba. Los países que más crecen en el mundo en términos de PIB, los BRICS, son países que sí tienen regulaciones en materia industrial y tecnológica”.
Es sobre esta base que la Administración Trump combate lo que la experta denomina “el efecto Bruselas: si todos nos contagiamos del efecto regulatorio de la Unión Europea, entonces vamos a frenar la innovación, como si el punto por el que Europa no crece fuera la regulación”.
Una extensión de tu navegador parece estar bloqueando la carga del reproductor de video. Para poder ver este contenido, debes desactivarla en este sitio.
Zuazo señala que en el tema del diseño de políticas sobre la IA hay una mezcla de la carrera geopolítica con la carrera por el desarrollo tecnológico: “Se dice que si desaceleramos para regular, China nos va a ganar, pero ese razonamiento parte de la premisa falsa de que China no está regulando. Eso no es cierto: China está desarrollando, pero al mismo tiempo está regulando”.
La experta apunta la que, según su criterio, es otra premisa errada: “Trump y sus aliados creen en un dogma completamente liberal de que mientras más desarrollan tecnología eso naturalmente va a decantar en mayor bienestar económico para la población, pero eso no se comprueba del todo en la práctica”.
De hecho, Zuazo recuerda que “la industria aeronáutica estadounidense es una de las más reguladas del mundo, así como la automotriz o la farmacéutica. Regular no significa frenar el proceso o reducir el PIB de un país”.
Si se vencen las defensas conservadoras sobre la regulación, Emilse Garzón advierte sobre la posición dominante que seguirán manteniendo los grandes líderes de la industria de la IA.
“La forma coordinada de los pronunciamientos es para no perder la posición de apogeo”, señala. “Lo que hay detrás de esto es que quieren que los regulen, pero quien ser parte de la mesa de regulación: ser quienes controlen y marquen las reglas del juego”.
A diferencia de Garzón y Busaniche, Zuazo no descarta los riesgos que investigadores, políticos como el expresidente Barack Obama o los propios magnates del negocio advirtieron esta semana, y recuerda que “hay ingenieros que han alertado sobre la perspectiva de que haya sistemas tomando por sus propios medios decisiones para las que no fueron entrenados, coordinándose autónomamente”.
Sin embargo, coincide con las otras expertas en que voces como las de Amodei, Altman y Musk “tratan de crear un tipo de consorcio entre ellos, los dueños de las tecnológicas, con los gobiernos: controlar la narrativa antes de que sea demasiado tarde”.
