En WIRED hemos informado esta semana de al menos dos incidentes en el sector de la IA. El primero es la polémica en torno a un problema matemático de un millón de dólares y a si OpenAI se inspiró de forma encubierta en el trabajo de otros investigadores para resolverlo. El segundo es la renuncia pública de un investigador de Anthropic, ex empleado de OpenAI, quien alegó preocupación por cómo ambas empresas gestionan la seguridad de la IA. Otro miembro del personal técnico de Anthropic respondió que la gente de la empresa «¡realmente cree que la IA podría acabar con toda la humanidad!» (Fíjate en los signos de exclamación…) Y remató: «Personalmente, creo que hay más de un 10% de probabilidades de que eso ocurra en la próxima década».
En internet se desató un debate sobre si estos temores son legítimos, totalmente exagerados, parte de una estrategia de control regulatorio o una forma de autoelogio por parte de los laboratorios de IA que desarrollan la tecnología. Quizá se trata de una combinación de todo eso.
Timnit Gebru, una destacada investigadora de tecnología e inteligencia artificial, se ha mostrado especialmente vehemente en sus publicaciones en X y Bluesky sobre la superposición de ideas e ideologías que, según ella, nos han llevado a esta situación tan peculiar. En el pasado, Gebru ya era conocida principalmente por su muy publicitada salida de Google. Contratada en 2018 para evaluar los sesgos en las herramientas de IA de la compañía, que avanzaban a pasos agigantados, ella y sus compañeros investigadores presentaron un artículo sobre los peligros potenciales de los modelos de lenguaje probabilísticos a gran escala. Google lo rechazó. Gebru no permaneció mucho tiempo en la empresa. Ha escrito un libro sobre sus experiencias, titulado Deep Unlearning: The Rise of AI and the Radicalization of a Tech Idealist (algo así como «El gran desaprendizaje: el auge de la IA y la radicalización de una idealista tecnológica»), que se espera salga a la venta a principios del próximo año.
Gebru tiene muchas reflexiones sobre los acontecimientos relacionados con la IA de la semana pasada. Si bien su trabajo se centra fundamentalmente en la seguridad de la IA, rechaza expresiones como «seguridad y alineación» y cree que quienes advierten sobre nuestra inminente catástrofe intentan desviar la atención de los daños reales que la industria tecnológica podría perpetuar.
WIRED: ¿Qué crees que revela toda la atención que recibe la «batalla matemática» sobre el estado actual de la IA?
TIMNIT GEBRU: Bueno, primero preguntaría: ¿por qué las tecnológicas invierten tanto en resolver problemas matemáticos? ¿Por qué eligen ciertas disciplinas? De alguna manera, estas materias, como la programación, el ajedrez y las matemáticas, se han elevado a un nivel que parece mandar el mensaje: “Ok, has llegado a esta meta y, por lo tanto, has descifrado la inteligencia”. Es para que puedan decir: “Lo hemos resuelto, lo encontramos”.
La historia que OpenAI quiere que te lleves es que esta IA ha hecho algo increíble y es superinteligente. Por eso eligieron las matemáticas y esa pregunta abierta con un premio de un millón de dólares. Pero si hubiera pasado por todo el proceso mediante el cual la comunidad matemática evalúa la importancia y la novedad de las afirmaciones y quiénes contribuyeron a ellas, y si todos hubiéramos esperado a que se calmaran las aguas, habríamos comprendido mejor si OpenAI estaba presentando este avance con precisión.
Existe algo llamado la Declaración de Leiden que me parece muy buena, la cual advierte sobre las consecuencias de que las corporaciones utilicen las matemáticas de esta manera. Los responsables políticos empiezan a basarse en comunicados de prensa y medios de comunicación populares, cuando deberían hablar directamente con los matemáticos. El tiempo que transcurre ahora entre que las empresas anuncien un avance en IA y que Bernie Sanders proponga un proyecto de ley es realmente corto, y eso no es bueno.
