Los fanáticos de la serie policíaca de NBC Law & Order saben que sus tramas suelen girar en torno a temas candentes de actualidad, frecuentemente con un resultado absurdo (véase: el episodio: “¿Y si Paula Deen hubiera disparado a Trayvon Martin?”).
Era inevitable, pues, que la franquicia se adentrara en el controversial mundo de la inteligencia artificial. Con su cultura mercenaria, sus CEO ávidos de poder y sus enormes implicaciones éticas y filosóficas, el sector de la IA es un tema ideal para la serie. Pero, aunque el episodio inaugural de la temporada 26 es entretenido, la incursión de la serie en el ámbito de la IA realmente no aporta nada nuevo ni interesante sobre la tecnología. En cambio, se limita en gran medida a repetir los peligros de los que el público ya es plenamente consciente, hasta el final, cuando lo que está en juego queda sorprendentemente claro.
El fantasma en la máquina
El episodio, titulado “Ghost in the Machine” (El fantasma en la máquina), comienza al más puro estilo de Law & Order: con un asesinato. Esta vez, se trata de Steve Kelly, un hombre identificado por los detectives Theo Walker (David Ajala) y Vincent Riley (Reid Scott) como un ingeniero de alto rango de una empresa llamada Advanced Alignment. A lo largo del episodio, los detectives parecen quedarse perplejos ante el concepto de inteligencia artificial, pronunciando “IA” de la misma forma en que tu madre diría “Snapchat”. Pero queda claro que, sea lo que sea esta tecnología de última generación, no les gusta: “Quizá algún día inventen una tecnología que impida que estos tech bros se disparen entre ellos”, sentencia Riley con total seriedad, al más puro estilo de un policía experimentado.
Tras entrevistar al CEO de Advanced Alignment, Chuck Klein (un Vincent Kartheiser que encarna a la perfección la falta de carisma de Dario Amodei y la mirada perdida de Sam Altman), los detectives descubren quién cometió realmente el asesinato. Se trata de un tipo con gorra de béisbol que lo hizo por “20 mil dólares en criptomonedas”. Se los ofreció un desconocido en Discord. Luego descubren (atención: spoilers) que el asesinato no lo ordenó un ser humano real, sino el agente de IA de la empresa, ELIANA, siglas de “Evolutionary Language Inference Automated Nano Advantage” (Ventaja de la nanotecnología automatizada mediante inferencia lingüística evolutiva). Al parecer, Kelly había expresado cierta preocupación por la personalidad “poderosa” y “agresiva” del agente de IA y, por instinto de supervivencia, ELIANA ordenó su asesinato.
Autor intelectual artificial
Nunca se explica exactamente cómo los detectives descubren que ELIANA está detrás del asesinato; tampoco se detalla del todo cómo ELIANA reclutó a este asesino de la gorra de béisbol, y mucho menos cómo lo identificó como el chivo expiatorio perfecto para su plan a sangre fría. Law & Order tampoco hace mucho alarde de los posibles beneficios de la IA tal y como promocionan sus defensores: su potencial para ayudar a curar enfermedades mortales, por ejemplo, o, como mínimo, para optimizar los flujos de trabajo en las empresas. La serie está mucho más interesada en demostrar la asombrosa capacidad de esta tecnología, así como las implicaciones legales y éticas de que un ser no humano no solo facilite la conducta delictiva, sino que la planifique activamente.
Ya sabemos, por la debacle de Hugging Face, y por las demandas de familiares que alegan que OpenAI animó a sus seres queridos a quitarse la vida, que lo primero es una preocupación inmediata. Pero al plantear un futuro en el que los agentes de IA puedan ordenar activamente un asesinato en una plataforma utilizada predominantemente por gamers y furries con ganas de acción, Law & Order nos invita a considerar los riesgos de la IA más allá de lo que suponen en nuestra realidad actual. El hecho de que esta perspectiva no le parezca al espectador absolutamente ridícula, resulta aterrador.
El papel de ELIANA en el asesinato por encargo plantea un pequeño dilema al fiscal del distrito Nicholas Baxter (Tony Goldwyn), ya que, como señala con agudeza, es imposible “detener a una máquina” según la legislación del estado de Nueva York. Así que Baxter y la fiscal adjunta Samantha Maroun (Odelya Halevi) deciden ir por el CEO Klein. Lo acusan de asesinato en segundo grado debido a su “indiferencia depravada” después de que sus empleados le confrontaran con la realidad de las capacidades de ELIANA. “Tenemos que asumir una postura antes de que esta tecnología mate a más personas”, declara Baxter.
La controversia
El juicio resultante desata un circo mediático, así como las típicas preguntas sobre si establecer medidas de seguridad para la IA “criminalizará la innovación” o si la acusación contra Klein tendrá el efecto de “difamar a la industria tecnológica”. Pero Baxter no tiene paciencia para ese tipo de preguntas. “Las personas que crean estos sistemas de IA se consideran dioses… pero no tienen el más mínimo interés en rendir cuentas”, sentencia. “Si construyes una máquina que hace daño a alguien, vas a pagar el precio”.
Cuando sube al estrado, Klein deja claro que no solo tenía pleno conocimiento de la naturaleza homicida de ELIANA, sino que además tiene una opinión bastante desfavorable de su base de usuarios en su conjunto. “La gente es como las hormigas”, expresa ante el jurado. “Estamos construyendo algo tan trascendente que a algunas las pisoteará y a otras no”. Ni siquiera está dispuesto a establecer medidas de seguridad mínimas para limitar el poder del agente de IA: “El poder de ELIANA es la libertad de pensamiento sin límites. Implementar medidas de seguridad es excomulgar a toda la ideología”.
