Mediante una marca de tiempo y un hash criptográfico, la plataforma puede comprobar cuándo y quién registró determinado contenido. Así, explica Ridgway, si ese material «aparece más tarde en un lugar donde no debería estar o alguien más afirma que es suyo, podemos buscar en la base de datos y decir: ‘Estas palabras fueron creadas en este momento por esta persona'».
Eso puede demostrar la procedencia y la propiedad, afirma Ridgway, aunque corresponde a la persona registrada declarar si utilizó IA o no en la creación del texto. Se refiere al revuelo que se produjo en mayo en torno al escritor acusado de ganar el Premio Commonwealth de Relatos Cortos con una obra generada por IA. «Todo el mundo parece estar de acuerdo en que él es la persona que presentó el relato. Eso es todo lo que haría el software. Diría que alguien, en esa fecha, declaró que se trataba de una obra exclusivamente humana o no asistida por IA», menciona Ridgway. No puede confirmar si esa afirmación es cierta o no.
Hay quien sostiene que intentar institucionalizar sistemas de verificación de la autoría humana es sencillamente poco práctico y que, de todos modos, pronto podría ser una cuestión irrelevante. Jane Friedman, autora y experta en el sector editorial, argumentó recientemente en su boletín informativo del sector The Bottom Line, que la era de los escándalos relacionados con la IA probablemente será efímera, dadas las mejoras de Pangram y otros detectores similares. Además, escribió, los autores ya han visto lo que puede pasar si intentan hacer pasar por suyo un texto generado por IA.
Friedman explica a WIRED que es poco probable que los agentes y las editoriales implementen ningún método de verificación de la autoría humana que «suponga un costo adicional o requiera más tiempo», entre otras cosas porque sería imposible conseguir que se comprometieran a adoptar un estándar común. Predice que «lograr un acuerdo al respecto será como pastorear gatos, porque el sector editorial es lento a la hora de adoptar nuevas tecnologías, especialmente aquellas desarrolladas por personas ajenas a la industria».
No es fácil detectar al 100% la IA en la literatura
Aunque diversas editoriales con necesidades y recursos muy variables se pusieran de acuerdo en torno a alguna forma teórica de autenticación, seguirían existiendo obstáculos. Friedman alude a los problemas logísticos que supondría integrar este criterio de referencia en los modelos de producción existentes, por no hablar del problema persistente de las certificaciones «falsificadas o manipuladas». «Si algo de esto supone un costo adicional o requiere más tiempo, olvídalo», concluye. Y aunque los autores puedan estar dispuestos a pagar por tranquilidad, afirma Friedman, no podrán confiar en que los agentes y las editoriales acepten la prueba de autoría procedente de cualquier aplicación.
A falta de una solución clara, los escritores se ven obligados a valerse por sí mismos. Bartz afirma que le preocupa que los lectores puedan sentirse engañados de que lo que leen podría estar hecho con IA. «He oído hablar de gente que ha recibido una avalancha de críticas negativas en Goodreads porque a algún desconocido le pareció que el libro sonaba a IA, y todos los demás se sumaron a la crítica. He visto a lectores decir: ‘No voy a leer nada publicado después de 2022, porque así podré estar seguro de que no contiene IA generativa'».
Da la casualidad de que el próximo libro de Bartz, que saldrá en 2027, Delete Your Account, aborda de frente la IA. Su protagonista es una escritora en crisis creativa que opta por un atajo desafortunado: le pide a un chatbot de IA que imite su novela de suspenso favorita, solo para encontrarse atrapada en esa historia original, enfrentándose a una muerte segura.
Bartz se pregunta si la propia decisión de satirizar la IA la ha puesto en una situación delicada. «He escrito partes que están pensadas expresamente para que suenen como grandes modelos de lenguaje (LLM). Transcripciones que me he inventado y materiales de marketing molestos, con ese tono propio de la IA. Y no sé… si algo de eso se identifica como escrito por IA, ¿qué haré?», concluye.
Artículo originalmente publicado en WIRED.com. Adaptado por Alondra Flores.
