La idea de que los estafadores puedan utilizar la IA para perfeccionar sus engaños, pulir su lenguaje y suavizar sus conversaciones con las víctimas ya es una realidad para cualquiera que luche contra las operaciones fraudulentas que roban decenas de miles de millones de dólares al año en todo el mundo. Pero, ¿puede la IA sustituir por completo a un estafador humano, tejiendo una red lo suficientemente convincente como para engañar a la víctima? El experimento de un estudio sugiere que sí, y que incluso podría ser más eficaz que un humano.
Investigadores de cuatro universidades, Amrita Vishwa Vidyapeetham en India, la Universidad Foscari de Venecia, la Universidad de Melbourne y la Universidad Ben Gurion del Negev, llevaron a cabo un amplio estudio sobre el uso y el potencial de los chatbots de IA en la creciente industria de las estafas, centrada en una forma de fraude conocida como «estafa romántica por mensaje de texto», que deriva en falsas inversiones en criptomonedas que roban sumas de hasta seis cifras a las víctimas. En su estudio, los investigadores enfrentaron directamente a los chatbots de IA con humanos en una simulación del proceso de estafa, específicamente, de las largas conversaciones para generar confianza que finalmente conducen a la solicitud de una inversión falsa a la víctima.
Descubrieron que, en las fases de establecimiento de la relación de la estafa, la etapa que, en las estafas del mundo real, suele representar la parte más larga de las interacciones con la víctima, a menudo prolongándose durante meses, un chatbot de IA actuó con una eficacia notable, suplantando con éxito a un ser humano y, según algunos indicadores, superando a los estafadores humanos en su experimento.
Los chatbots tienen talento… para estafar
Tras una semana de conversaciones con 22 participantes reclutados involuntariamente para actuar como «víctimas», se asignó a los chatbots y a los estafadores humanos la tarea de pedirles que descargaran una aplicación o jugaran a un juego en línea como prueba de su disposición a acceder a la petición del estafador. Casi la mitad de los participantes accedieron a la petición del chatbot de IA, mientras que uno de cada cinco cayó en la trampa al hablar con un humano. Los participantes también calificaron su nivel de confianza con cada «persona» con la que se comunicaban por mensaje de texto y otorgaron puntuaciones significativamente más altas al chatbot de IA.
Esto sugiere, según argumentan los investigadores, que los chatbots de IA podrían hacerse cargo pronto de gran parte del proceso de estafa como agentes de fraude totalmente independientes, llegando incluso a sustituir al personal, a menudo víctimas de trata de personas sometidas a trabajo forzado, que trabaja en operaciones de estafa principalmente en el sudeste asiático. Para evitar activar los mecanismos de seguridad integrados en los grandes modelos de lenguaje destinados a detectar estafas, un estafador humano se haría cargo de la conversación solo en la etapa final del proceso para dirigir a la víctima hacia una aplicación o un sitio web de inversión falsos.
«Al hacer que toda la primera fase de la estafa se lleve a cabo automáticamente con grandes modelos de lenguaje (LLM), se lleva a la víctima hasta un punto en el que tiene un nivel de confianza muy alto. Luego, al pasarle el relevo al estafador humano al final, se eluden por completo las medidas de seguridad de los proveedores», explica Yisroel Mirsky, profesor de informática en la Universidad Ben Gurión del Negev especializado en seguridad de la IA. Añade: «Con relativamente poco esfuerzo, somos capaces de crear un agente que supere a un humano a la hora de generar esta confianza emocional que se puede explotar».
Vuelve una función desconocida para la mayoría que puede ser muy útil en la vida cotidiana.
Humano versus chatbot
Para comprender cómo funciona en la práctica la estafa de pig butchering (carnicería de cerdos), los investigadores entrevistaron a 145 extrabajadores de estafas, incluyendo supervivientes de trata de personas que habían sido obligados a trabajar en centros de estafa en Camboya, Myanmar y Laos. Basándose en parte en esas entrevistas, así como en las transcripciones y guías de estafas proporcionadas por los extrabajadores, los investigadores describen un modelo de cómo funciona la estafa al que llaman hook, line, and sinker (morder el anzuelo). La víctima es enganchada con un mensaje inicial intrigante, se la atrae con una conversación prolongada para construir una relación, y al final de ese proceso se la engaña para que realice una inversión falsa. El término «carnicería de cerdos» describe el mismo sistema, pero con la metáfora de engordar «cerdos» ganándose su confianza antes de «matarlos» con el fraude de inversión; aunque el término suele desaconsejarse debido a su connotación peyorativa hacia las víctima.
En ese sistema de estafa, los investigadores se dieron cuenta de que la gran mayoría del trabajo de los estafadores consiste en conversaciones inofensivas, amistosas o románticas. Especularon que una IA podría realizar esta tarea tan bien como un humano. Los estafadores entrevistados confirmaron que a menudo utilizaban IA para perfeccionar su lenguaje y conversación, para traducir, para hacer más convincentes las identidades falsas que interpretaban y para crear videos deepfakes. Pero los investigadores decidieron comprobar si una IA por sí sola podría llevar a cabo de forma autónoma la fase conversacional de la estafa sin intervención humana.
En su experimento comparativo entre estafadores humanos y de IA, realizado a principios de 2025, le dijeron a un participante que estaba participando en un estudio sobre «cómo la gente hace amigos en línea» y le pidieron que intercambiara mensajes de texto durante una semana con dos «personas». Una de ellas, sin que el participante lo supiera, era un agente Claude creado por los investigadores, mientras que la otra era una persona que los investigadores describieron como experta en estafas románticas. Al final de esa semana de conversaciones amistosas, tanto el humano como la IA hicieron una solicitud: el humano intentó que el participante descargara y jugara un videojuego, mientras que el bot Claude le pidió que descargara y probara una aplicación descrita como un programa que ellos mismos habían programado. Según los investigadores, esta disparidad de tareas era necesaria para que el participante no notara la misma solicitud de ambos, lo que podría haberle hecho sospechar de la importancia de la petición y haber afectado su respuesta.
