“Veo esto como una continuación de su modelo de negocio principal: controlar lo que ve la gente, mostrarles anuncios y recopilar más datos”, advierte Mir.
Sin duda, es lógico sentirse inquieto a la hora de facilitar los datos de tu tarjeta de crédito a un agente. Aunque pudieras confiar en que estas herramientas de IA no te engañarían para que gastaras dinero de formas que no deseas, delegar tus decisiones de compra puede acarrear consecuencias no deseadas. Los defensores de los consumidores consideran que esta automatización de las compras podría abrir la puerta a que las empresas den prioridad a determinadas marcas u otros productos en las recomendaciones del agente, en función de acuerdos de patrocinio. El director de IA de Meta, Alexandr Wang, insinuó en una entrevista con Axios que la compañía está buscando más oportunidades de ingresos en Muse que no sean anuncios, sin revelar detalles concretos.
Personalmente, disfruto de esos largos paseos por las tiendas online, en los que puedo pasar una hora en una web y salir sin nada en el carrito. Hay una ineficiencia caprichosa en navegar en busca de chaquetas de cuero que probablemente ni siquiera compraré. Al explorar internet por mi cuenta, voy construyendo poco a poco mi propio sentido del gusto y forjando una comprensión de lo que realmente me gusta. Si Muse lo hace todo por mí, me pierdo el proceso que me llevó a tomar la decisión.
“Llegará un momento en que la IA tomará todas tus decisiones importantes sobre gustos, tus preferencias, dónde vas, dónde comes, qué haces y qué vacaciones te tomas”, vislumbra Schroeder. “Esa es, en cierto modo, la alegría de ser humano: poder probar cosas y descubrir lo que te gusta. Por eso, la idea de dejar todo eso en manos de una máquina me resulta bastante aterradora”.
Máquinas compartidas
Depender de agentes, como Muse de Meta, podría mermar nuestro funcionamiento mientras estas herramientas recopilan datos sobre nosotros.
“El diseño de los agentes de IA está pensado para que los usuarios se desentiendan», explica Margaret Mitchell, investigadora y científica jefe de ética en Hugging Face. «Por eso, los usuarios se vuelven más pasivos”. Mitchell ha coescrito recientemente un artículo de investigación en el que se analiza cómo las herramientas de este tipo no están diseñadas de forma eficaz para la supervisión humana y, de hecho, pueden empeorar la capacidad del usuario para evaluar lo que el agente está haciendo en su nombre.
Las personas que usan agentes pueden llegar a depender excesivamente de estas herramientas, incluso más que al interactuar con un chatbot estándar, ya que los agentes tienen acceso a más información y pueden realizar más tareas. Una posible consecuencia es la “degradación cognitiva”, en la que los usuarios confían en automatizaciones procedentes de una fuente externa que transmite seguridad y se vuelven menos capaces de tomar decisiones independientes.
Mitchell también considera que los altos niveles de personalización pueden predisponer a los usuarios a compartir aún más datos sobre sí mismos. “No se trata solamente de que sepa cosas sobre ti, por lo que confías más en él”, manifiesta. “Es que, de hecho, se adapta a ti en lo que te cuenta y en cómo te lo cuenta, de una forma que te anima aún más a interactuar con él y a revelar más información privada”. Investigaciones recientes muestran que las herramientas de IA pueden empezar a imitar el estilo de habla de un usuario a medida que recopilan más datos de interacción.
Aunque Muse es potente, he decidido enviar a este duende de los datos de vuelta a su cueva y he borrado la aplicación tras mis primeros experimentos.
Antes de que pudiera eliminar Muse de mi móvil, el agente me envió un último mensaje: un consejo. “Conecta tus aplicaciones para que pueda hacer más cosas”, decía la notificación. Bien, amigo. Ya te había oído la primera vez.
Artículo originalmente publicado en WIRED.com. Adaptado por Mauricio Serfatty Godoy.
