Anthropic actualizó su política de uso para prohibir entre los usuarios de Claude “comportamientos abusivos o crueles, sostenidos e innecesarios” en contra del chatbot. La medida hace alusión al llamado “bienestar de los modelos” de inteligencia artificial (IA) que la compañía investiga para determinar si sus algoritmos podrían experimentar algún tipo de conciencia, preferencia o estado funcional equivalente al sufrimiento y, por tanto, ser sujetos con derechos de protección.
La empresa aseguró que las nuevas condiciones y términos de uso «están destinada a aplicarse solo en casos extremos, donde los usuarios actúan repetidamente con crueldad hacia nuestros modelos, sin ningún propósito discernible”. Precisa que esto no incluye las “formas comunes” de frustración o resistencia del usuario. Tampoco aplicarán para “temas creativos oscuros” o en procesos de investigaciones y pruebas alrededor de los modelos.
La actualización refuerza una medida implementada por Anthropic en agosto del año pasado que faculta a Claude para finalizar conversaciones con usuarios «persistentemente dañinas o abusivas». Según la compañía, esta capacidad se mantendrá como “el mecanismo de aplicación principal” para hacer cumplir sus nuevas normas. Sin embargo, no precisó si contempla otras restricciones, sanciones o suspensiones para cumplir el propósito.
Mientras los filósofos reflexionan sobre la conciencia de la IA, los modelos tienen ideas propias.
La actualización de Anthropic se alinea con los principios de un programa de investigación iniciado por la empresa en abril del año pasado diseñado para responder a un cuestionamiento inquietante que ha generado opiniones encontradas, incluso, al interior de la industria: ¿La IA podría desarrollar un sentido de conciencia similar al humano?
La compañía argumenta que esta posibilidad plantea diversas implicaciones filosóficas y científicas que obligarían a contemplar el bienestar de los sistemas de IA para garantizar, en última instancia, el desarrollo seguro y responsable de esta tecnología.
Anthropic reconoce que por ahora no existe un consenso científico sobre si los sistemas de IA actuales o futuros podrían ser conscientes o tener experiencias que merezcan ser consideradas. No obstante, reitera que es una cuestión que debe ser abordada desde ahora.
“Seguimos teniendo muchas dudas sobre el posible estatus moral de Claude y otros modelos de aprendizaje de lenguaje, tanto ahora como en el futuro. Sin embargo, nos tomamos el asunto en serio y, paralelamente a nuestro programa de investigación, trabajamos para identificar e implementar intervenciones de bajo coste que mitiguen los riesgos para el bienestar de los modelos, en caso de que dicho bienestar sea posible”, señaló la compañía en meses pasados.
