Ante las implicaciones derivadas de la rápida incorporación de sistemas de inteligencia artificial (IA) en las actividades científicas y de investigación, el Instituto de Investigaciones en Matemáticas Aplicadas y en Sistemas (IIMAS) de la Universidad Nacional Autónoma de México (UNAM) presentó un decálogo con diez recomendaciones para orientar a su comunidad académica en el desarrollo, la aplicación y la evaluación de esta tecnología.
El documento, titulado Principios Institucionales para el Desarrollo y Uso de una Inteligencia Artificial Ética, Responsable y Sostenible, responde a las transformaciones que las tecnologías de nueva generación están generando en la toma de decisiones y la producción de conocimiento científico. Aunque esta tendencia plantea diversos beneficios, también implica desafíos éticos, sociales y ambientales.
Durante la presentación de la iniciativa, Helena Gómez Adorno, jefa del Departamento de Ingeniería de Sistemas Computacionales y Automatización e investigadora del IIMAS, precisó que la adopción de la IA “nos obliga a preguntarnos de dónde vienen los datos con los que fueron entrenados estos modelos de inteligencia artificial, a quiénes representan estos datos, a quiénes dejan fuera estos modelos y qué sucede con la información que compartimos, o quién asume la responsabilidad cuando estos sistemas se equivocan”.
Ante estos cuestionamientos, Zinnya del Villar, directora de Investigación de Ciencia de Datos en Data-Pop Alliance y participante en el desarrollo de los principios, subrayó que la IA debe desarrollarse y utilizarse de manera que sus beneficios estén al servicio de la humanidad, con respeto permanente a los derechos humanos.
Las autoridades universitarias explicaron que el decálogo es resultado de un esfuerzo colectivo surgido de un proyecto de vinculación con el sector financiero. Añadieron que estos lineamientos deben entenderse como una guía inicial sobre asuntos fundamentales que deberán debatirse, cuestionarse y actualizarse de manera permanente.
Los 10 principios propuestos por investigadores de la UNAM
Las disposiciones se formularon a partir de la revisión de literatura especializada y de diversos marcos regulatorios relacionados con la IA. También se tomó en cuenta la evidencia empírica obtenida mediante entrevistas y consultas con integrantes de la comunidad académica del IIMAS. Según sus creadores, esta metodología permitió identificar conceptos reconocidos internacionalmente y adaptarlos a las necesidades y prácticas del Instituto.
Los diez principios propuestos por el IIMAS son:
- Respeto a la dignidad humana y los derechos fundamentales.
- Equidad, diversidad e inclusión.
- Transparencia y explicabilidad.
- Privacidad y protección de datos.
- Responsabilidad y rendición de cuentas.
- Seguridad y confiabilidad.
- Bienestar social y solidaridad.
- Sustentabilidad y respeto al medio ambiente.
- Supervisión humana y control.
- Cumplimiento legal y estándares institucionales.
La institución universitaria afirma que “estos lineamientos no buscan sustituir las disposiciones legales ni las regulaciones existentes, sino complementarlas con criterios que respondan a las características y necesidades del trabajo científico que se desarrolla en el Instituto”.

