Ética, transparencia y derechos humanos, la apuesta de la UAM frente a la IA

En un momento en que la Inteligencia Artificial (IA) escribe textos, crea imágenes y toma decisiones que hace apenas unos años parecían exclusivas de las personas, la Universidad Autónoma Metropolitana (UAM) presenta el Decálogo de ética en el uso de la inteligencia artificial, cuyo objetivo es poner límites, responsabilidades y sentido humano a una herramienta cada vez más presente en las aulas, la investigación y la vida cotidiana.

Más que una lista de prohibiciones, el documento plantea una discusión urgente sobre el futuro. Habla de derechos humanos, transparencia, inclusión, protección de datos y sostenibilidad, pero va más allá y profundiza en cómo convivir con sistemas capaces de aprender y producir información sin olvidar la dignidad, la verdad y el compromiso colectivo.

El decálogo, expone en entrevista la secretaria general de la UAM, doctora Esthela Irene Sotelo Núñez, fue elaborado por una comisión nombrada por el rector general de la Institución, doctor Gustavo Pacheco López, e integrada por miembros de las cinco Unidades Universitarias, con amplio conocimiento en tecnología. Destacó que ello contribuyó a construir una mirada conjunta desde distintas áreas de especialidad y desde las diversas funciones académicas.

“Para la UAM es muy importante plantear los dilemas éticos que el empleo de las tecnologías trae consigo, en nuestras funciones sustantivas, tanto en docencia, como en análisis, preservación e inclusión de la cultura”, comentó la doctora.

La concepción de estos principios en su conjunto, asumen que la dignidad y el respeto de los derechos humanos deben mantenerse siempre como referentes centrales en los contenidos producidos por IA, por ejemplo, no utilizar estos elementos para falsear imágenes que puedan poner en riesgo a las personas cuya figura está siendo alterada, precisó la académica.

Por otro lado, añade, el manejo irresponsable de contenido generado o difundido por IA también puede afectar el prestigio de la Universidad en su conjunto, en especial cuando se comparte información no verificada que incentive discursos de odio o discriminación hacia determinados grupos.

A continuación, los integrantes de la Comisión, encargada del decálogo

Doctor Gerardo Abel Laguna Sánchez

Área Académica de Sistemas de Información y Ciencias Computacionales, Unidad Lerma

Como miembro de la comisión dedicada a la construcción de estas pautas, el profesor investigador Laguna Sánchez, menciona que “permitirá llevar una convivencia sana en el ámbito académico; no podemos esperar que a nivel de política nacional se defina el tema, sino que tenemos que empezar nosotros haciendo frente a una realidad contra la que no podemos ir, y sí definir su utilización de manera orientativa”.

Resulta fundamental, dice el profesor, que las universidades, y en especial la nuestra, asuman un papel activo en la asesoría sobre el aprovechamiento de la IA. Ello implica ofrecer referentes claros que permitan distinguir entre un empleo adecuado y responsable de estas aplicaciones y aquellas prácticas que pueden considerarse negativas, así promovemos una integración total y consciente de la informática.

Doctor Francisco de Asís López Fuentes

Departamento de Tecnologías de la Información, Unidad Cuajimalpa

“La propuesta busca reconocer la creciente influencia de la IA en los procesos educativos y subrayar la necesidad de que en su manejo se rija la rectitud y honestidad. Estos criterios deben aplicarse tanto en la enseñanza como en la investigación, la gestión y la difusión del conocimiento, ámbitos fundamentales del quehacer universitario”, indica en entrevista el doctor López Fuentes.

Asimismo, dijo, el conjunto de lineamientos es un avance importante hacia la generación de criterios comunes entre todas las Unidades de la UAM, que permitirá en el futuro, desarrollar lineamientos más claros y consistentes sobre la incorporación de estas tecnologías.

Doctor Marco Vinicio Ferruzca Navarro

Departamento de investigación y conocimiento del Diseño y coordinador de Innovación y Tecnologías Educativas, Unidad Azcapotzalco

Poco a poco se está transitando de la etapa eufórica a la de hacerse las preguntas críticas sobre cómo queremos usar esta tecnología, en concreto cómo queremos utilizarla en nuestra Institución, reconoce el doctor Ferruzca Navarro.

“El mensaje que se envía a otras universidades y a la sociedad es que estamos dando ese paso hacia una adopción mucho más pensada, en ella nos preguntamos cómo queremos aprovechar estos implementos informáticos y hacerlo de la manera más seria y crítica, en beneficio de la comunidad y de la sociedad”, explica el experto.

Por otra parte, de cara al futuro, “esto significa que estamos trazando un plan para hacer una buena implementación de esta tecnología”.

Doctora Ruth Selene Ríos Estrada

Departamento de Producción Económica, Unidad Xochimilco

Los preceptos reunidos en el escrito son “un mensaje de posicionamiento de liderazgo y humanismo tecnológico frente a los grandes cambios digitales que se insertaron con rapidez en las prácticas de estudio”, plantea la doctora Ríos Estrada.

En esa línea, declara, el Rector General da un claro mensaje al asegurar que la IA no es un instrumento del pensamiento crítico, más bien, siempre estuvimos de acuerdo en que debería ser un potencializador de la inteligencia colectiva.

“No optamos por la prohibición punitiva, sino por una alfabetización digital y la conciencia de la utilización correcta como parte de los procesos educativos”, enfatiza la investigadora.

Como Universidad garantizamos que la implementación del decálogo se base bajo tres consideraciones éticas: inclusiva, transparente y bajo la supervisión humana.

La doctora subraya que es importante confiar en todo momento en el potencial que puede crear el ser humano a través de su órgano más relevante que es su cerebro, porque es el que genera información y conocimientos.

Doctor Adrián Hernández Cordero

Departamento de Sociología, Unidad Iztapalapa

Para el especialista Hernández Cordero, todos los usuarios de la IA deben declarar cuando hacen uso de la IA, “y debemos estar dispuestos a un ejercicio de transparencia vinculándolo con otro principio, es decir, debemos estar dispuestos a decir o enunciar cuáles fueron las instrucciones que le dimos a la aplicación para que nos generara un cierto resultado”.

No solo es declararlo, sino también estar abiertos a una cierta auditoría, para que en caso necesario, se pueda saber cuál fue la metodología que se siguió para llegar a un resultado, comparte en entrevista.

Agrega, “ante los parámetros homogéneos que existen en la Universidad, lo que busca el conjunto de pautas, es establecer una discusión donde lleguemos a acuerdos que permitan fijar criterios durante la operación de implementos informáticos”.