La UNESCO llama a desarrollar las tecnologías con principios éticos y en colaboración con las humanidades

* La Subdirectora General de Ciencias Sociales y Humanas, pide observar la Recomendación sobre la ética de la inteligencia artificial.

* En el marco de la inauguración del 18º Congreso de Estudiantes de Ingeniería de la Universidad del Caribe.

Cancún, Q.Roo, México, 6 noviembre 2024.- En el marco de la inauguración del 18º Congreso de Estudiantes de Ingeniería de la Universidad del Caribe, en donde se abordan temas para el desarrollo, sostenible, innovación, inclusión y responsabilidad global, la Dra. Gabriela Ramos, Subdirectora General de Ciencias Sociales y Humanas de la UNESCO, hizo un llamado a desarrollar la innovación tecnológica sin perder de vida los principios éticos y los derechos humanos.

Al inaugurar la décimo octava edición del congreso estudiantil, que este año lleva por lema la Ingeniería para el desarrollo sostenible, innovación, inclusión y responsabilidad social, el Secretario Académico de la Universidad del Caribe, destacó que ésta es la primera vez que participan estudiantes de las nuevas ingenierías en Industrias Alimentarias e Inteligencia Artificial; esta última, dijo, enfocada a que sus estudiantes no sólo conozcan y consuman las herramientas de IA, sino que las desarrollen; por lo que será muy importante conocer el impacto que las y los nuevos profesionistas podrán generar en la sociedad.

En ese sentido, la Subdirectora de la UNESCO , hizo un llamado a las y los estudiantes de los seis programas de Ciencias Básicas e Ingenierías de la Universidad del Caribe, para que el mundo digital que se está construyendo, se haga sobre la base en el respeto de los derechos humanos. Para esto, dijo que un ejemplo notable del impacto de la inteligencia artificial (IA), es la que genera contenidos; misma que ha adquirido unas competencias mucho más amplias de lo que se hubiera podido esperar, pues tan solo en unos años, ha revolucionado la investigación, por ejemplo, al permitir la creación de nuevo contenido textos, imágenes, música códigos.

De 2018 a 2022, dijo, las publicaciones de investigación sobre IA aumentaron un 57%, pero esto también plantea algunas preguntas interesantes sobre derechos de propiedad intelectual, la fiabilidad del contenido generado por la inteligencia artificial y nuestra capacidad de decidir qué es cierto y qué es falso de lo que nos proporcionan estas tecnologías.

“Los estudiantes dependen cada vez más herramientas de inteligencia artificial para sus estudios, pero esa dependencia nos obliga a interrogarnos sobre la confiabilidad, estamos fomentando una generación que pueda evaluar, críticamente los resultados de estas tecnologías o estamos creando una dependencia que socava el pensamiento independiente”, cuestionó la científica mexicana.

A través de un video enviado al comité organizador del congreso, dijo que el contenido sintético generado por la inteligencia artificial plantea nuevos desafíos. La calidad de autenticidad de los datos es fundamental y ahora que nos enfrentamos a la proliferación de contenido generado por la propia inteligencia artificial, que puede ser indistinguible del trabajo creado por seres humanos, realmente hay que replantear las herramientas que tenemos para abordar estos temas lo mismo con el futuro trabajo. “Estamos preocupados por los trabajos que eran repetitivos o de los de los trabajadores de bajas competencias, pero ahora la tecnología puede reemplazar también los altos mandos”, advirtió.

Todo lo anterior, dijo, tiene profundas implicaciones para la educación, la investigación y la sociedad en general, y por ello, en la UNESCO seguimos implementando el estándar internacional que se aprobó en el 2021 por 193 países, que conocemos como la Recomendación sobre la ética de la inteligencia artificial. Esta recomendación evidentemente es conocer mejor las tecnologías, pero también añadir este enfoque humanista inclusivo y ético y, gracias a las herramientas como la metodología de evaluación de preparación, colaboramos con más de 60 países incluyendo a México para evaluar, sus capacidades tecnológicas institucionales sociales y para integrar el conocimiento de las ciencias en la gobernanza de esta tecnología de una forma ética.

Afirmó que para enfrentar los desafíos del siglo XXI, la ingeniería no puede operar en una burbuja tecnológica, sino que necesita integrarse y nutrirse de las ciencias sociales, para desarrollar soluciones que no solo sean técnicamente efectivas, sino también, éticamente responsables y socialmente inclusivas. “Necesitamos también de las humanidades y tener esta visión multidisciplinaria de los asuntos que nos competen”, señaló.

La inteligencia artificial, mencionó, es un área que ejemplifica esta importante colaboración. Esta tecnología ha revolucionado el sector de la ingeniería, dijo, pero su desarrollo no puede limitarse a la optimización de algoritmos o a las mejoras de los sistemas, por importante que ellos sean. Consideró que para que la inteligencia artificial impulse el desarrollo sostenible, debemos comprender sus impactos en nuestra sociedad. “¿Cómo afecta el empleo? ¿Cuál va a ser el futuro del trabajo? ¿Cómo protegemos la privacidad? ¿Cómo abordamos el tema de la equidad en un mundo en donde estas tecnologías están altamente concentradas en términos de talentos en términos de inversiones?”, cuestionó.