Ei-iE

Tras haberse demostrado recientemente que la inteligencia artificial (IA) no regulada pone a la infancia en un riesgo desproporcionado de perjuicio, dirigentes de todo el mundo hacen un llamado a aplicar unos controles más rigurosos a la IA a nivel internacional.

La sesión inaugural del Diálogo Mundial sobre la Gobernanza de la IA de las Naciones Unidas, celebrado los días 6 y 7 de junio en Ginebra, reunió a especialistas del Gobierno, el sector empresarial y la sociedad civil para garantizar que el futuro de la IA prioriza la seguridad y la elección humana.

La atracción principal del evento fue la presentación del informe preliminar del Panel Científico Internacional Independiente sobre IA de las Naciones Unidas, un análisis de las repercusiones y los riesgos que plantea la inteligencia artificial para la sociedad llevado a cabo por un equipo de 40 científicos y expertos internacionales. El informe confirma lo que la Internacional de la Educación aseguró recientemente en la reunión de su Red de IA: las relaciones humanas, como la relación docente-estudiante, deben mantenerse en el centro de la IA y la transformación tecnológica.

“La cuestión ya no es si la IA va a transformar nuestro mundo; ya lo ha hecho”, señaló el Secretario General de las Naciones Unidas, António Guterres, en su discurso. “La cuestión es si podremos controlarla juntos o si dejaremos que nos controle”, añade.

Hacia una estrategia unificada en materia de regulación de la IA

Esta no ha sido la primera vez que Guterres llama la atención sobre el tema acuciante de la IA. En su primer discurso en la Asamblea General de 2017, el Secretario General advirtió del posible impacto drástico de la tecnología en los mercados de trabajo, la seguridad y “la propia estructura de la sociedad”. A medida que la inteligencia artificial fue ganando terreno hacia la omnipresencia durante los años posteriores, las Naciones Unidas tomaron medidas más proactivas para frenar la influencia de la tecnología, como la adopción del Pacto Digital Global en 2024.

Sin embargo, el informe preliminar representa la declaración más contundente de la institución sobre el asunto formulada hasta la fecha, al advertir de que la IA podría “provocar un perjuicio catastrófico, bien por sí misma o por las acciones de usuarios malintencionados”, ya que la tecnología está “superando tanto la comprensión científica como la capacidad de los Gobiernos para adaptarse”.

El informe hace una alusión específica al impacto de la IA en las poblaciones marginadas y señala que los sesgos de la IA pueden dar lugar a la discriminación de las mujeres, la infancia y las minorías raciales. También reconoce la importancia de la formación del personal docente, aunque solo en el contexto de la preparación para la profesión, mientras que se omite la mención a los derechos profesionales, el impacto en las condiciones de trabajo o la participación en la toma de decisiones.

Además, el informe alude reiteradamente a la personalización como una oportunidad importante para la IA en la educación, aunque este supuesto beneficio no se haya demostrado en gran parte y a menudo pase por alto los aspectos relacionales, pedagógicos y sociales del aprendizaje. Estas preocupaciones justifican una mayor atención que la Internacional de la Educación espera que se considere con posterioridad al evento.

La necesidad de tomar precauciones al aumentar el protagonismo de la IA en la enseñanza

Los derechos de la infancia se han puesto de relieve como un área de especial preocupación, ya que el número de parecidos infantiles empleados en las ultrafalsificaciones realizadas con IA ha aumentado a un ritmo alarmante. Además, el informe apunta que los niños y niñas son especialmente vulnerables a la manipulación por parte de la IA interactiva, lo que plantea riesgos para su desarrollo, seguridad y bienestar.

En respuesta a estas tendencias preocupantes, el Secretario General instó a todos los Estados Miembros de las Naciones Unidas a asumir un pacto para proteger a los menores de la IA, que exigiría responsabilidades a los desarrolladores de IA en virtud de unas normas más estrictas de pruebas y supervisión.

“Ningún menor debería ser un conejillo de indias de la IA no regulada”, destacó Guterres. “No permitimos que la población infantil tome medicamentos hasta que no se demuestre su seguridad. Probamos cada juguete; aun así, la IA ha llegado a nuestros niños y niñas, a su aprendizaje, sus amistades y sus dudas más privadas, antes de que nadie preguntara qué les haría”, añade.

Estas preocupaciones son especialmente pertinentes para la Internacional de la Educación y sus organizaciones miembros, a medida que las empresas tecnológicas presionan para conseguir una mayor presencia de la IA en las aulas. Los sindicatos deben continuar exigiendo que las herramientas de IA que se incorporan a los contextos educativos se sometan a los debidos exámenes y pruebas para garantizar la protección del alumnado contra la manipulación y las violaciones de privacidad.

El último informe de la IE en materia de IA, desarrollo del alumnado, seguridad y la vinculación con la relación docente-estudiante, presentado en la reciente reunión de la Red de IA celebrada en Madrid, está disponible aquí: La enseñanza, la IA, y el fundamento humano de la educación: el futuro que hay que defender.

Adoptar políticas en materia de IA favorables para el trabajo

Aunque quienes participaron en el diálogo también hablaron de los posibles beneficios económicos de la IA, especialmente en los países en desarrollo, señalaron que estos logros no deben conseguirse a expensas de las personas trabajadoras. El informe preliminar señala que el crecimiento económico no propicia automáticamente una distribución equitativa; requiere una buena gobernanza para garantizar que toda la sociedad comparte estos beneficios. Además de la inversión en IA, el informe enfatiza que necesitamos “inversiones complementarias en competencias, flujos de trabajo, infraestructura e instituciones del mercado de trabajo. Sin ellas, la IA plantea el riesgo de aumentar la desigualdad, desplazar al personal y redistribuir la riqueza del trabajo al capital, en vez de crear buenos empleos sostenibles, esto es, con una remuneración equitativa, autonomía para quien trabaja y un camino seguro hacia la dignidad social”.

Representantes de la Confederación Sindical Internacional (CSI) y la Internacional de la Educación acogieron con satisfacción por un lado el carácter urgente y relevante de estas observaciones y, por otro, destacaron que se habían omitido varios aspectos fundamentales en las conversaciones, tales como el impacto de la IA en el trabajo —incluido el personal docente e investigador— y el papel importante que desempeñan las políticas y el diálogo social, así como la negociación colectiva, en la configuración de las cuestiones relacionadas con el trabajo, además de las políticas en materia de educación e investigación.

Dado que el siguiente Diálogo está programado para mayo de 2027 en Nueva York, el movimiento laboral mundial debe seguir coordinándose para llevar las cuestiones del trabajo al frente de las conversaciones en materia de IA. Los eventos que se celebren en el futuro presentarán una oportunidad para ahondar en las repercusiones de la IA para las condiciones de trabajo, idealmente desde la perspectiva de las personas trabajadoras, y profundizar en el papel que tiene la negociación colectiva en la gobernanza democrática de la IA. A fin de materializar la visión de las Naciones Unidas de “una IA que sirva a las personas en todo el mundo”, la fuerza de trabajo y los sindicatos deberán estar presentes en las negociaciones.

Las últimas novedades del equipo de IA y Tecnología de la IE se encuentran aquí:

English| Français| Español