Ei-iE

Alors que de nouvelles preuves viennent démontrer les risques disproportionnés que présente l’intelligence artificielle (IA) non réglementée pour les enfants, les responsables politiques du monde entier appellent à la mise en place de contrôles plus stricts en matière d’IA au niveau international.

Le premier Dialogue mondial des Nations Unies sur la gouvernance de l’intelligence artificielle s’est tenu les 6 et 7 juin derniers, à Genève, en présence d’expert·e·s issu·e·s du secteur public, des grandes entreprises technologiques et de la société civile. À l’ordre du jour des discussions, assurer que l’avenir de l’intelligence artificielle soit placé sous le signe de la sécurité et du contrôle humain.

Cet événement avait pour point d’orgue la présentation du Rapport préliminaire du Groupe scientifique international indépendant des Nations Unies sur l’IA, qui analyse les impacts sociétaux et les risques liés à l’intelligence artificielle. Cette étude a été réalisée par 40 chercheur·euse·s et expert·e·s internationaux·ales. Le rapport confirme les conclusions formulées par l’Internationale de l’Éducation (IE) à l’issue de sa récente Réunion du Réseau IA et Technologie : les relations humaines, et notamment la relation enseignant·e-élève, doivent rester au cœur de l’IA et de la transformation technologique.

« La question n’est plus de savoir si l’IA va transformer notre monde – elle le fait déjà », a déclaré le Secrétaire général des Nations Unies (ONU), António Guterres, dans son allocution. « La question est de savoir si nous allons gouverner cette transformation ensemble – ou si nous allons la laisser nous gouverner. »

Vers une stratégie unifiée de réglementation de l’IA

Ce n’était pas la première fois que le Secrétaire général Guterres attirait l’attention sur la question brûlante de l’IA. Lors de son tout premier discours devant l’Assemblée générale des Nations Unies, en 2017, le secrétaire général avait déjà mis en garde contre l’impact potentiellement dramatique de cette technologie sur les marchés du travail, la sécurité et « le tissu même des sociétés ». Les années suivantes, à mesure que l’intelligence artificielle se généralisait, l’ONU a pris des mesures plus proactives pour limiter l’influence de cette technologie, notamment à travers l’adoption, en 2024, du Pacte numérique mondial.

Le rapport préliminaire constitue toutefois la prise de position la plus ferme de l’institution dans ce domaine à ce jour, avec l’avertissement que l’IA pourrait « causer des dommages catastrophiques, de son propre fait ou sous l’effet d’utilisateurs malveillants », alors que les capacités de cette technologie « dépassent désormais la compréhension scientifique et la capacité des gouvernements à s’adapter ».

Le rapport mentionne spécifiquement l’impact de l’IA sur les populations marginalisées, en soulignant que les biais inhérents à l’IA peuvent entraîner une discrimination à l’égard des femmes, des enfants et des minorités ethniques. Il reconnaît également l’importance de la formation des enseignant·e·s, toutefois uniquement dans le cadre de la préparation à la profession, sans mentionner les droits professionnels, l’impact sur les conditions de travail ni la participation à la prise de décision.

Par ailleurs, le rapport évoque à plusieurs reprises la personnalisation comme une opportunité majeure pour l’IA dans le domaine de l’éducation, or cet avantage supposé reste largement à démontrer, tandis que la dimension relationnelle, pédagogique et sociale de l’apprentissage n’est bien souvent pas prise en compte. Ces préoccupations méritent davantage d’attention, et l’IE espère qu’elles seront prises en compte dans le cadre du suivi de cet événement.

La prudence s’impose à l’heure d’envisager une extension du rôle de l’IA dans l’éducation

Les droits des enfants sont soulignés comme un sujet de préoccupation particulier, alors que le nombre d’images d’enfants utilisés dans les « deepfakes » (hypertrucages) générés par l’IA augmente à un rythme alarmant. Par ailleurs, le rapport souligne que les enfants sont particulièrement vulnérables à la manipulation par l’IA interactive, ce qui présente des risques pour leur développement, leur sécurité et leur bien-être.

Face à ces tendances préoccupantes, le secrétaire général Guterres a appelé tous les pays membres de l’ONU à adopter un pacte pour la sécurité des enfants face à l’IA, qui obligerait les développeurs d’IA à se conformer à des normes plus strictes en matière de tests et de contrôle.

« Aucun enfant ne devrait servir de cobaye pour une intelligence artificielle non réglementée », a insisté Antonio Guterres. « Nous n’autorisons pas un médicament à être administré à un enfant tant que sa sécurité n’a pas été démontrée. Nous testons chaque jouet. Pourtant, l’IA est déjà entrée dans la vie de nos enfants – dans leur apprentissage, leurs amitiés, leurs interrogations les plus intimes – avant même que quiconque ne se demande quels effets elle pourrait avoir sur eux et elles. »

Ces préoccupations revêtent une importance particulière pour l’Internationale de l’Éducation et ses organisations membres, à l’heure où les entreprises technologiques poussent à une intégration accrue de l’IA dans les salles de classe. Les syndicats doivent continuer à exiger que les outils d’IA introduits en classe fassent l’objet d’une évaluation et de tests rigoureux, afin de garantir que les élèves soient protégé·e·s contre toute manipulation et toute atteinte à la vie privée.

Le dernier rapport de l’IE sur l’intelligence artificielle, le développement des élèves, la sécurité et ses liens avec la relation enseignant·e-élève, présenté lors de la récente réunion du Réseau IA et technologie à Madrid, est disponible ici : Enseignement et IA : défendre l’humain au cœur de l’éducation.

Élaborer des politiques IA favorables aux travailleur·euse·s

Si les participant·e·s au Dialogue ont également évoqué les avantages économiques potentiels de l’IA, en particulier dans les pays en développement, ils et elles ont néanmoins souligné que ces gains ne devaient pas être obtenus au détriment des travailleur·euse·s. Le rapport préliminaire souligne que la croissance économique ne conduit pas automatiquement à une distribution équitable et qu’une bonne gouvernance est nécessaire pour garantir que ces bénéfices soient partagés par toutes et tous. Outre les investissements dans l’IA, le rapport souligne que nous avons besoin d’« investissements complémentaires dans le savoir-faire, les flux de travail, les infrastructures et les institutions du marché du travail. Sans ces investissements, l’IA risque d’aggraver les inégalités, de remplacer les travailleurs et travailleuses et de substituer à la richesse créée par le travail la richesse générée par le capital, au lieu de créer des emplois durables et de qualité, c’est-à-dire des emplois offrant une rémunération équitable, une autonomie aux travailleurs et un parcours sûr vers la dignité sociale. »

Les représentant·e·s de la Confédération syndicale internationale (CSI) et de l’IE ont salué la teneur urgente et la portée de ces propos, tout en insistant sur le fait que plusieurs aspects essentiels n’avaient pas été abordés, tels que l’impact de l’intelligence artificielle sur le monde du travail – notamment les enseignant·e·s et les chercheur·euse·s – ainsi que le rôle important des politiques publiques, du dialogue social et de la négociation collective à l’heure d’influencer les enjeux du travail, en plus des politiques en matière d’éducation et de recherche.

En amont du prochain Dialogue, prévu en mai 2027 à New York, le mouvement syndical mondial doit poursuivre sa coordination afin de placer les questions liées au travail au cœur du débat sur l’IA. Les événements à venir seront l’occasion d’approfondir la réflexion sur les répercussions de l’IA sur les conditions de travail, idéalement depuis la perspective des travailleur·euse·s, et d’élaborer plus avant sur le rôle de la négociation collective dans la gouvernance démocratique de l’IA. Afin de concrétiser la vision des Nations Unies d’une « IA au service du bien commun », les travailleur·euse·s et les syndicats doivent avoir leur place à la table des négociations.

Pour consulter la dernière mise à jour effectuée par l’équipe IA et Technologie de l’IE, cliquez sur la langue de votre choix :

English| Français| Español