Ei-iE

Alors que nous assistons à la colonisation du monde par l’IA, les faits, la vérité et la sagesse sont des questions qui, ces derniers temps, me préoccupent. Je crains que cette course effrénée vers un avenir dans lequel les algorithmes nous présentent des « faits », réels ou inventés, nous coûte notre capacité à reconnaître la vérité.

Hier encore, nous pouvions nous fier à la littérature universitaire, c’est-à-dire aux recherches publiées, pour accéder à l’état actuel des connaissances sur un sujet et suivre l’évolution des découvertes au fil du temps. Rédigé par des chercheuses et des chercheurs, ce type de travail s’appuyait sur des recherches substantielles et faisait l’objet d’un examen par des pairs avant d’être publié. Quelle que soit la qualité du travail mené, un processus identifiable de contrôle de la qualité précédait sa publication. Ces informations sont essentielles pour permettre à nos gouvernements et à nos collectivités de prendre des décisions cruciales.

Mais aujourd’hui, à l’ère de l’algorithme, des publications qui ne sont pas toujours produites par l’humain voient le jour. L’IA est utilisée pour « corriger » les écrits, pour compiler des références, pour tirer des conclusions à partir de données et, dans certains cas, pour générer des données à l’appui d’une idée. En dehors de l’engagement pris par la « personne » qui soumet l’article pour publication en ce qui concerne son contenu, rien ne garantit plus que ce que nous lisons nous présente des faits basés sur des données fondées.

En Australie, des membres de notre syndicat signalent être dépossédé·es de la paternité de leurs travaux publiés, alors que les données connexes sont utilisées dans d’autres publications ou que leurs noms sont cités comme auteur·es d’œuvres qu’ils n’ont pas créées ou qui n’existent peut-être même pas. Pour les universitaires, cette situation compromet sérieusement ce qui constitue le fondement même de leur carrière : leur historique de publication, et les retombées induites chaque fois que leurs travaux sont cités. Et ce n’est pas tout. Le biais inhérent à l’IA se manifeste également dans ces circonstances, lorsque certains noms d’auteur·es, à l’évidence féminins, sont remplacés par une version masculine. En outre, certaines maisons d’édition ont non seulement commercialisé le droit d’exploiter leurs publications auprès des grandes entreprises technologiques, mais ont également exigé que les auteur·es d’ouvrages universitaires leur accordent le droit de « mettre à jour » le contenu à tout moment. L’Australie n’est pas la seule concernée ; il s’agit d’un phénomène mondial.

Ce qui nous amène à nous demander : si nous ne pouvons pas compter sur la littérature universitaire pour présenter des faits permettant de déterminer la vérité, vers qui ou vers quoi pouvons-nous nous tourner ? À l’échelon local, une solution consiste à demander à notre gouvernement d’établir un référentiel de tous les travaux universitaires menés en Australie, qui peuvent constituer une source d’information fiable. Imaginez une banque de semences mise en place pour conserver les plantes du monde entier, mais dans notre cas, c’est de la préservation des résultats de la recherche dont il est question, les semences de la découverte. Et la démarche doit également aller de pair avec le développement de la capacité souveraine en matière d’IA afin de préserver la culture, les traditions et la langue australiennes, en particulier dans le cas des Premières Nations d’Australie, des aborigènes et des Insulaires du détroit de Torres.

Les grands modèles de langage qui pilotent l’IA générative reflètent leur propre origine, les valeurs de celles et ceux qui les ont développés et l’équilibre des documents de référence disponibles sur internet. Dès lors que l’IAg (IA générative) entraîne une homogénéisation générale, nous risquons de perdre la diversité qui fait notre monde. Il est profondément préoccupant de constater que nos étudiantes et étudiants, à tous les niveaux, s’appuient sur l’IA et voient le monde à travers ce prisme, avec tous les biais qu’elle implique. Au niveau universitaire où nous travaillons, nous observons les retombées suivantes : les étudiantes et les étudiants perdent soit la capacité, soit la volonté de mener une réflexion, de vérifier et de faire preuve d’esprit critique à l’égard des résultats que l’IAg produit pour leur compte. Nous constatons également un déclin de la pensée créative et novatrice dans leurs réponses aux évaluations.

Pendant plusieurs décennies, notre système d’enseignement supérieur a été soumis à une expansion massive et à la marchandisation de l’éducation. Nous sommes en proie au sous-financement chronique et au sous-effectif (il n’est pas rare que les classes de première année comptent plus de 1000 élèves), et nos lieux de travail ne sont pas propices à une bonne santé mentale. Dans cet environnement, introduire l’IA sans consultation appropriée est voué au désastre, un désastre déjà observé dans le passé et qui s’amorce justement sous nos yeux.

Que les personnes qui dirigent actuellement nos universités – les gardiennes et les gardiens temporaires d’institutions importantes et chargées d’histoire – soient disposées à renoncer à leur avantage concurrentiel au profit des géants de la tech, cela dépasse l’entendement. Les personnes sont depuis toujours l’essence-même de l’enseignement universitaire ; les relations humaines, le corps professoral, les eprsonnels qui encadrent et soutiennent l’enseignement, les camarades avec qui vous débattez passionnément, et l’ouverture de votre esprit à de nouvelles idées et de nouvelles façons d’évaluer ces idées en adoptant un esprit critique. En remplaçant le personnel par des agents conversationnels (chatbots), en déplaçant tout le contenu en ligne de sorte qu’il ne soit plus nécessaire d’assurer une présence physique, en encourageant l’utilisation d’outils d’IA qui, nous le savons, réduisent le sens critique, et en réprimant la liberté d’expression et la protestation, les universités ont été vidées de leur substance et l’expérience, autrefois si riche pour les étudiantes et les étudiants, s’appauvrit peu à peu. Pourquoi suivre des cours sur un campus vide, alors que vous pouvez obtenir un diplôme en ligne grâce aux géants de la tech ?

En plus de faire pression sur notre gouvernement pour qu’il prenne des mesures destinées à protéger les universités australiennes, l’état actuel de la recherche et les connaissances qui seront générées à l’avenir par nos étudiantes et nos étudiants, nous déployons un effort collectif pour nous attaquer à ce problème. Nous nous employons actuellement à introduire des clauses relatives à l’IA dans nos plus de 50 conventions collectives, qui exigeront une consultation approfondie avant l’introduction de l’IA, une personne humaine identifiable responsable de la décision lorsque des algorithmes sont utilisés pour évaluer les travailleuses et travailleurs, la protection des droits moraux du personnel universitaire, ainsi qu’une transparence totale concernant le moment, le lieu et les modalités d’utilisation de l’IA par notre employeur. Si l’IA doit être utilisée, c’est pour augmenter notre travail et non pour nous remplacer. Ce dernier point est particulièrement crucial pour le personnel de soutien à l’éducation, qui est le premier touché par les suppressions d’emplois déjà en cours.

Nous devons faire tout ce qui est en notre pouvoir pour former une nouvelle génération de personnes capables d’exercer leur esprit critique en toute indépendance, par le biais d’interactions humaines significatives, afin de pouvoir protéger la base de connaissances mondiale aujourd’hui et à l’avenir et, en définitive, protéger les faits et soutenir la vérité.