« L’IA doit être libérée de la logique qui la transforme en instrument de domination, d’exclusion et de mort »

Dans sa première encyclique, intitulée « Magnifica humanitas », le pape alerte sur l’impact d’une technologie considérée comme un défi anthropologique à l’humanité. A le lire, il est temps de « désarmer l’IA ».

L’IA exige aujourd’hui d’être « désarmée », « libérée des logiques qui en font un instrument de domination, d’exclusion ou de mort », a déclaré le Pape le lundi 25 mai, lundi de Pentecôte, lors de la présentation de « Magnifica humanitas ».

Dans son discours prononcé en anglais, Léon XIV a insisté sur la nécessité dans le contexte actuel d’« éveiller les consciences et d’indiquer la voie à suivre pour l’humanité ». C’est une première. Jamais, jusqu’alors, un pape n’avait présenté -devant la presse- un document à la plus haute valeur magistérielle, l’encyclique. Jamais, non plus, le sujet de l’IA n’avait été abordé.

« La technologie n’est pas un mal en soi, mais elle prend le visage de ceux qui la financent », prévient Léon XIV, en guise d’introduction.  Avec l’IA, continue-t-il, nous risquons de basculer dans la technocratie, le profit et l’efficacité comme guides au détriment de l’humanité en chacun de nous. Et d’appeler à la création d’un code éthique de l’IA et même plus à l’heure des armes autonomes.

L’Église à l’écoute des préoccupations majeures de son époque

Dans la suite de son propos, le Souverain pontife a souligné qu’aux moments « clés de l’histoire», l’Église est appelée à déchiffrer les « choses nouvelles » à la lumière de « l’Évangile et de la dignité humaine ».

S’appuyant donc sur l’encyclique Rerum Novarum, qui diffusait en son temps « sa parole évangélique et sociale » le 266e Successeur de Pierre a rappelé qu’il y a 135 ans, son prédécesseur Léon XIII, « constatait la situation des ouvriers, leurs familles déracinées et les nouvelles formes de pauvreté engendrées par la transformation industrielle rapide ». Il comprenait, a-t-il insisté, que «l’Église ne pouvait rester à l’écart ».

Aujourd’hui, a noté le Pape Léon XIV « nous sommes confrontés à une transformation d’une ampleur similaire, aux conséquences peut-être encore plus grandes ».

Désarmer l’IA

Le Pape a expliqué dans la foulée avoir écouté des scientifiques et des ingénieurs; des responsables politiques, des fonctionnaires, des parents et des enseignants, ainsi que d’autres voix, « très inquiétantes », concernant des « systèmes d’armes de plus en plus autonomes, pratiquement hors de portée de tout contrôle humain ».

Mais aussi des « témoignages très préoccupants d’algorithmes capables de bloquer l’accès aux soins, à l’emploi et à la sécurité sur la base de données entachées de préjugés et d’injustices » et « le silence de ceux qui n’ont pas voix au chapitre lorsque des décisions sont prises – des décisions susceptibles d’engendrer de nouvelles formes d’exclusion et de souffrance ».