Leo a dénoncé la course à l'IA dans le domaine militaire.

Cité du Vatican (AFP) - Le pape Léon XIV a appelé lundi au « désarmement » de l'intelligence artificielle dans son manifeste très attendu sur cette technologie en plein développement, et a mis en garde contre les « nouvelles formes d'esclavage » qui accompagnent son essor.

La théorie de la « guerre juste », récemment défendue par l’administration Trump, était « dépassée », écrivait Léon XIII dans sa première encyclique, qu’il a présentée en personne au Vatican, aux côtés d’experts en IA, dont le cofondateur du géant américain Anthropic.

Le premier pape américain, qui s'est opposé à la Maison Blanche au sujet de la guerre en Iran et de son utilisation de la religion pour justifier le conflit, a tiré la sonnette d'alarme concernant les armes dirigées par l'IA, déclarant qu'il n'était « pas permis de confier des décisions létales » à la technologie.

Le géant américain Anthropic, qui s'est positionné comme une entreprise d'IA éthique, est engagé dans une bataille juridique avec l'armée américaine après s'être opposé à l'utilisation de sa technologie pour la guerre autonome létale ou la surveillance de masse.

Sans nommer le président américain Donald Trump, Leo a souligné qu'il était « important de réaffirmer que la théorie de la "guerre juste", qui a été bien trop souvent utilisée pour justifier tout type de guerre, est désormais dépassée ».

« Aucun algorithme ne peut rendre la guerre moralement acceptable », a-t-il ajouté.

- « Compétition armée » -

L'intelligence artificielle pourrait valoir jusqu'à 4 800 milliards de dollars d'ici 2033, soit une multiplication par 25 en une décennie, tout en concentrant ses profits entre les mains d'un petit nombre d'individus, selon les Nations Unies.

« Désarmer l’IA signifie la libérer de la mentalité de la compétition “armée” », a écrit le pape dans « Magnifica Humanitas » (Magnifique Humanité), un ouvrage visant à aborder les défis éthiques et sociaux que soulève l’IA.

Il a fustigé « une course aux algorithmes toujours plus puissants et aux ensembles de données toujours plus volumineux, motivée par le désir d’assurer une domination géopolitique ou commerciale ».

« Désarmer ne signifie pas rejeter la technologie, mais empêcher qu’elle ne domine l’humanité », a écrit Leo.

L’IA devrait être « conviviale », accessible à tous et ouverte à la discussion et au débat, a-t-il ajouté.

Le chef des 1,4 milliard de catholiques du monde a fait de cette question sensible un pilier de son pontificat en lui consacrant sa première encyclique – un document qui pose les bases de l'enseignement de l'Église et d'un débat à plus long terme.

Le manifeste fait référence à toute une série de géants de la culture, du philosophe grec Platon à Beethoven et sa Neuvième Symphonie, citant même un personnage du « Seigneur des Anneaux » de J.R.R. Tolkien.

- 'Pas magique' -

L’encyclique « Magnifica Humanitas » a été signée le 15 mai, à l’occasion du 135e anniversaire de l’encyclique de 1891 de Léon XIII qui a posé les fondements de la doctrine sociale de l’Église pendant la révolution industrielle.

Leo a mis en garde contre les nouvelles formes d'esclavage qui alimentent la révolution technologique, soulignant que « rien dans le monde de l'IA n'est immatériel ou magique ».

« Chaque réponse apparemment immédiate et sans faille… repose sur le travail silencieux de millions de personnes », qu’il s’agisse de modérateurs de contenu contraints de visionner des images choquantes ou d’enfants qui extraient les terres rares dont dépend l’IA.

« Ils sont marqués, blessés et usés afin que le flux de calcul puisse se poursuivre sans interruption », a-t-il écrit.

Une plus grande efficacité ou une plus grande innovation n'excusent pas « une chaîne d'exploitation qui reste délibérément cachée », a-t-il écrit, tandis que davantage doit être fait pour réduire l'impact environnemental de l'IA et « protéger notre maison commune ».

La publication de ce texte fait suite à plusieurs années d'études menées par l'Église sur les technologies liées à l'IA.

Dès 2020, le Saint-Siège a lancé l’« Appel de Rome pour une éthique de l’IA », qui appelait à ce que les nouvelles technologies respectent la dignité humaine.

Les experts affirment que « Magnifica Humanitas » pourrait s'avérer aussi influente que « Laudato Si' » du pape François, un manifeste climatique de 2015 qui a déclenché des réactions politiques et civiques dans le monde entier.