L’innovation doit profiter à l’humanité et non au pouvoir technologique de quelques-uns

Dans le domaine des innovations technologiques, il est nécessaire de créer un cadre «réglementaire, économique et financier qui limite le pouvoir monopolistique de quelques-uns et qui permette au développement de profiter à l'ensemble de l'humanité». C'est ce qu'a rappelé le Pape François en s'adressant aux participants à la conférence internationale organisée par la fondation Centesimus Annus Pro Pontifice sur l'intelligence artificielle et le paradigme technocratique. François les a reçus en audience dans la matinée du samedi 22 juin, dans la salle Clémentine, et a prononcé le discours que nous publions.

Mesdames et Messieurs,
Eminences, Excellences,
chers frères et sœurs, bonjour!

Je salue et remercie la présidente, Madame Anna Maria Tarantola, et je salue tous ceux qui participent à la Conférence internationale annuelle de la fondation Centesimus Annus Pro Pontifice. Cette année, le thème est «L'intelligence artificielle et le paradigme technocratique: comment promouvoir le bien-être de l'humanité, le soin de la nature et un monde de paix».

C'est un sujet qui mérite une attention particulière, car l'ia influence de manière disruptive l'économie et la société, et peut avoir des conséquences négatives sur la qualité de vie, sur les relations entre les personnes et entre les pays, sur la stabilité internationale et sur notre maison commune.

Comme vous le savez, j'ai abordé le développement technologique dans l'encyclique Laudato si' et dans l'exhortation apostolique Laudate Deum, ainsi que l'ia dans le Message pour la Journée mondiale de la paix de cette année, et, il y a plusieurs jours, dans mon intervention au g7.

Je suis reconnaissant à Centesimus Annus d'avoir consacré une large place à ce sujet, en impliquant des chercheurs et des experts de différents pays et disciplines, en analysant les opportunités et les risques liés au développement et à l'utilisation de l'ia, avec une approche transversale et surtout en adoptant une perspective anthropocentrique, tout en ayant -conscience des dangers d'un renforcement du paradigme technocratique.

L'analyse multidisciplinaire est essentielle pour saisir tous les aspects actuels et futurs de l'ia, les avantages qu'elle peut apporter pour la productivité et la croissance, ainsi que les risques qu'elle peut comporter, afin d'identifier les bonnes modalités éthiques de développement, d'utilisation et de gestion.

Dans mon message pour la dernière Journée de la paix, j'ai parlé d'«algor-éthique», soulignant la nécessité absolue d'un développement éthique des algorithmes, où ce sont les valeurs qui orientent les cheminements des nouvelles technologies.

Dans le discours au g7, j'ai mis en lumière les aspects critiques de l'intelligence artificielle, soulignant qu'elle est et doit rester un outil entre les mains de l'homme. Comme d'autres outils clés au fil des millénaires, cela atteste de la capacité de l'être humain à aller au-delà de lui-même, sa «transcendance», et peut apporter de grandes transformations, positives ou négatives. Dans ce second sens, l'ia pourrait renforcer le paradigme tech-nocratique et la culture du rejet, accroître les disparités entre les pays développés et ceux en développement, et déléguer aux machines des décisions essentielles concernant la vie des êtres humains. J'ai donc affirmé la nécessité absolue d'un développement et d'une utilisation éthiques de l'ia, invitant les politiques à adopter des actions concrètes pour gouverner le processus technologique en cours vers la direction de la fraternité universelle et de la paix.

Dans ce contexte, votre conférence contribue à renforcer la capacité à saisir les aspects positifs de l'ia, à connaître, diminuer et maîtriser les risques, en dialoguant avec le monde scientifique pour définir ensemble les limites à imposer à l'innovation si elle doit nuire à l'humanité.

Stephen Hawking, célèbre cosmologue, physicien et mathématicien, a déclaré: «Le développement complet de l'ia pourrait signifier la fin de la race humaine... Elle évoluerait seule et se réinventerait à un rythme toujours croissant. Les humains, limités par l'évolution biologique lente, ne pourraient pas rivaliser et seraient dépassés» (Interview à la bbc). Est-ce cela que nous voulons?

La question fondamentale que vous vous êtes posée est celle-ci: à quoi sert l'ia? Sert-elle à répondre aux besoins de l'humanité, à améliorer le bien-être et le développement intégral des personnes, ou sert-elle à enrichir et à augmenter le pouvoir déjà élevé des géants technologiques malgré les dangers pour l'humanité? Telle est la question fondamentale.

La réponse dépend de nombreux facteurs et il y a plusieurs aspects à explorer. J'aimerais en rappeler certains, comme un stimulant pour vos futurs approfondissements.

— Il convient d'approfondir le thème délicat et stratégique de la res-ponsabilité des décisions prises en utilisant l'ia; cet aspect interpelle différentes branches de la philosophie et du droit, ainsi que des disciplines plus spécifiques.

— Il faut identifier les incitations appropriées et une réglementation efficace, d'une part pour stimuler une innovation éthique utile au progrès de l'humanité, et d'autre part pour interdire ou limiter les effets indésirables.

— Tout le domaine de l'éducation, de la formation et de la communication devrait entamer un processus coordonné pour accroître la connaissance et la conscience de l'utilisation correcte de l'ia, et transmettre aux nouvelles générations, dès leur enfance, la capacité critique vis-à-vis de cet outil.

— Les effets de l'ia sur le monde du travail doivent être évalués attentivement. J'encourage les membres de la fondation Centesimus Annus et tous ceux qui participent à ses initiatives à jouer un rôle actif dans leurs domaines respectifs, pour favoriser un processus de reconversion professionnelle et l'adoption de mesures facilitant la réaffectation des personnes en surnombre vers d'autres activités.

— Les effets de l'ia sur la sécurité et la confidentialité doivent être soigneusement examinés.

— Les effets sur la capacité relationnelle et cognitive des personnes, ainsi que sur leurs comportements, doivent être pris en compte et étudiés. Nous ne pouvons pas accepter que ces capacités soient réduites ou conditionnées par un outil technologique, c'est-à-dire par ceux qui en détiennent la propriété et l'utilisation.

— Enfin, mais cette liste n'est pas exhaustive, il convient de rappeler les énormes besoins en énergie nécessaires au développement de l'ia, alors que l'humanité traverse une transition énergétique délicate.

Chers amis, c'est sur le front de l'innovation technologique que se -jouera l'avenir de l'économie, de la civilisation et de l'humanité elle-même. Nous ne devons pas manquer l'occasion de penser et d'agir d'une nouvelle manière, avec notre esprit, notre cœur et nos mains, pour orienter l'innovation vers une configuration centrée sur la primauté de la dignité humaine. Cela ne doit pas être remis en cause. Une innovation qui favorise le développement, le bien-être et la co-existence pacifique, et qui protège les plus défavorisés. Cela nécessite un cadre réglementaire, économique et financier qui limite le pouvoir monopolistique de quelques-uns et qui permette au développement de profiter à l'ensemble de l'humanité.

C'est pourquoi je souhaite que Centesimus Annus continue de s'occuper de ce sujet. Je félicite le lancement de la deuxième recherche commune entre la fondation et l'Alliance stratégique des universités de recherche catholiques (sacru) sur le thème «Intelligence artificielle et soin de notre maison commune: un focus sur les entreprises, la finance et la communication», coordonnée par Madame Tarantola. Veuillez me tenir informé à ce sujet!

Et je conclus par une provocation: sommes-nous certains de vouloir continuer à appeler «intelligence» ce qui n'est pas de l'intelligence? C'est une provocation. Réfléchissons-y, et demandons-nous si l'utilisation impropre de ce mot si important, si humain, n'est pas déjà une capitulation devant le pouvoir technocratique.

Je vous bénis et je vous souhaite le meilleur pour vos activités. Continuez à travailler avec courage, prenez des risques! Et je vous demande de prier pour moi, s'il vous plaît. Merci!