L’Intelligence artificielle doit être au service
du bien commun

Tout le monde en parle, beau-coup ont commencé à l’utiliser, mais rares sont ceux qui comprennent ce que c’est et surtout quelles pourraient être ses conséquences sur la vie humaine. Nous parlons d’Intelligence artificielle (Artificial Intelligence, ai), qui apparaît de plus en plus comme la grande innovation technologique de notre époque. Pour certains, cela améliorera la vie de chacun, pour d’autres, cela conduira à la catastrophe de l’humanité. Entre temps, sa valeur économique augmente de façon exponentielle et les gouvernements tentent de la réglementer avec beaucoup de difficultés, étant donné la rapidité avec laquelle ces «machines intelligentes» deviennent de plus en plus puissantes. L’un des principaux experts en la matière est le père Paolo Benanti, théologien et philosophe, franciscain du Tiers-Ordre régulier. En octobre, le secrétaire général des Nations unies, António Guterres, l’a appelé pour rejoindre le Comité d’experts sur l’Intelligence artificielle (ia) qui s’est réuni ces derniers jours au siège de l’onu à New York. Dans cet entretien avec les médias du Vatican, Paolo Benanti se concentre sur les aspects éthiques et technologiques de l’ia et indique la contribution que l’Eglise, «experte en humanité», peut apporter au débat sur l’Intelligence artificielle.

Aujourd’hui, tout le monde parle d’Intelligence artificielle. Dans le langage courant, c’est presque devenu un mantra: «L’Intelligence artificielle s’en chargera». Mais sommes-nous réellement confrontés à une réalité qui, comme certains le disent, aura un impact plus grand sur l’humanité que celui de la Révolution industrielle?

Il y a en effet une certaine inflation du terme «révolution». Nous aimons penser que beaucoup de choses sont révolutionnaires, dans le sens qu’elles vont tout changer. De ce point de vue, je dirais que plutôt que d’avoir devant nous une véritable révolution, nous avons une évolution de la Révolution industrielle. La Révolution industrielle s’est caractérisée comme un système dans lequel certaines tâches confiées à l’homme étaient remplacées par des machines. Le début de la Révolution industrielle a remplacé la force musculaire; aujourd’hui, nous aimerions substituer un peu ce qu’est la capacité cognitive de l’homme. La machine imite très bien tout cela; elle est tout à fait capable d’avoir un but et pourtant cette machine est encore une imitation et n’a pas sa propre conscience, sa propre volonté. La terme révolution est donc trop fort, c’est une évolution de l’automatisation. Cependant, ce qu’il faut comprendre, c’est que les effets que cela peut avoir en termes d’impact social peuvent être «révolutionnaires». Si la première Révolution industrielle a eu un impact sur les cols bleus, les rendant moins nécessaires au processus de production, l’Intelligence artificielle peut avoir et aura un impact énorme sur les cols blancs, c’est-à-dire sur les emplois qui caractérisent la classe moyenne et si nous ne la gérons pas sur la base également de critères de justice sociale, les effets pourraient être véritablement dévastateurs ou du moins très forts sur la capacité de cohésion des Etats démocratiques.

Un grand scientifique, l’astrophysicien Stephen Hawking, a déclaré il y a déjà quelques années que le succès de l’Intelligence artificielle est peut-être le plus grand événement de l’histoire de l’homme, mais que si nous n’évitons pas les risques, cela pourrait aussi mettre fin à l’humanité elle-même. Quelles devraient être les bonnes démarches pour un développement qui n’ait pas de conséquences destructrices?

Puisant également à une réflexion spécifique à la Doctrine sociale de l’Eglise, je dirais de bien distinguer entre innovation et développement. L’innovation ou le progrès technologique, c’est la capacité de faire quelque chose de manière de plus en plus efficace et de plus en plus forte. Pen-sons à un domaine négatif, mais malheureusement quotidien, comme celui de la guerre. Un pistolet, une mitrailleuse, une bombe, une bombe atomique, sont quelques éléments d’une innovation de la guerre. Cependant, personne ne pense qu’une bombe atomique est meilleure qu’un pistolet. Le développement, par contre, transforme l’innovation technologique en quelque chose qui prend également en considération le bien social, le bien commun.

Toutes les innovations technologiques soulèvent des questions éthiques. Avec l’Intelligence artificielle, ces questions semblent bien plus complexes que par le passé. Pourquoi?

Les Anglais, lorsqu’ils parlent de ces machines, utilisent un terme difficile à traduire en français car il est chargé d’autres significations. Ces machines ont une sorte de «agency», où l’on pourrait traduire «agency» par une série de mots: la capacité de s’adapter aux contextes pour poursuivre des objectifs. Mais comme toujours, la fin ne justifie pas les moyens! Ainsi, la machine qui peut, dans une certaine mesure, déterminer les moyens les plus adéquats pour atteindre son objectif, est une machine qui, de par sa nature, nécessite des «garde-fous éthiques» très larges, précisément parce que la fin ne justifie pas les moyens.

L’Intelligence artificielle pourrait-elle se poser de manière autonome des questions éthiques et trouver des réponses ou bien cette dimen-sion morale restera-t-elle toujours l’apanage de l’homme?

Non. Malgré ce que certains films de science-fiction peuvent nous faire penser, la conscience n’est pas quelque chose qui appartient à la machine. Il n’y a donc pas de subjectivité qui s’interroge elle-même ou qui interroge le monde. C’est une machine qui remplit des tâches. Elle reçoit des objectifs de l’homme, comme le petit robot qui peut nettoyer notre maison, auquel je dis: «nettoie la maison», et il adapte les moyens, il utilise l’aspirateur, il cogne, il revient en arrière quand il trouve les escaliers… ce sont toutes des actions liées à cet objectif. Par conséquent, cette partie de l’Intelligence artificielle, c’est-à-dire le choix des finalités adéquates, doit et ne peut être qu’entre les mains de l’homme. Mais bien sûr, donner des objectifs à la machine sans trop réfléchir, sans se poser les bonnes questions, peut conduire à des résultats catastrophiques, même sans la présence d’une machine consciente.

ChatGpt, l’outil d’Intelligence artificielle le plus «populaire», fête aujourd’hui son premier anniversaire. Pour certains, ce n’est guère plus qu’un jouet, pour d’autres, cela nous donne déjà une idée des changements qu’il peut apporter dans notre vie. Quelle est votre avis?

ChatGpt a eu un succès impressionnant. C’est l’application la plus téléchargée depuis toujours. C’est l’application qui a envahi notre quotidienneté numérique. Si d’un côté, cela nous dit à quel point l’Intelligence artificielle nous fascine, de l’autre, cela nous expose aussi au risque d’une mauvaise compréhension, car ChatGpt est né non pas comme un produit industriel destiné à être utilisé pour un but déterminé, mais comme une sorte de grande démo (version de dé-monstration d’un programme ndlr) qu’une société, OpenAI, a ouvert au public pour montrer la puissance de ce qu’elle est en train de développer. ChatGpt est simplement une exten-sion d’autres produits appelés Gpt, sans «Chat» devant, qui sont de grands modèles linguistiques, c’est-à-dire des machines qui ont travaillé sur d’énormes quantités de texte — découpées de manière appropriée en petites parties appelées «paramètres» — et à partir de là, ont déterminé statistiquement la façon dont des mots vont bien ensemble. Ainsi, ChatGpt est un système qui, à partir d’une phrase d’entrée, produit un texte de sortie. Mais ce texte a été affiné grâce à l’interaction de nombreux hommes qui — hélas, sous-payés dans des régions très pauvres du monde — ont commencé à réagir à cette machine et à lui «dire» quelles étaient les meilleures et les pires réponses parmi celles qu’elle fournissait. Malheureusement, lorsque ChatGpt est arrivé, la plupart des gens n’a pas compris qu’il s’agissait d’une démo qui répond à n’importe quelle question qu’on lui pose, mais l’ont considéré comme un véritable moteur de recherche, auquel demander des informations, en faisant confiance à ses réponses.

Quels problèmes cette incompréhension de l’outil ChatGpt pourrait-elle produire?

Cela conduit à de grosses erreurs, car la machine est conçue de telle sorte que le texte doit nécessairement sortir en réponse à ma question d’entrée, mais ce texte n’est absolument pas vérifié comme étant factuellement correct. Si ChatGpt produit un si beau texte, cela ne signifie pas nécessairement que le contenu est réel. Voici tout le potentiel et les risques de la machine. Le potentiel c’est d’avoir enfin un outil qui manie le langage d’une manière très puissante. La limite, c’est que nous ne comprenons pas que c’est une sorte de grande démo et non pas un outil définitif, et que nous faisons confiance à une machine pour des choses qui n’ont aucune valeur. Ne demandez jamais à cette machine comment guérir une maladie!

Depuis des années, on parle d’une fracture numérique qui sépare les pays les plus avancés technologiquement des pays en développement. Avec l’intelligence artificielle, cet écart ne risque-t-il pas de se creuser, laissant encore plus loin derrière les peuples qui peinent déjà à s’affirmer dans un monde et une économie qui sont de plus en plus mondialisés?

Oui, absolument. L’Intelligence artificielle peut fonctionner comme un multiplicateur. Là où elle trouve des richesses et un tissu riche en ressources, elle peut les multiplier. Là où elle ne trouve pas un signe plus, mais un signe moins, elle peut aggraver ce signe moins, également parce que ces systèmes — aussi mondiaux soient-ils — sont l’apanage et la propriété d’un nombre très restreint d’entreprises. A l’heure actuelle, les grandes innovations en matière d’Intelligence artificielle sont réalisées par neuf entreprises mondiales, ayant une capitalisation de plus de mille milliards de dollars. Pour avoir une comparaison, le pib total de la Grande-Bretagne est égal à 3.300 milliards, nous parlons donc de chiffres ahurissants. Bref, ce n’est pas un produit répandu, ce n’est pas quelque chose à la portée de tous. Il existe un risque croissant d’une forme de dépendance à l’égard d’un très petit nombre de monopoleurs. Un autre élément à inclure dans ce bilan est le «coût caché» de ces technologies qui sont réalisées sur des ordinateurs à base de terres rares et d’autres matériaux qui ont un coût environnemental très élevé et consomment énormément d’électricité. Alors, s’il est beau de nous interroger et de nous demander avec émerveillement ce que signifient les merveilles de ces machines, il ne faut pas non plus oublier qu’elles ont un côté moins visible, mais très cher en termes d’égalités, de coûts environnementaux et énergétiques. Il faut en tenir compte pour que cela ne devienne une dépense que paieront les pays les plus pauvres du monde.

Les gouvernements sont en train d’adopter des réglementations sur l’Intelligence artificielle, et les Nations unies se penchent également sur la question. Vous avez été nommé par le secrétaire général de l’onu pour faire partie d’un comité de 39 experts qui s’occupent de l’Intelligence artificielle. Quelles sont les tâches de cet organisme?

Comme l’indique le titre de cet organe de travail, il s’agit d’un comité qui fournit un avis au secrétaire général de l’onu. Ce qu’on nous demande, c’est d’abord de photographier ce qui se passe avec cette forme d’innovation et de le faire de manière très équilibrée. On nous demande d’abord de photographier quels pourraient être les grands avantages de ces technologies pour l’humanité. Pensons à l’augmentation de la capacité de guérison, aux opportunités de créer de nouvelles formes de richesse. Mais on nous demande aussi d’évaluer les risques, non seulement en raison des inégalités qui peuvent s’accroître, mais parce que, surtout dans les dernières formes d’Intelligence artificielle, comme celle que nous venons d’évoquer — ChatGpt — nous disposons d’une machine capable de «narrer», capable de raconter des histoires, et les histoires peuvent contribuer à façonner l’opinion publique. Cette machine peut donc être utilisée à des fins qui ne sont pas exactement positives, comme accroître la haine sociale ou créer des ennemis là où il n’y en a pas. Une machine qui peut influencer l’opinion publique à ce point est clairement une machine qui doit être examinée très attentivement, en particulier par les organismes qui ont la volonté de collaborer en faveur de la paix mondiale ou d’un développement équitable. Le comité de l’onu est également chargé d’offrir un cadre possible dans lequel chercher des accords internationaux basés sur des plates-formes de valeurs pouvant aider cet instrument à être une forme de développement et non seulement une forme de profit pour quelques-uns.

L’Eglise ne recule pas devant le débat sur l’Intelligence artificielle. Votre engagement personnel le démontre également. Aussi, le Saint-Siège travaille sur cette frontière dans plusieurs domaines. Les Messages du Pape pour la Journée mondiale de la paix et pour la Journée mondiale des communications sociales auront pour thème l’Intelligence artificielle. Quelle est la contribution la plus importante que l’Eglise peut apporter?

L’Eglise se considère comme une «experte en humanité». C’est une institution qui est présente partout. Recueillir et offrir ce qu’est aujourd’hui la vie de l’homme dans toutes ses grandes aspirations, ses rêves, mais aussi dans ses fragilités et ses craintes, est le premier terrain fertile sur lequel l’Eglise offre une ré-flexion au monde entier. Depuis 2020, ce thème est présent et influence les réflexions également us les grands thèmes, il a besoin de mûrir aussi par la rencontre de cette richesse d’humanité qui vient d’en bas, de la présence pastorale, et de cette capacité de réflexion également liée à l’Evangile et à la théologie. Cette grande attention intervient à un moment où le Saint-Père a voulu accorder une grande importance à certains thèmes globaux, comme la sauvegarde de la Maison commune et la Fraternité. Voici deux grandes perspectives dans lesquelles l’Eglise pourrait apporter sa contribution unique, originale et positive à ce débat. Nous n’avons pas seulement besoin de la contribution politique, ou de la contribution industrielle. Cet apport d’humanité, d’une humanité qui vit dans un environnement, dans une maison qui est notre planète, et qui vit dans la fraternité, est une contribution à l’«humanisation» de l’Intelligence artificielle, c’est-à-dire un encouragement à la transformation du progrès en véritable développement humain, aujourd’hui si nécessaire.

Alessandro Gisotti