«Nous ne pouvons pas permettre que les algorithmes limitent ou conditionnent le respect de la dignité humaine»: c'est ce qu'a déclaré le Pape aux participants aux «Minerva Dialogues» promus par le dicastère pour la culture et l'éducation. Le Souverain Pontife les a reçus en audience le 27 mars dans la salle du Consistoire, et a prononcé le discours suivant:
Chers amis!
Bienvenue à vous tous, qui êtes réunis à Rome pour votre rencontre annuelle. Celle-ci réunit des experts du monde de la technologie — scientifiques, ingénieurs, chefs d'entreprise, juristes et philosophes — avec des représentants de l'Eglise — officials de Curie, théologiens et moralistes —, dans le but de favoriser une plus grande conscience et de considérer l'impact social et culturel des technologies numériques, en particulier de l'intelligence artificielle. J'apprécie beaucoup ce chemin de dialogue, qui, ces dernières années, a permis de partager des contributions et des intuitions et de tirer profit de la sagesse des autres. Votre présence témoigne de votre engagement à garantir une confrontation sérieuse et inclusive au niveau mondial sur l'utilisation responsable de ces technologies, une confrontation ouverte aux valeurs religieuses. Je suis convaincu que le dialogue entre croyants et non-
croyants sur les questions fondamentales de l'éthique, de la science et de l'art, et sur la recherche de la signification de la vie, est une voie pour la construction de la paix et pour le développement humain intégral.
La technologie est d’une grande aide pour l’humanité. Pensez aux innombrables progrès dans les domaines de la médecine, de l’ingénierie et des communications (cf. Enc. Laudato si’, n. 102). Et tandis que nous reconnaissons les bienfaits de la science et de la technique, nous y voyons une preuve de la créativité de l'être humain et aussi de la noblesse de sa vocation à participer de manière respon-sable à l'action créative de Dieu (cf. ibid., n. 131).
Dans cette perspective, je pense, et nous ne pouvons pas l’écarter, que le développement de l’intelligence artificielle et de l’apprentissage automatique a le potentiel d’apporter une contribution bénéfique à l’avenir de l’humanité. Je suis toutefois convaincu que ce potentiel ne sera réalisé que si ceux qui développent les tech-nologies font preuve d'une volonté cohérente d'agir de manière éthique et responsable. A cet égard, l’engagement de nombreuses personnes travaillant dans ces domaines pour garantir que la technologie soit centrée sur l’homme, fondée sur des bases éthiques dans la conception et orientée vers le bien, est encourageant. Je me réjouis qu’un consensus se soit dégagé pour que les processus de développement respectent des valeurs telles que l’inclusion, la transparence, la sécurité, l’équité, la confidentialité et la fiabilité. Je salue également les efforts déployés par les organisations internationales pour réglementer ces technologies, afin qu'elles promeuvent un véritable progrès, c'est-à-dire qu'elles contribuent à un monde meilleur et à une qualité de vie intégralement supérieure (cf. ibid., n. 194).
Il ne sera pas facile de parvenir à un accord dans ces domaines. En effet, «l’immense progrès technologique n’a pas été accompagné d’un développement de l’être humain en responsabilité, en valeurs, en conscience» (cf. ibid., n. 105). En outre, le monde actuel est caractérisé par une grande diversité de systèmes politiques, de cultures, de traditions, de conceptions philosophiques et éthiques et de croyances religieuses. Les débats sont de plus en plus polarisés et, en l'absence de confiance et d'une vision partagée de ce qui rend la vie digne, les débats publics risquent d'être polémiques et inconcluants.
Seul un dialogue inclusif, dans lequel les personnes cherchent ensemble la vérité, peut faire émerger un véritable consensus; et cela peut se faire si l'on partage la conviction que «dans la réalité même de l'être humain et de la société [...] il y a une série de structures de base qui soutiennent leur développement et leur survie» (Enc. Fratelli tutti, n. 212). La valeur fondamentale que nous devons reconnaître et promouvoir est celle de la dignité de la personne humaine (cf. ibid., n. 213). Je vous invite donc, dans vos délibérations, à faire de la dignité intrinsèque de chaque homme et de chaque femme le critère-clé dans l'évaluation des technologies émergentes, qui révèlent leur positivité éthique dans la mesure où elles aident à manifester cette dignité et à en accroître l'expression, à tous les niveaux de la vie humaine.
Je suis préoccupé par le fait que les données recueillies jusqu'à présent semblent indiquer que les tech-nologies numériques ont contribué à accroître les inégalités dans le monde. Non seulement les différences de richesse matérielle, qui sont importantes, mais aussi celles d'accès à l'influence politique et sociale. Demandons-nous: nos institutions nationales et internationales sont-elles en mesure de tenir les entreprises tech-nologiques responsables de l’impact social et culturel de leurs produits? Y a-t-il un risque que la hausse des inégalités compromette notre sens de la solidarité humaine et sociale? Pourrions-nous perdre notre sens du destin commun? En réalité, notre objectif est que la croissance de l'innovation scientifique et technologique aille de pair avec une plus grande égalité et une plus grande inclusion sociale (cf. Message vidéo à la conférence ted de Vancouver, 26 avril 2017).
Ce problème de l'inégalité peut être aggravé par une fausse conception de la méritocratie qui mine la notion de dignité humaine. La reconnaissance et la récompense du mérite et de l'effort humain ont un fondement, mais il y a le risque de concevoir l'avantage économique de quelques-uns comme gagné ou mérité, alors que la pauvreté de tant est considérée, en un sens, comme de leur faute. Cette approche sous-estime les inégalités de départ entre les individus en termes de richesse, d'opportunités éducatives et de liens sociaux, et traite le privilège et l'avantage comme des acquis personnels. Par conséquent — en termes schématiques — si la pauvreté est la faute des pauvres, les riches sont dispensés de faire quelque chose (cf. Discours au monde du travail, Gênes, 27 mai 2017).
Le concept de dignité humaine — et là est le centre — nous impose de reconnaître et de respecter le fait que la valeur fondamentale d'une personne ne peut être mesurée par un ensemble de données. Dans les processus décisionnels sociaux et économiques, nous devons être prudents en confiant les jugements à des algorithmes qui traitent des données collectées, souvent de manière subreptice, sur les individus et leurs caractéristiques et comportements passés. Ces données peuvent être contaminées par des préjugés et des préjugés sociaux. D'autant plus que le comportement passé d'un individu ne devrait pas être utilisé pour lui refuser l'opportunité de changer, de croître et de contribuer à la société. Nous ne pouvons pas permettre que les algorithmes limitent ou conditionnent le respect de la dignité humaine, ni qu'ils excluent la compassion, la miséricorde, le pardon et, surtout, l'ouverture à l'espérance d'un changement de la personne.
Chers amis, je conclurai en réitérant ma conviction que seules des formes de dialogue véritablement inclusives peuvent permettre de discerner avec sagesse comment mettre l’intelligence artificielle et les technologies numériques au service de la famille humaine. L'histoire biblique de la Tour de Babel (cf. Gn 11) a souvent été utilisée pour mettre en garde contre les ambitions excessives de la science et de la technologie. En réalité, l'Ecriture nous met en garde contre la fierté de vouloir «toucher le ciel» (v. 4), c'est-à-dire saisir et nous emparer de l'horizon de valeurs qui identifie et garantit notre dignité humaine. Et toujours, dans ce cas on fait face à une grave injustice dans la société. Dans le mythe de la Tour de Babel, faire une brique est difficile: la boue, la paille, mélanger, puis cuire... Quand une brique tombait cela représentait une grande perte; beaucoup se plaignaient: «Nous avons perdu une brique». Si un ouvrier tombait, personne ne disait rien. Cela doit nous faire réfléchir: qu'est-ce qui est le plus important? La brique ou l'homme ou la femme qui travaille? C'est une distinction qui doit nous faire réfléchir. Et après la Tour de Babel, la création consécutive de langues différentes devient, comme toute intervention de Dieu, une nouvelle possibilité. Elle nous invite à considérer la différence et la diversité comme une richesse, parce que l'uniformité ne laisse pas croître, l'uniformité impose. Seule une certaine uniformité disciplinaire est bonne — peut-être — mais celle imposée est mauvaise. Le manque de diversité est un manque de richesse, parce que la diversité nous oblige à apprendre ensemble les uns des autres et à redécouvrir avec humilité le sens authentique et la portée de notre dignité humaine. N'oublions pas que les différences stimulent la créativité, «créent des tensions et dans la résolution d'une tension consiste le progrès de l'humanité» (cf. Enc. Fratelli tutti, n. 203), lorsque les tensions se résolvent à un niveau supérieur, qui n'anéantit pas les pôles en tension mais les fait mûrir.
Je forme les meilleurs vœux pour vos dialogues et vous remercie de votre engagement à écouter et à grandir dans la compréhension de la contribution de chacun. Je vous bénis et je vous demande de prier pour moi. Merci.