O Papa aos participantes nos «Minerva Dialogues» promovidos pelo Dicastério para a cultura e a educação

Não se pode confiar aos algoritmos o juízo sobre o valor e a dignidade de uma pessoa

 Não se pode confiar aos algoritmos o juízo sobre o valor  e a dignidade de uma pessoa  POR-013
30 março 2023

Não se pode confiar aos algoritmos o juízo sobre o valor e a dignidade de uma pessoa, disse o Papa aos participantes nos «Minerva Dialogues» promovidos pelo Dicastério para a cultura e a educação. O Pontífice recebeu-os em audiência na Sala do Consistório a 27 de março, proferindo o seguinte discurso.

Prezados amigos!

Bem-vindos a todos vós que vos reunistes em Roma para o vosso encontro anual, que convoca especialistas do mundo da tecnologia — cientistas, engenheiros, empresários, juristas e filósofos — juntamente com representantes da Igreja — oficiais da Cúria, teólogos e moralistas — com o objetivo de promover maior consciência e consideração do impacto social e cultural das tecnologias digitais, especialmente da inteligência artificial. Aprecio muito este caminho de diálogo, que nos últimos anos permitiu que partilhássemos contribuições e intuições, e beneficiássemos da sabedoria dos outros. A vossa presença testemunha o compromisso em assegurar um debate global sério e inclusivo sobre o uso responsável destas tecnologias, um confronto aberto aos valores religiosos. Estou convencido de que o diálogo entre crentes e não-crentes sobre as questões fundamentais da ética, da ciência e da arte, e sobre a busca do sentido da vida, seja um caminho para a construção da paz e do desenvolvimento humano integral.

A tecnologia é de grande ajuda para a humanidade. Pensemos nos inúmeros progressos nos campos da medicina, engenharia e comunicações (cf. Enc. Laudato si’, 102). E embora reconheçamos os benefícios da ciência e da tecnologia, vemos nelas a prova da criatividade do ser humano e também da nobreza da sua vocação para participar responsavelmente na ação criativa de Deus (cf. ibid., 131).

Nesta perspetiva, acredito que o desenvolvimento da inteligência artificial e da aprendizagem automática tenha o potencial de dar um contributo benéfico para o futuro da humanidade, não o podemos descartar. Estou certo, porém, de que este potencial só será realizado se houver uma vontade coerente por parte daqueles que desenvolvem as tecnologias de agir de forma ética e responsável. Sinto-me encorajado pelo empenho de tantos que trabalham nestes campos para garantir que a tecnologia seja centrada no homem, fundada em bases éticas na projetação e finalizada para o bem. Apraz-me que tenha surgido um consenso para que os processos de desenvolvimento respeitem valores como a inclusão, a transparência, a segurança, a equidade, a privacidade e a fiabilidade. Congratulo-me também com os esforços das organizações internacionais para regulamentar estas tecnologias a fim de que promovam um progresso genuíno, ou seja, contribuam para deixar um mundo melhor e uma qualidade de vida integralmente superior (cf. ibid., 194).

Não será fácil chegar a um acordo nestas áreas. De facto, «o imenso crescimento tecnológico não foi acompanhado por um desenvolvimento do ser humano quanto à responsabilidade, aos valores, à consciência» (ibid., 105). Além disso, o mundo atual carateriza-se por uma grande pluralidade de sistemas políticos, culturas, tradições, conceitos filosóficos e éticos e crenças religiosas. As discussões estão cada vez mais polarizadas e, na ausência de confiança e de uma visão partilhada do que torna a vida digna, os debates públicos correm o risco de ser polémicos e inconclusivos.

Só um diálogo inclusivo, no qual as pessoas procurem a verdade em conjunto, pode trazer um verdadeiro consenso; e isto pode acontecer se partilharmos a convicção de que «na própria realidade do ser humano e da sociedade [...] há uma série de estruturas basilares que sustentam o seu desenvolvimento e sobrevivência» (Enc. Fratelli tutti, 212). O valor fundamental que devemos reconhecer e promover é o da dignidade da pessoa humana (cf. ibid., 213). Por conseguinte, convido-vos nas vossas deliberações, a fazer da dignidade intrínseca de cada homem e de cada mulher o critério-chave na avaliação das tecnologias emergentes, que revelam a sua positividade ética na medida em que ajudam a manifestar essa dignidade e a incrementar a sua expressão, a todos os níveis da vida humana.

Preocupa-me que os dados obtidos até agora pareçam sugerir que as tecnologias digitais tenham servido para aumentar as desigualdades no mundo. Não só diferenças na riqueza material, que são importantes, mas também diferenças no acesso à influência política e social. Perguntemo-nos: serão as nossas instituições nacionais e internacionais capazes de responsabilizar as empresas tecnológicas pelo impacto social e cultural dos seus produtos? Haverá o risco que o aumento da desigualdade possa minar o nosso sentido de solidariedade humana e social? Poderemos perder o nosso sentido de destino comum? De facto, a nossa meta é que o crescimento da inovação científica e tecnológica seja acompanhado por uma maior igualdade e inclusão social (Cf. Mensagem em vídeo na Conferência ted em Vancouver, 26 de abril de 2017).

Este problema da desigualdade pode ser agravado por uma falsa noção de meritocracia que mina a noção de dignidade humana. O reconhecimento e a recompensa do mérito e esforço humanos têm um fundamento, mas existe o risco de conceber a vantagem económica de poucos como obtida ou merecida, enquanto que a pobreza de muitos é vista, de certa forma, como culpa deles. Esta abordagem subestima as desigualdades entre as pessoas em termos de riqueza, oportunidades educacionais e laços sociais, e trata o privilégio e a vantagem como conquistas pessoais. Como resultado — em termos esquemáticos — se a pobreza é culpa dos pobres, os ricos estão isentos de fazer algo a esse respeito (cf. Discurso ao mundo do trabalho, Génova, 27 de maio de 2017).

O conceito de dignidade humana — este é o núcleo — exige que reconheçamos e respeitemos o facto de que o valor fundamental de uma pessoa não pode ser medido por um conjunto de dados. Nos processos decisórios sociais e económicos, devemos ser cautelosos em confiar julgamentos a algoritmos que processam dados recolhidos, muitas vezes sub-repticiamente, sobre indivíduos e as suas caraterísticas e comportamentos passados. Tais dados podem ser contaminados por prejulgamentos e preconceitos sociais. Especialmente porque o comportamento passado de um indivíduo não deve ser utilizado para lhe negar a oportunidade de mudar, crescer e contribuir para a sociedade. Não podemos permitir que os algoritmos limitem ou condicionem o respeito pela dignidade humana, nem que excluam a compaixão, a misericórdia, o perdão e, sobretudo, a abertura à esperança de mudança da pessoa.

Caros amigos, concluo reafirmando a minha convicção de que só formas verdadeiramente inclusivas de diálogo podem permitir-nos discernir sabiamente como colocar a inteligência artificial e as tecnologias digitais ao serviço da família humana. A história bíblica da Torre de Babel (cf. Gn 11) tem sido frequentemente utilizada para alertar contra as ambições excessivas da ciência e da tecnologia. Na realidade, as Escrituras advertem-nos contra o orgulho de querer “tocar o céu” (v. 4), ou seja, agarrar e apoderar-se do horizonte de valores que identificam e garantem a nossa dignidade humana. E sempre, quando isto acontece, acabamos numa grave injustiça na própria sociedade. No mito da Torre de Babel, fazer um tijolo é difícil: preparar a lama, a palha, amassar, depois cozer... Quando um tijolo caía, era uma grande perda, queixavam-se tanto: “Perdemos um tijolo”. Se caía um operário, ninguém dizia nada. Isto deve fazer-nos pensar: o que é mais importante? O tijolo ou o homem ou mulher que trabalha? Esta é uma distinção que nos deve fazer pensar. E depois da Torre de Babel, a subsequente criação de línguas diferentes torna-se, como qualquer intervenção de Deus, uma nova possibilidade. Isto convida-nos a considerar a diferença e a diversidade como uma riqueza, porque a uniformidade não deixa crescer, a uniformidade imposta. Apenas uma certa uniformidade disciplinar é boa — pode ser — mas a uniformidade imposta é negativa. A falta de diversidade é falta de riqueza, porque a diversidade exige que aprendamos uns com os outros e que redescubramos humildemente o significado autêntico e o alcance da nossa dignidade humana. Não esqueçamos que as diferenças estimulam a criatividade, «criam tensão, e na resolução da tensão está o progresso da humanidade» (Enc. Fratelli tutti, 203), quando as tensões são resolvidas num plano superior, que não aniquila os polos em tensão, mas os faz amadurecer.

Desejo o melhor para os vossos diálogos e agradeço-vos o vosso empenho em ouvir e em crescer na compreensão da contribuição de cada um. Abençoo-vos e peço-vos por favor que rezeis por mim. Obrigado.