A inteligência artificial permaneça ao serviço
do bem comum

Todos falam dela, muitos começaram a utilizá-la, mas ainda são poucos os que compreendem o que é e, sobretudo, quais podem ser as suas consequências para a vida humana. Referimo-nos à Inteligência Artificial (ia), que sobressai cada vez mais como a grande inovação tecnológica dos nossos tempos. Segundo alguns, vai melhorar a vida de todos, segundo outros, levará à catástrofe da humanidade. Entretanto, o seu valor financeiro cresce exponencialmente e os governos procuram regulamentá-la, mas com não poucas dificuldades, considerando a rapidez com que estas “máquinas inteligentes” se tornam cada vez mais poderosas. Um dos maiores especialistas na matéria é o padre Paolo Benanti, teólogo e filósofo, franciscano da Terceira Ordem Regular. Em outubro, o secretário-geral das Nações Unidas, António Guterres, chamou-o para fazer parte do Comité de especialistas da Onu sobre a Inteligência Artificial, que se reúne no Palácio de Vidro, em Nova Iorque. Nesta entrevista aos meios de comunicação do Vaticano, Benanti aborda os aspetos éticos e tecnológicos da ia, indicando a contribuição que a Igreja, “perita em humanidade”, pode oferecer ao debate sobre a Inteligência Artificial.

Hoje todos falam da Inteligência Artificial. Na linguagem comum, tornou-se quase um mantra: “A Inteligência Artificial pensará nisso”. Mas estamos verdadeiramente diante de uma realidade que, como alguns dizem, terá sobre a humanidade um impacto maior do que a Revolução industrial?

Com efeito, há uma certa inflação do termo “revolução”. Gostamos de pensar que muitas coisas são revolucionárias, no sentido que mudam tudo. Deste ponto de vista diria que, mais do que uma verdadeira revolução, estamos diante de uma evolução da Revolução industrial. A Revolução industrial distinguiu-se por ser um sistema para substituir por máquinas certas tarefas feitas pelo homem. O início da Revolução industrial substituiu a força muscular; hoje, gostaríamos de substituir um pouco a capacidade cognitiva do homem. A máquina imita tudo isto muito bem; é deveras capaz de ter um objetivo e, no entanto, continua a ser uma imitação e não tem uma consciência, uma vontade própria. Portanto, revolução é um termo demasiado forte. Trata-se de uma evolução desta automatização. No entanto, o que deve ficar claro é que os efeitos que ela pode ter em termos de impacto social podem ser “revolucionários”. Se a primeira Revolução industrial teve um impacto sobre os operários, tornando-os menos necessários no processo de produção, a Inteligência Artificial pode ter e terá um enorme impacto sobre os empregados, ou seja, sobre os trabalhos que formam a classe média e, se não a gerirmos de acordo com critérios que sejam também critérios de justiça social, os efeitos poderiam ser verdadeiramente devastadores, ou pelo menos muito fortes na capacidade de coesão dos Estados democráticos.

Um grande cientista, o astrofísico Stephen Hawking, disse há alguns anos que o sucesso da Inteligência Artificial poderia ser o maior acontecimento da história da humanidade, mas se não evitarmos os seus riscos, poderia também acabar com a própria humanidade. Quais deveriam ser os passos certos para um desenvolvimento que não tenha consequências destruidoras?

Com base também numa reflexão que é própria da Doutrina social da Igreja, para responder a esta pergunta, diria que se deve distinguir bem entre inovação e desenvolvimento. A inovação, ou progresso tecnológico, é a capacidade de fazer algo de modo cada vez mais eficaz e forte. Pensemos num campo negativo, mas infelizmente quotidiano, como o da guerra. Um revólver, uma metralhadora, uma bomba, uma bomba atómica são alguns dos pontos de uma inovação bélica. No entanto, ninguém pensa que a bomba atómica seja melhor do que o revólver. Ao contrário, o desenvolvimento consiste no que vai buscar à inovação tecnológica e o transforma em algo que visa também o bem social, o bem comum.

Todas as inovações tecnológicas acarretam questões de índole ética. Com a Inteligência Artificial, tais questões parecem muito mais complexas do que no passado. Porquê?

Quando falam destas máquinas, os ingleses recorrem a um termo que é difícil de traduzir noutras línguas, porque talvez esteja repleto de outros significados. Estas máquinas têm uma espécie de “agency”, onde poderíamos traduzir “agency” com uma série de palavras: a capacidade de se adaptar aos contextos para perseguir finalidades. Mas, como sempre, os fins nunca justificam os meios! Assim, a máquina que, em certa medida, consegue determinar quais são os meios mais adequados para alcançar a sua finalidade, é uma máquina que, pela sua própria natureza, necessita de “guardrails” éticos muito amplos, precisamente porque os fins não justificam os meios.

Poderia a Inteligência Artificial colocar-se autonomamente questões éticas e encontrar respostas, ou esta dimensão moral continuará a ser sempre apanágio do homem?

Não! Apesar do que alguns filmes de ficção científica possam levar-nos a pensar, a consciência não é algo que pertence à máquina. Portanto, não há subjetividade que se questione a si própria ou que interrogue o mundo. É uma máquina que executa tarefas. Recebe ordens do homem, como o pequeno robô que pode limpar a nossa casa, quando lhe digo: “limpa a casa” e depois adequa os meios utilizando o aspirador, colide, talvez volte para trás quando encontra escadas, tudo isto está ligado a uma finalidade. Assim, esta parte, o “novo cabo” da Inteligência Artificial, ou seja, a escolha dos fins adequados, deve e pode estar unicamente nas mãos do homem. Isto não impede que dar ordens à máquina sem pensar muito, sem fazer as perguntas certas, pode levar a êxitos catastróficos, até sem a presença de uma máquina consciente.

Recentemente o ChatGpt, o instrumento mais “popular” de Inteligência Artificial completou um ano. Para alguns é pouco mais do que um brinquedo, para outros já nos dá uma ideia das mudanças que pode trazer à nossa vida. Qual é a sua avaliação?

É impressionante o sucesso que o ChatGpt alcançou. Foi a aplicação mais baixada de sempre. Foi a aplicação que invadiu o nosso dia a dia digital. Se isto, por um lado, nos diz quanto a inteligência artificial nos fascina, por outro também nos abre ao risco de desentendimentos, pois o ChatGpt não nasceu como produto industrial destinado a ser utilizado para alguma coisa, mas como uma espécie de grande demo (versão demonstrativa de um programa, ndr) que a empresa Open ai abriu ao público para mostrar o poder daquilo que desenvolvia. O ChatGpt é simplesmente uma expansão de outros produtos chamados Gpt, sem o prefixo “Chat”, que são grandes modelos de linguagem, isto é, máquinas que trabalharam com enormes quantidades de textos — devidamente subdivididos em pequenas partes chamadas “parâmetros” — e a partir daí determinaram de certo modo, estatisticamente, a maneira de encaixar as palavras. Assim, o ChatGpt é um sistema que, considerando uma frase de input, produz um texto de output. Mas este texto é aperfeiçoado através da interação de muitos homens que — infelizmente, mal pagos em partes muito pobres do mundo — começaram a responder a esta máquina e a “dizer” à máquina quais eram as melhores e as piores respostas que ela fornecia. Infelizmente, quando o ChatGpt surgiu, a maioria das pessoas não o entendeu desta forma, ou seja, como uma demo de alguém que responde a qualquer pergunta, mas como verdadeiro motor de pesquisa, pedindo informações ao sistema ou confiando no que ele determinava.

Portanto, que problemas pode gerar esta má compreensão do instrumento ChatGpt?

Pode levar a grandes erros, porque a máquina é feita de tal forma que o texto deve obrigatoriamente surgir da minha pergunta de entrada, mas este texto não é absolutamente verificado na exatidão dos dados. Se o ChatGpt produz um texto muito bonito, não produz necessariamente conteúdos que sejam reais. Eis todo o potencial e o risco da máquina. A potencialidade consiste em ter finalmente um instrumento que manuseie a linguagem de modo muito poderoso. O limite consiste em não entender que se trata de uma espécie de grande demo, não de uma ferramenta definitiva, e em confiar numa máquina para coisas que não têm valor algum. Nunca pergunte a esta máquina como curar uma doença!

Há anos que se fala do “digital divide” que separa as nações tecnologicamente mais avançadas dos países em desenvolvimento. Com a Inteligência Artificial, esta divisão não corre o risco de aumentar, deixando ainda mais para trás as nações que já lutam para se afirmar num mundo e numa economia cada vez mais globalizados?

Absolutamente sim! A Inteligência Artificial pode funcionar como um multiplicador. Onde encontra riqueza e um tecido com muitos recursos, pode multiplicá-los. Onde encontra na realidade não o sinal mais, mas o sinal menos, este sinal menos pode marcar, até porque estes sistemas — por mais globais que sejam — são prerrogativa e propriedade de pouquíssimas empresas globais. Neste momento, as grandes inovações em matéria da Inteligência Artificial são feitas por nove companhias mundiais, com uma capitalização superior a um trilião de dólares. Para ter uma ideia, o Pib total da Grã-Bretanha é equivalente a 3,3 triliões, portanto falamos de números assustadores. Em síntese, não se trata de um produto generalizado, não é algo a que todos podem aceder. Corre-se o risco crescente de uma forma de dependência de pouquíssimos monopolistas. Outro elemento a considerar neste balanço é o “custo oculto” destas tecnologias, feitas em computadores baseados em terras raras e outros materiais que têm um impacto ambiental muito elevado com um enorme consumo de eletricidade. Assim, embora seja bom perguntar-nos, interrogar-se sobre o significado dos prodígios destas máquinas, também não devemos esquecer que elas têm um lado muito menos visível, mas muito mais dispendioso em termos de igualdade, custos ambientais e energéticos, que se devem ter em consideração a fim de que não se tornem uma despesa que as nações mais pobres do mundo irão pagar.

Os governos adotam regulamentos sobre a Inteligência Artificial, enquanto as Nações Unidas também abordam esta questão. O senhor foi nomeado pelo secretário-geral da Onu para fazer parte de um comité de 39 peritos que se ocupam da Inteligência Artificial. Quais são as tarefas deste organismo?

Tal como o próprio título deste organismo de trabalho indica, trata-se de um comité de conselho ao secretário-geral das Nações Unidas. O que nos é pedido é, sobretudo, que façamos uma análise do que se verifica com esta forma de inovação, e que o façamos de modo muito equilibrado. Em primeiro lugar, pedem-nos que tracemos um quadro sobre quais podem ser os grandes benefícios destas tecnologias para a humanidade. Pensamos na maior capacidade de cura, nas oportunidades de criação de novas formas de riqueza. Mas também nos é pedido que avaliemos os riscos, não só pelas desigualdades que podem aumentar, mas porque, especialmente nas formas mais recentes de Inteligência Artificial, como a que foi mencionada — ChatGpt — dispomos de uma máquina capaz de “narrar”, de contar histórias, e as histórias podem ajudar a moldar a opinião pública. Portanto, esta máquina pode ser utilizada para fins que não são propriamente positivos, como aumentar o ódio social ou criar inimigos onde eles não existem. Uma máquina que pode influenciar deste modo a opinião pública é claramente uma máquina que deve ser vigiada com muita atenção, especialmente pelos organismos que desejam colaborar para a paz global ou para o desenvolvimento equitativo. A tarefa do comité da Onu consiste também em oferecer uma eventual moldura em cujo contexto se possam promover acordos internacionais baseados em plataformas de valores que ajudem este instrumento a ser um tipo de desenvolvimento, não apenas uma forma de lucro para poucos.

A Igreja não se subtrai ao debate sobre a Inteligência Artificial. Isto é demonstrado também pelo seu compromisso pessoal. Também a Santa Sé trabalha em vários âmbitos desta fronteira. As mensagens do Papa para o Dia mundial da paz e para o Dia mundial das comunicações sociais têm como tema precisamente a Inteligência Artificial. Qual é a contribuição mais importante que a Igreja pode oferecer?

A Igreja entende-se como “perita em humanidade”. É uma instituição que, como tal, está presente em toda a parte. Recolher e oferecer a vida do homem de hoje em todas as suas grandes aspirações, os seus sonhos, mas também as suas fragilidades e os seus receios, é o primeiro terreno fértil onde a Igreja oferece uma reflexão ao mundo inteiro. Desde 2020, este tema habita e toca de várias maneiras as reflexões da Santa Sé. É claro que, como todas as grandes questões, também esta deve amadurecer no encontro desta riqueza de humanidade que vem de baixo, da presença pastoral, e desta capacidade de reflexão ligada inclusive ao Evangelho e à teologia. Esta grande atenção surge num momento em que o Santo Padre quis dar grande relevância a alguns temas globais, como o cuidado da Casa comum e a fraternidade. O cuidado da Casa comum e a fraternidade poderiam ser duas das grandes perspetivas, onde a Igreja oferece a sua contribuição singular, original e positiva para este debate. Não é suficiente apenas a contribuição política e industrial. Esta contribuição de humanidade, de uma humanidade que vive num ambiente, numa casa que é o nosso planeta, onde vivemos como irmãos, é uma contribuição de “humanização” da Inteligência Artificial, ou seja, de transformação do progresso em autêntico desenvolvimento humano, hoje tão necessário.

Alessandro Gisotti