Papa Francesco
la dignità dell’uomo
e i limiti dell’algoritmo

In un passaggio significativo del tradizionale discorso d’inizio anno rivolto ieri, lunedì 8, al Corpo diplomatico accreditato presso la Santa Sede, Papa Francesco è tornato sul tema del messaggio per la Giornata mondiale della pace 2024, dedicato all’intelligenza artificiale, definita come «una delle sfide più importanti dei prossimi anni». Il rischio, altissimo, è che si possa smarrire «la centralità della persona umana».

In modo pù ampio, Papa Francesco, nel messaggio per la Giornata del 1° gennaio, ci ricorda che «il nostro mondo è troppo vasto, vario e complesso per essere completamente conosciuto e classificato. La mente umana non potrà mai esaurirne la ricchezza, nemmeno con l’aiuto degli algoritmi più avanzati. Questi, infatti, non offrono previsioni garantite del futuro, ma solo approssimazioni statistiche». Il recente sviluppo delle cosiddette “intelligenze artificiali” comporta inevitabilmente anche rischi e quindi perplessità, come quella espressa dal Pontefice, che nello stesso messaggio mette in guardia dal pericolo di stabilire «improprie graduatorie tra i cittadini». Quando invece, afferma il Papa, «il rispetto fondamentale per la dignità umana postula di rifiutare che l’unicità della persona venga identificata con un insieme di dati. Non si deve permettere agli algoritmi di determinare il modo in cui intendiamo i diritti umani, di mettere da parte i valori essenziali della compassione, della misericordia e del perdono o di eliminare la possibilità che un individuo cambi e si lasci alle spalle il passato». Un passaggio necessario, per questa “resistenza dell’umano” è il riconoscimento e in qualche modo la memoria del “senso del limite”, un aspetto questo «tanto spesso trascurato nella mentalità attuale, tecnocratica ed efficientista, quanto decisivo per lo sviluppo personale e sociale: il “senso del limite”. L’essere umano, infatti, mortale per definizione, pensando di travalicare ogni limite in virtù della tecnica, rischia, nell’ossessione di voler controllare tutto, di perdere il controllo su se stesso; nella ricerca di una libertà assoluta, di cadere nella spirale di una dittatura tecnologica. Riconoscere e accettare il proprio limite di creatura è per l’uomo condizione indispensabile per conseguire, o meglio, accogliere in dono la pienezza. Invece, nel contesto ideologico di un paradigma tecnocratico, animato da una prometeica presunzione di autosufficienza, le disuguaglianze potrebbero crescere a dismisura, e la conoscenza e la ricchezza accumularsi nelle mani di pochi, con gravi rischi per le società democratiche e la coesistenza pacifica». Proseguendo su questo tema delle diseguaglianze sociali che sistemi determinati dalle intelligenze artificiali potrebbero realizzare, il Papa immagina anche situazioni molto concrete come la possibilità di richiedere un mutuo, o di trovare lavoro o ricevere assistenza sociale e sottolinea il rischio «pregiudizio e discriminazione».

Flashback: «Gattaca»
di Andrew Niccol

Oggi ci sembra tutto molto plausibile, purtroppo, ma quanto descritto dal Papa era stato già immaginato circa 25 anni fa nel geniale film di fantascienza Gattaca, la porta dell’universo, di Andrew Niccol, autore già apprezzato per la sceneggiatura di The Truman Show. Il film racconta la storia, ambientata “in un futuro non molto lontano”, di un giovane ragazzo, Vincent, che ha la passione per i viaggi interstellari. «Sono stato concepito sulla riviera, non quella francese, ma quella costruita dalla Chrysler», inizia così il racconto dei primi anni di vita di Vincent. La telecamera riprende un’automobile sulla riva del mare, nella luce dolcissima di un crepuscolo da cartolina. Risulta già evidente un primo tema caro al regista: la dicotomia verità-finzione. Come in The Truman Show anche qui il mondo di questo futuro “non molto lontano” è iper-tecnologico e le riviere non sono più bellezze naturali ma prodotti artificiali. All’interno dell’automobile si intuisce che un uomo e una donna sono impegnati in un amplesso ma la telecamera si sofferma su una corona di rosario che pende dallo specchietto retrovisore. Sentiamo dalla voce narrante del protagonista, Vincent, che i suoi genitori pensavano all’epoca del suo concepimento, che un figlio “nato dall’amore” sarebbe stato più felice; «ora non lo dicono più», commenta amaramente subito dopo e aggiunge: «Non so cosa aveva spinto i miei genitori a rivolgersi a Dio anziché al genetista». Ecco che il quadro si schiarisce: in un mondo futuro (siamo sicuri?) non si faranno più i figli per via naturale ma solo attraverso la fecondazione artificiale. Ma seguiamo la storia di Vincent.

Concepito “nell’amore”, dopo nove mesi Vincent nasce e appena nato lo vediamo passare nelle mani di un’infermiera che gli preleva una goccia di sangue dal tallone. «Dopo qualche secondo», sentiamo dalla voce narrante, «si poteva sapere la causa e il momento della morte». E così, basandosi su quella goccia di sangue, l’infermiera può sentenziare, quasi come un’antica sacerdotessa, una Pizia, profetessa e oracolo del Dio-Medicina il destino di Vincent: sarà miope, avrà il 99% di possibilità di soffrire di cardiopatia e la sua vita non supererà i 30,2 anni. La voce narrante di Vincent trova subito l’espressione per definirsi: “malato cronico”. A questo punto il padre non se la sente di chiamarlo col proprio nome (Anthony), ma gli dà un doppio nome, Vincent Anthony. Due anni dopo, invece, nascerà il figlio a cui il padre darà il proprio nome. Anthony è un ragazzo concepito attraverso il metodo artificiale, che «ora si chiama metodo naturale», dichiara la voce narrante. È molto inquietante (proprio perché è molto “dolce”) la scena relativa alla “selezione” delle qualità del figlio: i due genitori sono interrogati da un cordiale e gentile genetista che suggerisce loro di “dare il massimo” a quell’embrione, per cui tutto viene selezionato: il sesso, il colore degli occhi, della pelle, l’assenza di calvizie, balbuzie… insomma, importante è far sì che “nulla sia lasciato al caso”, non c’è spazio per la libertà, per la “sorpresa”, ma questo figlio deve essere solo la «somma del meglio di voi due», solo così potrà accettare la sfida di estrema competitività rappresentata dalla società del futuro.

Una società divisa in caste

E in effetti il progresso scientifico così sofisticato ha reso la società altamente competitiva, in modo del tutto disumano: la società è divisa in “caste” ma il criterio non è più quello sociale, sessuale o razzista ma è quello genetico (si sente forte l’eco del famoso romanzo “Il mondo nuovo” di Aldous Huxley, perfetto esempio del genere letterario distopico.

«Genoismo», recita la voce narrante, è questa la discriminazione del futuro, «una discriminazione eretta a sistema». Le immagini scorrono veloci e mostrano le difficoltà che piombano, sin dalla nascita, sul povero Vincent: l’asilo non lo accetta, troppe patologie e quindi poca copertura da parte delle compagnie assicurative (struggente il dettaglio della manina del bambino sul cancello della scuola, un cancello-prigione che però non lo chiude dentro ma “fuori”, discriminandolo); e poi, da grande, vediamo come Vincent non riesca facilmente a trovare lavoro, perché i test ai quali deve sottoporsi non sono quelli attitudinali o di intelligenza, ma semplicemente quelli clinici, che verificano la sua “idoneità fisica”. Il suo dramma non è solo di tipo “sociale” ma anche “familiare”: uno dei momenti più dolenti del film è la rapida sequenza (inserita nel frammento di dieci minuti in questione) in cui si vede il confronto tra i due fratelli, quello maggiore, Vincent, nato “dall’amore” e quindi più “umano”, cioè fragile, e quello nato nel laboratorio, Anthony, semplicemente perfetto, che ben presto supera in tutto il fratello. Molto forte l’immagine del padre che misura sullo stipite di una porta l’altezza di Anthony che a otto anni ha già superato Vincent maggiore di due anni (e Vincent, più basso, gracile e con gli occhiali, per reazione allora cancella il suo nome dallo stipite). Davvero efficace è poi uno dei “nodi narrativi” del film, il gioco preferito dei due fratelli: sfidarsi a nuotare partendo dalla spiaggia per vedere chi va più lontano. Ovviamente la vittoria è sempre di Anthony ma in questo gioco, in questa doppia sfida, verso il fratello e verso se stesso, vi è racchiusa l’immagine simbolica di tutto il film. Il vero dramma di Vincent infatti sta nel fatto che lui non si rassegna alla sua condizione, ma vuole primeggiare e realizzare il suo audace sogno: fare l’astronauta. Si tratta proprio di un’impresa impossibile per una persona con dei difetti fisici, delle “tare” così pesanti (miopia e cardiopatia) che infatti gli permetteranno al massimo di diventare spazzino, impiegato-operaio in una ditta di pulizie.

L’immagine successiva è quella di Vincent che pulisce il tetto della stazione, vede partire i razzi verso lo spazio e con amarezza commenta. «Proprio quando ero arrivato così vicino alla mia meta, sentivo che questa diventava per me irraggiungibile».

L’impossibile avviene

Il punto di partenza però, di tutto il film (e di tutti i film) di Niccol, è quel “nodo” ben rappresentato dal gioco che i due fratelli continuamente fanno (la sfida a nuotare più lontano, “verso l’orizzonte”), che indica appunto che per l’uomo non esistono mete irraggiungibili. È interessante notare che i due fratelli chiamano questo gioco con un nome a dir poco singolare: “papà”. Il regista non si dilunga molto su questo aspetto ma quel nome lascia allo spettatore una certa inquietudine: in qualche modo ogni uomo si confronta con il proprio padre (e forse con un Padre Altro?), lo sfida, gioca con lui, con un atto che in qualche modo è una ricerca, una bestemmia, una preghiera. E viene da pensare che se l’uomo si mette in gioco veramente, se ha il cuore di mettercela tutta con impegno e lealtà, allora può succedere di tutto, l’impossibile può accadere. Vincent lo capisce quando, dopo mille tentativi, finalmente un giorno sconfigge il fratello più dotato di lui nel gioco “papà”. È una scena che rappresenta il momento di svolta di tutto il film: Vincent diventerà davvero astronauta di Gattaca, ce la farà, ovviamente a costo di enormi sacrifici fisici e umani, realizzando così la “promessa” insita nel suo stesso nome.

Proprio come Truman protagonista dell’omonimo show, anche Vincent è un uomo animato, come ogni essere umano, da una sete inestinguibile verso la scoperta del mondo e il superamento di ogni limite. «Solo l’infinito colma il cuore dell’uomo», le parole di Benedetto xvi suonano da perfetto commento di questi due film, “The Truman Show” e “Gattaca”: i due protagonisti, Truman e Vincent, hanno entrambi il “cuore inquieto” di agostiniana memoria e cercano qualcosa, qualcuno (Dio?), un luogo dove esso possa riposare in pace. La forza dell’impegno profuso da Truman e da Vincent per realizzare i proprio sogni ha qualcosa di titanico e struggente: una vita senza forti passioni non è una vita umana, sembra dirci il regista, la vita è innanzitutto un’avventura, un abbandonarsi con fiducia al futuro che viene incontro con la speranza di inseguire e raggiungere quei sogni che riscaldano il cuore. Nulla è impossibile all’uomo se solo si affida a qualcosa di più grande di lui che nemmeno lui conosce perfettamente ma intuisce confusamente: Vincent (come Truman) non ha chiaro in testa perché è spinto ad “andare oltre”, a sconfiggere e superare la sua situazione di partenza, anche quando questa è chiusa entro limiti ben precisi e pesanti (come la condizione fisica evidenzia), ma si lascia spingere, vive fino in fondo, caparbiamente, il suo sogno apparentemente irrealizzabile.

Una riflessione sui temi bioetici

“Gattaca” ci presenta un mondo in cui il livello del potere della scienza e della tecnica è enorme ma ad esso non corrisponde il livello della coscienza etica dell’uomo e della società. Nel mondo immaginato nel film di Niccol, l’uomo riesce a viaggiare su tutti i pianeti del sistema solare e a diagnosticare per tempo tutte le malattie esistenti, ma all’interno della società vige una discriminazione spietata che divide gli esseri umani in geneticamente perfetti e imperfetti. Anche quel momento, così delicato e importante della vita umana che è la paternità-maternità, nello svolgimento del plot del film, proprio grazie al confronto tra i due fratelli protagonisti della vicenda, si può osservare come in questo mondo del futuro esso venga vissuto non tanto come un dono da accogliere responsabilmente ma come un “diritto” da esercitare nel pieno controllo della situazione, evitando e scartando ogni possibile complicazione e impedimento. In altre parole, il figlio stesso diventa un “diritto da rivendicare”, un “prodotto” da realizzare al meglio dove “meglio” vuol dire secondo i criteri della perfezione genetica e fisica.

L’uomo che si affida al genetista escludendo Dio è un uomo che fa della scienza un idolo nel miraggio di ottenere il controllo totale sulla realtà, sul mondo, sulla vita. Ma tutto questo equivale al controllo e al dominio dell’uomo sull’uomo, equivale alla creazione di un mondo di schiavitù e paura. Ecco quindi una “bios”, una vita che si vuole perfetta, ma che dimentica e trascura l’etica (si intuisce, ad esempio, che il secondo figlio, “realizzato” al laboratorio, è “costato” la selezione e quindi l’eliminazione di tanti embrioni “imperfetti”). La visione del mondo che emerge dal film Gattaca è ricca di pericolose suggestioni, tanto più seducenti perché piene di “mezze verità” (chi non desidera un figlio sano?); ma come ammoniva lo scrittore inglese C.S.Lewis «i veleni, quando diventano dolci, non smettono per questo di uccidere». La scena della selezione del figlio con tutte le sue connotazioni somatiche e genetiche è una scena, già è stato sottolineato, molto ben fatta proprio perché è “dolce”, in qualche modo “convincente”. Il sorriso, ad esempio, con cui il genetista, un bell’uomo di mezz’età, di colore, suggerisce-impone alla coppia di genitori, il colore della pelle (rigorosamente bianca) al figlio che sta per nascere, è una battuta che rivela una profonda efficacia, dimostrando che una storia per immagini spesso è più eloquente di tanti discorsi teorici.

Un film come Gattaca offre l’occasione, anche per chi non è un esperto di tematiche medico-genetiche, di affrontare il tema delle sfide che la scienza e la tecnica pongono alla coscienza umana in modo avvincente ed efficace per raggiungere lo scopo di una riflessione profonda, tesa a far capire che l’uomo non può essere ridotto a mezzo o strumento ma che, al contrario, è la scienza (e quella medica in particolare) ad essere a servizio dell’uomo, mai viceversa. 

di Andrea Monda