No se puede confiar a los algoritmos la tarea de juzgar el valor y la dignidad de una persona. Lo dijo el Papa a los participantes en los “Diálogos Minerva” promovidos por el Dicasterio para la Cultura y la Educación. El Pontífice los recibió en audiencia en la Sala del Consistorio la mañana del lunes 27 de marzo, y les dirigió el discurso que publicamos a continuación.
Queridos amigos:
Bienvenidos a todos vosotros, reunidos en Roma por vuestro encuentro anual. En él se reúnen expertos del mundo de la tecnología —científicos, ingenieros, empresarios, juristas y filósofos— junto con representantes de la Iglesia —funcionarios de la Curia, teólogos y moralistas— con el objetivo de fomentar una mayor conciencia y consideración del impacto social y cultural de las tecnologías digitales, especialmente de la inteligencia artificial. Aprecio mucho este camino de diálogo que, en los últimos años, nos ha permitido compartir contribuciones y puntos de vista, y beneficiarnos de la sabiduría de los demás. Su presencia atestigua su compromiso de garantizar un debate mundial serio e integrador sobre el uso responsable de estas tecnologías, un debate abierto a los valores religiosos. Estoy convencido de que el diálogo entre creyentes y no creyentes sobre las cuestiones fundamentales de la ética, la ciencia y el arte, y sobre la búsqueda del sentido de la vida, es un camino hacia la construcción de la paz y el desarrollo humano integral.
La tecnología es de gran ayuda para la humanidad. Pensemos en los innumerables avances en los campos de la medicina, la ingeniería y las comunicaciones (cf. Encíclica Laudato si’, 102). Y al mismo tiempo que reconocemos los beneficios de la ciencia y la tecnología, vemos en ellas una prueba de la creatividad del ser humano y también de la nobleza de su vocación a participar responsablemente en la acción creadora de Dios (cf. ibíd., 131).
Desde esta perspectiva, creo que el desarrollo de la inteligencia artificial y del aprendizaje automático tiene el potencial de aportar una contribución beneficiosa al futuro de la humanidad, no podemos descartarlo. Sin embargo, estoy seguro de que este potencial sólo se hará realidad si existe una voluntad coherente por parte de quienes desarrollan las tecnologías para actuar de forma ética y responsable. Me anima el compromiso de tantas personas que trabajan en estos campos para garantizar que la tecnología se centre en el ser humano, se base éticamente en el diseño y se centre en el bien. Me complace que haya surgido un consenso para que los procesos de desarrollo respeten valores como la inclusión, la transparencia, la seguridad, la equidad, la privacidad y la responsabilidad. También celebro los esfuerzos de las organizaciones internacionales por regular estas tecnologías de modo que promuevan un auténtico progreso, es decir, que contribuyan a dejar un mundo mejor y una calidad de vida integralmente superior (cf. ibíd., 194).
No será fácil llegar a un acuerdo en estos ámbitos. En efecto, “el inmenso crecimiento tecnológico no estuvo acompañado de un desarrollo del ser humano en responsabilidad, valores, conciencia” (ibíd., 105). Además, el mundo actual se caracteriza por una gran pluralidad de sistemas políticos, culturas, tradiciones, concepciones filosóficas y éticas y creencias religiosas. Las discusiones están cada vez más polarizadas y, a falta de confianza y de una visión compartida de lo que hace que la vida merezca la pena, los debates públicos corren el riesgo de ser polémicos e inconclusos.
Sólo un diálogo integrador, en el que las personas busquen juntas la verdad, puede propiciar un verdadero consenso; y esto puede ocurrir si compartimos la convicción de que “en la realidad misma del ser humano y de la sociedad [...] hay una serie de estructuras básicas que sostienen su desarrollo y su supervivencia” (Enc. Fratelli tutti, 212). El valor fundamental que debemos reconocer y promover es el de la dignidad de la persona humana (cf. ibid., 213). Os invito, por tanto, a que en vuestras deliberaciones hagáis de la dignidad intrínseca de todo hombre y mujer el criterio clave para evaluar las tecnologías emergentes, que revelan su positividad ética en la medida en que contribuyen a manifestar esa dignidad y a incrementar su expresión, en todos los niveles de la vida humana.
Me preocupa que los datos disponibles hasta ahora parezcan sugerir que las tecnologías digitales han servido para aumentar las desigualdades en el mundo. No sólo las diferencias de riqueza material, que son importantes, sino también las diferencias de acceso a la influencia política y social. Nos preguntamos: ¿son nuestras instituciones nacionales e internacionales capaces de exigir responsabilidades a las empresas tecnológicas por el impacto social y cultural de sus productos? ¿Existe el riesgo de que el aumento de la desigualdad socave nuestro sentido de la solidaridad humana y social? ¿Podríamos perder nuestro sentido de destino compartido? En realidad, nuestro objetivo es que el crecimiento de la innovación científica y tecnológica vaya acompañado de una mayor igualdad e inclusión social (Cf. Videomensaje en la Conferencia TED de Vancouver, 26 de abril de 2017). Este problema de desigualdad puede verse agravado por una falsa concepción de la meritocracia que socava la noción de dignidad humana. El reconocimiento y la recompensa del mérito y el esfuerzo humanos tienen un fundamento, pero se corre el riesgo de concebir la ventaja económica de unos pocos como ganada o merecida, mientras que la pobreza de muchos se considera, en cierto sentido, culpa suya. Este enfoque subestima las desigualdades de partida entre las personas en términos de riqueza, oportunidades educativas y vínculos sociales y trata el privilegio y la ventaja como logros personales. En consecuencia —en términos esquemáticos— si la pobreza es culpa de los pobres, los ricos están exentos de hacer algo al respecto (cf. Discurso al mundo del trabajo, Génova, 27 de mayo de 2017).
El concepto de dignidad humana —este es el núcleo— exige que reconozcamos y respetemos el hecho de que el valor fundamental de una persona no puede medirse con un conjunto de datos. En los procesos de toma de decisiones sociales y económicas, debemos ser cautos a la hora de confiar juicios a algoritmos que procesan datos recogidos, a menudo subrepticiamente, sobre las personas y sus características y comportamientos pasados. Esos datos pueden estar contaminados por prejuicios sociales e ideas preconcebidas. Sobre todo porque el comportamiento pasado de un individuo no debe utilizarse para negarle la oportunidad de cambiar, crecer y contribuir a la sociedad. No podemos permitir que los algoritmos limiten o condicionen el respeto a la dignidad humana, ni que excluyan la compasión, la misericordia, el perdón y, sobre todo, la apertura a la esperanza de cambio en el individuo.
Queridos amigos, concluyo reafirmando mi convicción de que sólo formas de diálogo verdaderamente inclusivas pueden permitirnos discernir sabiamente cómo poner la inteligencia artificial y las tecnologías digitales al servicio de la familia humana. La historia bíblica de la Torre de Babel (cf. Gn 11) se ha utilizado a menudo para advertir contra las ambiciones desmedidas de la ciencia y la tecnología. En realidad, la Escritura nos previene contra la soberbia de querer “tocar el cielo” (v. 4), es decir, aferrar y apoderarse del horizonte de valores que identifica y garantiza nuestra dignidad humana. Y siempre, cuando hay esto, acabamos en una grave injusticia en la propia sociedad. En el mito de la Torre de Babel, hacer un ladrillo es difícil: hacer barro, paja, amontonarlo, luego cocerlo... Cuando caía un ladrillo era una gran pérdida, se quejaban mucho: “Hemos perdido un ladrillo”. Si caía un obrero, nadie decía nada. Esto debe hacernos pensar: ¿qué es más importante? ¿El ladrillo o el trabajador o la trabajadora? Es una distinción que debe hacernos reflexionar. Y después de la Torre de Babel, la posterior creación de lenguas diferentes se convierte, como toda intervención de Dios, en una nueva posibilidad. Nos invita a ver la diferencia y la diversidad como una riqueza, porque la uniformidad no deja crecer, la uniformidad impone. Sólo una cierta uniformidad disciplinaria es buena —puede serlo—, pero la uniformidad impuesta no cuenta. La falta de diversidad es una falta de riqueza, porque la diversidad nos obliga a aprender juntos unos de otros y a redescubrir con humildad el auténtico sentido y alcance de nuestra dignidad humana. No olvidemos que las diferencias estimulan la creatividad, “crean tensión, y en la resolución de la tensión consiste el progreso de la humanidad” (Enc. Fratelli tutti, 203), cuando las tensiones se resuelven en un plano superior, que no aniquila los polos en tensión sino que los hace madurar.
Os deseo lo mejor en vuestros diálogos y os agradezco vuestro compromiso de escuchar y crecer en la comprensión de las aportaciones de los demás. Os bendigo y os pido que recéis por mí. Gracias.