El paradigma tecnocrático y el poder digital
92. En la Encíclica Laudato si' el Papa Francisco denunciaba el creciente afianzamiento de un paradigma tecnocrático [119] en el mundo globalizado: la tendencia a dejar que la lógica de la eficiencia, del control y del lucro gobierne por sí sola las decisiones personales, sociales y económicas. Así se manifiesta con mayor evidencia que la técnica no es un simple instrumento y que, cuando se vuelve criterio, termina por establecer qué cuenta y qué puede descartarse, reduciendo la creación a un objeto de explotación y a las personas a engranajes de un sistema que sea cada vez más eficaz.
93. Este paradigma se ha extendido rápidamente en los últimos años, también como efecto de la difusión de la IA, las ciencias cognitivas, la nanotecnología, la robótica y la biotecnología. En sí mismas, dichas innovaciones pueden ser una gran ayuda para el desarrollo humano integral y el cuidado de la Casa común. Pero, precisamente por su poder, pueden actuar como un acelerador del paradigma tecnocrático y, por ello, necesitan un nuevo marco espiritual, ético y político. Más poderoso no significa necesariamente mejor. En este sentido, siguen siendo actuales las palabras de Romano Guardini: «El hombre moderno no está preparado para utilizar el poder con acierto». [120]
94. El peligro de que la humanidad sea víctima de sus propias conquistas había sido ya percibido con lucidez por san Pablo VI, cuando advertía que «los progresos científicos más extraordinarios, las proezas técnicas más sorprendentes, el crecimiento económico más prodigioso, si no van acompañados de un auténtico progreso social y moral, se vuelven, en definitiva, contra el hombre». [121] Por eso el progreso técnico, valioso en sí mismo, requiere un discernimiento sobre la visión antropológica que lo guía y los fines que persigue. Si el desarrollo tecnológico avanza sin una adecuada maduración ética y social, puede suceder que aumenten los medios sin que crezca en la misma medida la humanidad: se "tiene más", pero no se "es más", y la persona corre el riesgo de ser valorada principalmente en base al rendimiento que ofrece. [122]
95. Aquí es necesario reconocer un aspecto decisivo, que ya he mencionado antes: en muchos casos, en el contexto digital, el control de las plataformas, las infraestructuras, los datos y la capacidad de cálculo no es prerrogativa de los estados, sino de grandes actores económicos y tecnológicos que, de hecho, determinan las condiciones de acceso, las reglas de visibilidad y las mismas posibilidades de participación. Cuando un poder de tal magnitud se concentra en pocas manos, tiende a hacerse opaco y a eludir el control público, y crece el riesgo de un desarrollo distorsionado que provoca nuevas dependencias, exclusiones, manipulaciones y desigualdades.
96. Frente a esta concentración de poder en el mundo digital, los grandes principios de la Doctrina social se convierten en criterios para juzgar y discernir el nuevo escenario: la dignidad inalienable de la persona, el bien común, el destino universal de los bienes, la subsidiariedad, la solidaridad y la justicia social. Estos principios exigen verificar si el poder de las infraestructuras digitales y de los algoritmos favorece realmente la participación y la responsabilidad, protege a los más vulnerables, asegura un acceso equitativo a las oportunidades y se ordena al bien de todos. Con estas premisas podemos entonces considerar más de cerca qué es la inteligencia artificial, qué posibilidades abre y qué riesgos comporta.
[117] Cf. Francisco, Carta enc. Fratelli tutti (3 octubre 2020), 94: AAS 112 (2020), 1001.
[118] Cf. Pontificio Consejo Justicia y Paz, Compendio de la doctrina social de la Iglesia, 53.
[119] Cf. Francisco, Carta enc. Laudato si' (24 mayo 2015), 106-109: AAS 107 (2015), 889-891.
[120] R. Guardini, El ocaso de la edad moderna, Madrid 1963, 111.
[121] S. Pablo VI, Discurso en el 25º aniversario de la FAO (16 noviembre 1970): AAS 62 (1970), 833.
[122] Cf. Francisco, Discurso al Consejo para un capitalismo inclusivo (11 noviembre 2019): L'Osservatore Romano, 11-12 noviembre 2019, 8.