* El texto conjunto de los Dicasterios para la Doctrina de la Fe y para la Cultura y la Educación sobre las oportunidades y riesgos de la IA se titula Antiqua et nova . Que debe servir al hombre, no esclavizarlo en un sentido tecnocrático. Y a pesar del nombre, no es inteligente.
Ayer martes 28 de enero, fue publicada la nota Antiqua et nova del Dicasterio para la Doctrina de la Fe y del Dicasterio para la Cultura y la Educación , sobre la relación entre inteligencia artificial e inteligencia humana .
Ya en el pasado figuras autorizadas de la Iglesia, incluido el Papa, expresaron sus puntos de vista sobre el tema de la inteligencia artificial (IA), pero este documento parece ciertamente el más importante elaborado hasta ahora debido a su carácter orgánico y exhaustivo. La Nota se divide esencialmente en dos apartados: la explicación de los motivos por los que la IA no es inteligente y los beneficios, pero sobre todo los riesgos que trae consigo esta tecnología.
Empecemos por la primera sección.
Para entender por qué la inteligencia humana no puede compararse con las capacidades técnicas de la IA, es necesario hacer referencia a la diferencia sustancial entre los humanos y la IA que reside en la naturaleza de ambos.
Para identificar la ontología de la naturaleza humana es necesario recordar que la persona es una unión muy estrecha de dos principios: uno material, el cuerpo, y otro formal, el alma (13). Esta afirmación nos permite articular una reflexión que hubiera quedado mejor explicada en la Nota, porque es de crucial importancia. La prueba de la existencia del alma proviene del análisis cualitativo de algunos de nuestros actos.
Algunos comportamientos revelan que existe una realidad metafísica dentro de nosotros. Por ejemplo, la perfección de un círculo es un conocimiento que no puede derivarse de los sentidos porque los sentidos siempre nos han mostrado círculos imperfectos.
Por tanto existe dentro de nosotros una fuente de conocimiento suprasensible que llamamos alma, que es capaz de hacer abstracción de datos empíricos e individuales para llegar a conceptos universales, como el de «perfección», por ejemplo. Otra prueba de la existencia del alma es la capacidad de realizar actos libres: si estuviéramos compuestos únicamente de materia, necesariamente estaríamos obligados a seguir únicamente las leyes físicas que gobiernan nuestro cuerpo. En cambio podemos ayunar, quitarnos la vida, etc.
Lo mismo ocurre con la autoconciencia: el ojo no sabe que ve, el tacto no sabe que toca, etc. sin embargo, sabemos que vemos, tocamos, etc. Significa que tenemos habilidades que superan las capacidades sensibles, es decir, tenemos habilidades supersensibles. De manera similar pensamos en la capacidad artística, en la formulación de juicios morales, etc.
Todos los actos generados por el alma que, por ser capaz de acciones tan elevadas, toma el nombre de alma racional.
Ahora bien, la IA está obviamente compuesta sólo de materia, ciertamente no tiene alma. Ergo es incapaz y será siempre incapaz de realizar actos que son generados únicamente por el alma racional: abstracción, autoconciencia, formulación de juicios morales, capacidad de tomar decisiones libres (de donde surge la responsabilidad humana y la irresponsabilidad de la IA), etc. (39). La IA sólo es capaz de realizar tareas, de realizar funciones muy sofisticadas (30), pero cuyo punto de origen siempre se encuentra en la inteligencia humana. Podemos calificar sus funciones de inteligentes porque son efectos inteligentes de una causa inteligente: la persona humana. Entonces la IA imita la inteligencia, pero no es inteligente.
Pasemos a la segunda sección dedicada a los pros y los contras de la IA .
La Nota se centra inicialmente en dos consideraciones generales.
- El primero se refiere a los fines perseguidos: así como todo acto humano debe juzgarse desde una perspectiva moral a partir del fin inmediato perseguido, el mismo juicio debe aplicarse al uso de la IA. Por eso la Nota señala: «Como todo producto del ingenio humano, la IA también puede dirigirse hacia fines positivos o negativos» (40). La positividad del acto reside ante todo en el respeto de la dignidad personal (43).
- La segunda consideración general se refiere a los medios mismos: todo medio no es éticamente neutro, porque el medio corresponde al fin para el que fue creado y por tanto incorpora en sí mismo la congruencia del fin. Dicho simplemente, el medio ya revela el fin bueno o malo para el que fue configurado, el medio ya está orientado hacia sus propios fines y por tanto quienes lo utilizan ya están condicionados por esta orientación intrínseca:
Los productos tecnológicos reflejan la visión del mundo de sus desarrolladores, propietarios, usuarios y reguladores, y con su poder “dan forma al mundo e involucran las conciencias en el nivel de los valores” (41).
Luego, la Nota enumera algunos beneficios y daños que podrían surgir del uso de la IA. Por razones de espacio analizaremos sólo los riesgos y sólo algunos de ellos.
En primer lugar, el favor general hacia la IA podría aumentar una mentalidad de eficiencia: aplaudimos la IA porque es capaz de realizar funciones sorprendentes y este criterio de juicio basado en la utilidad podría aplicarse también a las personas.
Establecer una equivalencia demasiado fuerte entre la inteligencia humana y la IA conlleva el riesgo de ceder a una visión funcionalista, según la cual las personas son evaluadas en función de los trabajos que pueden desempeñar» (34).
Otro peligro: la IA opera a través de sistemas y procesos muy complejos que, entre otras cosas, también implican la interacción con otros dispositivos de IA. De ahí la dificultad en ocasiones para identificar al responsable al frente de estos procesos, quien dio el visto bueno al desarrollo de todo el posterior e intrincado procedimiento (44).
Otro riesgo es el de los efectos de la automatización de la IA.:
Es necesario garantizar que los procesos autónomos no produzcan consecuencias perjudiciales (45). Por no hablar de que, hasta la fecha, «la mayor parte del poder sobre las principales aplicaciones de la IA se concentra en manos de unas pocas empresas poderosas» (53), creando así un oligopolio tecnocrático muy peligroso porque son los desarrolladores y por tanto las empresas que llenan de contenidos la IA, que moldean estas inteligencias artificiales hacia fines muy concretos: el riesgo de control social, de adoctrinamiento masivo, especialmente a través de la manipulación de la información (86-87), y de influir en modos y hábitos en cierta dirección, por tanto, es muy elevado, teniendo en cuenta que la IA proporciona información, pero también la adquiere de nosotros. La vida privada podría convertirse entonces en un bien cada vez más preciado para empresas sin escrúpulos (90).
Otra amenaza para los humanos viene dada por la «naturaleza intrínseca de los sistemas de IA, en los que ningún individuo es capaz de tener una supervisión completa de los vastos y complejos conjuntos de datos utilizados para los cálculos» (53).
El hombre ha creado un sistema tan complejo que ningún individuo puede comprenderlo plenamente ni abrazarlo en su totalidad. Esto podría significar que este sistema parece más grande que él mismo y por lo tanto podría aplastarlo, incorporarlo y tragarlo en su esquiva complejidad.
El daño a la humanidad podría ser entonces la caída en el llamado «paradigma tecnocrático», que tiende a resolver todos los problemas del mundo únicamente mediante medios tecnológicos. […] “Como si la realidad, el bien y la verdad brotaran espontáneamente del poder mismo de la tecnología y de la economía”» (54). Una reducción antropológica y moral de origen tecnoeficiente.
La Nota registra luego que el abuso de la IA podría agravar un doble fenómeno :
La alienación de la realidad en beneficio de una existencia aprisionada en lo virtual (58), hasta el punto de decretar la dependencia de ella (81), y su contrario dado antropomorfizando a la IA, porque nos habla, escucha, decide, parece muy inteligente y llena de empatía, etc., «desdibujando así la línea de demarcación entre lo humano y lo artificial» (59) .
En lo que respecta a la economía, la IA podría desarrollar modelos económicos y por tanto sociales homogéneos, por tanto globales, casi abstractos respecto de condiciones particulares y costumbres locales (65). Sin embargo, en lo que respecta al mundo del trabajo, además de la pérdida de puestos de trabajo quizás compensados por la creación de otras funciones vinculadas precisamente al desarrollo de esta tecnología, la Nota subraya el peligro de que los trabajadores sean degradados o queden rezagados con respecto a la rápida evolución tecnológica. aceleración en curso (67).
Desde el punto de vista educativo, el uso de la IA podría persuadir al estudiante de que el conocimiento consiste únicamente en recopilar información y obtener respuestas listas y sintéticas, en lugar de acostumbrarlo al esfuerzo de pensar y juzgar críticamente. El estudiante se vería utilizado pasivamente por la IA dado el enorme potencial de esta última (82).
El último riesgo
Después de que la Nota tocara también el tema del medio ambiente con cierto tono objetivamente ideológico, es la deificación de la IA por su aparente omnisciencia y omnipotencia:
A medida que la sociedad se aleja progresivamente del vínculo con lo trascendente, algunos se sienten tentados recurrir a la IA en busca de significado o satisfacción. […] Sin embargo, la presunción de sustituir a Dios por una obra de las propias manos es idolatría» (104).
Por Tommaso Scandroglio.
MIÉRCOLES 29 DE ENERO DE 2025.
CIUDAD DEL VATICANO.
LANUOVABQ.
