Si no se regula la IA, hay riesgo de una guerra sin fin: León XIV

El papa León XIV urgió a los gobiernos a frenar y regular a detalle el desarrollo de los sistemas de inteligencia artificial (IA) en su primera encíclica, Magnifica Humanitas (Humanidad magnífica), publicada ayer, en la que advirtió que las plataformas digitales difunden desinformación, favorecen los conflictos y corren el riesgo de llevar al mundo por un camino de guerra sin fin, al tiempo que reiteró su rechazo a las llamadas “guerras justas”.

Durante la presentación de su manifiesto en el Aula del Sínodo, en el Vaticano, el pontífice estadunidense-peruano afirmó que “la IA exige ahora ser desarmada, liberada de las lógicas que la convierten en un instrumento de dominación, exclusión o muerte”, para que sirvan al bien común, con un rechazo a la lógica de la exclusión y la dominación para garantizar la protección de las personas.

“La IA debe ser desarmada”, enfatizó e indicó que “significa sustraerla a la lógica de la competencia armamentística, que hoy ya no es sólo militar, sino económica y cognitiva”, en una carrera “para consolidar una ventaja geopolítica o comercial sobre todos los demás”.

En este contexto, urgió a “romper esta equivalencia entre poder tecnológico y derecho a gobernar”.

El líder de la Iglesia católica, que en meses recientes ha adoptado un tono más enérgico sobre los conflictos bélicos, incluso recibió respuestas coléricas del presidente estadunidense, Donald Trump, tras criticar la guerra de Estados Unidos e Israel contra Irán, enfatizó la necesidad de mantener la memoria histórica de los “horrores de la guerra”, ya que con el olvido “las decisiones políticas corren el riesgo de tomarse sobre la base de cálculos de fuerza, carentes de una visión de las consecuencias a largo plazo”.

Criticó la aplicación del concepto “guerra justa” como argumento para emprender conflictos bélicos. “Hoy más que nunca es importante reiterar la superación de la teoría de la ‘guerra justa’, invocada con demasiada frecuencia para justificar cualquier guerra, sin perjuicio del derecho a la legítima defensa, entendida en el sentido más estricto”, sentenció en el documento de 130 páginas.

Responsabilidad y tecnología

En la encíclica, advirtió que en la era de la IA “la dignidad humana corre el riesgo de verse eclipsada por nuevas formas de deshumanización”. Afirmó que “las decisiones sobre tecnología nunca deben separarse de la conciencia y la responsabilidad”, y que “sólo con una visión tan integral se puede orientar la IA hacia el bien común”.

Destacó que hay “rumores inquietantes sobre sistemas de armas cada vez más autónomos, prácticamente fuera del control humano” e hizo referencia a “informes muy preocupantes sobre algoritmos que pueden impedir el acceso a la atención médica, el empleo y la seguridad, basándose en datos viciados por prejuicios e injusticias”.

El Papa subrayó que sólo juntos, quienes diseñan sistemas y quienes sufren sus consecuencias, los países más ricos y los más pobres, las instituciones y las personas, “podremos construir un futuro, no para unos pocos privilegiados, sino para toda la humanidad”.

Es la primera vez que un papa acude a la presentación al público de uno de sus documentos magisteriales, que en esta ocasión convocó a cardenales, profesores y expertos en tecnología, entre ellos el cofundador de la compañía Anthropic, Christopher Olah, según el sitio digital del diario Vatican News.

Documento íntegro en https://shorturl.at/8jop4