León XIV alertó sobre el poder de los agentes de IA: "Las máquinas son herramientas, no personas"

10:52 | Viernes 30 de Octubre de 2026 | La Rioja, Argentina | Fenix Multiplataforma

"Las máquinas son herramientas, no personas", dijo en un discurso ante los principales expertos internacionales en IA reunidos en el Vaticano para un diálogo sobre el futuro de la tecnología y las responsabilidades de la comunidad científica y las instituciones públicas.

"Las llamadas inteligencias artificiales no experimentan, no poseen cuerpo, no sienten alegría ni dolor, no maduran a través de las relaciones y no saben desde dentro qué significan el amor, el trabajo, la amistad o la responsabilidad", dijo el papa.

"Hoy, algunos proponen conceder a estos sistemas derechos, o incluso la personalidad jurídica. Tal enfoque corre el riesgo de ocultar la responsabilidad humana y dejar a quienes sufren daño a enfrentarse a una entidad sin rostro", añadió.

El debate sobre los riesgos de esta tecnología se intensificó en los últimos meses, alimentado por varios incidentes de sistemas que tomaron acciones no autorizadas y advertencias apocalípticas de profesionales del sector.

Los agentes de IA deben estar "sujetos a una supervisión humana eficaz, informada y responsable"

León XIV, de 71 años, ha advertido repetidamente sobre la necesidad de garantizar que la IA se utilice éticamente. Su primera encíclica, publicada en mayo, abogaba por poner la tecnología al servicio de la dignidad humana.

Dijo el viernes que el futuro de la inteligencia artificial "no está predeterminado", y que los humanos tienen "la responsabilidad de guiar, cambiar y, cuando sea necesario, rechazar sus aplicaciones."

Hay algunas decisiones que nunca deben delegarse, dijo el jefe de la Iglesia Católica.

"Quienes afectan a la vida humana, la libertad y el uso de la fuerza deben permanecer siempre sujetos a una supervisión humana eficaz, informada y responsable", dijo Leo, repitiendo su llamamiento a prohibir las armas autónomas letales.

Las tecnologías inteligentes deben orientarse hacia el bien común, afirmó.

Existía una necesidad "urgente" de "estándares compartidos, supervisión independiente y mecanismos claros de rendición de cuentas".

Era clave garantizar que "las decisiones sobre el desarrollo y uso de la IA puedan ser examinadas, impugnadas cuando sea necesario y acompañadas de remedios adecuados para cualquier daño causado", añadió.