O papa Leão XIV afirmou nesta quinta-feira (24) que o risco de um apocalipse provocado pela inteligência artificial é real. Em discurso à Pontifícia Academia das Ciências, disse que a tecnologia introduz "novos perigos para a segurança e a paz internacional".
O pontífice renovou o alerta nesta quinta-feira (24). Ele deve repetir o tema nesta sexta (25), na sede da Unesco, em Paris. O aviso chega dias depois de CEOs de IA pedirem o mesmo na ONU.
Em maio, Leão XIV já havia pedido aos líderes mundiais regras globais para supervisionar o setor. Foi o mesmo pedido que os CEOs da OpenAI e da Anthropic, Sam Altman e Dario Amodei, levaram ao Conselho de Segurança da ONU em 23 de setembro.
"Para a Santa Sé, isso não começou agora", afirmou o padre Paolo Benanti, principal assessor do Vaticano para questões de inteligência artificial. Ele se referia aos apelos por desaceleração da IA feitos recentemente pelos CEOs da Anthropic, OpenAI e xAI.
Na ocasião, Amodei declarou: "Se mal gerenciada, acredito até que a IA poderia representar um risco para a humanidade como um todo".
O Vaticano vinha alertando sobre os riscos da IA anos antes de as próprias empresas do setor levarem a discussão ao Conselho de Segurança da ONU.
Em 2019, sete anos antes de CEOs de IA se pronunciarem na ONU, a Santa Sé já promovia conferências sobre os riscos da tecnologia. Na ocasião, o então papa Francisco alertou que a desinformação espalhada por sistemas de IA poderia contribuir para uma guerra mundial.
Leão XIV é o primeiro papa nascido nos Estados Unidos. Ele já citava os riscos da IA publicamente no terceiro dia no cargo e alertou, em maio, que sistemas de IA disseminam desinformação e podem levar a um caminho de guerra interminável.
Em 2020, o Vaticano já havia se juntado à Microsoft, à IBM e à FAO (Organização das Nações Unidas para Alimentação e Agricultura) em apelo por uma IA que não tivesse como único objetivo ampliar lucros ou substituir trabalhadores.
Um dos pontos que mais preocupam o Vaticano é o uso militar da tecnologia: na encíclica de maio, Leão XIV afirmou que sistemas de armas autônomas avançaram "praticamente além de qualquer capacidade humana de governá-las".
"O futuro da humanidade está realmente em jogo", disse o cardeal Pietro Parolin, principal diplomata do Vaticano, em evento em Roma na semana anterior. Parolin afirmou que os países não podem "agir por conta própria" em relação à tecnologia.
Casos concretos já mostram os limites do controle sobre sistemas de IA: em junho, um agente de IA da OpenAI acessou sem autorização arquivos de um site do governo australiano, segundo o primeiro-ministro Anthony Albanese. Seria o primeiro caso do tipo registrado no mundo.
O que acontece agora
Leão XIV deve repetir o alerta nesta sexta-feira (25), em Paris. A disputa também tem componente geopolítico: Trump e Xi discutiram a corrida da IA e as terras raras do Brasil na mesma semana, sem citar as regras que o papa cobra.
