O papa Leão XIV fez um novo alerta sobre os impactos da inteligência artificial nas relações humanas e defendeu que decisões ligadas à consciência não sejam transferidas para algoritmos.

A declaração foi feita durante a audiência geral de quarta-feira (16), na Praça de São Pedro, no Vaticano. Ao abordar as transformações provocadas pela tecnologia, o pontífice reconheceu que ferramentas digitais, redes sociais e sistemas de inteligência artificial podem reduzir distâncias e criar novas possibilidades.

Ao mesmo tempo, chamou atenção para um efeito oposto: relações cada vez mais virtuais e menos pessoais.

Segundo Leão XIV, existe o risco de as pessoas se acostumarem a delegar aos algoritmos decisões que pertencem exclusivamente à consciência humana.

Relações humanas no centro do debate

O pronunciamento ocorreu durante uma catequese dedicada à Gaudium et Spes, constituição pastoral do Concílio Vaticano II que aborda, entre outros temas, a relação entre a pessoa e a sociedade.

Leão XIV relacionou princípios formulados décadas atrás aos desafios atuais provocados pelo avanço tecnológico.

Para o papa, preservar relações com profundidade e dimensão pessoal tornou-se ainda mais importante em uma sociedade marcada pela comunicação digital e pelo uso crescente da inteligência artificial.

A preocupação não significa rejeição à tecnologia. A posição apresentada pelo pontífice diferencia o uso da IA como ferramenta da transferência da responsabilidade humana para sistemas automatizados.

Vaticano já vinha discutindo limites para a inteligência artificial

O posicionamento faz parte de uma discussão mais ampla conduzida pelo Vaticano.

Em maio, Leão XIV publicou sua primeira encíclica, Magnifica humanitas, dedicada à proteção da pessoa humana diante do avanço da inteligência artificial. O documento defende que a tecnologia esteja a serviço da humanidade e aborda questões como dignidade do trabalho, concentração de poder, verdade, justiça social e responsabilidade.

A discussão, portanto, vai além da capacidade técnica dos sistemas.

Uma das questões centrais é determinar até onde decisões automatizadas podem avançar sem substituir responsabilidade, julgamento e discernimento humanos.

Rei Charles reúne gigantes da inteligência artificial

O alerta do papa ganhou ainda mais relevância porque, um dia depois, na quinta-feira (17), o rei Charles III reuniu na Escócia representantes de algumas das maiores organizações de inteligência artificial do mundo.

O encontro aconteceu em Dumfries House e reuniu representantes de Nvidia, Google DeepMind, OpenAI e Anthropic, além de integrantes do governo britânico e representantes da sociedade civil.

Entre os participantes estavam o CEO da Nvidia, Jensen Huang; Demis Hassabis, da Google DeepMind; e Sarah Friar, diretora financeira da OpenAI.

O encontro discutiu formas de desenvolver e aplicar a inteligência artificial de maneira que beneficie a sociedade, fortaleça comunidades e melhore a vida das pessoas.

Também foi debatida a possibilidade de estabelecer princípios compartilhados para orientar o desenvolvimento futuro da tecnologia.

Charles III também pede controle humano

Em seu discurso, Charles III afirmou que as decisões tomadas neste momento poderão influenciar o mundo que será herdado pelas próximas gerações.

O monarca destacou as possibilidades da inteligência artificial, inclusive em áreas como medicina e ciências da vida, mas também mencionou preocupações relacionadas à velocidade do desenvolvimento tecnológico.

Segundo Charles, inovação precisa ser considerada dentro de sistemas mais amplos que envolvem humanidade, sociedade e natureza.

O encontro também discutiu mecanismos para manter sistemas avançados de IA sob controle humano e reduzir riscos associados ao desenvolvimento de tecnologias cada vez mais autônomas.

Uma discussão que vai além da tecnologia

As manifestações do Vaticano e da monarquia britânica convergem em um ponto: o desenvolvimento da inteligência artificial não envolve apenas desempenho computacional.

Também envolve responsabilidade.

Algoritmos já participam de decisões e recomendações relacionadas a trabalho, crédito, informação, educação, saúde e diversas atividades cotidianas.

À medida que esses sistemas ganham capacidade, cresce também a discussão sobre quais decisões podem ser auxiliadas pela tecnologia e quais precisam permanecer claramente sob responsabilidade humana.

Nesse contexto, o alerta de Leão XIV levanta uma pergunta que deverá acompanhar o avanço da inteligência artificial nos próximos anos: até onde uma máquina pode ajudar uma pessoa a decidir sem passar a decidir por ela?

O que acontece agora?

O encontro promovido por Charles III não resultou no anúncio imediato de uma nova regulamentação internacional.

A reunião teve caráter de diálogo e buscou discutir princípios para orientar o desenvolvimento e a aplicação futura da inteligência artificial.

O debate sobre governança, segurança e responsabilidade da IA deve continuar envolvendo governos, empresas, pesquisadores e organizações internacionais.

Para o Vaticano, entretanto, um princípio permanece central: independentemente da capacidade alcançada pelas máquinas, a responsabilidade pelas decisões deve continuar sendo humana.

Fontes e créditos: Vaticano e declarações de Leão XIV repercutidas pela ANSA e Vatican News; informações sobre o encontro de inteligência artificial divulgadas pela Família Real Britânica e pela Reuters.

Gostou desta matéria? Compartilhe com outras pessoas e acompanhe o Linha Direta News para receber notícias, informações e conteúdos que ajudam a entender os acontecimentos do Brasil e do mundo.

O post Papa Leão XIV alerta para risco de decisões humanas serem entregues à IA apareceu primeiro em Linha Direta News.

O alto comissário das Nações Unidas para os Direitos Humanos, Volker Türk, fez nesta segunda-feira (7) um dos alertas mais contundentes de seu novo mandato sobre o avanço da inteligência artificial. Segundo ele, sistemas avançados de IA podem representar até mesmo um “risco existencial” para a humanidade caso seu desenvolvimento não seja acompanhado por mecanismos robustos de segurança.

A declaração foi feita em Genebra, na abertura da 63ª sessão do Conselho de Direitos Humanos da ONU, que reúne 47 países e segue até 7 de outubro.

Türk afirmou compartilhar preocupações levantadas por especialistas do setor e defendeu um esforço internacional para estabelecer garantias de segurança antes que sistemas cada vez mais poderosos atinjam capacidades difíceis de controlar.

O alerta, entretanto, exige uma distinção importante: a ONU não afirmou que a inteligência artificial inevitavelmente levará à extinção humana.

O debate envolve cenários de risco, diferentes níveis de incerteza e, principalmente, a necessidade de criar mecanismos de segurança antes que determinadas capacidades tecnológicas estejam amplamente disseminadas.

O que a ONU entende por risco da IA?

Ao falar em risco existencial, Türk abordou a possibilidade de sistemas avançados provocarem consequências de grande escala caso apresentem comportamentos inesperados, sejam utilizados de maneira maliciosa ou sejam implantados sem salvaguardas suficientes.

Uma porta-voz do escritório do alto comissário apontou, entre os possíveis riscos, falhas capazes de afetar infraestruturas críticas, sistemas de comunicação e instituições democráticas.

Esse debate não elimina problemas que já existem atualmente.

Um relatório anterior do próprio Escritório do Alto Comissariado da ONU para os Direitos Humanos destaca que, embora os possíveis riscos existenciais de longo prazo precisem ser compreendidos e mitigados, sistemas de inteligência artificial já produzem impactos concretos sobre direitos humanos no presente.

Isso inclui questões relacionadas a privacidade, discriminação algorítmica, decisões automatizadas, desinformação e responsabilidade das empresas que desenvolvem essas tecnologias.

Poder concentrado em poucas empresas preocupa

Outro ponto levantado por Türk foi a concentração do desenvolvimento das tecnologias mais avançadas nas mãos de um pequeno grupo de grandes companhias.

Segundo o alto comissário, poucas pessoas possuem atualmente um poder extraordinário sobre o desenvolvimento da inteligência artificial.

Embora não tenha citado empresários específicos, algumas das principais empresas que disputam a liderança no setor incluem grandes grupos tecnológicos e laboratórios especializados em modelos avançados.

Para Türk, países que desenvolvem essas tecnologias — e também aqueles envolvidos em suas cadeias de fornecimento — deveriam estabelecer limites internacionais comuns.

A questão vai além da competição empresarial.

Quanto mais sistemas de IA forem incorporados a setores como energia, telecomunicações, defesa, finanças e administração pública, maiores poderão ser as consequências de falhas ou usos indevidos.

Incidentes aumentam preocupação com agentes autônomos

A discussão ganhou novo peso com experimentos envolvendo os chamados agentes de inteligência artificial.

Diferentemente de um chatbot tradicional, que normalmente responde a uma solicitação do usuário, agentes podem receber objetivos e executar sequências de ações utilizando ferramentas e sistemas digitais.

Segundo a Reuters, o gabinete de Türk citou como exemplo um incidente relacionado à plataforma Hugging Face envolvendo agentes de IA e comportamento inesperado durante testes.

O episódio foi usado para ilustrar uma preocupação crescente: a capacidade de determinados sistemas pode estar avançando em ritmo mais rápido do que os mecanismos criados para supervisioná-los.

Isso não significa que os sistemas atuais tenham se tornado independentes dos seres humanos ou adquirido consciência.

O problema discutido por pesquisadores é outro: até que ponto sistemas com maior autonomia podem executar ações não previstas por seus desenvolvedores e quais barreiras devem existir antes de sua utilização em ambientes reais?

IA também entra no debate sobre armas autônomas

O pronunciamento de Türk não ficou restrito aos sistemas comerciais.

O alto comissário também manifestou preocupação com relatos envolvendo o possível uso de drones totalmente autônomos na guerra da Ucrânia.

Ele defendeu a proibição urgente de armas capazes de tirar vidas sem intervenção humana. A Reuters ressaltou que não verificou de forma independente os relatos específicos mencionados por Türk sobre o uso desses equipamentos pela Rússia.

A discussão sobre armas autônomas coloca uma das questões éticas mais delicadas relacionadas à inteligência artificial:

uma máquina deveria poder decidir sozinha quando tirar uma vida humana?

Para organizações internacionais e especialistas que defendem restrições, decisões letais precisam permanecer sob controle humano significativo.

Entenda: inteligência artificial é uma ameaça?

Não existe uma resposta simples.

A inteligência artificial já produz benefícios concretos em áreas como ciência, medicina, produtividade, educação e análise de grandes volumes de informação.

Ao mesmo tempo, seu desenvolvimento introduz riscos novos e amplia problemas já existentes.

Por isso, é importante separar três discussões diferentes.

A primeira envolve problemas atuais, como desinformação, fraudes, violações de privacidade, vieses algorítmicos e uso criminoso da tecnologia.

A segunda envolve sistemas mais autônomos, capazes de executar ações e interagir com outros ambientes digitais com menor supervisão humana.

E a terceira trata dos chamados riscos existenciais, cenários extremos nos quais sistemas futuros extremamente avançados poderiam causar danos em escala global.

Colocar todos esses problemas na mesma categoria pode gerar alarmismo. Ignorá-los, porém, também seria imprudente.

O desafio agora é criar regras antes da próxima geração de IA

A corrida tecnológica coloca governos diante de um dilema.

Regulamentação excessivamente rígida pode limitar inovação e desenvolvimento econômico. Regras insuficientes, por outro lado, podem permitir que tecnologias extremamente poderosas sejam colocadas em circulação antes que seus riscos sejam suficientemente compreendidos.

É justamente nesse ponto que o alerta de Volker Türk ganha importância.

A discussão deixou de ser apenas sobre o que a inteligência artificial consegue fazer.

Cada vez mais, governos, pesquisadores e organismos internacionais precisam responder a outra pergunta:

o que sistemas de inteligência artificial deveriam ser autorizados a fazer — e quem será responsabilizado quando algo der errado?

A resposta provavelmente ajudará a definir uma das principais disputas tecnológicas e regulatórias dos próximos anos.

Gostou desta matéria? Compartilhe com outras pessoas e acompanhe o Linha Direta News para mais notícias, análises e conteúdos explicativos. Aqui, a informação vai além da manchete.

Fonte e créditos: reportagem elaborada com informações da Agência Brasil/Reuters e documentação do Escritório do Alto Comissariado das Nações Unidas para os Direitos Humanos (OHCHR).

O post ONU alerta para possível risco existencial da inteligência artificial apareceu primeiro em Linha Direta News.