Volker Türk pede garantias internacionais para sistemas avançados de IA e alerta para riscos envolvendo infraestrutura, comunicações, democracia e concentração de poder tecnológico.
O alto comissário das Nações Unidas para os Direitos Humanos, Volker Türk, fez nesta segunda-feira (7) um dos alertas mais contundentes de seu novo mandato sobre o avanço da inteligência artificial. Segundo ele, sistemas avançados de IA podem representar até mesmo um “risco existencial” para a humanidade caso seu desenvolvimento não seja acompanhado por mecanismos robustos de segurança.
A declaração foi feita em Genebra, na abertura da 63ª sessão do Conselho de Direitos Humanos da ONU, que reúne 47 países e segue até 7 de outubro.
Türk afirmou compartilhar preocupações levantadas por especialistas do setor e defendeu um esforço internacional para estabelecer garantias de segurança antes que sistemas cada vez mais poderosos atinjam capacidades difíceis de controlar.
O alerta, entretanto, exige uma distinção importante: a ONU não afirmou que a inteligência artificial inevitavelmente levará à extinção humana.
O debate envolve cenários de risco, diferentes níveis de incerteza e, principalmente, a necessidade de criar mecanismos de segurança antes que determinadas capacidades tecnológicas estejam amplamente disseminadas.
O que a ONU entende por risco da IA?
Ao falar em risco existencial, Türk abordou a possibilidade de sistemas avançados provocarem consequências de grande escala caso apresentem comportamentos inesperados, sejam utilizados de maneira maliciosa ou sejam implantados sem salvaguardas suficientes.
Uma porta-voz do escritório do alto comissário apontou, entre os possíveis riscos, falhas capazes de afetar infraestruturas críticas, sistemas de comunicação e instituições democráticas.
Esse debate não elimina problemas que já existem atualmente.
Um relatório anterior do próprio Escritório do Alto Comissariado da ONU para os Direitos Humanos destaca que, embora os possíveis riscos existenciais de longo prazo precisem ser compreendidos e mitigados, sistemas de inteligência artificial já produzem impactos concretos sobre direitos humanos no presente.
Isso inclui questões relacionadas a privacidade, discriminação algorítmica, decisões automatizadas, desinformação e responsabilidade das empresas que desenvolvem essas tecnologias.
Poder concentrado em poucas empresas preocupa
Outro ponto levantado por Türk foi a concentração do desenvolvimento das tecnologias mais avançadas nas mãos de um pequeno grupo de grandes companhias.
Segundo o alto comissário, poucas pessoas possuem atualmente um poder extraordinário sobre o desenvolvimento da inteligência artificial.
Embora não tenha citado empresários específicos, algumas das principais empresas que disputam a liderança no setor incluem grandes grupos tecnológicos e laboratórios especializados em modelos avançados.
Para Türk, países que desenvolvem essas tecnologias — e também aqueles envolvidos em suas cadeias de fornecimento — deveriam estabelecer limites internacionais comuns.
A questão vai além da competição empresarial.
Quanto mais sistemas de IA forem incorporados a setores como energia, telecomunicações, defesa, finanças e administração pública, maiores poderão ser as consequências de falhas ou usos indevidos.
Incidentes aumentam preocupação com agentes autônomos
A discussão ganhou novo peso com experimentos envolvendo os chamados agentes de inteligência artificial.
Diferentemente de um chatbot tradicional, que normalmente responde a uma solicitação do usuário, agentes podem receber objetivos e executar sequências de ações utilizando ferramentas e sistemas digitais.
Segundo a Reuters, o gabinete de Türk citou como exemplo um incidente relacionado à plataforma Hugging Face envolvendo agentes de IA e comportamento inesperado durante testes.
O episódio foi usado para ilustrar uma preocupação crescente: a capacidade de determinados sistemas pode estar avançando em ritmo mais rápido do que os mecanismos criados para supervisioná-los.
Isso não significa que os sistemas atuais tenham se tornado independentes dos seres humanos ou adquirido consciência.
O problema discutido por pesquisadores é outro: até que ponto sistemas com maior autonomia podem executar ações não previstas por seus desenvolvedores e quais barreiras devem existir antes de sua utilização em ambientes reais?
IA também entra no debate sobre armas autônomas
O pronunciamento de Türk não ficou restrito aos sistemas comerciais.
O alto comissário também manifestou preocupação com relatos envolvendo o possível uso de drones totalmente autônomos na guerra da Ucrânia.
Ele defendeu a proibição urgente de armas capazes de tirar vidas sem intervenção humana. A Reuters ressaltou que não verificou de forma independente os relatos específicos mencionados por Türk sobre o uso desses equipamentos pela Rússia.
A discussão sobre armas autônomas coloca uma das questões éticas mais delicadas relacionadas à inteligência artificial:
uma máquina deveria poder decidir sozinha quando tirar uma vida humana?
Para organizações internacionais e especialistas que defendem restrições, decisões letais precisam permanecer sob controle humano significativo.
Entenda: inteligência artificial é uma ameaça?
Não existe uma resposta simples.
A inteligência artificial já produz benefícios concretos em áreas como ciência, medicina, produtividade, educação e análise de grandes volumes de informação.
Ao mesmo tempo, seu desenvolvimento introduz riscos novos e amplia problemas já existentes.
Por isso, é importante separar três discussões diferentes.
A primeira envolve problemas atuais, como desinformação, fraudes, violações de privacidade, vieses algorítmicos e uso criminoso da tecnologia.
A segunda envolve sistemas mais autônomos, capazes de executar ações e interagir com outros ambientes digitais com menor supervisão humana.
E a terceira trata dos chamados riscos existenciais, cenários extremos nos quais sistemas futuros extremamente avançados poderiam causar danos em escala global.
Colocar todos esses problemas na mesma categoria pode gerar alarmismo. Ignorá-los, porém, também seria imprudente.
O desafio agora é criar regras antes da próxima geração de IA
A corrida tecnológica coloca governos diante de um dilema.
Regulamentação excessivamente rígida pode limitar inovação e desenvolvimento econômico. Regras insuficientes, por outro lado, podem permitir que tecnologias extremamente poderosas sejam colocadas em circulação antes que seus riscos sejam suficientemente compreendidos.
É justamente nesse ponto que o alerta de Volker Türk ganha importância.
A discussão deixou de ser apenas sobre o que a inteligência artificial consegue fazer.
Cada vez mais, governos, pesquisadores e organismos internacionais precisam responder a outra pergunta:
o que sistemas de inteligência artificial deveriam ser autorizados a fazer — e quem será responsabilizado quando algo der errado?
A resposta provavelmente ajudará a definir uma das principais disputas tecnológicas e regulatórias dos próximos anos.
Gostou desta matéria? Compartilhe com outras pessoas e acompanhe o Linha Direta News para mais notícias, análises e conteúdos explicativos. Aqui, a informação vai além da manchete.
Fonte e créditos: reportagem elaborada com informações da Agência Brasil/Reuters e documentação do Escritório do Alto Comissariado das Nações Unidas para os Direitos Humanos (OHCHR).
Descubra mais sobre Linha Direta News
Assine para receber nossas notícias mais recentes por e-mail.
