O Superior Tribunal de Justiça (STJ) determinou a abertura de uma investigação nesta quarta-feira (20) para apurar o uso de comandos de inteligência artificial, conhecidos como 'prompt injection', com o objetivo de fraudar o sistema eletrônico de petições do tribunal.
Abertura e Escopo da Investigação
Por ordem do presidente do STJ, Herman Benjamin, foram instaurados um inquérito policial e um procedimento administrativo interno. As apurações visam identificar tentativas de fraudes que supostamente teriam sido cometidas por advogados e escritórios de advocacia.
O Mecanismo da Fraude: Prompt Injection
Técnicos do tribunal identificaram a inserção de 'prompt injection' em petições. Este mecanismo busca enganar modelos de inteligência artificial, forçando o sistema a ignorar filtros de seleção. O objetivo seria, por exemplo, permitir a admissão de documentos que não cumpririam requisitos básicos de elegibilidade, favorecendo partes durante o trâmite eletrônico de um processo.
Salvaguardas Atuais do Sistema do STJ
O STJ esclareceu que seu sistema já possui travas de segurança projetadas para impedir que comandos de 'prompt injection' sejam executados pela plataforma responsável pelo recebimento das petições, mitigando assim o risco de sucesso dessas tentativas de fraude.
Fonte: https://agenciabrasil.ebc.com.br
Descubra mais sobre Linha Direta News
Assine para receber nossas notícias mais recentes por e-mail.
