A Agência Nacional de Proteção de Dados (ANPD), a Secretaria Nacional do Consumidor (Senacom) e o Ministério Público Federal (MPF) emitiram recomendações à empresa controladora da plataforma digital X, visando impedir o uso indevido da ferramenta de inteligência artificial Grok para a geração e circulação de conteúdos sexualizados. O objetivo é assegurar que a tecnologia não seja utilizada para fins abusivos ou ilegais.
Principais Recomendações
O documento, divulgado nesta terça-feira, sugere a implementação, em até 30 dias, de procedimentos técnicos e operacionais para identificar, revisar e remover conteúdos sexualizados gerados pelo Grok e disponíveis na plataforma X. Adicionalmente, foi recomendada a suspensão imediata de contas envolvidas na produção de imagens sexuais ou erotizadas, de crianças, adolescentes ou adultos sem consentimento, criadas com a ferramenta.
Outra solicitação é a criação de um mecanismo transparente, acessível e eficaz para que titulares de dados possam exercer seus direitos, incluindo o envio de denúncias sobre o uso irregular ou ilegal de dados pessoais na criação de conteúdos sintéticos sexualizados ou erotizados sem consentimento, garantindo uma resposta adequada. As instituições também pleiteiam a implementação imediata de medidas para impedir que o Grok gere novas imagens, vídeos ou áudios que representem crianças, adolescentes ou adultos identificáveis em contextos sexualizados ou erotizados sem autorização.
Fundamentação das Medidas
As recomendações foram formuladas após denúncias de usuários sobre a geração de conteúdo sintético de caráter sexualizado a partir de imagens de pessoas reais. Foram consideradas reportagens da imprensa nacional e internacional, além de testes realizados pelas instituições que demonstraram o uso ilegal da ferramenta para a produção de deepfakes de caráter sexualizado, erótico e pornográfico, envolvendo mulheres, crianças e adolescentes reais.
As instituições alertam que tais conteúdos podem impactar negativamente a proteção de dados pessoais, as relações de consumo, a dignidade da pessoa humana e outros direitos difusos, coletivos e individuais indisponíveis, em especial os de mulheres, crianças e adolescentes.
Base Legal e Responsabilidade da Plataforma
Embora o Artigo 19 do Marco Civil da Internet preveja que provedores de aplicação não seriam responsáveis por conteúdo de terceiros sem decisão judicial, o documento argumenta que a remoção é essencial. As deepfakes sexualizadas não são produzidas exclusivamente por terceiros, mas por uma interação entre usuários e a ferramenta de inteligência artificial criada e disponibilizada amplamente pelo X, o que o caracteriza como coautor e não mero intermediador desses conteúdos.
Adicionalmente, o Supremo Tribunal Federal (STF) declarou a parcial inconstitucionalidade do Artigo 19 do Marco Civil da Internet, precisamente por entender que ele não oferece proteção suficiente a direitos constitucionais relevantes. A Corte fixou que os provedores de aplicação da internet têm um 'especial dever de cuidado' para adotar providências que evitem a circulação massiva de crimes graves, como os praticados contra as mulheres.
A própria política de autorregulação do X relacionada à nudez não consensual proíbe a publicação e o compartilhamento de imagens ou vídeos explícitos sem o consentimento das pessoas envolvidas. A plataforma também veda a produção, manipulação e disseminação de imagens de terceiros com conteúdo sexual ou erotizado em contextos envolvendo o Grok, o que torna insustentável a disponibilização de uma ferramenta de inteligência artificial sem filtros rigorosos que favoreça tais condutas.
Próximas Etapas
Caso as recomendações não sejam acatadas ou implementadas de modo insuficiente para mitigar os riscos identificados, as instituições poderão adotar outras medidas cabíveis.
Fonte: https://agenciabrasil.ebc.com.br
Descubra mais sobre Linha Direta News
Assine para receber nossas notícias mais recentes por e-mail.
