ANPD, Senacon e MPF recomendaram que o X adote medidas urgentes para impedir o uso do Grok na criação de deepfakes sexuais. As ações incluem remoção de conteúdos, suspensão de contas e filtros rigorosos, especialmente para proteger mulheres, crianças e adolescentes. Caso não haja cumprimento, novas medidas administrativas e judiciais podem ser tomadas.
A Agência Nacional de Proteção de Dados (ANPD), a Secretaria Nacional do Consumidor (Senacon) e o Ministério Público Federal (MPF) emitiram uma série de recomendações à empresa controladora da plataforma digital X para coibir o uso indevido do Grok, ferramenta de inteligência artificial da rede, na geração e circulação de conteúdos sexualizados ilegais.
O documento, divulgado nesta terça-feira (20), estabelece que a empresa implemente, no prazo máximo de 30 dias, procedimentos técnicos e operacionais capazes de identificar, revisar e remover conteúdos desse tipo ainda disponíveis na plataforma, quando produzidos pelo Grok a partir de comandos de usuários.
Entre as recomendações, está a suspensão imediata das contas envolvidas na produção de imagens sexuais ou erotizadas — tanto de crianças e adolescentes quanto de adultos — sem autorização das pessoas retratadas. As instituições também exigem a criação de um mecanismo “transparente, acessível e eficaz” para que titulares de dados possam exercer seus direitos, incluindo o envio de denúncias sobre o uso irregular, abusivo ou ilegal de dados pessoais.
As medidas foram motivadas por denúncias de usuários e por reportagens nacionais e internacionais que apontam a geração de conteúdos sintéticos de caráter sexualizado a partir de imagens de pessoas reais. Testes realizados pelas próprias instituições indicaram o uso do Grok para a produção de deepfakes — imagens falsas criadas por inteligência artificial — com conotação erótica ou pornográfica, envolvendo mulheres, crianças e adolescentes.
Segundo o texto, esse tipo de prática compromete a proteção de dados pessoais, as relações de consumo, a dignidade da pessoa humana e outros direitos fundamentais, especialmente de grupos mais vulneráveis. Por isso, as instituições defendem a adoção imediata de medidas para impedir que o Grok gere novos conteúdos que representem crianças e adolescentes em contextos sexualizados ou erotizados, bem como adultos identificáveis sem consentimento.
Mais detalhes do documento
O documento também ressalta que, apesar de o artigo 19 do Marco Civil da Internet prever que provedores não são responsabilizados por conteúdos de terceiros sem ordem judicial, esse entendimento não se aplica integralmente ao caso. Isso porque as deepfakes não seriam produzidas apenas por usuários, mas a partir da interação com uma ferramenta criada e disponibilizada pelo próprio X, o que caracterizaria a plataforma como coautora do conteúdo.
As instituições lembram ainda que o Supremo Tribunal Federal declarou recentemente a parcial inconstitucionalidade do artigo 19, ao entender que ele não garante proteção suficiente a direitos constitucionais relevantes. O STF também fixou que plataformas digitais têm dever especial de cuidado para evitar a disseminação massiva de crimes graves, como os praticados contra mulheres em razão de gênero.
Por fim, o texto destaca que as próprias regras do X proíbem nudez não consensual e a manipulação de imagens de terceiros com conteúdo sexual. Diante disso, as entidades avaliam como insustentável a manutenção de uma ferramenta de IA sem filtros rigorosos. Caso as recomendações não sejam cumpridas, novas medidas administrativas ou judiciais poderão ser adotadas.
Leia mais no BacciNotícias: