O Ministério Público Federal (MPF) recomendou que a plataforma X impeça imediatamente o uso do Grok para gerar imagens sexualizadas de pessoas reais. Segundo os órgãos, a ferramenta de inteligência artificial vem sendo usada para criar deepfakes de teor sexual e pornográfico, inclusive envolvendo crianças e adolescentes, o que viola direitos fundamentais e a legislação brasileira.
O Ministério Público Federal recomendou que a X adote medidas urgentes para impedir que a ferramenta de IA Grok gere imagens sexualizadas de pessoas reais. A recomendação é assinada em conjunto com a Agência Nacional de Proteção de Dados (ANPD) e a Secretaria Nacional do Consumidor (Senacon), vinculada ao Ministério da Justiça.
Segundo o documento, o Grok passou a permitir a edição e geração de imagens sem o consentimento das pessoas retratadas, sem verificação adequada de idade ou da finalidade do uso. Essa permissividade, afirmam os órgãos, resultou na criação de deepfakes “de teor sexual, erótico e pornográfico” envolvendo mulheres adultas identificáveis e também crianças e adolescentes reais.
Para MPF, ANPD e Senacon, essas práticas violam direitos fundamentais como a dignidade humana, a privacidade, a autodeterminação sexual e a proteção integral de crianças e adolescentes. O texto destaca que conteúdos desse tipo podem causar danos profundos à integridade sexual, física e psicológica das vítimas.
A recomendação também afasta o argumento de que a X seria apenas uma intermediária do conteúdo. Segundo os órgãos, como o material é gerado por uma ferramenta de inteligência artificial criada e disponibilizada pela própria plataforma, a empresa pode ser considerada coautora dos conteúdos ilícitos.
Crimes sexuais e violência de gênero
O documento ainda cita decisões recentes do Supremo Tribunal Federal que apontaram a insuficiência do artigo 19 do Marco Civil da Internet na proteção de direitos fundamentais, reforçando o dever de cuidado das plataformas digitais diante de conteúdos graves, como crimes sexuais e violência de gênero.
Entre as exigências, está a implementação imediata de medidas técnicas, administrativas e de governança de dados para impedir que o Grok produza imagens, vídeos ou áudios sexualizados de crianças, adolescentes ou adultos identificáveis sem autorização. Os órgãos também exigem que, em até 30 dias, a X estabeleça procedimentos para identificar e remover conteúdos já publicados com esse tipo de material.
A plataforma tem prazo até 27 de janeiro para informar se acatará a recomendação. Em caso de descumprimento, MPF, ANPD e Senacon alertam que poderão adotar medidas administrativas e judiciais, incluindo sanções previstas no Marco Civil da Internet, no Código de Defesa do Consumidor e na Lei Geral de Proteção de Dados (LGPD).
Leia mais no BacciNoticias: