O governo federal determinou que o X adote medidas imediatas para impedir o uso do Grok na geração de conteúdos sexualizados, incluindo deepfakes. É a segunda cobrança feita à plataforma, que já havia sido alertada em janeiro. Segundo as autoridades, as ações anteriores foram insuficientes. A empresa terá de apresentar relatórios mensais e pode sofrer multa e outras sanções em caso de descumprimento.
O Governo Federal determinou na quarta-feira (11) que o X, antigo Twitter, adote medidas imediatas para impedir a produção de conteúdos pelo Grok, assistente de Inteligência Artificial da plataforma. A ferramenta vem sendo alvo de fortes críticas após ser utilizada por usuários para gerar e disseminar conteúdos sexualizados envolvendo mulheres e crianças.
Esta é a segunda vez que o Brasil cobra providências da empresa. Em janeiro, a gestão do presidente Luiz Inácio Lula da Silva (PT) já havia exigido soluções técnicas para impedir a criação, por meio da tecnologia, de imagens e vídeos de menores e adultos em contextos sexualizados ou erotizados, sem consentimento.
Na ocasião, a plataforma anunciou medidas de segurança e suspendeu contas de usuários que divulgaram esse tipo de material. No entanto, segundo o governo, as ações foram consideradas insuficientes. As autoridades apontam que as medidas não vieram acompanhadas de evidências concretas, relatórios técnicos ou mecanismos de monitoramento capazes de comprovar sua efetividade.
Em nota, o governo federal afirmou que “testes preliminares realizados pelas equipes técnicas das instituições indicam a persistência das falhas, com a continuidade da geração e da circulação de conteúdos incompatíveis com as recomendações já emitidas”. O caso é acompanhado em conjunto pelo Ministério Público Federal (MPF) e pela Agência Nacional de Proteção de Dados (ANPD).
Diante disso, o X foi novamente notificado a adotar novas medidas para impedir a produção de deepfakes pelo Grok. Além disso, a empresa deverá apresentar relatórios mensais sobre sua atuação, começando já em fevereiro. Os documentos deverão informar o número de postagens nocivas removidas e quantas contas foram suspensas por envolvimento nesse tipo de atividade.
Em caso de descumprimento das determinações, a Secretaria Nacional do Consumidor (Senacon) advertiu que poderá adotar medidas mais severas, compatíveis com a gravidade do caso, incluindo a imposição de multa diária. Os responsáveis também poderão responder pelo crime de desobediência, e a empresa poderá ser alvo de medidas investigatórias mais rigorosas, além de eventual ação judicial.