A Agência Nacional de Proteção de Dados (ANDP), a Secretaria Nacional do Consumidor (Senacom) e o Ministério Público Federal (MPF) recomendaram à empresa controladora da plataforma X medidas para impedir o uso indevido da ferramenta de inteligência artificial Grok na geração e circulação de conteúdos sexualizados.
O documento, divulgado na terça-feira (20), exige que a controladora implemente, em até 30 dias, procedimentos técnicos e operacionais para identificar, revisar e remover conteúdos sexualizados produzidos pelo Grok a partir de comandos de usuários.
As instituições pedem também a suspensão imediata das contas responsáveis pela produção de imagens sexuais ou erotizadas, tanto de crianças e adolescentes quanto de maiores de idade, quando feitas sem autorização.
Foi recomendada a criação de um mecanismo transparente, acessível e eficaz para que titulares de dados possam exercer seus direitos. Esse sistema deve permitir o envio de denúncias sobre uso irregular, abusivo ou ilegal de dados pessoais — especialmente na criação de conteúdos sintéticos sexualizados sem consentimento — e assegurar resposta adequada em prazo razoável.
As recomendações foram motivadas por denúncias de usuários, reportagens nacionais e internacionais e testes realizados pelas próprias instituições. Essas apurações indicaram uso ilegal da ferramenta para a produção de deepfakes com teor sexual, erótico ou pornográfico, envolvendo mulheres, crianças e adolescentes reais.
Segundo o documento, esse tipo de conteúdo afeta a proteção de dados pessoais, as relações de consumo, a dignidade da pessoa humana e outros direitos difusos e individuais indisponíveis, com impacto especial sobre mulheres, crianças e adolescentes.
As autoridades solicitaram medidas imediatas para impedir que o Grok gere novas imagens, vídeos ou arquivos de áudio que representem crianças e adolescentes em contextos sexualizados ou erotizados. Também recomendaram barreiras para evitar a produção de conteúdos que retratem pessoas maiores de idade identificadas ou identificáveis em situações sexualizadas sem autorização.
O texto observa que, embora o artigo 19 do Marco Civil da Internet preveja que provedores de aplicação não respondem pelo conteúdo gerado por terceiros salvo após decisão judicial, a remoção desses materiais deve ser executada. O argumento é que as deepfakes sexualizadas não se limitam à atuação de terceiros, mas resultam da interação entre usuários e a inteligência artificial disponibilizada pela plataforma, o que caracteriza coautoria e não mera intermediação.
O documento lembra ainda decisão recente do Supremo Tribunal Federal (STF) que declarou a parcial inconstitucionalidade do artigo 19 do Marco Civil, por entender que ele não protege adequadamente direitos constitucionais relevantes. No julgamento, o STF estabeleceu que provedores de aplicação têm dever especial de cuidado para adotar providências que evitem a circulação massiva de crimes especialmente graves, inclusive conteúdos que propagam ódio contra mulheres.
As instituições também citam a política interna do X, que proíbe a publicação e o compartilhamento de imagens explícitas sem consentimento e veda a produção, manipulação e disseminação de imagens de terceiros com conteúdo sexual ou erotizado envolvendo o Grok. Por esse motivo, consideram insustentável a disponibilização da ferramenta sem filtros rigorosos.
Por fim, as autoridades avisam que, caso as recomendações não sejam acatadas ou sejam insuficientes para mitigar os riscos identificados, poderão adotar outras medidas administrativas e judiciais para proteger cidadãos, com atenção especial a mulheres, crianças e adolescentes.
