A pressão do governo brasileiro sobre a rede social X, antiga Twitter, acaba de subir alguns degraus. Órgãos federais querem impedir que o assistente de inteligência artificial Grok continue produzindo ou distribuindo conteúdo sexual sem consentimento.
A medida surge após denúncias de que usuários da plataforma estariam criando deepfakes com mulheres, crianças e adolescentes. Se confirmadas, as práticas ferem a legislação de proteção de dados, o Estatuto da Criança e do Adolescente e o Código Penal.
Entenda o imbróglio envolvendo conteúdo sexual gerado por IA
As primeiras reclamações chegaram à Agência Nacional de Proteção de Dados (ANPD) em 14 de fevereiro. A deputada federal Erika Hilton (PSOL) enviou representação apontando que o Grok transformava fotos reais em nudez, sem consentimento das pessoas retratadas.
Nos dias seguintes, Instituto Brasileiro de Defesa do Consumidor (Idec), Instituto Alana e a Secretaria de Políticas Digitais da Presidência reforçaram a denúncia. Testes internos e reportagens internacionais confirmaram que imagens explícitas poderiam ser criadas a partir de simples comandos de texto.
Por que o caso preocupa
Para técnicos da ANPD, a geração de deepfakes eróticos configura tratamento de dados pessoais. Quando isso ocorre sem autorização, há violação dos direitos de imagem, privacidade e autodeterminação informacional. O potencial dano é ainda maior para crianças, já que a Constituição garante proteção absoluta a menores.
O que o governo exigiu da X
ANPD, Secretaria Nacional do Consumidor (Senacom) e Ministério Público Federal (MPF) publicaram recomendação conjunta nesta terça-feira, 20 de fevereiro. O documento lista sete ações prioritárias.
Entre elas, duas ganham destaque imediato: a proibição total da geração de imagens, vídeos ou áudios sexualizados envolvendo menores e o bloqueio de qualquer conteúdo adulto relacionado a maiores de idade identificáveis que não tenham permitido a produção.
Prazos e relatórios mensais
A empresa tem 30 dias para criar procedimentos de detecção, revisão e remoção desse material. Além disso, deverá enviar relatórios mensais às autoridades, detalhando o cumprimento de cada etapa.
Riscos apontados pelos órgãos de proteção
Na visão de ANPD e Senacom, ao permitir deepfakes com nudez, a plataforma rompe a confiança do usuário e descumpre sua própria política de uso, ferindo o princípio da boa-fé previsto no Código de Defesa do Consumidor.
O documento também destaca possíveis crimes de exploração sexual infantil e violência psicológica de gênero. As instituições citam decisões recentes do Supremo Tribunal Federal que obrigam redes a coibir a circulação de conteúdos ilícitos em escala massiva.
Responsabilidade direta da plataforma
Os órgãos sustentam que a X não pode se declarar agente neutro. Como o Grok faz parte da infraestrutura da rede, a companhia passaria a ser coautora do material gerado, conforme entendimento do Marco Civil da Internet.
Imagem: animações japesas e tradições popu
Relatório de impacto sobre dados pessoais
Para reforçar a prevenção, a recomendação exige um relatório de impacto sobre a proteção de dados pessoais. O estudo deverá analisar problemas e apresentar soluções sempre que o Grok processar fotos, vídeos ou áudios capazes de identificar alguém.
Esse documento será fundamental para avaliar se a X cumpre a Lei Geral de Proteção de Dados (LGPD) e se adota salvaguardas técnicas adequadas.
Consequências em caso de descumprimento
Se a empresa ignorar a recomendação ou apresentar medidas ineficazes, novas ações administrativas e judiciais podem surgir. As penalidades vão de multas expressivas, previstas na LGPD, ao bloqueio de funcionalidades no Brasil.
Senacom lembra que a infração também abre caminho para sanções do Código de Defesa do Consumidor, uma vez que a prática afeta direitos coletivos, difusos e individuais indisponíveis.
Suspensão de contas
A ordem oficial inclui a suspensão dos perfis que criarem ou compartilharem conteúdo sexual gerado por IA irregularmente. O objetivo é evitar a reincidência e sinalizar tolerância zero com esse tipo de material.
Como fica o usuário do Grok
Para o público que utiliza a ferramenta, nada muda em comandos que não violem as novas regras. Entretanto, quem tentar produzir deepfakes eróticos com fotos reais deverá ser barrado automaticamente. Caso o filtro falhe, o usuário poderá ser suspenso.
Além disso, a plataforma precisará oferecer um canal simples para denúncias de conteúdo sexual gerado por IA. Qualquer pessoa afetada poderá exigir remoção imediata e responsabilização.
Dica de leitura
Quer acompanhar a evolução do caso e outras pautas de IA? Siga o Olhar Tec Digital. Nossa redação monitora cada passo das autoridades e traz atualizações em tempo real.
Fique de olho: se a X cumprir todas as exigências, o prazo de 30 dias servirá como teste para políticas globais de moderação. Caso contrário, o Brasil pode impor as punições mais duras já vistas contra conteúdo sexual gerado por IA.
