\n<\/span>
![\"A](\"https:\/\/jpimg.com.br\/uploads\/2026\/01\/imagem-jvp-2026-01-09t104642.477-750x450.png\")
\n <\/source><\/source><\/picture>A janela de chat do chatbot Grok \u2014 Foto: Andrey Rudakov\/Bloomberg
\n
<\/span><\/div>\n
<\/p>\n
A Ag\u00eancia Nacional de Prote\u00e7\u00e3o de Dados (ANDP), a Secretaria Nacional do Consumidor (Senacom) e o Minist\u00e9rio P\u00fablico Federal (MPF) fizeram uma s\u00e9rie de recomenda\u00e7\u00f5es \u00e0 empresa controladora da plataforma digital X para que a ferramenta de intelig\u00eancia artificial da plataforma, o Grok, n\u00e3o seja usada indevidamente para a gera\u00e7\u00e3o e circula\u00e7\u00e3o de conte\u00fados sexualizados indevidos.<\/p>\n
Segundo o documento divulgado nessa ter\u00e7a-feira (20), entre as recomenda\u00e7\u00f5es est\u00e1 a cria\u00e7\u00e3o, no prazo m\u00e1ximo de 30 dias, de procedimentos t\u00e9cnicos e operacionais para identificar, revisar e remover conte\u00fados desse tipo que ainda estejam dispon\u00edveis no X, quando gerados pelo Grok a partir de comandos feitos por usu\u00e1rios.<\/p>\n
As institui\u00e7\u00f5es pedem tamb\u00e9m a suspens\u00e3o imediata das contas envolvidas na produ\u00e7\u00e3o de imagens sexuais ou erotizadas,tanto de crian\u00e7as e adolescentes quanto de maiores de idade, sem sua autoriza\u00e7\u00e3o, feitas com o Grok.<\/p>\n
Tamb\u00e9m foi recomendada a implementa\u00e7\u00e3o de mecanismo \u201ctransparente, acess\u00edvel e eficaz para que titulares de dados possam exercer seus direitos\u201d, incluindo o envio de den\u00fancias sobre uso irregular, abusivo ou ilegal de dados pessoais, especialmente nos casos de cria\u00e7\u00e3o de conte\u00fados sint\u00e9ticos sexualizados ou erotizados sem consentimento, assegurando resposta adequada e em prazo razo\u00e1vel.<\/p>\n
As recomenda\u00e7\u00f5es foram elaboradas diante de den\u00fancias de usu\u00e1rios que apontaram a gera\u00e7\u00e3o de conte\u00fados sint\u00e9ticos de car\u00e1ter sexualizado a partir de imagens de pessoas reais.<\/p>\n
Tamb\u00e9m foram tomados como base reportagens veiculadas na imprensa nacional e internacional e por testes realizados pelas institui\u00e7\u00f5es, que apontam o uso da ferramenta ilegalmente por usu\u00e1rios para a produ\u00e7\u00e3o de deepfakes, t\u00e9cnica de intelig\u00eancia artificial que cria imagens falsas a partir de pessoas reais. Esses conte\u00fados t\u00eam car\u00e1ter sexualizado, er\u00f3tico e com conota\u00e7\u00e3o pornogr\u00e1fica, envolvendo mulheres, crian\u00e7as e adolescentes reais.<\/p>\n
As institui\u00e7\u00f5es alertam que esse tipo de conte\u00fado pode impactar tanto a prote\u00e7\u00e3o de dados pessoais, quanto as rela\u00e7\u00f5es de consumo, a dignidade da pessoa humana e outros direitos difusos, coletivos e individuais indispon\u00edveis, em especial de mulheres, crian\u00e7as e adolescentes.<\/p>\n
\u201cEntre as recomenda\u00e7\u00f5es conjuntas, est\u00e1 a de que sejam implementadas, de forma imediata, medidas destinadas a impedir que o Grok gere novas imagens, novos v\u00eddeos ou novos arquivos de \u00e1udio que representem crian\u00e7as e adolescentes em contextos sexualizados ou erotizados\u201d, argumentam as institui\u00e7\u00f5es.<\/p>\n
As recomenda\u00e7\u00f5es tamb\u00e9m buscam impedir a gera\u00e7\u00e3o de conte\u00fados que representem pessoas naturais maiores de idade identificadas ou identific\u00e1veis, em contextos sexualizados ou erotizados, sem sua autoriza\u00e7\u00e3o.<\/p>\n
De acordo com o documento, apesar de o artigo 19 do Marco Civil da Internet prever que provedores de aplica\u00e7\u00e3o da internet n\u00e3o seriam respons\u00e1veis pelo conte\u00fado danoso publicado por terceiros, salvo ap\u00f3s decis\u00e3o judicial, a retirada deve ser executada.<\/p>\n
Isso porque as deepfakes sexualizadas n\u00e3o s\u00e3o produzidas exclusivamente por terceiros, mas sim por meio de uma intera\u00e7\u00e3o entre usu\u00e1rios e a ferramenta de intelig\u00eancia artificial criada e disponibilizada amplamente pelo X, \u201co que o torna, portanto, coautor de tais conte\u00fados, e n\u00e3o seu mero intermediador\u201d, diz o texto.<\/p>\n
O documento destaca ainda que, recentemente, o Supremo Tribunal Federal (STF) declarou a parcial inconstitucionalidade do artigo 19 do Marco Civil da Internet, precisamente por entender que ele \u201cn\u00e3o oferece prote\u00e7\u00e3o suficiente a direitos constitucionais relevantes\u201d.<\/p>\n
No julgamento, a Corte fixou que os provedores de aplica\u00e7\u00e3o da internet teriam especial dever de cuidado, de adotar todas as provid\u00eancias necess\u00e1rias para evitar a circula\u00e7\u00e3o massiva de crimes especialmente graves, como os praticados contra as mulheres em raz\u00e3o da condi\u00e7\u00e3o do sexo feminino, inclusive conte\u00fados que propagam \u00f3dio contra elas.<\/p>\n
As institui\u00e7\u00f5es lembram ainda que a pr\u00f3pria pol\u00edtica de autorregula\u00e7\u00e3o do X relacionada \u00e0 nudez n\u00e3o consensual pro\u00edbe a publica\u00e7\u00e3o e o compartilhamento de imagens ou v\u00eddeos expl\u00edcitos que tenham sido produzidos ou compartilhados sem o consentimento das pessoas envolvidas.<\/p>\n
A plataforma tamb\u00e9m veda a produ\u00e7\u00e3o, manipula\u00e7\u00e3o e dissemina\u00e7\u00e3o de imagens de terceiros com conte\u00fado sexual ou erotizado, em contextos envolvendo o Grok, o que torna \u201cinsustent\u00e1vel, tamb\u00e9m sob esse prisma, a disponibiliza\u00e7\u00e3o de uma ferramenta de intelig\u00eancia artificial, sem filtros rigorosos, que favore\u00e7a condutas como essas\u201d.<\/p>\n
Caso as recomenda\u00e7\u00f5es n\u00e3o sejam acatadas ou sejam implementadas de modo insuficiente para amenizar os riscos identificados, outras medidas poder\u00e3o ser consideradas e adotadas pelas tr\u00eas institui\u00e7\u00f5es. Essas medidas poder\u00e3o ser adotadas em sede administrativa e em sede judicial, para garantir a prote\u00e7\u00e3o adequada dos cidad\u00e3os e cidad\u00e3s do pa\u00eds, especialmente de mulheres, crian\u00e7as e adolescentes.<\/p>\n
*Ag\u00eancia Brasil<\/p>\n<\/p><\/div>\n