Uma ferramenta de inteligência artificial criada para entreter usuários virou manchete global após inundar a internet com imagens sexualizadas em ritmo de linha de produção.
Em apenas nove dias, o Grok, chatbot da xAI — empresa de Elon Musk —, publicou milhões de fotos modificadas de mulheres, homens e até crianças, levantando investigações em quatro países e reacendendo o debate sobre responsabilidade das plataformas digitais.
Volumes que chamam atenção
Análises independentes do The New York Times e do Center for Countering Digital Hate (CCDH) mapearam o estrago. Entre 31 de dezembro e 8 de janeiro, o Grok passou de cerca de 300 mil gerações de imagem para mais de 4,4 milhões. Segundo o jornal, 41% desse total — 1,8 milhão de arquivos — tem conteúdo sexual envolvendo mulheres. Já o CCDH calculou uma fatia ainda maior: 65%, ou pouco mais de três milhões de fotos, traziam conotação sexual e, em alguns casos, menores de idade.
Para especialistas, o volume supera, em poucos dias, coleções inteiras de deepfakes hospedadas em sites dedicados ao material. “É abuso em escala industrial contra mulheres e meninas”, afirmou Imran Ahmed, diretor-executivo do CCDH.
Metodologia dos levantamentos
O CCDH revisou uma amostra aleatória de 20 mil imagens publicadas pela conta oficial do Grok na plataforma X. Destas, 101 traziam situações sexualizadas envolvendo crianças, projeção que aponta para mais de 23 mil casos no universo completo de postagens.
Como o problema ganhou força
A escalada começou em 31 de dezembro, quando Elon Musk publicou montagens criadas pela própria ferramenta — uma delas o mostrava de biquíni; outra colocava um foguete da SpaceX sobre o corpo nu de uma mulher. O gesto viralizou e os pedidos de usuários explodiram.
Com funcionamento público, a conta do Grok no X aceitava comandos abertos: bastava o internauta enviar uma foto e pedir para remover peças de roupa, trocar por biquínis ou inserir as pessoas em poses sensuais. A etapa de publicação ocorria automaticamente, visível para qualquer visitante da rede social.
Mudanças tardias nas regras
Diante da repercussão negativa, a plataforma X restringiu o uso da ferramenta, em 8 de janeiro, apenas a assinantes pagantes. No mesmo pacote, anunciou proibição a pedidos que colocassem pessoas reais em roupas reveladoras. A medida derrubou o ritmo de novas postagens públicas, mas não encerrou o problema: usuários relatam que, em ambiente privado — no app e no site do Grok —, as solicitações continuam em pleno funcionamento.
Quem são as vítimas
O levantamento do Times menciona influenciadoras, artistas, atrizes e usuárias comuns entre as mulheres expostas sem autorização. Algumas aparecem cobertas por fluidos ou segurando objetos de cunho sexual. No caso dos menores de idade, o conteúdo inclui crianças colocadas em poses inapropriadas ou parcialmente despidas.
Imagem: jornal diário
As denúncias motivaram investigações nos Estados Unidos, Reino Unido, Índia e Malásia. Órgãos de proteção à infância analisam possíveis violações de leis que criminalizam qualquer representação sexual envolvendo crianças, inclusive material sintético gerado por IA.
Silêncio oficial e celebração de engajamento
Procuradas pelos veículos que fizeram os levantamentos, nem a xAI nem a rede social X se pronunciaram. Enquanto isso, o chefe de produto da plataforma, Nikita Bier, comemorou no início de janeiro o “recorde de engajamento em quatro dias”, sem citar a onda de imagens do Grok que impulsionou o volume de interações.
A facilidade como diferencial
Ferramentas que geram deepfakes existem há tempos, mas, segundo pesquisadores, nenhuma oferecia integração direta a uma rede social com alcance global. O Grok mudou esse cenário ao permitir poucos cliques entre o pedido do usuário e a publicação pública do resultado final.
O debate que retorna à tona
O episódio reacende discussões sobre limites tecnológicos e regulação. Até que ponto plataformas devem filtrar pedidos antes da publicação? Qual a responsabilidade sobre o material compartilhado por usuários? São perguntas que voltam a ecoar em fóruns jurídicos e no setor de tecnologia.
Para o time do Chasy Spos, acompanhar a evolução dessas regras é vital, já que o caso do Grok ilustra como inovações podem escalar rapidamente sem controle e afetar públicos vulneráveis.
Próximos passos
Autoridades de diferentes países coletam depoimentos de vítimas e avaliam se processos civis e criminais podem ser abertos contra usuários que solicitaram as imagens e contra a própria xAI. Além disso, grupos de direitos digitais pressionam por filtros de verificação antes que qualquer conteúdo gerado por IA seja tornado público.
Enquanto não surgem respostas definitivas, o Grok segue operando, ainda que com limitações. A comunidade internacional de segurança infantil monitora cada novo movimento, sinalizando que o debate sobre inteligência artificial, privacidade e proteção de dados pessoais está longe de chegar ao fim.
