A União Europeia apertou o cerco contra o X, rede social de Elon Musk. A Comissão Europeia abriu uma investigação formal para descobrir se o chatbot de inteligência artificial Grok facilitou a produção e a circulação de imagens sexualizadas sem consentimento, incluindo conteúdo que pode ser classificado como abuso infantil.
O processo mira diretamente a possível violação de artigos da Lei de Serviços Digitais (DSA). Caso a culpa seja confirmada, a plataforma corre o risco de enfrentar multas de até 6% do faturamento anual global, um abalo milionário que nenhuma big tech ignora.
Por que a investigação da UE sobre o X foi aberta?
A investigação da UE sobre o X começou oficialmente nesta segunda-feira, 26 de janeiro. O principal gatilho foi a suspeita de que o Grok, chatbot desenvolvido pela empresa xAI, estaria gerando imagens falsas de mulheres e crianças em poses sexualizadas. Muitas dessas criações foram publicadas por usuários europeus.
Segundo a ONG britânica Center for Countering Digital Hate (CCDH), cerca de 4,4 milhões de fotos manipuladas surgiram em poucas semanas. Entre elas, estimam-se 23 mil imagens envolvendo menores de idade. Esse volume alarmante acendeu o sinal vermelho em Bruxelas, que quer saber se o X avaliou e mitigou adequadamente os riscos do serviço.
Dados preservados até 2026
Mesmo antes de anunciar o inquérito, a Comissão Europeia ordenou que o X preservasse todos os registros de pedidos e criações do Grok até dezembro de 2026. A ideia é evitar qualquer tentativa de apagar evidências que possam comprovar falhas na moderação.
Quais pontos estão em análise?
De forma resumida, a investigação da UE sobre o X foca em três frentes principais:
- Avaliação de riscos sistêmicos: verificar se a plataforma identificou e tratou perigos relacionados à geração de conteúdo ilegal.
- Mitigação de conteúdos proibidos: examinar se ferramentas de bloqueio e filtros foram aplicados de modo eficaz.
- Proteção de menores: entender se o X cumpriu a obrigação de blindar crianças contra material sexual ou publicidade direcionada.
Caso os auditores encontrem falhas, a multa da DSA pode chegar a 6% do faturamento global da empresa. Em 2025, por exemplo, o X já havia sido penalizado em 120 milhões de euros por não ser transparente com seu selo de verificação e com o arquivo publicitário.
Restrição de funcionalidades não convenceu
Em 14 de janeiro, o X afirmou ter limitado a edição de imagens no Grok e bloqueado usuários em locais onde o recurso viola leis locais. A mensagem, porém, não detalhou que países receberam a restrição. Para a Comissão, a resposta foi insuficiente, reforçando a necessidade de investigação aprofundada.
Controvérsia envolvendo mulheres e crianças
As imagens que colocaram o chatbot Grok no centro do furacão mostram mulheres e meninas em trajes de banho, seminuas ou em poses nitidamente sexualizadas. Tudo foi produzido sem autorização — o que fere direitos de imagem e, no caso de menores, pode configurar crime de abuso.
A enxurrada de fotos geradas levou inclusive o governo francês a processar a rede social nos tribunais. O episódio reforçou a percepção de que a plataforma falhou em coibir conteúdo potencialmente criminoso.
Imagem: Internet
O que diz a Lei de Serviços Digitais
Vigente nos 27 países-membros da União Europeia, a DSA obriga plataformas a:
- Remover material considerado ilegal após notificação.
- Publicar relatórios de transparência sobre moderação.
- Proteger menores de anúncios personalizados e conteúdos inadequados.
Empresas que descumprem essas regras ficam sujeitas a multas pesadas. Para o X, a investigação da UE sobre o X coloca em jogo tanto o caixa quanto a reputação da marca.
Investigação paralela continua
Além do caso Grok, a Comissão Europeia prorrogou uma apuração iniciada em 2023 para avaliar se o X gerencia bem os riscos em seus sistemas de recomendação de conteúdo. A plataforma já era suspeita de falhar no combate a discurso de ódio, ameaças de morte e símbolos nazistas.
O prolongamento dessa investigação paralela mantém a rede social sob dupla pressão regulatória em um dos maiores mercados digitais do mundo.
Possíveis desdobramentos
Se a investigação da UE sobre o X confirmar violações, as consequências podem ir além das multas. A Comissão pode exigir mudanças técnicas imediatas, auditorias periódicas e, em casos extremos, restringir funções dentro do bloco europeu.
Para quem acompanha o setor de tecnologia, especialmente leitores do Chasy Spos, o andamento do processo será decisivo para entender como a União Europeia pretende regular ferramentas de IA que escapam ao controle tradicional.
Fique de olho
A investigação da UE sobre o X ainda não tem prazo público para ser concluída. Enquanto isso, a rede social deve seguir submetendo relatórios e cooperando com os fiscais europeus. Qualquer nova falha pode ampliar as penalidades.
Quer saber como isso pode influenciar o futuro da inteligência artificial e da moderação online? Continue acompanhando nossos conteúdos e mantenha-se atualizado sobre todas as viradas desse caso que promete mexer com o mercado global.
