A xAI anunciou na sexta-feira (09/01) que o Grok limita imagens no X. A decisão marcou a primeira resposta direta às críticas sobre o uso indevido do chatbot. A empresa passou a restringir a geração e a edição de imagens a assinantes pagantes após a circulação de conteúdos sexualizados criados por inteligência artificial sem consentimento.

Com a mudança, o sistema deixou de publicar automaticamente essas imagens em respostas a posts e comentários. No entanto, o problema persiste. Usuários ainda conseguem gerar imagens sensíveis pela aba dedicada ao Grok dentro do X. O aplicativo independente do chatbot também mantém essa funcionalidade fora da plataforma.

Grok limita imagens, mas mantém brechas operacionais

A empresa apresentou a medida como reforço de controle. Reguladores, porém, discordam dessa leitura. Para a Comissão Europeia, o alcance da restrição é limitado. Segundo o órgão, a exigência de assinatura paga não altera a natureza do conteúdo nem reduz o risco de novas violações, sobretudo contra mulheres e crianças.

Além disso, governos nacionais passaram a usar o caso como teste para a aplicação do Digital Services Act (DSA). A legislação impõe deveres mais rígidos às plataformas digitais. Autoridades cobram prevenção efetiva e retirada ativa de material ilegal. Barreiras comerciais, sozinhas, não atendem a esse padrão.

Grok limita imagens e expõe dilema da xAI

O episódio também expôs falhas na comunicação corporativa. Questionada pela Reuters, a xAI respondeu com uma mensagem automática de tom confrontacional. O X optou por não comentar. Elon Musk afirmou que usuários que criarem conteúdo ilegal com o Grok sofrerão punições equivalentes às de uploads diretos, mas não detalhou os critérios de aplicação.

Testes realizados após o anúncio indicam mudanças práticas. Quando acionado diretamente no X, o chatbot passou a recusar pedidos de edição de fotos sensíveis. Ainda assim, outras áreas da própria plataforma continuam permitindo esse tipo de criação, o que mantém a pressão regulatória.

Limitação de imagens no Grok e o risco regulatório

Para analistas do setor digital, a limitação de imagens no Grok aponta uma estratégia defensiva. A empresa busca conter críticas imediatas sem alterar a arquitetura do produto. O ministro alemão de mídia, Wolfram Weimer, classificou a prática como “industrialização do assédio sexual”, o que elevou o peso político do tema.

Na Europa, a supervisão sobre conteúdo gerado por IA, moderação de conteúdo e proteção de dados avança com rapidez. Nesse ambiente, ajustes pontuais tendem a enfrentar questionamentos. Ao manter brechas técnicas, o X e a xAI seguem expostos a investigações e possíveis sanções, enquanto o debate sobre responsabilidade das plataformas entra em uma etapa mais rigorosa.