X restringe a geração de imagens do Grok a usuários pagos após reação negativa global.

Grok, o chatbot de IA apoiado por Elon Musk e integrado à estrutura do X, começou a restringir o acesso às suas ferramentas de geração e edição de imagens apenas para assinantes pagos. A mudança ocorre após uma onda de críticas em relação à capacidade da ferramenta de produzir imagens sexualizadas sem consentimento. Embora a restrição seja claramente uma tentativa de conter a controvérsia, órgãos reguladores, grupos de defesa e usuários argumentam que ela pouco contribui para impedir a criação de conteúdo prejudicial e potencialmente ilegal envolvendo mulheres e crianças.

A partir da noite de quinta-feira, o Grok passou a oferecer oficialmente seus recursos de criação de imagens apenas na versão paga X Premium, com planos a partir de US$ 8 por mês.

No entanto, a medida foi amplamente ridicularizada como uma solução "falhada". Embora usuários casuais do X possam ser bloqueados, as ferramentas de geração permanecem totalmente acessíveis através do site independente e do aplicativo móvel do Grok. Essa brecha, na prática, mina a alegação da plataforma de que está adotando uma postura firme contra o uso indevido, deixando as ferramentas mais perigosas ainda ao alcance do público em geral.

Pesquisadores de segurança e órgãos de vigilância digital não estão convencidos de que a exigência de cartão de crédito resolva o problema. Na verdade, muitos argumentam que isso, na realidade, monetiza o abuso. De acordo com a pesquisadora de deepfakes Genevieve Oh, o Grok continuava produzindo mais de 1.500 imagens prejudiciais por hora, mesmo após a implementação do paywall – o que representa cerca de 60% de sua produção total de imagens públicas. Os dados de Oh sugerem que o Grok está gerando conteúdo sexualizado em uma taxa que supera até mesmo a dos sites de "nudificação" mais notórios.

As consequências atingiram os mais altos escalões do governo dos EUA.

Os senadores democratas Ron Wyden, Edward J. Markey e Ben Ray Luján enviaram recentemente uma carta aos CEOs da Apple e do Google, exigindo a remoção do aplicativo X de suas respectivas lojas de aplicativos. Os senadores argumentaram que, ao permitir que essas ferramentas persistam, o X demonstra um "completo desrespeito" pelas normas de segurança que todos os outros desenvolvedores de aplicativos são obrigados a seguir.

A pressão internacional também está chegando ao limite. Autoridades do Reino Unido e da Índia criticaram duramente o acesso pago, considerando-o uma resposta inadequada. Um porta-voz do primeiro-ministro britânico descreveu a medida como "insultuosa" para as vítimas, sugerindo que a X está simplesmente transformando uma crise de segurança em uma fonte de receita premium. Vítimas compartilharam histórias semelhantes; a ativista Jess Davies relatou que a Grok ainda conseguiu "despir" digitalmente uma foto dela por meio de seu aplicativo independente na manhã de sexta-feira, apesar das supostas restrições.

Curiosamente, a controvérsia parece estar proporcionando um impulso financeiro perverso à plataforma.

As estimativas da Sensor Tower mostram que a receita de compras dentro do aplicativo X para dispositivos móveis aumentou 18% somente na quinta-feira. Esse pico supera em muito o crescimento diário típico do aplicativo, sugerindo que a busca pelo "modo picante" do Grok pode estar, na verdade, ajudando a impulsionar os resultados financeiros da X, que vinham apresentando dificuldades.

Especialistas jurídicos alertam que essas medidas paliativas não resistirão por muito tempo nos tribunais. O Procurador-Geral da Carolina do Norte, Jeff Jackson, classificou a situação do Grok como um "ponto de virada" para a segurança da IA, observando a facilidade com que esses sistemas podem ser usados ​​como armas. Ele argumentou que a era do "agir rápido e quebrar coisas" está chegando ao fim quando se trata da dignidade e segurança dos cidadãos comuns.

Com a pressão aumentando, a X enfrenta uma escolha difícil: implementar proteções técnicas genuínas e rígidas ou enfrentar um apagão total nas principais lojas de aplicativos e mercados internacionais. Se Elon Musk optar por reforçar o próprio software — e não apenas o acesso a ele — determinará se o Grok terá um futuro como ferramenta legítima ou se se tornará um pária na era da IA ​​generativa.

A publicação X restringe a geração de imagens do Grok a usuários pagos após reação negativa global apareceu primeiro em Digital Trends .