Países pressionam Grok após casos de imagens sexualizadas falsas geradas por IA
Ferramenta ligada à rede social X é alvo de investigações, suspensões e pedidos de bloqueio em diferentes países
Governos de diferentes países passaram a pressionar o Grok, ferramenta de inteligência artificial ligada à rede social X, após a disseminação de imagens falsas sexualizadas de mulheres e crianças. Reino Unido abriu investigação, enquanto Indonésia e Malásia suspenderam o uso da tecnologia.
Investigação e suspensões internacionais
O Reino Unido abriu nesta segunda‑feira (12) uma investigação contra o Grok, IA associada ao empresário Elon Musk, após denúncias envolvendo a criação de imagens íntimas falsas sem consentimento, inclusive de menores.
Além do Reino Unido, Indonésia e Malásia determinaram a suspensão da ferramenta, enquanto a Índia solicitou explicações formais à plataforma X e cobrou medidas adicionais de proteção contra esse tipo de conteúdo.
Na França, autoridades relataram ao regulador de mídia imagens que mostrariam menores em contextos sexualizados, o que ampliou a pressão internacional sobre a empresa.
Deepfakes e falhas admitidas
As manipulações, conhecidas como deepfakes, utilizam inteligência artificial para alterar imagens reais. Embora não sejam uma prática nova, os casos se intensificaram nas últimas semanas dentro do X, impulsionados pelo acesso à ferramenta gratuita do Grok.
Após as denúncias, o Grok reconheceu falhas nos mecanismos de proteção e afirmou que ajustes estariam sendo implementados para evitar novos episódios.
Casos no Brasil e reação institucional
No Brasil, o tema ganhou repercussão após o relato de vítimas que tiveram imagens manipuladas sem autorização. Entre os casos está o da jornalista Julie Yukari, que registrou ocorrência policial.
O Instituto de Defesa do Consumidor (Idec) pediu ao governo federal a suspensão do Grok no país, alegando violação de direitos de mulheres e crianças.
Resposta da plataforma
Na semana passada, o X restringiu o uso do Grok para usuários pagantes. A empresa informou que remove conteúdos ilegais e bane permanentemente contas envolvidas em violações.
“Qualquer pessoa que utilize ou provoque o Grok a produzir conteúdo ilegal sofrerá as mesmas consequências de quem publica material ilegal na plataforma”, informou a empresa.
Ação do Reino Unido
A investigação britânica está sendo conduzida pela Ofcom, que avalia se a plataforma descumpriu o dever legal de impedir o acesso a conteúdos ilegais.
O primeiro‑ministro Keir Starmer classificou as imagens como “repugnantes” e “ilegais” e declarou que o X precisa assumir controle efetivo da ferramenta.
No Reino Unido, é crime criar ou compartilhar imagens íntimas sem consentimento, incluindo aquelas geradas por inteligência artificial, especialmente quando envolvem menores.
A Ofcom informou que, em casos graves, pode solicitar à Justiça medidas como bloqueio da plataforma, retirada de serviços por anunciantes ou suspensão por provedores de internet.
