Empresa de Musk anunciou que vai bloquear no X as funções do Grok que permitiam criar imagens sexualizadas de pessoas reais, incluindo menores
Foto: Lionel Bonaventure/AFP
Após pressão internacional e investigações legais, Elon Musk anuncia restrições à ferramenta de IA que permitia gerar deepfakes de mulheres e crianças. A medida aplica-se a países onde a prática é ilegal, incluindo o Reino Unido.
O grupo de Elon Musk anunciou novas restrições à ferramenta de inteligência artificial Grok, que estava a ser utilizada para criar imagens sexualizadas de pessoas reais, incluindo mulheres e crianças, vestidas apenas com roupa interior ou biquíni. As alterações aplicam-se a países onde a prática é ilegal, como o Reino Unido, e visam garantir o cumprimento da legislação local que entra em vigor esta semana.
A decisão surge duas semanas depois de uma intensa onda de críticas públicas. O primeiro-ministro britânico, Keir Starmer, descreveu como "horrível" a decisão inicial de manter a função disponível para subscritores pagos. A secretária de Estado da Tecnologia, Liz Kendall, acrescentou que a situação configurava "um insulto adicional às vítimas, monetizando um crime horrível".
O regulador britânico de media, Ofcom, lançou uma investigação formal sobre a plataforma, depois de receber relatos "profundamente preocupantes" sobre a criação e partilha de imagens íntimas não consentidas e material de abuso sexual infantil. Um porta-voz afirmou: "O X implementou medidas para impedir a criação de imagens íntimas de pessoas. É um passo positivo, mas a investigação continua."
Pressão global e ações legais
Nos Estados Unidos, o procurador-geral da Califórnia, Rob Bonta, anunciou uma investigação sobre a xAI, empresa responsável pelo Grok, considerando que a ferramenta facilita o assédio de mulheres e menores através de deepfakes sexuais. "A avalanche de relatórios sobre material sexual não consensual gerado e divulgado pela xAI é chocante", disse, apelando à ação imediata da empresa.
O governador Gavin Newsom classificou a situação como "repugnante" e denunciou a criação de um "ambiente propício à disseminação de deepfakes sexuais não consensuais, incluindo crianças". Apesar das acusações, Elon Musk afirmou que "não estou ciente de qualquer imagem nua de menores gerada pelo Grok. Literalmente zero."
A polémica levou países como a Indonésia e a Malásia a bloquear totalmente o acesso à ferramenta, enquanto a Índia exigiu a remoção de milhares de publicações e centenas de contas de utilizadores. Três senadores democratas dos EUA pediram à Apple e à Google a remoção do X e do Grok das suas lojas. Na Europa, a Comissão Europeia determinou que a X preserve toda a documentação interna relacionada com a ferramenta até ao final de 2026.
Em comunicado, a empresa afirmou que mantém "tolerância zero para exploração sexual infantil, nudez não consensual e conteúdo sexual indesejado" e que tomará medidas contra contas que violem as regras da plataforma. Musk acrescentou que o Grok apenas gera imagens mediante pedidos dos utilizadores e que qualquer violação da lei será tratada como crime equivalente a carregar conteúdo ilegal.
A criação e edição de imagens pelo Grok ficará disponível apenas para subscritores pagos, numa tentativa de responsabilizar quem tenta usar a ferramenta de forma abusiva. Especialistas alertam, contudo, que restrições como paywalls podem não impedir completamente o acesso a recursos mais avançados da IA.
O caso intensifica o debate global sobre os limites éticos da inteligência artificial, a proteção de menores e a necessidade de legislação rápida para regular conteúdos digitais.