Imagens manipuladas por inteligência artificial continuam a circular em redes sociais, gerando preocupação sobre conteúdos não consentidos e exploração digital.
Foto: Lionel Bonaventure/AFP
Apesar de prometer suspender utilizadores, plataforma de Elon Musk enfrenta críticas de vítimas, reguladores e legisladores, incluindo a mãe de um dos seus filhos, Ashley St Clair. A disseminação de imagens manipuladas sem consentimento mantém-se e preocupa autoridades em vários países.
A circulação de imagens sexualizadas de mulheres e crianças através do assistente de inteligência artificial Grok mantém-se ativa no X, rede social de Elon Musk, mesmo após promessas de suspender contas que criem conteúdos ilícitos. Entre as vítimas encontra-se Ashley St Clair, ex-companheira de Musk e mãe de um dos seus filhos, que denunciou ter imagens suas manipuladas digitalmente desde a adolescência.
O regulador britânico Ofcom informou que fez contacto "urgente" com o X e a sua empresa associada, xAI, para compreender quais medidas foram adotadas para proteger os utilizadores no Reino Unido. A autoridade sublinhou que poderá abrir uma investigação, dependendo da resposta que receber.
A polémica aumentou após uma atualização em dezembro do Grok, que facilitou a edição de fotografias, permitindo colocar pessoas em lingerie ou em poses sexualizadas, embora a plataforma afirme não permitir nudez total.
Ashley St Clair relatou ao "Guardian" que uma foto sua aos 14 anos foi transformada pela IA, colocando-a de biquíni: "Senti-me horrorizada e violada, especialmente ao ver a mochila do meu filho ao fundo", explicou, referindo que o caso se insere num padrão de assédio digital dirigido a mulheres.
Investigadores da organização francesa AI Forensics analisaram dezenas de milhares de menções ao @Grok e imagens criadas entre 25 de dezembro e 1 de janeiro. Concluíram que mais de metade das imagens envolvia pessoas em "traje mínimo", com predominância de mulheres jovens, e que 2% incluíam menores de 18 anos, algumas até com menos de cinco anos.
Respostas insuficientes e indignação pública
Elon Musk chegou a reagir com emojis de riso, mas depois afirmou que qualquer utilização do Grok para conteúdos ilegais terá consequências legais equivalentes a carregar material ilícito.
Um porta-voz do X garantiu que conteúdos ilegais são removidos, contas são suspensas e as autoridades locais contactadas sempre que necessário. No entanto, St Clair afirma que o processo de remoção tem sido lento e que muitas imagens permaneceram visíveis durante horas.
Enquanto a criação de imagens digitais de crianças despidas já é proibida no Reino Unido, a legislação relativa a deepfakes de adultos ainda não entrou em vigor. Especialistas e legisladores alertam que a demora na implementação da lei deixa vítimas expostas e impede punições efetivas.
Para St Clair, o abuso aumentou após se ter queixado publicamente. "Se és mulher, não podes postar fotos nem falar, senão és alvo. Estão a tentar expulsar-nos da conversa", disse, acrescentando que a situação é um problema de direitos civis e assédio digital.