Hollie Dance encontrou o filho inconsciente em casa, com uma ligadura à volta do pescoço. A 7 de abril, Archie, 12 anos, apaixonado por ginástica e artes marciais, olhos azuis imensos capazes de abraçar o mundo, entrava num estado de ausência de que jamais sairia. Incapazes de aceitar que o seu menino estava irremediavelmente perdido, os pais encetaram, durante quatro longos meses, uma luta judicial para impedir que as máquinas que mantinham as funções básicas fossem desligadas. O epílogo da trágica história escreveu-se agora com o corte do suporte de vida.
Archie teria participado num desafio, denominado "blackout challenge", que consiste em apertar o pescoço, com recurso a uma corda, um cinto ou outro meio, até perder os sentidos. O perverso jogo, viralizado no TikTok mas anterior às redes sociais, já terá causado a morte de pelo menos outras cinco crianças por privação de oxigénio no cérebro. Os pais de duas meninas americanas processaram o gigante chinês, acusando-o de promover estes comportamentos ao apresentar repetidamente conteúdos nocivos a jovens ainda sem capacidade crítica para avaliar o risco.
Mas, afinal, como funciona o algoritmo da plataforma de vídeos mais bem-sucedida do Mundo? Em dezembro do ano passado, o "The New York Times" teve acesso a um documento com a estratégia para contornar o aborrecimento dos utilizadores e torná-los verdadeiramente viciados em determinados conteúdos. Na prática, o algoritmo bombardeia, de forma cega como qualquer mecanismo de Inteligência Artificial (IA), os "feeds" com vídeos com potencial de fidelização - sejam inofensivas travessuras de gatinhos ou desafios suicidas - ou que são "trends", capitalizando a necessidade de alinhar com tendências. Estaremos reféns de algoritmos? Stuart Russell, professor da Universidade da Califórnia e pioneiro no estudo do perigo do descontrolo da IA, considera que a ameaça é real e global, ainda que invisível, e que é urgente o redesenho dos algoritmos e das métricas de funcionamento das redes sociais.
Para Archie, e os seus pais, será sempre demasiado tarde.
*Editora-executiva-adjunta