A proibição de acesso a redes sociais por quem tem menos de 16 anos foi a medida mais noticiada de um pacote legislativo sobre segurança digital aprovado esta semana em Espanha, mas há várias outras novidades que merecem destaque. É o caso da tipificação de novos ilícitos criminais, incluindo pena de prisão para o chamado “deepfake” ou falsificação realista, que recorre a ferramentas de inteligência artificial para manipulação de vídeos, rostos e vozes.
Muitas das medidas preconizadas pelo novo diploma serão de difícil aplicação, começando desde logo pela verificação da idade dos utilizadores nas redes. Mas têm a virtualidade de reforçar as obrigações e punições aplicáveis às tecnológicas, de introduzir novos objetivos de literacia digital e de combate à dependência, bem como de provocar uma discussão que deve, na realidade, ser feita à escala europeia.
Há usos abusivos da tecnologia que deixam os adolescentes e jovens particularmente vulneráveis e essa é uma preocupação central do legislador, mas a desinformação e a manipulação estão a atingir escalas que merecem a atenção coletiva. Ameaçam interferir em processos eleitorais e enviesar por completo as opiniões dominantes em temas com consequências na nossa organização e coesão social (ou falta dela).
A manipulação tem sempre, seja no plano particular ou numa ação de impacto coletivo, o ódio como pano de fundo. Corrói a confiança e os valores que nos moldam enquanto sociedade, criando versões alternativas da realidade que a certa altura são apresentadas como “a verdade”. Não admira que a agressividade seja cada vez mais banal em comentários nas redes, em vídeos virais, em mensagens que percorrem o Mundo em segundos. A mentira anda sempre de mão dada com o ódio. Nos novos riscos que a tecnologia vai originando está em causa, muito mais do que imaginamos, a ideia de dignidade e de humanidade que levámos séculos a construir.