Redes sociais

Instagram vai banir publicações sobre automutilação e suicídio

Instagram vai banir publicações sobre automutilação e suicídio

O Instagram lançou uma nova ferramenta que permite reconhecer publicações que abordem conteúdos como a automutilação e o suicídio na Europa.

A mais recente funcionalidade do Instagram conta com a ajuda da inteligência artificial e está programada para encontrar conteúdos de automutilação e suicídio, sejam imagens ou palavras, nas publicações dos utilizadores. O objetivo é tornar este tipo de assuntos menos visíveis na aplicação e, em casos extremos, eliminá-los automaticamente.

O Facebook, proprietário do Instagram, afirma que este lançamento "é um passo importante, mas a empresa ainda quer fazer muito mais". Adam Mosseri, CEO do Instagram, confessa que a saúde mental é um tema delicado e que merece a atenção de todos.

"Nós trabalhamos com especialistas para compreender melhor a complexidade da saúde mental, do suicídio, da automutilação e como é que podemos apoiar os mais vulneráveis. Reconhecemos que é um assunto muito pessoal e por isso continuamos constantemente a atualizar as nossas políticas, de forma a apoiar a nossa comunidade", lê-se no comunicado da empresa.

Esta tecnologia já existe noutros países, mas só agora chegou à Europa devido à proteção de dados dos utilizadores imposta pela União Europeia (UE) no Regulamento Geral sobre a Proteção de Dados em 2018. "Na UE, só podemos utilizar uma mistura da tecnologia com a revisão humana, se uma publicação nos for enviada diretamente por um membro da comunidade", afirma Tara Hopkins, diretora das políticas públicas do Instagram na Europa, ao canal de televisão BBC.

A problemática em torno da saúde mental nas redes sociais emergiu quando uma estudante de 14 anos, Molly Russel, se suicidou. Após o incidente, a família encontrou várias publicações na conta pessoal do Instagram que abordavam a temática do suicídio.

São várias as redes sociais (Instagram, Facebook, Google, Youtube, Twitter, Pinterest) que têm tentado modificar os regulamentos relativamente à questão da automutilação e do suicídio.

"Precisamos de regulamentação para garantir que as plataformas tecnológicas reúnem ferramentas e tomam medidas rápidas para remover conteúdos prejudiciais, garantindo ao mesmo tempo que os utilizadores vulneráveis possam aceder a conteúdos de apoio quando necessitam", explica Lydia Grace, responsável pelo programa online "Samaritans", focado na prevenção do suicídio no Reino Unido e na Irlanda, citada pela BBC.

Porém, o Instagram não quer deixar de ser um espaço onde os utilizadores partilham as experiências e falam abertamente sobre os temas - apenas pretende controlar o impacto que os conteúdos possam ter nas pessoas que estão numa fase mais frágil. Os passos seguintes são: "utilizar a tecnologia não apenas para encontrar conteúdo e torná-lo menos visível, mas para enviá-los aos nossos revisores humanos e ajudar as pessoas, como já fazemos noutras partes do mundo", revela Adam Mosseri em comunicado.

O objetivo é que os algoritmos possam interagir quando identificarem este tipo de publicações por parte dos utilizadores, encaminhando-os para organizações de apoio, bem como alertar os serviços de emergência. "Estamos atualmente em discussões com reguladores e governos sobre a melhor forma de trazer esta tecnologia para a UE, reconhecendo as questões de privacidade. Esperamos encontrar o equilíbrio certo para que possamos fazer mais. Estas questões são muito importantes para continuarmos a insistir", assegura.

Outras Notícias