Mais de um milhão de utilizadores semanais do ChatGPT revela pensamentos suicidas
Foto: Kirill Kudryavtsev/AFP
A OpenAI, empresa responsável pelo ChatGPT, divulgou, na segunda-feira, novas estimativas do número de utilizadores do chatbot que apresentam sinais de alarme relativamente à saúde mental. Entre as principais condições mentais detetadas estão a propensão para a psicose e pensamentos suicidas.
De acordo com uma publicação disponível no blogue da OpenAI, mais de um milhão de utilizadores do ChatGPT enviam mensagens todas as semanas que incluem "indicadores explícitos de potencial planeamento ou intenção suicida". A descoberta, que parte de uma atualização sobre como o chatbot lida com conversas sensíveis, é uma das declarações mais diretas da gigante tecnológica sobre a escala em que a IA pode exacerbar problemas de saúde mental.
Além disso, a empresa afirmou que cerca de 0.07% dos utilizadores ativos numa determinada semana (cerca de 560 mil pessoas face aos 800 milhões de utilizadores semanais) mostraram "possíveis sinais de emergências de saúde mental relacionadas com psicose ou mania", alertando que estas conversas eram difíceis de detetar ou medir e que se tratava de uma análise inicial.
A OpenAI já estabeleceu uma rede de especialistas com mais de 170 psiquiatras, psicólogos e médicos que atuam em 60 países, criando uma série de respostas utilizadas pelo chatbot para incentivar os utilizadores a procurar ajuda no mundo real.
"Como parte desse trabalho, psiquiatras e psicólogos reviram mais de 1800 respostas do modelo envolvendo situações graves de saúde mental e compararam as respostas do novo modelo de chat GPT-5 com os modelos anteriores", disse a OpenAI.
A visão dos profissionais
Estes dados provocaram espanto entre os profissionais de saúde mental, que há muito desconfiam da propensão deste tipo de chats para alimentar decisões e possíveis delírios dos utilizadores, independentemente de serem prejudiciais.
"Embora 0.07% pareça uma percentagem pequena, numa população com centenas de milhões de utilizadores, pode representar um número considerável", explicou à BBC Jason Nagata, professor que estuda o uso da tecnologia entre jovens adultos na Universidade da Califórnia, avisando que "a AI pode ampliar o acesso ao apoio à saúde mental e, de certa forma, apoiá-la, mas temos de estar cientes das limitações."
A empresa de tecnologia tem enfrentado um crescente escrutínio relativamente à forma como o ChatGPT interage com os utilizadores após os pais de um adolescente que cometeu suicídio levarem a empresa a tribunal, por alegado incentivo do chatbot.
Em sua defesa, a OpenAI explica que "os sintomas de saúde mental e sofrimento emocional estão universalmente presentes nas sociedades humanas" e a sua base de utilizadores crescente "significa que uma parte das conversas do ChatGPT vão incluir estas situações".