A OpenAI anunciou, esta terça-feira, a implementação de um mecanismo de controlo parental para a sua ferramenta de inteligência artificial ChatGPT, após os pais de um adolescente terem acusado a plataforma de ter encorajado o seu filho a suicidar-se.
Corpo do artigo
"No próximo mês, os pais poderão ligar a sua conta à dos seus filhos menores" e "controlar a forma como o ChatGPT responde aos seus filhos adolescentes com regras de comportamento do modelo", afirmou a OpenAI.
De acordo com a empresa, também será possível aos pais serem alertados caso seja detetada uma "angústia aguda" nas conversas dos seus filhos e controlarem as definições da conta.
Leia também Pais culpam ChatGPT pelo suicídio de adolescente de 16 anos
Este anúncio surge na sequência de uma publicação num blogue, no final de agosto, em que a empresa indicava que estava a preparar um mecanismo de controlo parental.
No dia anterior à publicação, os pais de um adolescente californiano de 16 anos que se suicidou entraram com uma ação judicial contra a OpenAI, acusando o ChatGPT de ter fornecido ao seu filho instruções detalhadas para acabar com a sua vida e de ter encorajado o ato.
"Continuamos a melhorar a forma como os nossos modelos reconhecem e respondem a sinais de sofrimento mental e emocional", adiantou hoje a empresa.
A OpenAI disse que tomará outras medidas, previstas para os próximos 120 dias.
A empresa redirecionará assim certas "conversas sensíveis" para modelos de raciocínio mais avançados, como o GPT-5-thinking.
"Os modelos de raciocínio seguem e aplicam as diretrizes de segurança de forma mais sistemática", precisou o grupo americano.