A estimativa pode significar potencialmente centenas de milhares de usuários que apresentam sinais de sofrimento mental semanalmente.
A OpenAI divulgou novas estimativas do número de usuários do ChatGPT que exibem possíveis sinais de emergências de saúde mental, incluindo mania, psicose ou pensamentos suicidas. A empresa disse que cerca de 0,07% dos usuários do ChatGPT ativos em uma determinada semana apresentaram esses sinais, acrescentando que seu chatbot de inteligência artificial (IA) reconhece e responde a essas conversas sensíveis. Embora a OpenAI afirme que esses casos são "extremamente raros", os críticos disseram que mesmo uma pequena porcentagem pode chegar a centenas de milhares de pessoas, já que o ChatGPT atingiu recentemente 800 milhões de usuários ativos semanais, de acordo com o chefe Sam Altman. Conforme a análise aumenta, a empresa disse que construiu uma rede de especialistas em todo o mundo para aconselhá-la. Esses especialistas incluem mais de 170 psiquiatras, psicólogos e médicos de atenção primária que atuaram em 60 países, disse a empresa. Eles elaboraram uma série de respostas no ChatGPT para incentivar os usuários a procurar ajuda no mundo real, de acordo com a OpenAI. Mas a visão dos dados da empresa levantou sobrancelhas entre alguns profissionais de saúde mental. "Embora 0,07% pareça uma pequena porcentagem, em nível populacional com centenas de milhões de usuários, na verdade pode ser um bom número de pessoas", disse o Dr. Jason Nagata, professor que estuda o uso da tecnologia entre jovens adultos na Universidade da Califórnia, San Francisco. "A IA pode ampliar o acesso ao apoio à saúde mental e, de certa forma, apoiar a saúde mental, mas devemos estar cientes das limitações", acrescentou o Dr. Nagata. A empresa também estima que 0,15% dos usuários do ChatGPT têm conversas que incluem "indicadores explícitos de possível planejamento ou intenção suicida". A OpenAI disse que as atualizações recentes em seu chatbot são projetadas para "responder com segurança e empatia a possíveis sinais de delírio ou mania" e observar "sinais indiretos de potencial automultilação ou risco de suicídio". O ChatGPT também foi treinado para redirecionar conversas sensíveis "originadas de outros modelos para modelos mais seguros" abrindo em uma nova janela. Em resposta a perguntas da BBC sobre críticas ao número de pessoas potencialmente afetadas, a OpenAI disse que essa pequena porcentagem de usuários equivale a uma quantidade significativa de pessoas e observou que estão levando as mudanças a sério. As mudanças vêm à medida que a OpenAI enfrenta crescente escrutínio legal sobre a forma como o ChatGPT interage com os usuários. Em um dos processos judiciais de maior destaque recentemente movidos contra a OpenAI, um casal da Califórnia processou a empresa pela morte de seu filho adolescente, alegando que o ChatGPT o encorajou a tirar sua própria vida em abril. A ação foi movida pelos pais de Adam Raine, de 16 anos, e foi a primeira ação legal acusando a OpenAI de homicídio culposo. Em um caso separado, o suspeito de um assassinato-suicídio que ocorreu em agosto em Greenwich, Connecticut, postou horas de suas conversas com o ChatGPT, que parecem ter alimentado os delírios do suposto perpetrador. Mais usuários lutam contra a psicose de IA, pois "chatbots criam a ilusão da realidade", disse a professora Robin Feldman, diretora do AI Law & Innovation Institute da Faculdade de Direito da Universidade da Califórnia. "É uma ilusão poderosa." Ela disse que a OpenAI merecia crédito por "compartilhar estatísticas e por esforços para melhorar o problema", mas acrescentou: "a empresa pode colocar todos os tipos de avisos na tela, mas uma pessoa que corre risco mental pode não ser capaz de prestar atenção a esses avisos".
