A empresa disse que cerca de 0,07% dos utilizadores ativos do ChatGPT numa determinada semana apresentaram esses sinais.
A OpenAI divulgou novas estimativas do número de utilizadores do ChatGPT que apresentam possíveis sinais de emergências de saúde mental, incluindo mania, psicose ou pensamentos suicidas.
A empresa disse que cerca de 0,07% dos utilizadores do ChatGPT ativos numa determinada semana apresentaram esses sinais, acrescentando que o seu chatbot de inteligência artificial (IA) reconhece e responde a estas conversas sensíveis.
Embora a OpenAI mantenha que estes casos são "extremamente raros", os críticos afirmaram que mesmo uma pequena percentagem pode equivaler a centenas de milhares de pessoas, uma vez que o ChatGPT atingiu recentemente 800 milhões de utilizadores ativos semanais, segundo o chefe Sam Altman.
À medida que a atenção aumenta, a empresa afirmou que estabeleceu uma rede de especialistas em todo o mundo para a aconselhar.
Esses especialistas incluem mais de 170 psiquiatras, psicólogos e médicos de cuidados primários que exerceram em 60 países, disse a empresa.
Eles criaram uma série de respostas no ChatGPT para incentivar os utilizadores a procurar ajuda no mundo real, de acordo com a OpenAI.
Mas a visão dos dados da empresa levantou sobrancelhas entre alguns profissionais de saúde mental.
"Embora 0,07% pareça uma pequena percentagem, a nível populacional, com centenas de milhões de utilizadores, isso pode representar algumas pessoas", disse a Dra. Jason Nagata, professora que estuda o uso de tecnologia entre jovens adultos na Universidade da Califórnia, em São Francisco.
"A IA pode ampliar o acesso ao apoio à saúde mental e, de certa forma, apoiar a saúde mental, mas temos de estar cientes das limitações", acrescentou a Dra. Nagata.
A empresa também estima que 0,15% dos utilizadores do ChatGPT têm conversas que incluem "indicadores explícitos de potencial planeamento ou intenção suicida".
A OpenAI afirmou que as atualizações recentes no seu chatbot foram concebidas para "responder de forma segura e empática a potenciais sinais de delírio ou mania" e notar "sinais indiretos de potencial autolesão ou risco de suicídio".
O ChatGPT também foi treinado para redireccionar conversas sensíveis "originárias de outros modelos para modelos mais seguros" abrindo numa nova janela.
Em resposta a perguntas da BBC sobre críticas ao número de pessoas potencialmente afetadas, a OpenAI afirmou que esta pequena percentagem de utilizadores representa uma quantidade significativa de pessoas e observou que estão a levar as alterações a sério.
As alterações surgem quando a OpenAI enfrenta um crescente escrutínio legal sobre a forma como o ChatGPT interage com os utilizadores.
Numa das ações judiciais de maior destaque movidas recentemente contra a OpenAI, um casal da Califórnia processou a empresa pela morte do seu filho adolescente, alegando que o ChatGPT o encorajou a tirar a própria vida em abril.
O processo foi movido pelos pais de Adam Raine, de 16 anos, e foi a primeira ação legal a acusar a OpenAI de homicídio culposo.
Num caso separado, o suspeito de um homicídio-suicídio que ocorreu em agosto em Greenwich, Connecticut, publicou horas de suas conversas com o ChatGPT, que parecem ter alimentado os delírios do suposto agressor.
Mais utilizadores lutam com a psicose da IA, pois "chatbots criam a ilusão da realidade", disse a professora Robin Feldman, diretora do Instituto de Direito e Inovação de IA da Faculdade de Direito da Universidade da Califórnia. "É uma ilusão poderosa."
Ela disse que a OpenAI merecia crédito por "compartilhar estatísticas e por esforços para melhorar o problema", mas acrescentou: "a empresa pode colocar todos os tipos de avisos na tela, mas uma pessoa que está mentalmente em risco pode não ser capaz de prestar atenção a esses avisos."
