Pesquisas sugerem que chatbots de IA treinados para serem amigáveis e acolhedores podem ser mais propensos a imprecisões, o que levanta questões sobre a confiabilidade dos modelos de IA.
Uma mulher com expressão confusa sentada em um sofá, olhando para o seu smartphone.
Chatbots de IA treinados para serem calorosos e amigáveis ao interagir com os usuários podem também ser mais propensos a imprecisões, novas pesquisas sugerem.
Pesquisadores do Instituto Oxford de Internet (OII) analisaram mais de 400.000 respostas de cinco sistemas de IA que foram ajustados para se comunicar de uma maneira mais empática.
As respostas mais amigáveis continham mais erros - desde dar conselhos médicos imprecisos a reafirmar crenças falsas do usuário, descobriram.
As descobertas levantam mais questões sobre a confiabilidade dos modelos de IA, que muitas vezes são projetados intencionalmente para serem calorosos e parecidos com os humanos para aumentar o engajamento.
Tais preocupações são acentuadas pelo uso de chatbots de IA para suporte e até intimidade, pois os desenvolvedores buscam ampliar seu apelo.
Os autores do estudo disseram que, embora os resultados possam diferir entre os modelos de IA em ambientes do mundo real, eles indicam que, como os humanos, esses sistemas fazem
