A OpenAI instruiu seus modelos de IA a interromperem as conversas sobre goblins, após encontrar o termo surgindo aleatoriamente nas respostas.
Getty Images A young woman holds a green mug and looks exasperated at an open laptop
A criadora do ChatGPT, OpenAI, teve que instruir algumas de suas ferramentas de IA a pararem de falar sobre goblins, depois de encontrar o termo se infiltrando aleatoriamente nas respostas.
Em uma postagem no blog na quinta-feira, a empresa disse que notou menções aumentadas às criaturas mitológicas, bem como gremlins, em metáforas usadas pelo ChatGPT e outras ferramentas alimentadas pelo seu último modelo principal, GPT-5.
Depois que usuários e funcionários sinalizaram problemas com descrições como "pequenos goblins", a OpenAI tomou medidas para mitigar o problema - incluindo instruir seu agente de codificação Codex a não se referir a eles a menos que seja relevante.
Descobriram que uma "personalidade nerd" que desenvolveram para o ChatGPT havia sido inadvertidamente incentivada a recompensar menções a goblins.
O problema destaca os desafios que as empresas de IA enfrentam ao lidar com o potencial de sistemas e seu treinamento recompensarem e reforçarem erros como peculiaridades linguísticas.
A OpenAI disse que notou primeiro menções aumentadas a goblins, gremlins e outras criaturas após o lançamento do GPT-5.1 em novembro.
