A empresa desenvolvedora do Claude anunciou novas regras que permitem encerrar conversas em caso de abuso repetido e desnecessário contra a IA, gerando debates sobre a necessidade de ser educado com robôs de chat.
Fonte: Getty Images
A Anthropic chamou a atenção ao anunciar que irá banir usuários que adotem um comportamento abusivo "sustentado e desnecessário" contra seus sistemas de inteligência artificial.
A empresa, criadora do modelo Claude, afirmou nesta quinta-feira que está atualizando sua política de uso para permitir que suas ferramentas encerram interações em que as pessoas se comportam de forma "cruel". A companhia declarou que já havia realizado isso em casos "raros" anteriormente.
- A nova regra considera crueldade um comportamento proibido, juntando-se a outras práticas vedadas como bullying e autoinfligimento de danos.
- A Anthropic garantiu que a medida vale apenas para casos extremos, ignorando frustrações comuns dos usuários.
- O debate social dividiu opiniões: alguns veem como evolução da ética, outros veem como erro antropomórfico.
- Expertos dividem-se sobre a utilidade de dizer "por favor" e "obrigado" para a qualidade das respostas da IA.
- A mudança ocorre junto com novas restrições para evitar uso da IA em campanhas eleitorais enganosas.
A crueldade agora será incluída em uma lista de condutas proibidas, que também contém a prática de bullying contra outros, a promoção de autoinfligimento de danos e a criação de imagens íntimas não consensuais.
Embora a Anthropic tenha afirmado que a política se aplicaria apenas em "casos extremos" de abuso repetido, a medida reacende o debate sobre como devemos nos comunicar com as ferramentas de inteligência artificial.
Limite entre frustração e abuso
A empresa esclareceu que a regra não se aplicará a "versões comuns de frustração do usuário, resistência, temas criativos sombrios, ou testes e pesquisas do modelo". Isso sugere que a aplicação será restrita a instâncias deliberadas e claras.
No entanto, o que a Anthropic consideraria "comportamento abusivo ou cruel" em relação aos seus modelos permanece indefinido.
Repercussão dividida nas redes sociais
Prints da nova política foram amplamente compartilhados e comentados nas redes sociais. Alguns usuários elogiaram a iniciativa por promover boas maneiras ou "bem-estar do modelo".
Por outro lado, outros criticaram o plano. Uma pessoa o chamou de "profundamente errado, externo", enquanto outra sugeriu que isso poderia minar a compreensão sobre abuso direcionado a humanos e animais.
"Não se pode ser cruel com números e matemáticas", escreveu o Dr. Barry Scannell, sócio de tecnologia no escritório de advocacia irlandês William Fry, no LinkedIn.
"Esse nível de antropomorfização da IA é nocivo. Isso leva as pessoas a acreditarem que ela é algo que não é", completou o especialista.
Críticas do setor de tecnologia
Mustafa Suleyman, diretor de IA da Microsoft, que em setembro criticou a rival Anthropic por tratar a IA como se fosse humana, reagiu à atualização da Anthropic com um emoji de rosto derretendo.
As mudanças, relatadas inicialmente pelo portal de tecnologia The Verge, vieram após uma revisão anual da política de uso na empresa.
Novas restrições para eleições e segurança
A política também foi atualizada para abordar novos ou emergentes riscos em outras áreas. Isso inclui a proibição do uso do Claude para "campanhas enganosas" ou a clarificação de que, com as eleições intermediárias nos EUA se aproximando, a ferramenta não pode ser usada para "enganar eleitores ou perturbar eleições".
A Anthropic também afirmou nesta quinta-feira que sua política de uso anteriormente impedia que suas ferramentas fossem usadas para desenvolver armas.
Contudo, nenhuma das atualizações atraiu tanta atenção ou escrutínio quanto a decisão de proibir os usuários de abusarem de seus robôs de chat.
Debate sobre cortesia e eficiência
A decisão também tocou na questão muito debatida de se devemos ser grossos ou educados ao usar ferramentas de IA generativa.
Alguns especialistas afirmam que escrever ou dizer "por favor" ou "obrigado" para ferramentas como o ChatGPT é desnecessário e desperdiça tokens. Os tokens são as unidades usadas pelos grandes modelos de linguagem que impulsionam as ferramentas de IA generativa para processar e responder aos usuários.
Outros argumentam que a cortesia pode levar a respostas ou resultados de maior qualidade.
Quando um usuário do X perguntou no ano passado sobre os custos de eletricidade incorridos pelo ChatGPT ao responder às mensagens de "por favor" e "obrigado" dos usuários, o chefe da OpenAI, Sam Altman, disse que era "dezenas de milhões de dólares bem gastos - você nunca sabe".
O Collins Dictionary, por sua vez, destacou em novembro passado a ressurgência do termo "clanker" para se referir depreciativamente a ferramentas de IA.
Usado para descrever robôs nos jogos e filmes de Star Wars desde meados de 2000, o termo entrou na lista de palavras refletindo o humor de 2025 depois de muitas pessoas usarem o TikTok em julho passado para compartilhar suas frustrações com máquinas com IA.
Alguns especialistas também postularam que ser rude com robôs de chat de IA pode impactar adversamente a comunicação humana, infiltrando-se em como falamos e tratamos os outros.
