Uma versão de uma ferramenta de inteligência artificial que a própria empresa disse ser poderosa demais para ser liberada ao público acaba de ser disponibilizada. O Claude Fable 5 é uma versão do Claude Mythos, da Anthropic, que gerou preocupações entre líderes de tecnologia, finanças e governos quando foi lançada em abril para testes.
Uma mão segurando um smartphone usando o aplicativo Claude Mythos da Anthropic. As palavras 'Claude Mythos' aparecem na tela branca com o logotipo da empresa acima. Atrás da mão e do telefone, há outra versão do logotipo em uma parede preta.
Uma versão de uma ferramenta de inteligência artificial (IA) que a própria empresa disse ser poderosa demais para ser lançada ao público acaba de ser disponibilizada para o público.
- A Anthropic liberou o Claude Fable 5, uma versão mais segura do Claude Mythos
- O Mythos é tão inteligente que pode explorar ou invadir sistemas de computador
- Mais de 10.000 falhas de segurança foram encontradas por usuários do Mythos
- Governos dos EUA e do Canadá estão testando a ferramenta
- A empresa quer se tornar pública e já vale quase 1 trilhão de dólares
O Claude Fable 5 é uma versão do Claude Mythos, da empresa Anthropic, um programa de IA que causou preocupações sérias entre líderes de tecnologia, finanças e governos quando foi lançado em abril para testes.
Algumas pessoas temem que a ferramenta seja tão poderosa que possa representar riscos para a segurança financeira, embora outros questionem se parte do alvoroço não é apenas marketing.
A Anthropic disse na terça-feira que o Fable será lançado com medidas de segurança e limites para os usuários, embora tenha afirmado que 'lançar um modelo tão capaz traz riscos'.
'As capacidades do Fable superam as de qualquer modelo que já disponibilizamos ao público em geral', acrescentou.
Quando o Mythos foi lançado pela primeira vez para um pequeno grupo de organizações para teste, a Anthropic disse que estava fazendo isso porque a ferramenta era tão inteligente que poderia ser perigosa devido à sua capacidade de explorar ou invadir sistemas de computador.
O ministro das Finanças do Canadá, François-Philippe Champagne, disse à BBC em abril que a atenção sobre o Mythos era justificada, em parte, porque 'é o desconhecido desconhecido'.
Enquanto isso, apesar do processo em andamento da Anthropic contra o Departamento de Defesa dos EUA por sua recusa em aceitar o uso governamental de suas ferramentas de IA, agências do governo dos EUA também estão testando o Mythos.
A Anthropic deve se tornar uma empresa pública em breve, já que sua avaliação privada se aproxima de 1 trilhão de dólares (747 bilhões de libras). Mostrar consistentemente capacidades de IA melhores e mais amplas reforça seu valor para os investidores.
A empresa também disse na terça-feira que os cerca de 150 grupos que tiveram acesso para testar o Mythos agora terão acesso ao Claude Mythos 5, que não tem limitações em segurança cibernética ou biologia, dependendo dos usos específicos de cada organização.
Até agora, grupos e empresas que usam o Mythos relataram à Anthropic ter encontrado mais de 10.000 falhas críticas de segurança em seus sistemas.
A Anthropic disse que o acesso atualizado era limitado a um 'pequeno grupo de defensores cibernéticos e provedores de infraestrutura', mas deve se expandir em breve.
'Pretendemos expandir o acesso ao Mythos 5 por meio de um programa de acesso confiável mais amplo', disse a empresa.
Tanto o Fable quanto o Mythos, que são essencialmente o mesmo modelo, mas com diferentes medidas de segurança e níveis de acesso, podem trabalhar 'sem supervisão' em comandos humanos que recebem por períodos mais longos do que qualquer modelo anterior da Claude, acrescentou a Anthropic.
Jack Clark, cofundador da Anthropic, disse na semana passada ao BBC Newsnight que a capacidade das ferramentas de IA estava se expandindo tão rapidamente que a empresa achava que deveria haver uma maneira de o público desacelerar o avanço da tecnologia.
'Você quer a opção de tirar o pé do acelerador e colocar o pé no freio', disse Clark. 'Agora, é como se a indústria de IA tivesse um acelerador, mas não tivesse um pedal de freio.'
