A empresa Anthropic lançou uma nova versão do seu programa de inteligência artificial, chamado Claude Fable 5, mesmo tendo dito antes que ele era perigoso para usar em público. Especialistas em tecnologia, finanças e governo ficaram preocupados, pois a ferramenta pode ser tão inteligente que poderia invadir sistemas de computador. A empresa colocou algumas regras de segurança, mas admite que liberar esse modelo tem riscos.
Getty Images
Uma versão de uma ferramenta de inteligência artificial (IA) que a própria empresa disse ser poderosa demais para ser liberada ao público acaba de ser liberada ao público.
O Claude Fable 5 é uma versão do Claude Mythos, da Anthropic, um programa de IA que causou preocupações sérias entre líderes de tecnologia, finanças e governo quando foi lançado em particular em abril para prévia e testes.
- A Anthropic chamou o Claude Mythos de 'poderoso demais' antes de lançar o Claude Fable 5
- Especialistas em tecnologia, finanças e governo ficaram alarmados com os riscos de segurança
- O Mythos já encontrou mais de 10.000 falhas de segurança em sistemas de empresas
- O Canadá chamou a atenção para o 'desconhecido desconhecido' da ferramenta
- A Anthropic está perto de se tornar uma empresa de capital aberto, avaliada em quase US$ 1 trilhão
Alguns temem que a ferramenta seja tão poderosa que possa representar riscos à segurança financeira, embora outros questionem se parte do alvoroço é apenas marketing.
A Anthropic disse na terça-feira que o Fable será lançado com salvaguardas e limitações para os usuários, embora tenha dito que 'liberar um modelo tão capaz traz riscos'.
'As capacidades do Fable superam as de qualquer modelo que já disponibilizamos ao público em geral', acrescentou.
Como o Mythos funcionava antes
Quando o Mythos foi lançado pela primeira vez para um pequeno grupo de organizações para pré-visualizar a ferramenta, a Anthropic disse que estava fazendo isso porque a ferramenta era tão inteligente que poderia ser perigosa devido à sua capacidade de explorar ou invadir sistemas de computador.
O ministro das Finanças do Canadá, François-Philippe Champagne, disse à BBC em abril que a atenção sobre o Mythos era justificada, em parte, porque 'é o desconhecido desconhecido'.
Enquanto isso, apesar do processo em andamento da Anthropic contra o Departamento de Defesa dos EUA por sua recusa em aceitar o uso governamental de suas ferramentas de IA, agências governamentais dos EUA também estão testando o Mythos.
A Anthropic deve se tornar uma empresa de capital aberto em breve, já que sua avaliação privada se aproximou de US$ 1 trilhão (£ 747 bilhões). Mostrar consistentemente capacidades de IA melhores e mais amplas reforça seu valor para os investidores.
O que muda com o Claude Fable 5
A empresa também disse na terça-feira que os cerca de 150 grupos que tiveram acesso à prévia do Mythos agora terão acesso ao Claude Mythos 5, que não tem limitações em segurança cibernética ou biologia, dependendo dos usos específicos de uma organização.
Até agora, grupos e empresas que usam o Mythos relataram à Anthropic ter encontrado mais de 10.000 falhas críticas de segurança em seus sistemas.
A Anthropic disse que o acesso atualizado era limitado a um 'pequeno grupo de defensores cibernéticos e provedores de infraestrutura', mas deve ir além disso em breve.
'Pretendemos expandir o acesso ao Mythos 5 por meio de um programa de acesso confiável mais amplo', disse a empresa.
Tanto o Fable quanto o Mythos, que são essencialmente o mesmo modelo, mas com diferentes salvaguardas e níveis de acesso, podem trabalhar 'sem supervisão' em comandos humanos por períodos mais longos 'do que qualquer modelo Claude anterior', acrescentou a Anthropic.
O cofundador da Anthropic, Jack Clark, disse na semana passada ao BBC Newsnight que a capacidade das ferramentas de IA estava se expandindo tão rapidamente que a empresa achava que deveria haver uma maneira de o público desacelerar o avanço da tecnologia.
'Você quer a opção de tirar o pé do acelerador e pisar no freio', disse Clark. 'Agora, é como se a indústria de IA tivesse um acelerador, mas não tivesse um pedal de freio.'
