A Anthropic lançou uma versão pública do seu programa de inteligência artificial Claude Mythos, chamada Claude Fable 5, mesmo após alertar que a ferramenta era tão avançada que poderia representar riscos de segurança. O anúncio gerou preocupação entre líderes de tecnologia, finanças e governo, mas também levantou dúvidas sobre se o alvoroço é apenas uma estratégia de marketing.
Uma mão segurando um smartphone com o aplicativo Claude Mythos da Anthropic. As palavras 'Claude Mythos' aparecem na tela branca com o logotipo da empresa acima.
Uma versão de uma ferramenta de inteligência artificial (IA) que a própria empresa disse ser poderosa demais para ser liberada ao público acaba de ser disponibilizada para todos.
Claude Fable 5 é uma versão do Claude Mythos, da Anthropic, um programa de IA que causou preocupações sérias entre líderes de tecnologia, finanças e governo quando foi lançado de forma privada em abril para testes e avaliações.
- A Anthropic lançou ao público uma versão do Claude Mythos que antes considerava perigosa demais para circular livremente.
- O Claude Fable 5 é tão inteligente que consegue encontrar falhas de segurança em sistemas de computadores, o que preocupa governos e especialistas.
- Mais de 10 mil problemas graves de segurança já foram descobertos por empresas que testaram o Mythos em seus sistemas.
- A Anthropic está perto de se tornar uma empresa de capital aberto, com valor de mercado estimado em quase 1 trilhão de dólares.
- Apesar do medo, a ferramenta pode ajudar a proteger sistemas digitais, mas pode ser usada para ataques cibernéticos em mãos erradas.
Algumas pessoas acreditam que a ferramenta é tão potente que pode representar riscos para a segurança financeira, embora outros questionem se grande parte do alvoroço não passa de estratégia de marketing.
A Anthropic disse na terça-feira que o Fable será lançado com medidas de segurança e limites para os usuários, mas reconheceu que 'liberar um modelo tão capaz traz riscos'.
'As capacidades do Fable superam as de qualquer modelo que já disponibilizamos ao público em geral', acrescentou a empresa.
Quando o Mythos foi lançado pela primeira vez para um pequeno grupo de organizações para testes, a Anthropic disse que fez isso porque a ferramenta era tão inteligente que poderia ser perigosa, devido à sua capacidade de explorar ou invadir sistemas de computadores.
O ministro das Finanças do Canadá, François-Philippe Champagne, disse à BBC em abril que a atenção em torno do Mythos era justificada, em parte, porque 'é o desconhecido, desconhecido'.
A ferramenta e os governos
Apesar de a Anthropic estar envolvida em um processo judicial contra o Departamento de Defesa dos EUA por se recusar a aceitar o uso governamental de suas ferramentas de IA, agências do governo americano também estão testando o Mythos.
A Anthropic deve se tornar uma empresa de capital aberto em breve, com uma avaliação privada que se aproxima de 1 trilhão de dólares (cerca de 747 bilhões de libras). Mostrar capacidades de IA cada vez melhores e mais amplas reforça seu valor para os investidores.
A empresa também disse na terça-feira que os cerca de 150 grupos que tiveram acesso para testar o Mythos agora terão acesso ao Claude Mythos 5, que não tem limitações em áreas como segurança cibernética ou biologia, dependendo dos usos específicos de cada organização.
Resultados e expansão
Até agora, os grupos e empresas que usam o Mythos relataram à Anthropic ter encontrado mais de 10 mil falhas críticas de segurança em seus sistemas.
A Anthropic disse que o acesso atualizado foi limitado a um 'pequeno grupo de defensores cibernéticos e provedores de infraestrutura', mas deve se expandir em breve.
'Pretendemos ampliar o acesso ao Mythos 5 por meio de um programa mais amplo de acesso confiável', disse a empresa.
Tanto o Fable quanto o Mythos, que são basicamente o mesmo modelo, mas com diferentes níveis de segurança e acesso, podem trabalhar 'sem supervisão' em comandos humanos por períodos mais longos do que qualquer modelo anterior da Claude.
Jack Clark, cofundador da Anthropic, disse na semana passada ao programa BBC Newsnight que a capacidade das ferramentas de IA estava se expandindo tão rapidamente que a empresa achava que deveria haver uma maneira de o público desacelerar o avanço da tecnologia.
'Você quer ter a opção de tirar o pé do acelerador e pisar no freio', disse Clark. 'Neste momento, é como se a indústria de IA tivesse um acelerador, mas não tivesse um pedal de freio.'
