A empresa Anthropic lançou uma nova versão do seu programa de inteligência artificial, o Claude Mythos, que antes era considerado poderoso demais para ser usado pelo público em geral. O novo modelo, chamado Claude Fable 5, pode trabalhar sozinho por longos períodos e já causou preocupação entre líderes do governo, da tecnologia e das finanças, que temem riscos à segurança financeira e ataques a sistemas de computadores. A empresa diz que colocou limites de segurança, mas admite que liberar uma ferramenta tão capaz traz riscos.
Getty Images: Pessoa segurando smartphone com o aplicativo Claude Mythos da Anthropic.
Uma versão de uma ferramenta de inteligência artificial (IA) que a empresa disse ser poderosa demais para ser liberada ao público acaba de ser liberada ao público.
- A Anthropic liberou o Claude Fable 5, uma versão mais forte do Claude Mythos, que antes era considerado perigoso.
- O modelo pode trabalhar sozinho por horas em tarefas dadas por humanos, algo que nenhum modelo anterior conseguia fazer.
- Mais de 10.000 falhas de segurança foram encontradas em sistemas de empresas que testaram o Mythos.
- A empresa está sendo processada pelo Departamento de Defesa dos EUA por não permitir que o governo use suas ferramentas de IA.
- A Anthropic pode abrir seu capital em breve, com valor estimado em quase 1 trilhão de dólares.
Claude Fable 5 é uma versão do Claude Mythos da Anthropic, um programa de IA que causou sérias preocupações entre líderes da tecnologia, finanças e governo quando foi liberado em particular em abril para pré-visualização e testes.
Alguns temem que a ferramenta seja tão poderosa que possa representar riscos à segurança financeira, embora outros tenham questionado o quanto do alvoroço é apenas marketing.
A Anthropic disse na terça-feira que o Fable será liberado com salvaguardas e limitações de uso, embora tenha dito que 'liberar um modelo tão capaz traz riscos'.
'As capacidades do Fable superam as de qualquer modelo que já disponibilizamos ao público em geral', acrescentou.
Quando o Mythos foi liberado pela primeira vez para um pequeno grupo de organizações para pré-visualizar a ferramenta, a Anthropic disse que estava fazendo isso porque a ferramenta era tão inteligente que poderia ser perigosa devido à sua capacidade de explorar ou hackear sistemas de computadores.
O ministro das Finanças do Canadá, François-Philippe Champagne, disse à BBC em abril que a atenção sobre o Mythos era justificada, em parte, porque 'é o desconhecido desconhecido'.
Enquanto isso, apesar do processo em andamento da Anthropic contra o Departamento de Defesa dos EUA por sua recusa em aceitar o uso governamental de suas ferramentas de IA, agências governamentais dos EUA também estão testando o Mythos.
A Anthropic deve se tornar uma empresa pública em breve, já que sua avaliação privada se aproximou de US$ 1 trilhão (£ 747 bilhões). Mostrar consistentemente capacidades de IA melhores e mais amplas reforça seu valor para os investidores.
A empresa também disse na terça-feira que os aproximadamente 150 grupos que tiveram acesso para pré-visualizar o Mythos agora terão acesso ao Claude Mythos 5, que não tem limitações em segurança cibernética ou biologia, dependendo dos usos específicos de uma organização.
Até agora, grupos e empresas que usam o Mythos relataram à Anthropic que encontraram mais de 10.000 falhas críticas de segurança em seus sistemas.
A Anthropic disse que o acesso atualizado foi limitado a um 'pequeno grupo de defensores cibernéticos e provedores de infraestrutura', mas espera-se que vá além disso em breve.
'Pretendemos expandir o acesso ao Mythos 5 por meio de um programa de acesso confiável mais amplo', disse a empresa.
Tanto o Fable quanto o Mythos, que são essencialmente o mesmo modelo, mas com diferentes salvaguardas e níveis de acesso, podem trabalhar 'sem supervisão' em comandos humanos que são dados às ferramentas por períodos mais longos 'do que qualquer modelo anterior do Claude'. A Anthropic acrescentou.
O cofundador da Anthropic, Jack Clark, disse na semana passada à BBC Newsnight que a capacidade das ferramentas de IA estava se expandindo tão rapidamente que a empresa pensou que deveria haver uma maneira de o público desacelerar o avanço da tecnologia.
'Você quer a opção de poder tirar o pé do acelerador e colocar o pé no freio', disse Clark. 'Neste momento, é como se a indústria de IA tivesse um pedal do acelerador, mas não tivesse um pedal de freio.'
