Ex-funcionário da Anthropic revelou que colegas trabalham assombrados com o medo de que a inteligência avançada acabe com a humanidade. Especialistas divergem: alguns alertam sobre riscos reais de extermínio em poucos anos, enquanto outros consideram o pânico exagerado e ligado a interesses financeiros das empresas.
Ex-funcionário da Anthropic alega que há chance de extinção humana devido à IA
Um pesquisador de inteligência artificial que deixou a empresa Anthropic declarou que os profissionais que trabalham na área estão "genuinamente assustados" com a velocidade dos avanços da tecnologia e suas possíveis consequências para a humanidade.
"Acredito que, se não desacelerarmos no ritmo atual de progresso, há uma chance forte de que possamos todos morrer no futuro imediato", afirmou o especialista.
Jacob Coxon falava à BBC após sua publicação sobre os perigos da IA ter se viralizado, em um momento de crescente preocupação com a segurança do setor. Ele tinha 27 anos quando saiu da empresa.
Seu ex-chefe, Dario Amodei, líder da Anthropic, recente pediu o ritmo lento no desenvolvimento da IA, embora alguns questionem as motivações por trás dessa proposta.
- Ex-pesquisador da Anthropic, Jacob Coxon, alertou para riscos iminentes de extinção humana.
- Líderes de grandes empresas de IA concordam em desacelerar e buscar regulações mais rígidas.
- Alguns especialistas acreditam que bots podem tomar o controle da internet em até um ano.
- Há debates sobre se o medo é genuíno ou uma estratégia para aumentar o valor das ações.
- Funcionários relatam ansiedade extrema, planejando a vida por causa do futuro incerto.
O chamado à desaceleração do setor
Os CEO de duas empresas rivais, Sam Altman, da OpenAI, e Elon Musk, da xAI, disseram concordar com a proposta de Amodei de um ritmo mais lento e regulamentação, além de uma monitoragem independente do desenvolvimento de modelos de IA.
Em um ensaio publicado no sábado, Amodei escreveu que desenvolver a tecnologia não estava em questão, mas os riscos associados a ela eram "sérios", e que empresas e governos precisam de tempo para lidará com eles.
Coxon, que trabalhou na OpenAI antes de a Anthropic, acolheu a sugestão de uma pausa, mas alertou que isso precisaria ser coordenado com a China para evitar "uma corrida em escala internacional".
Medo de apocalipse e cenários próximos
"As pessoas que trabalham nessas empresas são completamente sérias quando pedem regulamentação, porque se sentem presas em uma corrida. E elas temem os resultados dessa corrida", disse Coxon à apresentadora Laura Kuenssberg.
A pergunta mais difícil, segundo Coxon, era como seria o apocalipse da IA. Um dos riscos citados por Amodei era o de um enxame de robôs agindo como um supercomputador que poderia tomar o controle da internet.
Coxon disse que esse cenário poderia ser realista em seis meses a um ano. Em resposta à saída de Coxon, um porta-voz da Anthropic disse à BBC News: "Sempre nos mantivemos transparentes de que a IA trará enormes benefícios, mas também riscos sem precedentes".
"Para lidar com esses riscos, continuamos a construir modelos com alguns dos sistemas de segurança mais fortes do setor", acrescentou. A empresa foi pioneira no estudo de como os modelos de IA funcionam e foi a primeira a publicar um quadro de trabalho para mitigar os riscos de seu desenvolvimento, testando agresivamente seus modelos e publicando os resultados para evitar incidentes de "ma alinhamento da IA".
Divergências e críticas internas
Coxon disse que seus colegas temiam que o perigo pudesse chegar já nos próximos dois anos. Ele relatou que os funcionários das empresas de IA estavam "planejando o que fazer com suas vidas e pensando nos impactos de seu trabalho", enquanto alguns estavam "considerando comprar terras em algum lugar porque têm tanto medo da instabilidade causada pelo progresso rápido da IA".
"Eles mantêm isso em suas mentes diariamente enquanto trabalham com a tecnologia", relatou. Mas Coxon também tinha alguma esperança para o futuro da IA, dizendo à BBC que as pessoas que pesquisam a tecnologia "genuinamente querem ver o lado positivo", como "resolver doenças e melhorar a vida de todos".
Muitos outros na indústria também expressaram preocupações desde a publicação de Coxon, incluindo o cientista da Anthropic Evan Hubinger. "De fato, creemos sinceramente que a IA pode matar todos os humanos! Pessoalmente, acho que há mais de 10% de chance na próxima década", disse Hubinger.
O cientista da computação e vencedor do Prêmio Nobel Geoffrey Hinton, conhecido como o "Pai da IA", disse à BBC na sexta-feira que uma chance de 10% de a IA matar todos os humanos era "razoável". Por sua vez, Marc Warner, CEO da empresa de segurança de IA Faculty, declarou que é "extremamente difícil atribuir uma probabilidade" à IA matar todos os humanos, mas sublinhou que essas pessoas são muito sinceras em suas declarações.
Descrença de líderes e interesses de mercado
O ex-primeiro-ministro Rishi Sunak, que é consultor pago da Anthropic, escreveu no Sunday Times que também estava preocupado com o risco da IA à humanidade, apesar de ser generally otimista. No entanto, alguns líderes do setor sugeriram que os comentários são exagerados ou podem ser projetados para gerar especulação.
O CEO da plataforma de IA Hugging Face, Clement Delangue, disse em redes sociais: "Desculpe, mas perguntar a Jacob Coxon sobre o risco de extinção da IA é como perguntar ao seu técnico de ar-condicionado sobre as mudanças climáticas. Não estou dizendo que é necessariamente interessante ou errado, mas vamos manter as coisas em perspectiva". No entanto, após o ensaio de Amodei, Delangue se ofereceu para ser parte das possíveis soluções propostas pelo chefe da Anthropic.
O CEO do Grindr, George Arison, expressou visões semelhantes ao falar com a BBC, sugerindo que as declarações da Anthropic e de outros seriam feitas para atrair o apoio dos investidores. "Porque a única forma de justificar essas avaliações é, de fato, afirmar: 'Vou dominar cada setor e cada emprego, e a minha IA fará todo esse trabalho'," disse ele.
Jensen Huang, chefe da fabricante de chips para IA Nvidia, também discursou sobre os comentários de Coxon em uma conferência organizada pelo banco de investimentos Goldman Sachs na semana passada; várias pessoas no grupo disseram à BBC que ele os descartou como não verdadeiros.
Enquanto isso, o presidente dos EUA, Donald Trump, disse a repórteres no domingo que os EUA estão "à frente da China na IA... E, francamente, quero manter isso assim. Porque aquele que vencer a IA, vence".
Outros críticos afirmam que a Anthropic tem tentado desencadear um impulso regulatório para bloquear a concorrência, deixando-a e a OpenAI em um duopólio. A Anthropic está supostamente se preparando para uma oferta pública inicial potencialmente recorde na bolsa de valores, permitindo que as pessoas comprem ações da empresa.
A OpenAI, avaliada recentemente em 852 bilhões de dólares (630 bilhões de libras), era esperada para fazer o mesmo, mas o Altman da OpenAI disse na sexta-feira que isso não aconteceria neste ano, citando preocupações com a segurança da IA.
