Pesquisadores e líderes de empresas como OpenAI e Anthropic pedem regulagem e uma desaceleração do desenvolvimento de inteligência artificial, citando riscos existenciais. Enquanto especialistas alertam para a possibilidade de a tecnologia fugir do controle, governos como o dos EUA priorizam a corrida tecnológica, ignorando preocupações com segurança global.
Chamadas por regulagem de IA crescem conforme pesquisadores e líderes emitem alertas preocupantes sobre o potencial da tecnologia
Nas últimas semanas, alertas sobre os possíveis perigos da inteligência artificial (IA) motivaram pedidos de ações coordenadas para reduzir a velocidade de desenvolvimento dessa tecnologia.
Aleagues de funcionários atuais e ex-pesquisadores, de que a tecnologia poderá colocar em perigo a humanidade, com um deles sugerindo que há mais de 10% de chance de a IA "matar todos os humanos", acenderam alarmes em todo o setor.
Grandes desenvolvedoras, OpenAI e Anthropic, têm pressionado legisladores por regulamentação, embora alguns analistas acreditem que essa postura busque, de certa forma, garantir a dominação dessas empresas sobre as concorrentes.
Independentemente das motivações, as declarações de alto nível geraram preocupação. Veja o que se sabe sobre o assunto.
- Cientistas alertam que sistemas de IA estão ganhando poder e capacidade com rapidez assustadora.
- Líderes de grandes empresas pedem um "slowdown" (desaceleração) para avaliar riscos, mas negam que isso signifique parar a inovação.
- Trump minimiza os riscos, focando na "corrida da IA" contra a China, enquanto o governo chinês critica narrativas de ameaça.
- Alguns especialistas argumentam que o foco em riscos existenciais ignora ameaças reais e imediatas já presentes no dia a dia.
- Debates globais sobre governança de IA intensificam-se, mas há divergências severas entre Estados Unidos, China e Europa.
Por que a IA é vista como ameaça
Alguns pesquisares de IA apontam sinais alarmantes de que as capacidades e o poder dos sistemas estão evoluindo rápido demais.
Evan Hubinger ganhou destaque ao afirmar que existe mais de 10% de chance de a IA "poder matar todos os humanos" na próxima década. Ele atua na área de alinhamento, que busca integrar valores éticos humanos à tecnologia para mantê-la em conformidade com o bem comum.
Embora ele afirme que o risco dos sistemas atuais seja "baixo", seus comentários coincidiu com a saída de outro pesquisador da Anthropic, que alertou que quem está desenvolvendo a tecnologia está perdendo o controle.
Jacob Coxon disse à BBC ele e outros funcionários estavam "genuinamente assustados" com a velocidade dos avanços e suas implicações para a humanidade.
Essas preocupações fazem parte de um longo histórico de medos sobre a capacidade da IA de ameaçar a humanidade caso iguale ou supere a inteligência humana. Tais preocupações remontam a décadas, com Alan Turing defendendo nos anos 1950 que máquinas inteligentes poderiam assumir o controle.
Cenários de risco e a corrida pela superinteligência
Nos últimos anos, grandes empresas de IA têm competido para desenvolver sistemas cada vez mais capazes, tanto para lucro quanto para buscar a chamada "superinteligência", uma tecnologia hipotética mais inteligente que o ser humano.
Ao contrário das ferramentas que usamos hoje, como geradores de texto ou vídeo, os sistemas de superinteligência deveriam ser capazes de lidar com tarefas muito mais complexas. OpenAI e Anthropic afirmam buscar avançar com isso de forma benéfica e protegendo humanos de riscos existenciais.
Mas críticos argumentam que máquinas nunca poderão realmente igualar humanos e que as empresas exageram as capacidades para ganhar fama ou lucro. Enquanto isso, ativistas como a campanha PauseAI pedem que empresas como a Google parem de criar sistemas de IA altamente capazes.
Como a IA pode tirar a humanidade do controle
Pesquisadores e líderes preocupados descreveram cenários desconcertantes. Dario Amodei escreveu que a IA evoluiu "muito mais rápido" do que o esperado, incluindo na "capacidade de construir a próxima geração de IA".
O medo é que, após certo ponto, a IA possa começar a se melhora sozinha, sem envolvimento humano. Tais receios cresceram após um incidente em que ferramentas de IA invadiram sites sem serem pedidas para isso.
Alguns pesquisadores temem perder o controle dos chamados "agentes de IA", ferramentas autônomas que executam tarefas sozinhas. Outros cenários incluem o uso de IA para ampliar espionagem, ciberataques, guerra biológica ou desestabilizar economias, seja intencional ou acidentalmente.
Entretanto, muitos especialistas consideram esses alertas como hipotéticos ou até exageros. Alguns criticam o foco em riscos existenciais, ignorando problemas atuais graves, como a criação de deepfakes não consensuais de mulheres, desinformação e golpes ampliados por IA.
Um grupo de parlamentares públicos e privados publicou um relatório detalhando riscos aos direitos humanos, pedindo novas leis para lidar com a escala e gravidade dessas ameaças.
As propostas de "desaceleração" e a posição dos governos
Dario Amodei, da Anthropic, e Sam Altman, da OpenAI, pediram regulamento e uma "desaceleração" do desenvolvimento. Amodei esclareceu que isso não significa "parar o treino de modelos ou progresso técnico", mas sim dar tempo necessário para salvaguardas e avaliações por terceiros.
Altman disse que o ritmo deve ser mais lento do que o possível, considerando os custos de segurança, mas que o progresso continuará. Ele afirmou que as empresas não esperarão os governos para agir.
Trump, que apoia a liderança das empresas dos EUA na "corrida da IA", minimizou os riscos recentes. Em visita à Irlanda, ele disse que forças negativas estão levantando questões que não acontecerão, e que manter a liderança frente à China é essencial, pois "quem vencer a IA, vence".
A China, que tem sido mais discreta, tem impulsionado o desenvolvimento nacional da tecnologia, limitando-se a criticar as narrativas de ameaça como discursos de confronto e competição malévola que não servem a ninguém.
