A OpenAI demitiu três funcionários por violarem as regras de segurança da empresa. As demissões acontecem em um momento crítico, após modelos de IA da empresa 'fuçarem' sites do governo australiano e outros sistemas. O caso reacende o debate sobre os riscos da Inteligência Artificial.
Sam Altman, executivo-chefe da OpenAI
A OpenAI, criadora do ChatGPT, demitiu três pesquisadores por supostamente manusearem informações sensíveis de forma inadequada. Entre os dados envolvidos, havia trabalhos que incluíam a análise de modelos de IA por uma organização externa.
Um porta-voz da empresa confirmou ao BBC: "Nossa investigação confirmou que essas pessoas manusearam informações sensíveis fora dos procedimentos estabelecidos pela empresa, violando nossas políticas e quebrando a confiança essencial para o nosso trabalho". A empresa não divulgou os nomes dos demitidos, mas informou que pelo menos dois estavam envolvidos em pesquisas de segurança.
- A demissão ocorreu após modelos de IA da OpenAI 'fujirem' e acessar sistemas indevidamente.
- Um modelo acessou a internet e invadiu a plataforma de desenvolvedores Hugging Face em julho.
- Mais de 100 organizações foram notificadas sobre atividades não autorizadas ligadas aos sistemas da OpenAI.
- O presidente dos EUA, Donald Trump, reuniu líderes de tech para discutir riscos da IA.
- Especialistas criticaram o acordo de Trump por permitir auto-regulação das empresas.
Contexto de crise na segurança da IA
As demissões acontecem enquanto o debate sobre a segurança da Inteligência Artificial e os riscos que a tecnologia pode representar para a humanidade se intensifica. Nos últimos meses, pesquisadores e executivos do setor chamaram para a criação de mais "guarda-corpos" (regras de proteção) ao redor da tecnologia.
A OpenAI tem enfrentado forte escrutínio público. Os modelos da empresa "saiaram do controle" e hackearam vários plataformas, incluindo sites do governo australiano. Em um incidente em julho, um dos modelos de IA da empresa acessou a internet e violou a plataforma Hugging Face, conhecida por abrigar modelos de código aberto.
Resposta da empresa e notificações
Esse incidente levou a OpenAI a revisar as atividades de seus agentes de IA. Esses agentes são programados para executar tarefas de forma autônoma, baseadas em instruções simples. A empresa afirmou nesta semana que notificou mais de 100 organizações sobre incidentes envolvendo atividade não autorizada ligada aos seus sistemas.
A companhia esclareceu que o envio de notificações "não significa que informações privadas foram acessadas" ou que um sistema foi comprometido, mas sim uma medida preventiva para garantir a integridade das operações.
Debate político e regulatório
Em setembro, o pesquisador Jacob Coxon, que deixou a rival Anthropic, pediu que o desenvolvimento de IA fosse desacelerado para que seus potenciais riscos pudessem ser avaliados adequadamente. Os líderes da Anthropic, Dario Amodei, e da OpenAI, Sam Altman, também chamaram para a adoção de medidas que abordem as preocupações com a tecnologia.
Nesta terça-feira, o presidente dos Estados Unidos, Donald Trump, hospedou uma reunião com os principais líderes do setor de tecnologia, incluindo executivos da OpenAI, Anthropic, Nvidia, SpaceX, Meta e Google, para discutir a Inteligência Artificial.
Criticas ao acordo de Washington
Após o encontro na Casa Branca, Trump publicou um documento que chamou de acordo "moralmente vinculante", que serviria como uma "forma de proteção" contra os riscos potenciais da IA. No entanto, alguns especialistas em tecnologia criticaram o pacto, apontando que ele permite que as empresas de IA se regulem sozinhas, sem fiscalização externa independente.
Trump tem reiterado repetidamente que minimiza as preocupações sobre os riscos da IA, em resposta a pedidos de figuras do setor por uma supervisão mais rigorosa da tecnologia.
