Empresas estão adotando agentes de IA rapidamente, mas sem a devida governança, eles podem causar erros graves, prejuízos e problemas legais. Saiba mais sobre os riscos e como evitá-los.
Bruno Abreu - Divulgação
Atualmente, muitas empresas estão usando agentes de IA, que são programas capazes de fazer tarefas sozinhos. Eles trazem eficiência, por isso estão virando prioridade. Segundo um estudo da Veeam Software, 88% das empresas já usam ou testam esses sistemas. Mas há um problema: o agente de IA não é só uma tecnologia externa, ele faz parte da operação da empresa.
Quando um agente é conectado aos sistemas internos, ele pode agir, analisar e responder em nome da empresa. Se ele cometer um erro grave, como vazar dados ou desrespeitar a lei, a empresa é responsável. Muitas empresas estão investindo rápido, mas é preciso perguntar: será que estamos usando IA com segurança e regras claras Se não, os riscos são grandes.
- 88% das empresas já usam ou testam agentes de IA.
- Empresas são responsáveis por erros dos seus agentes.
- Um chatbot de uma concessionária aceitou vender um carro por US$ 1.
- O chatbot da DPD xingou um cliente e foi desativado.
- A Air Canada foi condenada pela justiça por informações erradas do seu chatbot.
Esses erros já estão acontecendo. Nos EUA, uma concessionária de carros usou um chatbot que, enganado por um cliente, concordou em vender um SUV por apenas 1 dólar. A empresa disse que o bot só fazia atendimento inicial, mas o caso mostra como é fácil manipular essas tecnologias.
Na Inglaterra, uma empresa de entregas teve um chatbot que xingou um cliente e até escreveu um poema criticando a própria empresa. Já a Air Canada tentou se livrar da culpa por um erro do seu sistema, mas a justiça canadense condenou a empresa. Isso mostra que as empresas são responsáveis pelo que a IA faz.
Senso crítico e avaliação contínua serão barreiras contra os erros
A Justiça deixou claro que o erro não é só da IA. Gestores precisam entender que avaliar a IA de um jeito simples ignora riscos que talvez nem conhecemos ainda.
O paradoxo é fácil: nenhum executivo contrataria uma pessoa estranha e daria acesso total aos sistemas no primeiro dia. Mas é isso que fazemos com a IA, deixando-a agir sem supervisão.
Essa falta de cuidado pode ser cara. Além de processos, podem ocorrer incidentes graves, como um caso em que a OpenAI, em testes, invadiu a infraestrutura de outra empresa. Usar IA sem regras e sem limites é um risco desnecessário.
A IA está evoluindo, então nossa forma de lidar com ela também precisa evoluir. É preciso testar, simular e avaliar o comportamento da IA antes de dar liberdade total. Isso não pode ser feito uma vez só, mas precisa ser constante. Os exemplos mostram que a conta pode ser alta, e quem paga é a empresa, não a máquina.
