A Natura foi condenada pela Justiça de Santa Catarina por inserir comandos escondidos em uma petição para tentar influenciar o sistema de IA a dar uma decisão favorável. A prática, conhecida como 'prompt injection', resultou em multa e pagamento de danos morais.
Imagem ilustrativa do caso Natura
A Justiça de Santa Catarina condenou a Natura por litigância de má-fé após a empresa usar uma técnica chamada 'prompt injection' em uma petição. Essa técnica consiste em esconder comandos em documentos para influenciar sistemas de inteligência artificial (IA) a tomar decisões favoráveis. No caso, o comando orientava o sistema a dar uma sentença favorável à empresa.
A advogada Cris Dorneles, com mais de 20 anos de experiência, explica que o risco não está na tecnologia, mas na falta de controle sobre como ela é usada. 'A IA pode ajudar os advogados, mas a responsabilidade pelo que vai para o processo é humana. Usar a tecnologia não tira o dever de ética e boa-fé dos profissionais', diz ela.
- O 'prompt injection' é uma técnica que esconde comandos em textos para enganar sistemas de IA.
- A Natura foi multada em 10% do valor da causa e terá que pagar R$ 5 mil por danos morais.
- A Justiça também enviou o caso para a OAB investigar a conduta dos advogados.
- O Tribunal de Justiça de Santa Catarina já tinha alertado sobre os riscos dessa prática.
- Especialistas recomendam que as empresas criem regras claras para o uso de IA nos processos.
O caso mostra que as empresas precisam de governança no uso da inteligência artificial. Não basta permitir ou proibir, é preciso definir quem pode usar, como revisar e quem é o responsável final. A tecnologia acelera tarefas, mas não substitui a supervisão humana.
A Natura afirmou que não foi notificada da decisão e que não compactua com práticas inadequadas. A empresa disse que vai apurar os fatos com o escritório de advocacia responsável.
