Muitos funcionários estão usando ferramentas de inteligência artificial (IA) no trabalho sem que a área de tecnologia da empresa saiba. Isso é chamado de Shadow AI e pode trazer riscos de segurança, problemas com a lei e atrapalhar o resultado de projetos. Um especialista explica os perigos e como as empresas devem agir.
Image by DC Studio on Magnific
À medida que a inteligência artificial se consolida no ambiente corporativo, também crescem as preocupações relacionadas ao seu uso. No Brasil, 80% dos líderes afirmam estar preocupados com a utilização de ferramentas de IA externas sem a aprovação da empresa ou da área de TI, de acordo com o estudo global Value of AI, realizado pela SAP em parceria com a Oxford Economics.
- 80% dos líderes no Brasil estão preocupados com o uso de IA sem autorização nas empresas.
- O fenômeno é chamado de Shadow AI e acontece quando funcionários usam ferramentas de IA escondido da TI.
- Pesquisas mostram que 69% das empresas suspeitam ou já viram funcionários usando IA não autorizada.
- A cada 80 comandos enviados por dispositivos da empresa, um pode conter informações de alto risco.
- Especialista alerta que bloquear o acesso não resolve o problema e sugere criar regras claras de uso.
O fenômeno recebeu o nome de Shadow AI e descreve o uso de chatbots, assistentes e outras soluções de IA sem conhecimento ou aprovação da área de tecnologia. Levantamento do Gartner mostra que 69% das empresas suspeitam ou já identificaram evidências de uso de ferramentas de IA generativa não autorizadas por seus funcionários. O relatório The State of AI Cyber Security, do Check Point Research, apurou que, a cada 80 prompts enviados a partir de dispositivos corporativos, um continha informações classificadas como de alto risco.
No Brasil, estudo conduzido pela SAP em parceria com a Oxford Economics aponta que 66% das companhias admitem esse tipo de uso com alguma frequência. Ou seja, o que começa como busca por produtividade individual tem se transformado em um problema estrutural, com impacto direto sobre segurança da informação, conformidade regulatória e a consistência dos resultados entregues por projetos que envolvem múltiplas equipes.
Para Marcus Garcia, diretor comercial da Konia Tecnologia, o dado que mais preocupa lideranças de tecnologia é a ausência de estrutura que acompanha essa adoção, mais do que a existência do uso informal em si:
"Quando a IA entra na empresa pela porta dos fundos, sem processo, sem governança e sem alinhamento entre áreas, ela carrega os mesmos riscos de qualquer tecnologia adotada sem planejamento. A diferença está na escala e no tipo de dado envolvido", explica.
Adoção desorganizada e fragmentação do conhecimento
A adoção de baixo para cima, quando cada colaborador decide sozinho quais ferramentas usar e como usá-las, costuma gerar ganhos individuais de produtividade no curto prazo. Sem uma camada de coordenação corporativa, porém, esse movimento fragmenta o conhecimento gerado dentro da empresa, dificulta a padronização de processos entre times e cria pontos cegos justamente onde deveria haver rastreabilidade, no tratamento de dados de clientes, em decisões estratégicas e em código-fonte proprietário.
Garcia observa que o padrão já apareceu em outros ciclos de tecnologia corporativa: "vimos algo parecido com Big Data e com o IBM Watson. A tecnologia chega, parte da empresa passa a usá-la por conta própria, e quando é hora de integrar isso ao restante da operação falta estrutura para sustentar o que foi construído de forma isolada. Com IA generativa, esse ciclo se repete em menos tempo e envolve muito mais gente ao mesmo tempo", diz.
Impacto vai além da segurança da informação
O impacto, segundo o executivo, não se limita à segurança da informação. Projetos perdem consistência quando parte da equipe apoia decisões em ferramentas de IA e parte não usa nenhuma, ou usa ferramentas diferentes entre si, sem que a organização meça o efeito disso nos resultados entregues ao cliente final.
Bloquear o acesso às ferramentas, na avaliação de Garcia, tende a empurrar o uso para fora do alcance da empresa, sem eliminar o risco. O caminho passa por reconhecer que a demanda já existe entre os times e construir, a partir dela, uma estrutura de governança que aproxime segurança, compliance e áreas de negócio antes que os riscos se materializem.
