Uma pesquisa feita pela organização Common Sense Media avaliou o Modo IA do Google e descobriu que ele pode ser perigoso para crianças e adolescentes. O Google discorda do estudo e diz que a ferramenta tem proteções extras.
© iStock
O avanço da inteligência artificial nos serviços do Google tem preocupado especialistas sobre os efeitos da tecnologia em crianças e adolescentes. Um estudo da organização sem fins lucrativos Common Sense Media analisou o Modo IA da empresa e concluiu que a ferramenta apresenta riscos importantes para os usuários mais jovens.
- O estudo testou o Modo IA do Google e descobriu que ele pode responder tarefas escolares, atrapalhando o aprendizado.
- Em testes, a ferramenta deu respostas diferentes e erradas para as mesmas perguntas.
- A IA falhou ao lidar com temas sérios de saúde mental, como suicídio e transtornos alimentares.
- A organização disse que a ferramenta não atende a 7 de 8 regras de segurança para crianças e adolescentes.
- O Google discorda do estudo, diz que a metodologia foi falha e que a ferramenta tem proteções especiais.
A análise levou em conta o uso intenso de Chromebooks nas escolas dos Estados Unidos, o que faz com que os serviços do Google estejam presentes tanto em aparelhos pessoais quanto em equipamentos das escolas.
Entre os problemas apontados, está a chance de os estudantes usarem a ferramenta para resolver tarefas sem aprender de verdade. Segundo o estudo, o Modo IA consegue responder exercícios e completar atividades, o que pode incentivar o uso da tecnologia como um simples atalho.
A pesquisa também questionou a confiabilidade das respostas. Em testes com perguntas iguais, a ferramenta deu resultados diferentes e, em alguns casos, errados.
Outro ponto de alerta foi o desempenho da IA em situações de saúde mental. De acordo com a Common Sense Media, o sistema falhou ao identificar sinais graves de sofrimento emocional e respondeu de forma inadequada a conteúdos sobre suicídio, psicose, mania, transtornos alimentares e uso de maconha.
Nas conclusões, a organização afirmou que a inteligência artificial do Google não atendeu a sete dos oito princípios considerados essenciais para garantir a segurança de crianças e adolescentes. Por isso, classificou a ferramenta como um 'risco inaceitável' para esse público.
O Google contestou a metodologia da pesquisa. Em nota enviada à PBS, a empresa disse que o estudo usou um conjunto limitado de perguntas ambíguas e artificiais, que não representam o uso real da busca no dia a dia.
A companhia também afirmou que os recursos de inteligência artificial podem ajudar crianças e adolescentes a aprender, explorar temas e entender informações.
Segundo o Google, a Pesquisa já tem mecanismos de segurança, e as ferramentas de IA incluem camadas extras de proteção. A empresa disse ainda que os responsáveis podem usar controles parentais para desativar determinados recursos.
