Uma nova ofensa pretende basear-se nas regras existentes que proíbem deepfakes sexualmente explícitos e abuso de imagens íntimas.
Getty Images Uma foto em close-up das mãos de uma mulher segurando um smartphone.
O governo do Reino Unido diz que vai proibir os chamados aplicativos de "nudificação" como parte dos esforços para combater a misoginia online.
Novas leis - anunciadas na quinta-feira como parte de uma estratégia mais ampla para reduzir pela metade a violência contra mulheres e meninas - tornarão ilegal criar e fornecer ferramentas de IA que permitam aos usuários editar imagens para aparentemente remover as roupas de alguém.
As novas ofensas se baseariam nas regras existentes em torno de deepfakes sexualmente explícitos e abuso de imagens íntimas, disse o governo.
"Mulheres e meninas merecem estar seguras online, assim como offline", disse a secretária de Tecnologia, Liz Kendall.
"Não vamos ficar parados enquanto a tecnologia é usada como arma para abusar, humilhar e explorar elas por meio da criação de deepfakes sexualmente explícitos não consensuais."
Criar imagens explícitas deepfake de alguém sem seu consentimento já é uma ofensa criminal sob a Lei de Segurança Online.
Kendall disse que a nova ofensa - que torna ilegal criar ou distribuir aplicativos de nudificação - significaria que "aqueles que lucram com eles ou permitem seu uso sentirão toda a força da lei".
Aplicativos de nudificação ou "desvestimento" usam IA generativa para fazer com que pareça realisticamente que uma pessoa foi despojada de suas roupas em uma imagem ou vídeo.
Especialistas emitiram avisos sobre o aumento de tais aplicativos e o potencial de imagens nuas falsas para infligir danos graves às vítimas - particularmente quando usado para criar material de abuso sexual infantil (CSAM).
Em abril, a Comissária Infantil da Inglaterra, Dame Rachel de Souza, pediu uma proibição total de aplicativos de nudificação.
"O ato de fazer tal imagem é legalmente ilegal - a tecnologia que o permite também deveria ser", ela disse em um relatório.
O governo disse na quinta-feira que iria "unir forças com empresas de tecnologia" para desenvolver métodos para combater o abuso de imagens íntimas.
Isso incluiria continuar seu trabalho com a empresa de tecnologia de segurança do Reino Unido, SafeToNet, disse.
A empresa do Reino Unido desenvolveu um software de IA que, segundo ela, poderia identificar e bloquear conteúdo sexual, bem como bloquear câmeras quando detectassem que conteúdo sexual está sendo capturado.
Essa tecnologia se baseia em filtros existentes implementados por plataformas como a Meta para detectar e sinalizar nudez potencial em imagens, geralmente com o objetivo de impedir que crianças tirem ou compartilhem imagens íntimas de si mesmas.
Planos para proibir aplicativos de nudificação vêm após apelos anteriores de instituições de caridade de proteção à criança para que o governo reforce a tecnologia.
A Internet Watch Foundation (IWF) - cuja linha de ajuda Report Remove permite que menores de 18 anos relatem confidencialmente imagens explícitas de si mesmos online - disse que 19% dos repórteres confirmados disseram que parte ou toda a sua imagem havia sido manipulada.
Sua executiva-chefe Kerry Smith saudou as medidas.
"Também estamos felizes em ver medidas concretas para proibir esses chamados aplicativos de nudificação que não têm motivo para existir como produto", disse ela.
"Aplicativos como este colocam crianças de verdade em maior risco de dano, e vemos as imagens produzidas sendo colhidas em alguns dos cantos mais sombrios da internet."
No entanto, enquanto a instituição de caridade infantil NSPCC saudou a notícia, sua diretora de estratégia, Dra. Maria Neophytou, disse que estava "decepcionada" por não ver "ambição" semelhante para introduzir proteções obrigatórias em nível de dispositivo.
A instituição de caridade está entre as organizações que pedem ao governo que faça com que as empresas de tecnologia encontrem maneiras mais fáceis de identificar e impedir a disseminação de CSAM em seus serviços, como em mensagens privadas.
O governo disse na quinta-feira que tornaria "impossível" para as crianças tirar, compartilhar ou visualizar uma imagem nua em seus telefones.
Também está buscando proibir ferramentas de IA projetadas para criar ou distribuir CSAM.
