Uma nova ofensa busca construir sobre as regras existentes que proíbem deepfakes sexualmente explícitos e abuso de imagens íntimas.
O governo do Reino Unido diz que vai proibir os chamados aplicativos de "nudificação" como parte dos esforços para combater a misoginia online.
Novas leis - anunciadas na quinta-feira como parte de uma estratégia mais ampla para reduzir pela metade a violência contra mulheres e meninas - tornarão ilegal criar e fornecer ferramentas de IA que permitam aos usuários editar imagens para aparentemente remover as roupas de alguém.
Os novos crimes se baseariam nas regras existentes em torno de deepfakes sexualmente explícitos e abuso de imagens íntimas, disse o governo.
"Mulheres e meninas merecem estar seguras online, bem como offline", disse a Secretária de Tecnologia Liz Kendall.
"Nós não ficaremos parados enquanto a tecnologia é usada como arma para abusar, humilhar e explorar elas por meio da criação de deepfakes sexualmente explícitos não consensuais."
Criar imagens explícitas deepfake de alguém sem seu consentimento já é crime sob a Lei de Segurança Online.
Kendall disse que o novo crime - que torna ilegal criar ou distribuir aplicativos de nudificação - significaria que "aqueles que lucram com eles ou permitem seu uso sentirão toda a força da lei".
Aplicativos de "desnudar" ou "desvestir" usam IA generativa para fazer parecer de forma realista que uma pessoa foi despojada de suas roupas em uma imagem ou vídeo.
Especialistas emitiram avisos sobre a ascensão de tais aplicativos e o potencial de imagens nuas falsas para infligir sérios danos às vítimas - particularmente quando usados para criar material de abuso sexual infantil (CSAM).
Em abril, a Comissária Infantil da Inglaterra, Dame Rachel de Souza, pediu a proibição total de aplicativos de nudificação.
"O ato de fazer tal imagem é corretamente ilegal - a tecnologia que o permite também deveria ser", ela disse em um relatório.
O governo disse na quinta-feira que iria "unir forças com empresas de tecnologia" para desenvolver métodos para combater o abuso de imagens íntimas.
Isso incluiria continuar seu trabalho com a empresa de tecnologia de segurança do Reino Unido SafeToNet, disse ele.
A empresa do Reino Unido desenvolveu um software de IA que, segundo ela, poderia identificar e bloquear conteúdo sexual, bem como bloquear câmeras quando detectasse que conteúdo sexual estava sendo capturado.
Essa tecnologia se baseia em filtros existentes implementados por plataformas como a Meta para detectar e sinalizar nudez potencial em imagens, muitas vezes com o objetivo de impedir que crianças tirem ou compartilhem imagens íntimas de si mesmas.
Planos para proibir aplicativos de nudificação vêm após apelos anteriores de instituições de caridade de proteção à criança para que o governo tome medidas enérgicas contra a tecnologia.
A Internet Watch Foundation (IWF) - cuja linha de ajuda Report Remove permite que menores de 18 anos denunciem confidencialmente imagens explícitas de si mesmos online - disse que 19% dos repórteres confirmados disseram que algumas ou todas as suas imagens foram manipuladas.
Sua executiva-chefe, Kerry Smith, saudando as medidas.
"Também estamos felizes em ver medidas concretas para proibir esses chamados aplicativos de nudificação que não têm razão para existir como produto", disse ela.
"Aplicativos como esse colocam crianças reais em um risco ainda maior de sofrer danos, e vemos as imagens produzidas sendo colhidas em alguns dos cantos mais sombrios da internet."
No entanto, embora a instituição de caridade infantil NSPCC tenha dado as boas-vindas à notícia, sua diretora de estratégia, Dra. Maria Neophytou, disse que estava "decepcionada" por não ver "ambição" semelhante para introduzir proteções obrigatórias no nível do dispositivo.
A instituição de caridade está entre as organizações que pedem ao governo que faça com que as empresas de tecnologia encontrem maneiras mais fáceis de identificar e impedir a disseminação de CSAM em seus serviços, como em mensagens privadas.
O governo disse na quinta-feira que tornaria "impossível" para crianças tirarem, compartilharem ou visualizarem uma imagem nua em seus telefones.
Também está buscando proibir ferramentas de IA projetadas para criar ou distribuir CSAM.
