Uma nova ofensa busca construir sobre as regras existentes que proíbem deepfakes de conteúdo sexualmente explícito e abuso de imagens íntimas.
Getty Images A close-up of a woman's hands clasping a smartphone in front of her.
O governo do Reino Unido diz que irá proibir os chamados aplicativos de "nudificação" como parte dos esforços para combater a misoginia online.
Novas leis - anunciadas na quinta-feira como parte de uma estratégia mais ampla para reduzir pela metade a violência contra mulheres e meninas - tornarão ilegal criar e fornecer ferramentas de IA que permitam aos usuários editar imagens para aparentemente remover as roupas de alguém.
As novas ofensas se baseariam nas regras existentes em torno de deepfakes sexualmente explícitos e abuso de imagens íntimas, disse o governo.
"Mulheres e meninas merecem estar seguras online, assim como offline", disse a Secretária de Tecnologia Liz Kendall.
"Não vamos ficar parados enquanto a tecnologia é usada como arma para abusar, humilhar e explorar elas através da criação de deepfakes sexualmente explícitos não consensuais."
Criar imagens explícitas deepfake de alguém sem o seu consentimento já é uma ofensa criminal sob a Lei de Segurança Online.
Kendall disse que a nova ofensa - que torna ilegal criar ou distribuir aplicativos de nudificação - significaria que "aqueles que lucram com eles ou possibilitam seu uso sentirão toda a força da lei".
Aplicativos de "desnudar" ou "remover roupas" usam IA generativa para fazer com que pareça realisticamente que uma pessoa foi despojada de suas roupas em uma imagem ou vídeo.
Especialistas emitiram avisos sobre o aumento de tais aplicativos e o potencial de imagens de nudez falsas infligirem sérios danos às vítimas - particularmente quando usadas para criar material de abuso sexual infantil (CSAM).
Em abril, a Comissária para Crianças da Inglaterra, Dame Rachel de Souza, pediu uma proibição total de aplicativos de nudificação.
"O ato de fazer tal imagem é legalmente ilegal - a tecnologia que o possibilita também deveria ser", disse ela em um relatório.
O governo disse na quinta-feira que iria "unir forças com empresas de tecnologia" para desenvolver métodos para combater o abuso de imagens íntimas.
Isso incluiria continuar seu trabalho com a empresa de tecnologia de segurança do Reino Unido SafeToNet, disse o governo.
A empresa do Reino Unido desenvolveu um software de IA que, segundo ela, poderia identificar e bloquear conteúdo sexual, bem como bloquear câmeras quando detectasse que o conteúdo sexual estava sendo capturado.
Essa tecnologia se baseia em filtros existentes implementados por plataformas como a Meta para detectar e sinalizar nudez potencial em imagens, geralmente com o objetivo de impedir que crianças tirem ou compartilhem imagens íntimas de si mesmas.
'Nenhuma razão para existir'
Os planos para proibir aplicativos de desnudar vêm após apelos anteriores de instituições de caridade de proteção infantil para que o governo reprima a tecnologia.
A Internet Watch Foundation (IWF) - cuja linha de ajuda Report Remove permite que menores de 18 anos denunciem confidencialmente imagens explícitas de si mesmos online - disse que 19% dos repórteres confirmados disseram que parte ou toda a sua imagem havia sido manipulada.
Sua executiva-chefe, Kerry Smith, elogiou as medidas.
"Também estamos felizes em ver passos concretos para proibir esses chamados aplicativos de nudificação, que não têm razão para existir como produto", disse ela.
"Aplicativos como esse colocam crianças reais em ainda maior risco de dano, e vemos as imagens produzidas sendo colhidas em alguns dos cantos mais sombrios da internet."
No entanto, enquanto a instituição de caridade infantil NSPCC elogiou a notícia, sua diretora de estratégia, Dra. Maria Neophytou, disse que estava "decepcionada" por não ver "ambição" semelhante para introduzir proteções obrigatórias no nível do dispositivo.
A instituição de caridade está entre as organizações que pedem ao governo que faça com que as empresas de tecnologia encontrem maneiras mais fáceis de identificar e impedir a disseminação do CSAM em seus serviços, como em mensagens privadas.
O governo disse na quinta-feira que tornaria "impossível" para as crianças tirarem, compartilhar ou visualizar uma imagem nua em seus telefones.
Também está buscando proibir ferramentas de IA projetadas para criar ou distribuir CSAM.
