A Grok de Elon Musk não permitirá mais que os usuários removam as roupas de imagens de pessoas reais em jurisdições onde isso é ilegal.
A ferramenta de IA Grok, de Elon Musk, não poderá mais editar fotos de pessoas reais para mostrá-las usando roupas reveladoras em jurisdições onde isso for ilegal, após ampla preocupação com deepfakes de IA sexualizados. "Implementamos medidas tecnológicas para impedir que a conta Grok permita a edição de imagens de pessoas reais com roupas reveladoras", diz um anúncio no X. O governo do Reino Unido disse que foi uma "reivindicação" por ter pedido à X que controlasse o Grok, enquanto o regulador Ofcom disse que foi um "desenvolvimento bem-vindo" - mas acrescentou que sua investigação sobre se a plataforma havia violado as leis do Reino Unido "permanece em andamento". Ativistas e vítimas dizem que a mudança chegou tarde demais para desfazer o dano já causado. "Estamos trabalhando incansavelmente para progredir com isso e obter respostas sobre o que deu errado e o que está sendo feito para consertá-lo", disse Ofcom. A Secretária de Tecnologia, Liz Kendall, saudou a mudança, mas disse que "espera que os fatos sejam totalmente e robustamente estabelecidos pela investigação em andamento do Ofcom". A jornalista e ativista Jess Davies, que esteve entre as mulheres cujas imagens no X foram editadas com o Grok, disse que as mudanças da plataforma foram um "passo positivo", mas ela nunca deveria ter permitido tais imagens em primeiro lugar. "É um pensamento comovente pensar em quantas mulheres, incluindo eu mesma, foram alvos disso [e] quantos mais vítimas de abuso de IA estão sendo criadas", disse ela à BBC. Davies também caracterizou a resposta da plataforma como um todo como "realmente patética". "Eles estão apenas tentando fazer o mínimo possível dentro das diretrizes legais frouxas que existem", disse ela à BBC News. A Dra. Daisy Dixon, professora de filosofia da Universidade de Cardiff, disse anteriormente à BBC que as pessoas que usavam o Grok para despí-la em imagens no X a deixaram sentindo-se "chocada", "humilhada" e temendo por sua segurança. Ela disse na quinta-feira que a reviravolta da plataforma foi uma "vitória na batalha" para os ativistas. "Mas devemos lembrar que o abuso nunca deveria ter acontecido muitas mulheres agora estão com danos extensos", disse a Dra. Dixon, acrescentando que a forma como as mulheres se relacionam e experimentam seus corpos foi "sequestrada e distorcida contra nossa vontade". Andrea Simon, diretora da End Violence Against Women Coalition (EVAW), disse que, embora ainda estivesse para ser visto como a X implementaria suas mudanças, isso mostrou "como as vítimas de abuso, ativistas e uma demonstração de força dos governos podem forçar as plataformas de tecnologia a tomar medidas". "Mas não pode parar por aqui - dada a natureza em evolução dos danos gerados por IA, as plataformas de tecnologia devem ser obrigadas a tomar medidas preventivas proativas", disse ela. A mudança da X foi anunciada horas depois que o principal promotor da Califórnia disse que o estado estava investigando a disseminação de deepfakes de IA sexualizados, inclusive de crianças, gerados pelo modelo de IA. "Agora bloqueamos geograficamente a capacidade de todos os usuários de gerar imagens de pessoas reais em biquínis, roupas íntimas e trajes semelhantes por meio da conta Grok e no Grok em X naquelas jurisdições onde é ilegal", disse a X em seu comunicado. Ela também reiterou que apenas usuários pagantes poderão editar imagens usando o Grok em sua plataforma. Isso adicionará uma camada extra de proteção, ajudando a garantir que aqueles que tentam usar o Grok para violar a lei ou as políticas da X sejam responsabilizados, de acordo com a declaração. Com as configurações NSFW (não seguro para o trabalho) ativadas, o Grok deve permitir "a nudez da parte superior do corpo de humanos adultos imaginários (não reais)" consistente com o que pode ser visto em filmes com classificação R, Musk escreveu online na quarta-feira. "Esse é o padrão de fato na América. Isso variará em outras regiões de acordo com as leis de país para país", disse o multibilionário de tecnologia. Musk havia defendido anteriormente a X, postando que os críticos "só querem suprimir a liberdade de expressão", juntamente com duas imagens geradas por IA do primeiro-ministro do Reino Unido, Sir Keir Starmer, de biquíni. Não está claro como sua plataforma implementará blocos baseados em localização na capacidade do Grok de editar imagens de pessoas reais para criar imagens sexualizadas e se os usuários seriam capazes de contorná-los. As pessoas que procuram contornar blocos geográficos semelhantes em recursos ou conteúdo geralmente procuram ferramentas como redes privadas virtuais (VPNs), que podem disfarçar sua localização online para permitir que usem a internet como se estivessem em um país diferente. Os downloads de aplicativos VPN dispararam no Reino Unido no ano passado, depois que os sites de pornografia foram obrigados a começar a verificar a idade dos visitantes para cumprir a Lei de Segurança Online. Ofcom disse na segunda-feira que investigaria se a X havia deixado de cumprir a lei do Reino Unido sobre as imagens sexuais. E se a X não cumprir, o Ofcom pode buscar uma ordem judicial para forçar os provedores de serviços de internet a bloquear totalmente o acesso ao site no Reino Unido. No início desta semana, Sir Keir alertou que a X poderia perder o "direito de autorregular-se" em meio a uma reação contra as imagens de IA, mas, mais tarde, na semana, disse que saudou os relatórios de que a X estava tomando medidas para resolver o problema. O primeiro-ministro disse que iria "tomar as medidas necessárias" e fortalecer a legislação se a X não agisse. A pesquisadora de políticas Riana Pfefferkorn disse que ficou surpresa com a demora da X em implantar as novas salvaguardas do Grok e que os recursos de edição deveriam ter sido removidos assim que o abuso começou. Questões permanecem sobre como a X irá aplicar suas novas políticas, como o modelo de IA saberá se uma imagem é de uma pessoa real e quais ações tomará quando os usuários quebrarem as regras, disse Pfefferkorn. Musk também não apresentou a empresa sob uma luz séria, disse ela, acrescentando que ajudaria se ele parasse de "fazer coisas como republicar uma imagem de IA de Keir Starmer de biquíni". Reportagem adicional de Katy Bailes
Elon Musk lançou o Grok na plataforma de mídia social X em 2023
