Imagens sexualizadas de pessoas reais geradas pelo Grok circularam no X nas últimas semanas.
Grok, ferramenta na plataforma X de Musk, permite que usuários gerem imagens
Malásia e Indonésia bloquearam o acesso ao chatbot de inteligência artificial (IA) Grok de Elon Musk devido à sua capacidade de produzir deepfakes sexualmente explícitos.
Grok, uma ferramenta na plataforma X de Musk, permite que usuários gerem imagens, mas recentemente foi usado para editar imagens de pessoas reais para mostrá-las em trajes reveladores.
Os países do Sudeste Asiático disseram que o Grok pode ser usado para produzir imagens pornográficas e não consensuais envolvendo mulheres e crianças. Eles são os primeiros no mundo a banir a ferramenta de IA.
Também há pressão crescente para bloquear o Grok no Reino Unido, com sua secretária de tecnologia dizendo que apoiaria a medida, levando Musk a acusar o governo de querer suprimir a liberdade de expressão.
Os ministérios de comunicação da Malásia e da Indonésia anunciaram sua medida contra o Grok em declarações separadas no fim de semana.
A Comissão de Comunicações e Multimédia da Malásia disse no domingo que emitiu avisos ao X no início do ano para buscar medidas mais rigorosas depois de descobrir o "mau uso repetido" do Grok para gerar conteúdo prejudicial.
Mas em sua resposta, o X não abordou os riscos inerentes ao design de sua plataforma e se concentrou principalmente no processo de denúncia para os usuários, disse o regulador.
Acrescentou que o Grok será bloqueado até que salvaguardas eficazes sejam implementadas e instou o público a denunciar conteúdo online prejudicial.
O uso do Grok para produzir conteúdo sexualmente explícito é uma violação dos direitos humanos, da dignidade e da segurança online, disse Meutya Hafid, ministra da comunicação e assuntos digitais da Indonésia, em uma postagem no Instagram.
O ministério também pediu ao X de Musk que fornecesse um esclarecimento sobre o uso do Grok.
As autoridades indonésias reprimiram outras fontes online de material pornográfico nos últimos anos, com plataformas como OnlyFans e Pornhub já banidas no país.
Usuários indonésios do X que encontraram suas fotos manipuladas na plataforma disseram que se sentiram zangados com o fato de isso ter sido permitido.
Kirana Ayuningtyas, uma usuária de cadeira de rodas que posta online sobre suas experiências diárias, descobriu que um estranho havia comentado em sua foto com um pedido para que o Grok a retratasse usando um biquíni.
Ayuningtyas disse que ajustou suas configurações de privacidade e contatou a plataforma para remover a imagem e impedir que usuários editassem suas fotos.
"Infelizmente, nada disso realmente funcionou," ela disse, acrescentando que era difícil dizer se alguém por aí está guardando as imagens.
Ela pediu a seus amigos que denunciassem as contas que publicaram suas imagens falsificadas, mas fazê-lo significava que ainda mais pessoas veriam as imagens editadas, o que é profundamente constrangedor para ela.
A BBC entrou em contato com a plataforma Grok para comentar.
O uso do Grok para gerar imagens sexualizadas foi condenado por líderes em todo o mundo, incluindo o primeiro-ministro do Reino Unido, Keir Starmer, que o chamou de "vergonhoso" e "nojento".
A secretária de Tecnologia do país, Liz Kendall, também disse que apoiaria o regulador Ofcom se ele bloqueasse o acesso do Reino Unido ao site de mídia social X de Elon Musk por não cumprir as leis de segurança online.
Ela disse que o Ato de Segurança Online do Reino Unido "inclui o poder de bloquear o acesso aos serviços no Reino Unido, se eles se recusarem a cumprir a lei do Reino Unido" e "se Ofcom decidir usar esses poderes, eles terão nosso apoio total".
