O regulador disse que recebeu relatórios da ferramenta de IA Grok da plataforma criando imagens despidas de pessoas.
A Ofcom lançou uma investigação sobre a X de Elon Musk por preocupações de que sua ferramenta de IA Grok esteja sendo usada para criar imagens sexualizadas.
Em um comunicado, a agência reguladora do Reino Unido disse que houve "relatórios profundamente preocupantes" do chatbot sendo usado para criar e compartilhar imagens despidas de pessoas, bem como "imagens sexualizadas de crianças".
Se for considerada uma violação da lei, a Ofcom pode potencialmente emitir à X uma multa de até 10% de sua receita mundial ou £ 18 milhões, o que for maior.
A X encaminhou a BBC a um comunicado postado por sua conta de Segurança no início de janeiro: "Qualquer pessoa que use ou incentive Grok a fazer conteúdo ilegal sofrerá as mesmas consequências que se fizesse upload de conteúdo ilegal.".
Elon Musk disse mais tarde que o governo do Reino Unido queria"qualquer desculpa para censura" em resposta a uma postagem questionando por que outras plataformas de IA não estavam sendo analisadas.
A BBC viu vários exemplos de imagens digitalmente alteradas na X, nas quais mulheres foram despidas e colocadas em poses sexuais sem seu consentimento. Uma mulher disse que mais de 100 imagens sexualizadas foram criadas dela.
Se a X não cumprir, a Ofcom pode solicitar uma ordem judicial para forçar os provedores de serviços de Internet a bloquear o acesso ao site no Reino Unido.
A secretária de Tecnologia, Liz Kendall, disse à BBC que recebeu a investigação do órgão e instou-o a concluí-la o mais rápido possível.
"É vital que a Ofcom conclua esta investigação rapidamente porque o público - e, o mais importante, as vítimas - não aceitarão qualquer atraso", disse ela.
A antecessora de Kendall, Peter Kyle, disse ao BBC Breakfast que era "chocante" que Grok "não tivesse sido testado adequadamente".
"O fato de eu ter encontrado ontem uma mulher judia que teve sua imagem de biquíni fora de Auschwitz sendo gerada por IA e postada on-line me deixou enjoado", disse ele.
