A Meta, dona do Instagram, lançou um recurso de inteligência artificial que permitia criar imagens falsas a partir de fotos de perfis públicos. Após protestos sobre privacidade, a empresa retirou a ferramenta e admitiu que errou.
Uma imagem gerada por IA usando o Muse Image
A Meta, dona do Instagram e do Facebook, removeu rapidamente um novo recurso que permitia usar inteligência artificial (IA) para criar imagens falsas a partir de fotos de usuários.
O recurso fazia parte do lançamento do Muse Image, uma nova ferramenta de criação de imagens por IA que a empresa lançou na terça-feira.
- A ferramenta usava fotos de contas públicas do Instagram sem avisar os donos das contas.
- Qualquer pessoa com um perfil público poderia ter sua imagem usada sem permissão.
- O sindicato dos atores de Hollywood, Sag-Aftra, chamou a retirada do recurso de 'vitória'.
- Uma ONG de direitos humanos disse que a IA trata as imagens das pessoas como 'matéria-prima'.
- Meta disse que errou e que o recurso 'não está mais disponível'.
O recurso permitia que os usuários do chatbot de IA da Meta marcassem contas públicas no Instagram e, rapidamente, usassem o conteúdo dessas contas para criar imagens ou conteúdos alterados por IA.
O recurso gerou rapidamente uma reação negativa devido a preocupações com privacidade, levando a Meta a admitir que 'errou' e que a ferramenta 'não está mais disponível'.
O que aconteceu com o Muse Image
O Muse Image foi a primeira tentativa da empresa de tecnologia na área de criação de imagens por IA, mas enfrentou críticas porque os usuários do Instagram foram incluídos automaticamente, sem precisar autorizar.
Isso significava que qualquer pessoa com uma conta pública poderia ter sua imagem usada sem saber ou permitir.
Reações e críticas
O sindicato de Hollywood Sag-Aftra descreveu a decisão de voltar atrás como uma 'vitória'. O sindicato havia pedido que seus membros e 'todos os usuários do Instagram' agissem para proteger suas imagens, dizendo que houve um 'erro total de cálculo sobre o sentimento público em relação aos perigos óbvios de tal uso'.
A ONG Privacy International, com sede em Londres, também criticou o recurso, dizendo à BBC que era 'o mais recente sinal de que as empresas de IA veem as imagens e dados das pessoas como matéria-prima a ser explorada'.
O que a Meta disse
'Nossa intenção era fornecer uma ferramenta criativa útil e dar às pessoas controle sobre se seu conteúdo público poderia ser usado dessa forma', disse a Meta ao decidir remover o recurso. 'Ouvimos o feedback'.
Quando anunciou o Muse Image, a empresa disse que ele estava limitado ao Instagram, mas que mais recursos de IA e integrações estavam planejados para WhatsApp, Facebook e Messenger.
Ela também tem uma ferramenta de vídeo com IA em desenvolvimento.
A Meta não quis fazer mais comentários.
