Criador de figurinhas com IA da Meta gera figurinhas bizarras; confira

A Meta tem um criador de stickers com inteligência artificial (IA) que pode acabar gerando imagens, no mínimo, controversas. Um usuário descobriu que a ferramenta integrada ao Messenger não tem nenhum filtro para criar figurinhas estranhas ou até mesmo obscenas.

O usuário do X, ex-Twitter, @Pioldes compartilhou prints do criador de stickers gerando figurinhas bizarras, como personagens da Nintendo armados, Mickey Mouse indo ao banheiro e uma criança soldado. Até mesmo o primeiro-ministro canadense Justin Trudeau e o Papa Francisco apareceram em stickers zoados.

found out that facebook messenger has ai generated stickers now and I don’t think anyone involved has thought anything through pic.twitter.com/co987cRhyu

— defend trans rights???‍?? – podesbiens.bsky.social (@Pioldes) October 3, 2023

A ferramenta de criação de stickers da Meta foi apresentada na semana passada durante o evento da empresa. Ela usa as capacidades do modelo LLaMA 2 para criar as figurinhas a partir de descrições em texto em questão de segundos.

A ferramenta foi integrada somente ao Messenger do Facebook, mas ela também estará no Instagram e no WhatsApp. No primeiro momento, a disponibilidade do criador de figurinhas é exclusiva para usuários que falam inglês.

facebook told me that the walt disney corporation fully endorse this pic.twitter.com/oJyclhfNEi

— defend trans rights???‍?? – podesbiens.bsky.social (@Pioldes) October 3, 2023

Ainda que a função tenha liberdade para fazer muitas criações controversas, aparentemente há palavras bloqueadas. Nesse caso, o recurso não gera nenhuma imagem e informa que a descrição pode não seguir as políticas da comunidade.

Mesmo assim, há relatos de que esse bloqueio pode ser contornado ao descrever a palavra em questão ou com erros de digitação.

pic.twitter.com/kGcMcLRLpE

— Aaron (@YNWA_Aaron) October 4, 2023

Meta deve trabalhar numa correção

Tais problemas são comuns no lançamento de novas ferramentas com inteligência artificial, seja em texto, imagens ou áudio. Talvez por isso a Meta tenha liberado a novidade somente para uma quantidade limitada de usuários.

Agora que as criações bizarras do criador de figurinhas se tornaram públicas, é questão de tempo até a Meta tomar conhecimento sobre o problema e trabalhar numa correção. É possível que a empresa torne o modelo mais restritivo, aprimorando sua capacidade de evitar problemas, antes que mais usuários possam experimentá-la.