“Inúmeras contas usam esta estratégia que parece fazer parte de uma rede afiliada, através do mesmo formato de conteúdo e da promoção dos mesmos produtos”, começa por alertar a organização no seu 'site. 

As contas que partilham este tipo de produtos recorrem a ‘deepfakes’ para construírem argumentos que incitem à compra, a partir de uma narrativa que pretende envolver o utilizador e chegar ao maior número de pessoas.

O ‘deepfake’ é um tipo de manipulação digital capaz de alterar ou criar vídeos, áudios e imagens de forma realista, produzidas com ferramentas de IA que permitem a utilização de imagens de pessoas reais ou a criação de imagens originais para qualquer finalidade.

A utilização desta tecnologia tem sido cada vez mais frequente nas redes sociais, nomeadamente com o fenómeno dos médicos ‘deepfake’.

Por exemplo, a conta “Holistic Health Finds”, identificada pela organização, publica vídeos de uma aparente influenciadora que promove produtos estéticos para o cabelo.

Contudo, “uma simples procura pelas imagens da mulher mostra que foi gerada pela tecnologia ‘deepfake’, já que a mesma imagem (…) foi usada por outros criadores e marcas”.

"Alguns dos mesmos influenciadores ‘deepfake’ foram encontrados em contas diferentes e assumiram várias supostas identidades”, refere a informação divulgada. 

Em 2021, a organização já tinha denunciado várias contas que tentavam vender produtos para a perda de peso, sem eficácia científica comprovada.

Este tipo de campanha evolui em 2023, quando uma rede de comerciantes do TikTok Shop, criou médicos 'deepfake' para enganar os utilizadores, fazendo-os acreditar que os produtos de saúde que vendiam eram promovidos por profissionais de saúde.

A tecnologia ‘deepfake’ tornou-se rapidamente mais sofisticada e, consequentemente, este tipo de campanha de desinformação também. 

A MediaMatters é uma organização sem fins lucrativos que se dedica à pesquisa de informação 'online', de forma a analisar e corrigir a desinformação.