Como os burlões estão a utilizar a IA para potenciar as burlas

A inteligência artificial está a mudar a forma como as burlas são criadas, escaladas e aplicadas. Ferramentas como geradores de imagens, chatbots e sintetizadores de voz estão agora a ser utilizadas para se fazerem passar por pessoas, automatizar mensagens de phishing e produzir produtos falsos que não existem. Com um mínimo de informação e quase sem custos, os burlões podem agora produzir material convincente em segundos.

De acordo com o relatório " Global State of Scams 2024 " da Global Anti-Scam Alliance (GASA), muitas vítimas de burlas acreditam que a IA foi utilizada em mensagens de burla que receberam, particularmente através de texto, chat ou voz. Trinta e um por cento não tinham a certeza e 16% disseram que a IA não estava envolvida.

Quase metade de todas as burlas são agora concluídas em 24 horas, um ritmo impulsionado em parte pela velocidade e automatização que a IA generativa permite. Sites fraudulentos, e-mails de phishing, endossos falsos e chamadas de falsificação de identidade podem ser criados, implantados e escalonados em uma fração do tempo que antes era necessário.

Neste artigo, analisamos a forma como os burlões já estão a utilizar a IA de formas que são fáceis de ignorar e o que pode ter em atenção para evitar cair na sua armadilha.

Lojas online falsas que utilizam imagens geradas por IA

Os geradores de imagens com IA tornaram fácil a produção de fotografias originais de produtos que parecem realistas e captadas profissionalmente. Os burlões já não precisam de roubar imagens de outros vendedores. Em vez disso, geram novas imagens de vestuário, eletrónica ou mobiliário que parecem apelativas, mas que na realidade não existem.

Estas imagens são utilizadas para criar lojas online falsas e publicar anúncios nas redes sociais. Embora os visuais pareçam polidos, uma inspeção mais atenta revela frequentemente marcas distorcidas, proporções estranhas, texto deformado ou iluminação não natural. As vítimas são atraídas por grandes descontos e pela urgência promocional. Após o pagamento, normalmente não recebem nada ou recebem um produto contrafeito.

E-mails de phishing escritos por modelos de linguagem

Há muito queos e-mails de phishing se baseiam na urgência e na personificação, mas a sua linguagem denunciava-os frequentemente. Isso já não acontece. As ferramentas de escrita alimentadas por IA podem agora criar mensagens de phishing que soam naturais e correspondem ao tom das instituições legítimas.

Os burlões podem gerar rapidamente mensagens de correio eletrónico de aspeto realista que imitam mensagens de bancos, serviços governamentais ou empresas conhecidas. Podem também ajustar o texto consoante a estação do ano ou o local, como lembretes de declaração de impostos ou avisos de entrega de encomendas. Estas mensagens conduzem frequentemente a páginas de início de sessão falsas ou incitam os destinatários a descarregar malware.

Clonagem de voz utilizada em esquemas de falsificação de identidade

Com apenas um curto clip de áudio, os burlões podem agora gerar vozes sintéticas que soam a pessoas reais. Esta tecnologia está a ser cada vez mais utilizada em esquemas de falsificação de identidade.

Algumas burlas envolvem chamadas em que a voz soa exatamente como a de um ente querido em perigo. A FTC alertou para o facto de os burlões poderem agora clonar vozes utilizando a IA, tornando as burlas de emergência familiar ainda mais difíceis de detetar. Com apenas um curto clip de áudio, os burlões podem criar uma voz que soa suficientemente real para levar as pessoas a pensar que um familiar está em apuros.

Esta mesma tecnologia já foi utilizada em burlas comerciais. Num caso, uma empresa de energia do Reino Unido transferiu mais de 243.000 dólares depois de receber uma chamada que imitava a voz do seu diretor executivo.

Vídeos deepfake em esquemas de investimento falsos

As burlas baseadas em vídeo também estão a evoluir. A tecnologia Deepfake permite que os burlões criem vídeos falsos em que indivíduos bem conhecidos aparecem a promover plataformas de investimento ou brindes. Estes vídeos são frequentemente utilizados para atingir utilizadores de redes sociais ou aparecer em anúncios online.

Os burlões têm usado deepfakes de Elon Musk, Anthony Bolton e Taylor Swift para promover plataformas de criptomoedas e esquemas de investimento fraudulentos. Estes vídeos são normalmente associados a linguagem de "tempo limitado" e a grupos de WhatsApp fraudulentos. Um exemplo real dessa tática é visível neste vídeo compartilhado por ScamAdviser, onde uma transmissão ao vivo hackeada foi usada para promover um esquema de criptografia com o tema Musk.

Como detetar fraudes baseadas em IA

Os visuais gerados por IA geralmente contêm inconsistências físicas. Procure tecidos deformados, reflexos desencontrados, erros de iluminação ou logótipos em falta em anúncios ou fotografias de produtos. Se algo parecer demasiado polido mas não tiver uma origem identificável, seja cético.

As mensagens criadas por IA podem parecer demasiado polidas ou genéricas. As burlas que não fazem referência a qualquer contexto pessoal ou que utilizam frases que parecem ligeiramente estranhas merecem ser postas em causa, especialmente quando vêm de pessoas que conhece.

Os vídeos e áudiosdeepfake podem reutilizar guiões familiares ou parecerem emocionalmente vazios. Se uma transmissão em direto ou um anúncio mostrar uma celebridade a apoiar um esquema de investimento, pesquise as suas redes sociais verificadas antes de acreditar ou partilhar.

Conclusão: Manter-se alerta

A IA generativa está a tornar as burlas mais rápidas, mais escaláveis e mais difíceis de detetar. Os sinais que antes os denunciavam - má gramática, imagens roubadas, frases estranhas - estão a desaparecer.

Mas ainda há formas de detetar a diferença. Hiperligações desconhecidas, pedidos de pagamento urgentes e mensagens fora do normal de figuras públicas ou entes queridos devem ser tratados com desconfiança. Mas se abrandar o ritmo, verificar os detalhes e pensar criticamente sobre o que está a ver ou a ouvir, pode evitar ser apanhado pela pressa.