Come i truffatori usano l'intelligenza artificiale per potenziare le truffe

L'intelligenza artificiale sta cambiando il modo in cui le truffe vengono create, scalate e consegnate. Strumenti come generatori di immagini, chatbot e sintetizzatori vocali vengono ora utilizzati per impersonare persone, automatizzare messaggi di phishing e produrre prodotti falsi che non esistono. Con un input minimo e a costo quasi nullo, i truffatori possono produrre materiale convincente in pochi secondi.

Secondo il rapporto Global State of Scams 2024 della Global Anti-Scam Alliance (GASA), molte vittime di truffe ritengono che l'intelligenza artificiale sia stata utilizzata nei messaggi di truffa che hanno ricevuto, in particolare via testo, chat o voce. Il 31% è incerto e il 16% afferma che l'intelligenza artificiale non è stata coinvolta.

Quasi la metà di tutte le truffe viene portata a termine entro 24 ore, un ritmo guidato in parte dalla velocità e dall'automazione che l'IA generativa consente. I siti web di truffa, le e-mail di phishing, i falsi consensi e le telefonate di impersonificazione possono essere creati, distribuiti e scalati in una frazione del tempo necessario un tempo.

In questo articolo analizziamo come i truffatori stiano già utilizzando l'IA in modi facili da non notare e a cosa si può fare attenzione per evitare di cascarci.

Negozi online falsi che utilizzano immagini generate dall'intelligenza artificiale

I generatori di immagini AI hanno reso facile produrre foto di prodotti originali che appaiono realistiche e scattate professionalmente. I truffatori non hanno più bisogno di rubare immagini da altri venditori. Al contrario, generano nuove immagini di abbigliamento, prodotti elettronici o mobili che sembrano attraenti ma che in realtà non esistono.

Queste immagini vengono utilizzate per creare falsi negozi online e per pubblicare annunci sui social media. Sebbene le immagini sembrino curate, un'ispezione più attenta rivela spesso marchi distorti, proporzioni strane, testi deformati o un'illuminazione innaturale. Le vittime sono attirate da forti sconti e dall'urgenza promozionale. Dopo il pagamento, in genere non ricevono nulla o un prodotto contraffatto.

Email di phishing scritte da modelli linguistici

Per molto tempo lee-mail di phishing si sono basate sull'urgenza e sull'impersonalità, ma il loro linguaggio spesso le ha tradite. Ora non è più così. Gli strumenti di scrittura basati sull'intelligenza artificiale possono ora creare messaggi di phishing che suonano naturali e che corrispondono al tono delle istituzioni legittime.

I truffatori possono generare rapidamente e-mail dall'aspetto realistico che imitano i messaggi di banche, servizi governativi o aziende famose. Possono anche adattare la formulazione a seconda della stagione o del luogo, come ad esempio i promemoria per la compilazione delle tasse o gli avvisi di consegna dei pacchi. Questi messaggi spesso conducono a false pagine di login o spingono i destinatari a scaricare malware.

Clonazione vocale utilizzata nelle truffe per impersonificazione

Con un breve clip audio, i truffatori possono generare voci sintetiche che sembrano persone reali. Questa tecnologia viene utilizzata sempre più spesso nelle truffe per impersonificazione.

Alcune truffe prevedono chiamate in cui la voce sembra proprio quella di una persona cara in difficoltà. La FTC ha avvertito che i truffatori possono ora clonare le voci utilizzando l'intelligenza artificiale, rendendo le truffe per le emergenze familiari ancora più difficili da individuare. Con un breve clip audio, i truffatori possono creare una voce che sembra abbastanza reale da indurre le persone a pensare che un parente sia in difficoltà.

Questa stessa tecnologia è già stata utilizzata nelle truffe commerciali. In un caso, un'azienda energetica britannica ha trasferito oltre 243.000 dollari dopo aver ricevuto una chiamata che imitava la voce del suo amministratore delegato.

Video deepfake in falsi schemi di investimento

Anche le truffe basate sui video si stanno evolvendo. La tecnologia Deepfake consente ai truffatori di creare video falsi in cui appaiono personaggi noti per promuovere piattaforme di investimento o omaggi. Questi video sono spesso utilizzati per colpire gli utenti dei social media o per apparire nelle pubblicità online.

I truffatori hanno utilizzato deepfake di Elon Musk, Anthony Bolton e Taylor Swift per promuovere piattaforme di criptovalute e schemi di investimento fraudolenti. Questi video sono solitamente abbinati a un linguaggio "a tempo limitato" e a gruppi WhatsApp truffaldini. Un esempio reale di questa tattica è visibile in questo video condiviso da ScamAdviser, in cui un livestream violato è stato utilizzato per promuovere una truffa di criptovalute a tema Musk.

Come riconoscere le truffe guidate dall'intelligenza artificiale

Le immagini generate dall'IA spesso contengono incongruenze fisiche. Cercate tessuti deformati, riflessi non corrispondenti, errori di illuminazione o loghi mancanti nelle pubblicità o nelle foto dei prodotti. Se qualcosa sembra troppo curato ma non ha un'origine tracciabile, siate scettici.

I messaggi creati dall'intelligenza artificiale possono sembrare eccessivamente curati o generici. Le truffe che non fanno riferimento a un contesto personale o che utilizzano frasi che sembrano un po' fuori luogo meritano di essere riconsiderate, soprattutto se provengono da persone conosciute.

I video e gli audiodeepfake possono riutilizzare copioni familiari o sembrare emotivamente piatti. Se un livestream o un annuncio mostra una celebrità che sostiene un piano di investimento, cercate sui social media verificati prima di crederci o di condividerlo.

In conclusione: Stare all'erta

L'intelligenza artificiale generativa sta rendendo le truffe più veloci, più scalabili e più difficili da individuare. I segni che un tempo le rivelavano - cattiva grammatica, immagini rubate, frasi maldestre - stanno scomparendo.

Ma ci sono ancora modi per individuare la differenza. Link sconosciuti, richieste di pagamento urgenti e messaggi fuori dagli schemi da parte di personaggi pubblici o persone care devono essere trattati con sospetto. Ma rallentando, controllando i dettagli e riflettendo criticamente su ciò che si vede o si sente, si può evitare di farsi prendere dalla fretta.