DEEPFAKE E CYBER-CRIME: ECCO COSA CI ASPETTA

deep fake cyber crime

1. INTRODUZIONE

Di DeepFake abbiamo sentito parlare molto negli ultimi anni.
È Praticamente inevitabile visti gli scandali sessuali ai danni di celebrità e personaggi pubblici che hanno gravitato intorno a questa tecnologia. Ne abbiamo sentito parlare anche per l’uso politico, a volte satirico a volte no, in alcuni video dove volti di capi di stato sono stati perfettamente ricostruiti.

Insomma, una tecnologia che più volte è arrivata alla ribalta delle cronache per le sue forti ambiguità ed il suo illimitato potenziale di immoralità. Che ha sollevato la curiosità di tanti e la preoccupazione di molti.  

Ma di cosa si tratta esattamente? Come funziona? E soprattutto, quali rischi ci possono essere per noi Cittadini e per le Aziende? 

2. DEEP FAKE: QUALI SONO I RISCHI

Tecnicamente, quando si parla di Deep Fake si intende una branca di applicazione dell’Intelligenza Artificiale, in particolare del Machine Learning ed ancor più precisamente del Deep Learning e delle Reti Generative.

In altre parole, di un sistema capace di ricavare un modello di una qualche cosa, magari un volto, prendendo spunto da più immagini, più fotogrammi, più campioni che rappresentano e raffigurano quella medesima cosa.

Questo modello, una volta appreso, diviene malleabile e può essere utilizzato per vari scopi. Ad esempio, può essere usato per il riconoscimento dell’oggetto all’interno di sequenze video complesse, di fotogrammi raffiguranti più oggetti e soggetti articolati. Oppure può essere utilizzato per generare nuove immagini dell’oggetto di cui si ha “lo stampino”. Il che, ritornando a parlare di volto, significa creare nuove immagini del viso appreso.

Da qui molte delle applicazioni che si sono succedute nella storia di questa tecnologia: dalle modifiche ai video dell’ex presidente americano Obama, ai faccia a faccia dove il volto di una persona viene modificato imitando espressioni facciali di un altra, arrivando sino agli usi più ludici e quelli pornografici, ai limiti della legalità.

Un Fake Obama che dichiara: “President Trump is a total and complete dipshit”

Quanto appena descritto apre ad alcune problematiche che si infiltrano prepotentemente nella mente dei più attenti alle tematiche Privacy. Tuttavia, prima di esplorare i rischi della diffusione di questa nuova tecnologia, vale la pena fissare due punti chiave del suo funzionamento:

  1. che la disponibilità, specie se pubblica ed incontrollata, di nostre immagini, di video che ci raffigurano o molto più semplicemente di “selfie”, è un elemento abilitante di questa tecnologia, che di base si alimenta con foto e fotogrammi;
  2. che chi ha un mio modello, uno mio “stampino”, può utilizzarlo per creare qualcosa che mi rappresenta, ad esempio contenuti fotografici oppure video digitali.

Questi punti sono infatti i due cardini che permettono a questa tecnologia di entrare nelle nostre vite digitali. Ed occorre tenere bene a mente che sul primo punto, sulla disponibilità di materiale fotografico, abbiamo alcuni margini di manovra e possibilità di controllo, anche alla luce della regolamentazione GDPR e della nuova CCPA californiana.

Mentre sul secondo punto, invece, le leve che possiamo esercitare sono tendenzialmente minori, perché una volta che “lo stampino” esiste, chi lo detiene può teoricamente farne ciò che vuole.

3. CYBER-CRIME NELL’ERA DEL DEEP FAKE

Pensare che il mondo del cyber-crimine ignori completamente questa nuova classe di tecnologie è, molto probabilmente, più una rassicurante speranza che né una possibile realtà. Tuttavia, per comprenderne il perché, occorre osservare quanto sta già accadendo e tentare di vestire i panni di questi soggetti poco raccomandabili. Magari riuscendo anche ad anticiparne qualche mossa.

Partiamo da un semplice fatto: la maggior parte dei criminali è motivato dal denaro ed opera nel quasi totale disinteresse per il prossimo, rubando, truffando, mentendo, frodando, estorcendo e minacciando.

Questo vale anche per i cyber-criminali, che nell’economia sommersa dei mercati neri digitali lucrano, prosperano e conducono affari al pari dei colleghi analogici. Molte volte con alle spalle organizzazioni strutturate, anche internazionali. Quindi, pensare che se vedranno la possibilità di lucrare con questa tecnologia la sfruttino, è del tutto ragionevole. Inoltre, guardando a quello che già oggi fanno si possono delineare alcuni degli scenari di rischio più papabili per i prossimi anni.

Ad esempio tra le attività predilette del cyber crimine vi sono le Frodi: raggiri ed artifici per indurre le vittime in errore, arricchendosi sulle loro spalle. Su questo i cyber criminali sono molto attivi e già stanno sperimentando tecniche di generative di Intelligenza Artificiale. Lo hanno fatto quest’anno in una campagna di attacco di tipo “CEO-Fraud”, ovvero hanno sintetizzato la voce di un Amministratore Delegato e chiamato i suoi collaboratori per disporre ingenti trasferimenti di denaro su conti sotto il loro controllo [LINK].

La sperimentazione delle tecnologie DeepFake potrebbe non fermarsi qui. Non è così remota la probabilità che nel giro di qualche tempo ci si possa trovare di fronte a videochiamate in diretta da parte di falsi Amministratori e Dirigenti Aziendali fittizi.

Altro scenario rilevante è quello legato alle cosiddette attività di “Blackmail”, ovvero la richiesta di denaro in cambio della non divulgazione di materiale riservato riguardo alla vittima. Pratica estremamente diffusa negli ambienti cyber-criminali, storicamente ai danni di Grandi Aziende ed Organizzazioni, ma di recente anche a danno di privati e persone fisiche.

Gli ultimi due anni sono infatti stati segnati dal fenomeno del “Sex Extortion”, dove i criminali chiedono Bitcoin in cambio della cancellazione del materiale compromettente in loro possesso [LINK].

Sono dei falsi nella maggior parte dei casi; tuttavia, resi credibili dall’inserimento di dati personali e di vecchie password utilizzate dalla vittima all’interno delle richieste di ricatto.

Qui, l’abuso delle tecnologie DeepFake potrebbe portare a delle condizioni di stress emotivo molto forte per le vittime che, magari, si potranno persino trovare di fronte a foto e video artificialmente create dai criminali. Foto e video la cui divulgazione, veri o falsi che siano, porterà a complicazioni, situazioni spiacevoli e conseguenze sgradite per la propria reputazione.

4. CONCLUSIONI

La tecnologia non è ne buona ne cattiva, ma nemmeno neutra.
Questo vale anche per la tecnologia DeepFake: oggi molto spesso utilizzata a fini ludici, alle volte per espletare ai morbosi desideri dei fan di personaggi pubblici e celebrità, ma, fortunatamente, ancora non entrata pienamente negli arsenali di chi nel mondo digitale lucra ai danni di Persone e Aziende.

Questo però, oltre a farci tirare un timido sospiro di sollievo, deve anche far suonare un campanello di allarme nel nostro modo di vivere il Digitale.

Un campanello che siamo ancora in tempo per ascoltare; che ci ricorda quanto in realtà valgono i nostri Dati Personali, la nostra immagine, i nostri “selfie” e, soprattutto, quanto la poca cura della nostra Privacy possa in futuro tornarci indietro come un boomerang, in forme e modalità ben più brutali del campanello che oggi risuona.