Con l'avanzamento della tecnologia digitale, i deepfake (di cui vi avevamo già accennato qui) sono diventati una realtà sempre più presente nel panorama mediatico. Oggi vi spieghiamo in dettaglio cosa sono i deepfake, come vengono creati, quali sono i possibili usi fraudolenti e infine come riconoscerli e difendersi. L'obiettivo è fornire una comprensione approfondita di questo fenomeno, le sue implicazioni e le strategie per mitigare i rischi associati.

Cosa sono i deepfake?

I deepfake sono contenuti multimediali – video, immagini, audio – manipolati o generati utilizzando tecniche avanzate di intelligenza artificiale (IA), in particolare l'apprendimento profondo (deep learning). Il termine "deepfake" deriva dall'unione delle parole "deep learning" e "fake", indicando appunto l'uso di reti neurali profonde per creare contenuti falsi che appaiono estremamente realistici.

Le tecnologie di deepfake possono modificare i volti nei video, cambiare le espressioni facciali, sincronizzare i movimenti labiali con l'audio di qualcun altro, e persino creare voci sintetiche che imitano perfettamente quelle di individui specifici. Queste tecniche rendono possibile creare video e audio in cui persone sembrano dire o fare cose che in realtà non hanno mai detto o fatto.

Come si creano i deepfake?

Tecniche di base

La creazione di un deepfake coinvolge diverse tecniche di intelligenza artificiale e apprendimento automatico. Le principali includono:

1. Reti Generative Avversarie (GANs): le GANs sono il cuore della maggior parte dei deepfake. Una GAN è composta da due reti neurali: una rete generativa che produce contenuti falsi e una rete discriminativa che valuta la loro autenticità. La rete generativa tenta di creare contenuti che sembrino realistici, mentre la rete discriminativa cerca di distinguere tra contenuti reali e falsi. Attraverso un processo iterativo, entrambe le reti migliorano, producendo alla fine contenuti altamente realistici.
2. Autoencoder: un autoencoder è una rete neurale utilizzata per apprendere una rappresentazione compressa dei dati. Per creare un deepfake, un autoencoder può essere addestrato a mappare il volto di una persona a una rappresentazione latente, e poi ricostruire il volto da questa rappresentazione. Manipolando la rappresentazione latente, è possibile generare nuove immagini del volto con diverse espressioni o angolazioni.
3. Trasferimento di stile: questa tecnica consiste nel trasferire lo stile di un'immagine (ad esempio, la texture della pelle o i dettagli del viso) su un'altra immagine. Nel contesto dei deepfake, il trasferimento di stile può essere utilizzato per applicare le caratteristiche facciali di una persona su un'altra, creando un'immagine ibrida che appare realistica.

Passaggi per la creazione di un deepfake

1. Raccolta dei dati: il primo passo è raccogliere un ampio dataset di immagini o video della persona da falsificare. Più dati si hanno, migliore sarà il risultato finale. Questi dati vengono utilizzati per addestrare i modelli di IA. Questi dati possono essere raccolti in molti modi, con la consapevolezza o meno degli utenti. Uno dei modi preferiti pare sia la diffusione di "challenges" sui social dove si invitano le persone a caricare foto proprie di diversi anni prima per scherzare sull'essere invecchiati (in questo caso l'AI si addestrerebbe a "costruire" l'avanzare dell'età sui volti) oppure attraverso applicazioni tipo Faceapp che per funzionare richiedono che l'utente vi inserisca foto del proprio volto.
2. Addestramento del modello: utilizzando le tecniche sopra descritte, il modello di IA viene addestrato per apprendere le caratteristiche facciali della persona target. Questo processo può richiedere molte ore o giorni, a seconda della potenza di calcolo disponibile e della quantità di dati.
3. Generazione del deepfake: una volta addestrato, il modello può generare nuovi contenuti in cui il volto della persona target viene applicato su un altro video. Questo può includere la sincronizzazione dei movimenti labiali con un nuovo audio, l'alterazione delle espressioni facciali, e altre manipolazioni per rendere il contenuto il più realistico possibile.
4. Post-produzione: dopo la generazione, il video deepfake può essere ulteriormente migliorato attraverso tecniche di post-produzione, come la correzione del colore, l'aggiunta di effetti speciali e l'ottimizzazione dell'audio.

Usi fraudolenti dei deepfake

I deepfake possono essere utilizzati in vari modi fraudolenti, causando danni significativi a individui, aziende e istituzioni. Ecco alcuni dei principali guai in cui si può incappare:

1. Disinformazione e manipolazione politica

Uno degli usi più pericolosi dei deepfake è la creazione di video falsi di figure politiche. Questi video possono essere utilizzati per diffondere disinformazione, influenzare l'opinione pubblica, manipolare le elezioni, o incitare a conflitti sociali. Un esempio noto è la diffusione di deepfake durante le campagne elettorali, dove candidati possono essere mostrati mentre fanno dichiarazioni controverse o comportamenti inappropriati che non hanno mai avuto luogo.

2. Truffe finanziarie e frodi

I deepfake possono essere utilizzati per truffe finanziarie, come indurre le vittime a trasferire denaro a conti fraudolenti. Ad esempio, un deepfake audio può imitare la voce di un CEO che ordina a un dipendente di effettuare un trasferimento di fondi urgente. Queste truffe possono essere estremamente convincenti e difficili da rilevare.

3. Revenge porn e abusi di immagine

Un altro uso malevolo dei deepfake è la creazione di contenuti pornografici falsi di individui senza il loro consenso. Questi video possono essere utilizzati per vendette personali, ricatti o semplicemente per danneggiare la reputazione di qualcuno. Le vittime di questi abusi possono subire gravi danni psicologici e sociali.

4. Falsificazione di prove legali

I deepfake possono essere utilizzati per creare prove false in contesti legali, come video di testimoni oculari, confessioni o alibi. Questo può compromettere gravemente il sistema giudiziario, rendendo difficile distinguere tra prove autentiche e falsificate.

5. Manipolazione del mercato e danni alle aziende

I deepfake possono essere utilizzati per manipolare i mercati finanziari, ad esempio creando falsi annunci di aziende che influenzano il prezzo delle azioni. Inoltre, possono danneggiare la reputazione di un'azienda diffondendo false informazioni su prodotti difettosi, scandali interni o altre notizie negative.

‍

‍

Riconoscere i deepfake

Riconoscere i deepfake è una sfida complessa, ma ci sono alcuni segnali a cui prestare attenzione:

1. Incongruenze visive: anche i deepfake più avanzati possono presentare piccole incongruenze visive, come artefatti, sfocature, ombre innaturali, o movimenti irrealistici delle labbra e degli occhi.
2. Movimenti irrealistici: i deepfake possono avere difficoltà a replicare movimenti complessi e naturali del corpo. Prestare attenzione a movimenti rigidi o innaturali può aiutare a individuare un deepfake.
3. Assenza di blink: i deepfake spesso non riproducono correttamente il battito delle palpebre. Se una persona in un video sembra non battere le palpebre o lo fa in modo strano, potrebbe essere un deepfake.
4. Inconsistenze audio: nei deepfake audio, possono esserci incongruenze nel tono, nel ritmo e nella qualità della voce. Un'analisi attenta può rivelare la manipolazione.
5. Analisi forense digitale: gli esperti possono utilizzare strumenti avanzati di analisi forense per rilevare manipolazioni nei file digitali, identificando segni di alterazione nei metadati o anomalie nel flusso dei pixel.

Difendersi dai deepfake

1. Educazione e consapevolezza

Uno dei modi più efficaci per difendersi dai deepfake è l'educazione e la consapevolezza. Comprendere cosa sono i deepfake, come vengono creati e quali sono i segnali rivelatori può aiutare le persone a essere più critiche nei confronti dei contenuti digitali che incontrano.

2. Tecnologie di rilevamento

Sono in fase di sviluppo diverse tecnologie per rilevare i deepfake. Questi strumenti utilizzano algoritmi di IA per analizzare i contenuti digitali e identificare segni di manipolazione. Ad esempio, alcune tecniche analizzano i modelli di pixel per rilevare artefatti, mentre altre esaminano le incongruenze nei movimenti facciali o nei battiti delle palpebre.

3. Verifica delle fonti

Verificare le fonti dei contenuti digitali è cruciale. Se un video o un audio proviene da una fonte non verificata o sospetta, è importante essere scettici e cercare ulteriori conferme da fonti affidabili.

4. Autenticazione digitale

L'autenticazione digitale può aiutare a garantire l'integrità dei contenuti. Tecnologie come le firme digitali e la blockchain possono essere utilizzate per verificare che un contenuto non sia stato alterato dopo la sua creazione. Ad esempio, un video autentico potrebbe essere firmato digitalmente alla sua creazione, permettendo a chiunque di verificare che il video non sia stato manipolato.

5. Legislazione e regolamentazione

Un altro aspetto importante della difesa contro i deepfake è la legislazione. Molti paesi stanno iniziando a sviluppare leggi per affrontare i deepfake, criminalizzando la creazione e la distribuzione di contenuti falsi per scopi dannosi. Queste leggi possono fornire un deterrente legale e consentire azioni legali contro i perpetratori.

‍

I deepfake rappresentano una sfida significativa. Sebbene offrano potenziali usi legittimi e creativi, il loro potenziale di abuso è enorme e variegato. Riconoscere e difendersi dai deepfake richiede una combinazione di educazione, tecnologia, verifica delle fonti, autenticazione digitale e legislazione. Solo attraverso un approccio integrato possiamo sperare di mitigare i rischi associati a questa potente tecnologia e proteggere la verità e l'integrità dei contenuti digitali.

In estremo riassunto, occhi aperti e spirito critico sempre all'erta!