Deepfake: come riconoscere i segnali e verificare audio e video

Per riconoscere un possibile deepfake non basta cercare un volto strano o una voce poco naturale. Serve un controllo che unisca fonte, registrazione completa, contesto e riscontri. Un’anomalia può giustificare un approfondimento; la sua assenza non dimostra che il contenuto sia autentico.

Questa guida riguarda la valutazione di immagini, audio e video sospetti. Non propone un rilevatore infallibile e non attribuisce a Secure Content Engine una capacità automatica di stabilire se ogni contenuto sia generato con AI.

Che cos’è un deepfake e che cosa non lo è

Il termine indica comunemente contenuti sintetici o manipolati con tecniche di intelligenza artificiale, capaci per esempio di far apparire una persona mentre dice o fa qualcosa che non ha detto o fatto. Non ogni uso dell’AI è ingannevole: doppiaggio dichiarato, effetti creativi e scene di finzione hanno contesti differenti.

Un video fuorviante può inoltre non contenere alcun deepfake. Un taglio che omette una precisazione, un audio associato a immagini diverse o una traduzione sbagliata possono cambiare il significato di una registrazione senza ricorrere alla generazione AI.

La domanda iniziale dovrebbe quindi essere “questa registrazione sostiene l’affermazione?”, non soltanto “vedo difetti da AI?”. La guida alle immagini fuori contesto approfondisce il caso in cui il problema sia la descrizione anziché la produzione del file.

Perché i segnali visivi non danno un verdetto

Discontinuità nel movimento, bordi insoliti o disallineamenti tra voce e labbra possono suggerire di cercare una versione migliore. Ma da una copia ricevuta in chat non puoi ricostruire automaticamente la causa del difetto: potrebbero esserci compressione, montaggio o problemi di riproduzione.

Evita liste rigide secondo cui un singolo dettaglio distinguerebbe sempre persone reali e sintetiche. Gli errori cambiano tra tecniche e versioni, mentre alcune registrazioni autentiche sono di bassa qualità. Un’impressione visiva va descritta come tale e collegata a un controllo successivo.

Non accusare una persona di aver creato un falso sulla base di queste osservazioni. Anche stabilire che il contenuto è manipolato non identifica automaticamente chi abbia eseguito la manipolazione o chi l’abbia diffuso per primo.

Un percorso operativo per audio e video sospetti

Conserva il riferimento ricevuto e scrivi la precisa dichiarazione attribuita al soggetto. Poi procedi per domande, senza modificare la copia che stai usando come riferimento.

1. Da dove arriva? Distingui il canale che hai consultato dalla fonte che avrebbe realizzato la ripresa.
2. Esiste una versione completa? Cerca il contesto prima e dopo il frammento, incluse domanda e risposta.
3. Il soggetto conferma quel contenuto? Cerca un riferimento raggiunto separatamente dal messaggio sospetto.
4. Altre riprese documentano lo stesso episodio? Confronta elementi realmente comuni, senza confondere eventi simili.
5. Audio, immagini e testo dicono la stessa cosa? Controlla se la conclusione dipenda soprattutto da un sottotitolo aggiunto.
6. Che cosa rimane incerto? Annota il limite prima di condividere una conclusione.

Questa è una procedura editoriale proposta per orientare il controllo, non una certificazione forense. Se la posta in gioco richiede un’analisi specialistica, mantieni la documentazione raccolta e rivolgiti a professionisti competenti sul formato e sul tipo di manipolazione.

Come leggere il risultato di un rilevatore AI

Il rapporto NIST AI 100-4 esamina rilevamento, etichettatura e provenienza dei contenuti sintetici. Evidenzia che le prestazioni dei rilevatori dipendono dalle condizioni di valutazione e dalle caratteristiche dei contenuti, con possibili falsi positivi e falsi negativi.

Prima di usare un risultato, chiediti quale formato lo strumento analizzi, quali trasformazioni siano state applicate al file e cosa significhi il punteggio restituito. Un valore numerico non va tradotto automaticamente nella probabilità che la notizia sia falsa: lo strumento potrebbe classificare una proprietà diversa dall’affermazione che stai controllando.

Se due strumenti non concordano, non fare semplicemente una media. Registra i risultati come indizi e torna alle fonti. Per materiali privati, verifica se il servizio richiede l’invio del file e se sei autorizzato a farlo; non distribuire registrazioni sensibili solo per provare un rilevatore.

Esempio: un messaggio attribuito a un organizzatore

Supponi di ricevere un audio, in un caso inventato, in cui una voce simile a quella dell’organizzatore sposta l’ingresso di un evento. Il messaggio invita a ignorare le informazioni del biglietto e a seguire un nuovo collegamento.

Non devi dimostrare tecnicamente che la voce sia sintetica prima di evitare di affidarti a quel messaggio. Contatta l’organizzazione tramite un recapito già verificato e chiedi conferma del cambiamento. Mantieni separati due esiti: “le istruzioni non sono confermate” e “l’audio è un deepfake”. Il primo può essere accertato senza aver risolto il secondo.

Se gestisci l’evento, pubblica l’informazione corretta nel canale ufficiale e indica dove controllare gli aggiornamenti. Non serve riprodurre integralmente l’audio sospetto per rendere utile l’avviso.

Che cosa aggiungono le Content Credentials

Le credenziali C2PA possono accompagnare le dichiarazioni sul processo di creazione o modifica, nei formati e nei flussi supportati. La loro disponibilità va verificata sul file concreto; non basta vedere un simbolo riprodotto in un’immagine.

Un contenuto sintetico può avere credenziali valide. Viceversa, una registrazione reale può non averne. Per chi pubblica materiale AI, la guida a come dichiarare origine e modifiche spiega come evitare che una firma venga scambiata per la prova di un evento reale.

Domande frequenti

Una voce familiare dimostra chi sta parlando?

Non considerarla da sola una verifica d’identità sufficiente per istruzioni insolite. Cerca conferma tramite un canale conosciuto e indipendente dal messaggio ricevuto.

Un video senza difetti evidenti è autentico?

Non puoi concluderlo dall’aspetto. Cerca la fonte e la registrazione completa, poi controlla se il contesto sostiene ciò che viene affermato.

C2PA sostituisce un rilevatore di deepfake?

No. Provenienza e rilevamento rispondono a domande diverse. Per impostare un controllo più ampio, parti dalla verifica delle fonti e usa ciascuno strumento solo per il suo ambito.