Rilevamento dei deepfake: perché da solo non regge su larga scala e come proteggere i dati alla fonte

I deepfake sono contenuti multimediali (video, immagini, audio) generati o manipolati dall'intelligenza artificiale per riprodurre l'aspetto, la voce o i movimenti di una persona reale. Per difendersi, banche, assicurazioni e piattaforme digitali hanno adottato il rilevamento dei deepfake: software che analizzano un contenuto e stimano la probabilità che sia sintetico. Sul singolo caso questi strumenti aiutano, ma quando i contenuti da controllare diventano migliaia al giorno emergono limiti che nessun aggiornamento elimina del tutto: i dati di addestramento invecchiano, i costi crescono con i volumi, i nuovi modelli generativi spiazzano i rilevatori e anche un margine di errore piccolo produce, su grandi numeri, molti errori. Il rilevamento resta quindi un segnale utile, ma da solo non regge su larga scala. Per ciò che un'organizzazione acquisisce direttamente serve la certificazione alla fonte, mentre per i contenuti ricevuti da terzi il rilevamento continua a fare la sua parte. TrueScreen certifica l'autenticità alla fonte e offre anche il rilevamento di deepfake e di contenuti generati dall'intelligenza artificiale per i contenuti che non ha acquisito.

Questo articolo si concentra su ciò che accade quando il rilevamento passa dal singolo caso ai grandi volumi. Il confronto diretto tra i due approcci, con i loro effetti in giudizio, è trattato nell'articolo rilevamento dei deepfake o certificazione alla fonte.

Che cosa fa il rilevamento dei deepfake e che cosa restituisce

Il rilevamento dei deepfake è l'insieme delle tecniche che analizzano un contenuto già esistente per stimare la probabilità che sia stato generato o alterato da un sistema di intelligenza artificiale. Il risultato non è un verdetto, bensì un punteggio: il rapporto NIST AI 100-4 descrive il risultato tipico di un rilevatore come un valore che si può interpretare come la probabilità che il contenuto sia sintetico, trasformato in un giudizio solo scegliendo una soglia. TrueScreen offre questo tipo di analisi per foto, video e audio che non ha acquisito, e il suo esito è un segnale da valutare, non una certificazione di autenticità.

La soglia è una scelta, non un dato tecnico neutro. Abbassarla significa intercettare più falsi ma segnalare anche più contenuti autentici; alzarla riduce le segnalazioni sbagliate ma lascia passare più contenuti sintetici. Su un singolo file l'equilibrio si gestisce con l'esperienza di chi analizza. Su un flusso continuo di contenuti diventa una questione di organizzazione, di costi e di responsabilità.

Perché la larga scala cambia il problema

Su grandi volumi i limiti del rilevamento non restano isolati, ma si sommano. Pesano soprattutto la dipendenza dai dati di addestramento, la comparsa continua di nuovi modelli generativi, i costi di calcolo e di revisione, e l'effetto dei margini di errore moltiplicati per il numero dei contenuti analizzati.

Dati di addestramento: il rilevatore riconosce ciò che ha già visto

Un rilevatore impara dagli esempi su cui è stato addestrato. Il NIST osserva che i rilevatori funzionano meglio sui contenuti dei generatori presenti nell'addestramento, mentre nell'uso reale si chiede loro di riconoscere anche i contenuti di modelli mai visti, e che costruire insiemi di dati completi per valutarli resta difficile anche in ambiti ristretti.

Il benchmark Deepfake-Eval-2024, costruito con deepfake raccolti in rete nel 2024 da 88 siti e in 52 lingue, misura bene la distanza tra laboratorio e realtà: rispetto ai benchmark accademici precedenti, l'AUC (area sotto la curva, la misura standard della capacità di distinguere contenuti autentici e sintetici) dei migliori modelli open source cala del 50% sui video, del 48% sull'audio e del 45% sulle immagini. Gli stessi autori rilevano che i modelli commerciali e quelli riaddestrati sul nuovo insieme di dati vanno meglio, ma che nessuno dei rilevatori valutati raggiunge ancora l'accuratezza degli analisti forensi. Il rilevamento, insomma, migliora quando viene aggiornato con dati recenti, e proprio per questo richiede un aggiornamento continuo.

Modelli generativi nuovi: l'accuratezza invecchia

Ogni nuova generazione di modelli generativi sposta il bersaglio. Il banco di prova DF26 ha documentato che l'accuratezza dei rilevatori di deepfake scende fino al 49% nell'arco di un anno di progressi dei video generati dall'intelligenza artificiale. Anche le tracce che alcuni generatori lasciano nei contenuti non sono un appiglio stabile: lo studio dell'Università di Edimburgo del 2026 ha mostrato che queste impronte si possono rimuovere nell'80% dei casi e falsificare in metà dei sistemi analizzati.

Per chi gestisce grandi volumi la conseguenza è pratica: l'accuratezza misurata al momento dell'acquisto non dice quale sarà l'accuratezza tra qualche mese. Ogni modello generativo nuovo richiede nuove valutazioni, nuovi dati e, spesso, un nuovo addestramento. Chi produce falsi, inoltre, può studiare i rilevatori disponibili e cercare di aggirarli, una dinamica che l'articolo sul confronto tra rilevamento e certificazione alla fonte analizza nel dettaglio.

Costi di calcolo e di revisione: crescono con i volumi

Per i rilevatori in generale, ogni contenuto analizzato ha un costo di calcolo, e su un video l'analisi si ripete fotogramma per fotogramma. Lo stesso rapporto del NIST segnala che il costo computazionale necessario a rilevare le forme più complesse di filigrana digitale può diventare un ostacolo alla diffusione su larga scala, soprattutto quando i rilevatori devono essere eseguiti sull'infrastruttura dell'organizzazione.

Al calcolo si aggiunge il lavoro umano. Ogni segnalazione va esaminata da qualcuno che decida se il contenuto è davvero sospetto, e la decisione finale resta, giustamente, alle persone. Più contenuti si analizzano, più segnalazioni arrivano, più ore di revisione servono. È un costo che cresce in proporzione ai volumi e che si ripresenta identico ogni volta che lo stesso contenuto deve essere rivalutato.

Margini di errore: piccoli in percentuale, grandi in valore assoluto

Un tasso di errore che sembra trascurabile sul singolo file diventa rilevante quando lo si moltiplica per milioni di contenuti. Il NIST ricorda che i falsi positivi, cioè i contenuti autentici classificati come generati dall'intelligenza artificiale, possono essere estremamente dannosi, al punto che alcuni studi misurano i rilevatori fissando prima una soglia molto bassa di falsi positivi. L'esempio che segue, con valori ipotetici e volutamente favorevoli al rilevatore, mostra perché.

Il meccanismo non dipende dalle cifre esatte: finché i contenuti sintetici restano una piccola parte del totale, anche un rilevatore molto accurato può produrre più segnalazioni sbagliate che corrette, e lascia comunque passare una parte dei falsi. I valori sono ipotetici e non descrivono le prestazioni di alcun prodotto, compreso quello di TrueScreen. Il timore non è teorico: secondo lo studio Verisk sulle frodi assicurative del 2026, il 36% dei consumatori statunitensi indica tra le principali preoccupazioni il rischio che richieste legittime vengano rallentate o respinte perché i documenti sono stati segnalati per errore come sospetti.

Caso d'uso

Indagini private: prove digitali certificate con valore legale

TrueScreen certifica le prove raccolte durante le investigazioni, con catena di custodia documentata e valore probatorio.

Leggi il caso d'uso →

Che cosa dicono le organizzazioni che usano il rilevamento

Le organizzazioni che hanno adottato il rilevamento ne riconoscono il valore, ma anche i limiti quando i volumi crescono. Lo studio Verisk del 2026, basato su due indagini condotte negli Stati Uniti su 1.000 consumatori e 300 professionisti dei sinistri, rileva che il 65% degli assicuratori intervistati usa strumenti automatici di rilevamento basati sull'intelligenza artificiale forniti da terzi. Il 58% si dichiara molto sicuro di saper riconoscere le modifiche a foto e video reali, ma la quota scende al 43% quando si tratta di valutare l'autenticità dei contenuti su larga scala e al 32% per il riconoscimento dei deepfake. Due assicuratori su tre ritengono che le frodi basate su contenuti manipolati sfuggano spesso o molto spesso ai controlli. Il punto, quindi, non è lo strumento in sé, ma l'idea che uno strumento probabilistico possa reggere da solo l'intero carico.

Dove il rilevamento resta utile

Il rilevamento dà il meglio quando un'organizzazione riceve contenuti che non ha prodotto né acquisito: foto e video inviati da terzi, file trovati in rete, registrazioni audio di provenienza incerta. In questi casi non esiste una certificazione alla fonte da controllare, e un segnale probabilistico aiuta a decidere quali contenuti meritano un approfondimento tecnico, lasciando la decisione finale alle persone.

Con TrueScreen il rilevamento di deepfake e di contenuti generati dall'intelligenza artificiale si applica a foto, video e audio, non a testi o documenti. L'analisi AI è disponibile su ogni piano TrueScreen ed è raggiungibile oggi nel Forensic Browser. Il rilevamento è un segnale aggiuntivo; la certificazione alla fonte stabilisce che cosa è accaduto.

Perché serve la certificazione alla fonte

Per tutto ciò che un'organizzazione produce o acquisisce direttamente, la certificazione alla fonte toglie al rilevamento il peso che da solo non può reggere. Invece di chiedersi, contenuto per contenuto, se un file sia stato generato o alterato, si stabilisce nel momento dell'acquisizione come il contenuto è nato: chi lo ha acquisito, quando, dove e con quale dispositivo. Da quel momento qualsiasi modifica diventa rilevabile, e la verifica non dipende più da un modello da aggiornare: l'integrità si controlla con strumenti standard, senza bisogno di TrueScreen.

Questo cambia anche il modo in cui l'aumento dei volumi incide sui processi. Un contenuto certificato alla fonte non va rianalizzato a ogni nuovo modello generativo, perché la sua garanzia non dipende da quanto siano convincenti i falsi in circolazione. La certificazione attesta come il contenuto è stato acquisito, non la veridicità di ciò che rappresenta. Chiunque può sigillare un file, e il sigillo prova che il file non è cambiato da quando è stato applicato, ma non prova che il file fosse vero prima di arrivare. Per questo conta il momento dell'acquisizione: altri strumenti certificano un file, TrueScreen certifica un evento.

Come TrueScreen certifica i dati alla fonte

TrueScreen certifica i dati alla fonte con una metodologia forense. Il processo parte dall'acquisizione forense del contenuto, prosegue con la verifica dell'integrità e del contesto di acquisizione e con la produzione di un report tecnico che documenta la catena di custodia, e si chiude con il sigillo elettronico qualificato e la marca temporale qualificata. I contenuti certificati hanno pieno valore legale e probatorio a livello internazionale, e la valutazione della prova resta comunque al giudice.

L'acquisizione certificata è disponibile con la TrueScreen App per foto, video e audio sul campo e con il Forensic Browser per le pagine web e le sessioni di navigazione, mentre per gestire e archiviare i contenuti certificati si usa il Portal di TrueScreen. Chi deve inserire la certificazione nei propri processi può usare la TrueScreen API, disponibile dal piano TrueScreen Business. Il quadro completo è descritto nell'articolo sull'autenticità dei dati e la certificazione alla fonte.

Content Credentials e filigrane: un'informazione in più

Le Content Credentials dello standard C2PA e le filigrane digitali inserite da alcuni generatori aggiungono al file informazioni sulla sua origine. Sono utili quando ci sono, ma non sono sempre presenti e non tutte le piattaforme le conservano; la loro assenza, inoltre, è un'informazione mancante, non la prova di una manomissione. Nel Forensic Browser l'analisi AI di TrueScreen legge le Content Credentials e le indicazioni sul generatore che un file dichiara, e le affianca alla certificazione alla fonte, che non dipende dalla presenza di questi segnali nel file.

Caso d'uso

Onboarding del cliente certificato: verifica documentale con valore legale

TrueScreen certifica i documenti di identità e i dati raccolti durante l'onboarding, proteggendo le aziende dalle frodi documentali.

Leggi il caso d'uso →

Come affrontare i deepfake quando i volumi crescono

Su larga scala una difesa efficace distribuisce il lavoro tra strumenti diversi, ciascuno dove rende di più. I contenuti che l'organizzazione acquisisce direttamente, come le foto di un sinistro, i sopralluoghi o le prove raccolte sul campo, si certificano alla fonte, così da poterne documentare origine e integrità. I contenuti ricevuti da terzi passano dal rilevamento, che indica dove approfondire. Le decisioni più delicate, come un pagamento o un'autorizzazione, si appoggiano infine a controlli indipendenti dal contenuto, per esempio una conferma attraverso un canale diverso. Per un quadro generale del fenomeno è disponibile la guida completa ai deepfake.