OpenAI e Meta ai giudici USA: i deepfake non si potranno rilevare

Cosa hanno detto OpenAI e Meta sui deepfake ai giudici federali

Shira Anderson, di OpenAI, ha detto di non credere che esisterà un metodo scientifico per rilevare le immagini generate e ha ricordato che ogni azienda usa una propria filigrana, mentre Devin Norder, di Meta, ha spiegato che a occhio i contenuti dei modelli recenti non si distinguono più da quelli autentici. Le dichiarazioni sono arrivate in una sessione con esperti sui deepfake decisa dal comitato a maggio, il cui ordine del giorno si apriva con una constatazione: finora i deepfake non hanno invaso i tribunali.

Shira Anderson (OpenAI): nessun metodo scientifico per rilevare le immagini generate

Shira Anderson, policy counsel (consulente legale) di OpenAI, ha detto al comitato: “AI images are only getting better, and I do not think that there will be a scientific way going forward to detect them”. In italiano: le immagini prodotte dall’AI migliorano di continuo, e lei non crede che in futuro esisterà un metodo scientifico per rilevarle. La frase riguarda le immagini, non ogni tipo di contenuto.

Anderson ha poi ricordato, secondo la ripresa di Investing.com, che ogni azienda usa un proprio sistema di filigrana e che manca un metodo universale per verificarli. Sulle filigrane in sé ha formulato un’ipotesi, più che una previsione: secondo quanto riportato da Reuters, immagina che continueranno a migliorare, ma non crede che diventeranno mai a prova di errore.

Devin Norder (Meta): falsi indistinguibili a occhio nudo, e ormai economici

Devin Norder, direttrice della gestione prodotto di Meta per fiducia, sicurezza e rischi dell’AI generativa, che ha lavorato anche sulle filigrane dei modelli dell’azienda, ha parlato della percezione umana: i contenuti dei modelli più avanzati non si distinguono a occhio da quelli autentici, e produrli costa ormai poco tempo e poco denaro.

Una meta-analisi di 56 studi, pubblicata nel dicembre 2024, ha misurato un’accuratezza umana complessiva del 55,54% nel riconoscere i deepfake, con un intervallo di confidenza che comprende il 50% del puro caso (Diel e altri, 2024). Nemmeno le misure sull’accuratezza dei rilevatori automatici offrono un quadro più rassicurante.

Perché la filigrana non basta a riconoscere un contenuto generato

Una filigrana dimostra qualcosa solo quando è presente e qualcuno sa leggerla, e la sua assenza non prova né che un file sia autentico né che sia stato manipolato. La filigrana (watermark) è un segnale che il generatore inserisce nel contenuto, e da quest’estate due leggi la rendono obbligatoria, in primo luogo per i fornitori dei generatori. In California il SB 942, operativo dal 2 agosto 2026 dopo la modifica dell’AB 853, impone ai grandi fornitori di sistemi generativi una marcatura nascosta in immagini, video e audio. La stessa AB 853 estende alcuni obblighi alle grandi piattaforme online dal 1° gennaio 2027 e ai produttori di dispositivi di acquisizione, come fotocamere e telefoni, dal 1° gennaio 2028.

Nell’Unione europea l’art. 50, par. 2, dell’AI Act chiede che gli output siano “marcati in un formato leggibile meccanicamente e rilevabili come generati o manipolati artificialmente” dal 2 agosto 2026. Il Regolamento (UE) 2026/1744 concede tempo fino al 2 dicembre 2026 ai soli sistemi già sul mercato prima di quella data, e soltanto per la marcatura. Il par. 4 dello stesso articolo riguarda invece chi usa un sistema di AI per creare deepfake (il deployer), che deve rendere noto che il contenuto è stato generato o manipolato artificialmente.

Il limite l’ha indicato Anderson: ogni azienda usa un proprio sistema e manca un metodo universale per verificarli. La verifica SynthID di Google, per esempio, riconosce solo la filigrana dei modelli di Google. Un file privo di filigrana o di Content Credentials C2PA è quindi un file a cui manca un’informazione: non dimostra di essere autentico, e nemmeno di essere stato alterato.

Per le prove che si producono da sé, la domanda utile diventa come dimostrare il vero, più che come smascherare il falso: TrueScreen acquisisce foto, video e audio con metodologia forense nel momento in cui nascono e li certifica con sigillo elettronico qualificato e marca temporale qualificata.

Funzionalità

Acquisisci, analizza e certifica qualsiasi contenuto online.

Il Forensic Browser di TrueScreen certifica le pagine web nel momento dell’acquisizione e con Media Inspector analizza i file che esistono già.

Scopri di più →

La regola 901(c): chi deve dimostrare cosa quando una prova è contestata come deepfake

La regola 901(c) è una bozza di lavoro che, dopo una contestazione circostanziata, chiederebbe a chi produce la prova di dimostrarne l’autenticità con uno standard più alto del solito. La proposta aggiungerebbe un comma alla regola 901 delle Federal Rules of Evidence, che disciplina l’autenticazione delle prove nei processi federali.

Il meccanismo in due passaggi

Nel primo passaggio chi contesta una prova come generata dall’AI deve portare elementi sufficienti a giustificare un accertamento del giudice: una semplice accusa di falso non basta. Superata questa soglia, la prova viene ammessa solo se chi la produce dimostra che è più probabile che sia autentica piuttosto che falsa (“more likely than not”). Secondo la bozza nell’agenda del comitato, lo standard più alto si giustifica perché ormai chiunque può creare un deepfake con poca spesa. Il relatore del comitato, il professor Daniel Capra, propone poi di aggiungere alla nota di commento alcuni fattori da considerare in questo primo passaggio, tra cui metadati mancanti o anomali, date incoerenti, l’assenza del file nativo e lacune nella catena di custodia. È una sua proposta, non il testo della regola né una posizione del comitato.

La 901(c) non è in vigore: è una bozza di lavoro che il comitato non ha ancora approvato né pubblicato per i commenti, e sull’esito della riunione di Boston non ci sono ancora documenti ufficiali. Il 7 maggio 2026, con il comitato diviso, il presidente Jesse Furman ha proposto di rinviare la decisione all’approfondimento d’autunno, cioè alla riunione di Boston, pur sapendo che significava un altro anno di ritardo. Furman ha anche ricordato che, perfino con una pubblicazione nell’estate 2026, la regola non sarebbe entrata in vigore prima del 1° dicembre 2028.

Perché i giudici non hanno fretta

Il sondaggio del Federal Judicial Center della primavera 2026 ha interpellato tutti i giudici federali di primo grado: secondo il verbale della riunione di maggio, dei 931 che hanno risposto, con un tasso di risposta del 45%, solo 15 avevano visto contestare una prova come deepfake. Tra chi non l’aveva mai incontrata, l’82% chiederebbe una dimostrazione iniziale prima di esaminare un’accusa di falsificazione, come prevede la bozza.

A Boston Furman, giudice distrettuale a Manhattan, ha osservato che molti prevedono un’ondata di deepfake nei tribunali, ma che finora nei casi reali se ne sono visti pochi. Anche la Federal Rule 707 sulle prove prodotte da sistemi di AI, rinviata a maggio insieme alla 901(c), attende la stessa decisione.

La giudice Valerie Caproni ha ricordato che le prove false esistono dai tempi di Caino e Abele e, come riporta IBTimes UK, ha invitato a non correre verso una regola dedicata all’AI senza prove più solide che il problema sia diffuso nei tribunali.

Cosa cambia in Italia e in Europa per chi produce prove digitali

In Italia una foto o un video prodotti in giudizio perdono l’efficacia di piena prova se la controparte ne disconosce la conformità ai fatti: un meccanismo che, negli effetti, è diverso dalla 901(c). L’art. 2712 c.c. stabilisce che le riproduzioni fotografiche, informatiche o cinematografiche formano piena prova dei fatti rappresentati se la parte contro cui sono prodotte non ne disconosce la conformità. Dopo il disconoscimento la conformità va dimostrata con altri elementi, valutati dal giudice.

Per i documenti informatici privi di firma qualificata o avanzata e non formati secondo i requisiti fissati dall’AgID, l’art. 20, comma 1-bis, del CAD lascia al giudice la valutazione del valore probatorio “in relazione alle caratteristiche di sicurezza, integrità e immodificabilità”. A pesare, in altre parole, è il modo in cui il file è stato formato e custodito.

Il regolamento eIDAS aggiunge due presunzioni: il sigillo elettronico qualificato gode di quella di integrità dei dati e di correttezza della loro origine (art. 35, par. 2), la marca temporale qualificata di quella di accuratezza di data e ora e di integrità dei dati collegati (art. 41, par. 2). Riguardano l’integrità del file, la sua provenienza da chi lo ha sigillato e la sua data, non la verità di ciò che il file mostra, e il giudice le valuta caso per caso; il confronto, però, può spostarsi su elementi verificabili.

L’articolo 50 dell’AI Act riguarda la marcatura e la riconoscibilità dei contenuti sintetici e non chiede a nessuno di dimostrare che un contenuto autentico è vero: quella dimostrazione resta a carico di chi porta la prova. Conviene allora prepararsi come se la contestazione dovesse arrivare.

1. 1

   Acquisire con un metodo verificabile

   L’acquisizione va fatta con uno strumento che documenti come è avvenuta la cattura (dispositivo, ora, posizione, rete) e impedisca modifiche durante la registrazione. Una copia passata di mano in mano rischia di arrivare in giudizio senza file originale e con metadati incompleti, proprio i fattori che il relatore del comitato americano propone di esaminare.

2. 2

   Fissare data e integrità al momento della cattura

   Data e integrità vanno fissate subito, non quando la contestazione è già arrivata. Un’impronta del file calcolata con l’algoritmo SHA-256 all’acquisizione, accompagnata da sigillo elettronico qualificato e marca temporale qualificata, rende rilevabile qualsiasi modifica successiva.

3. 3

   Conservare ciò che serve alla verifica di terzi

   File originale, dati di contesto e report tecnico vanno conservati insieme, in un pacchetto che controparte, consulente tecnico o giudice possano verificare da soli, senza credere sulla parola a chi lo produce.

Come si dimostra l’autenticità di una foto o di un video prima che venga contestata?

TrueScreen certifica foto, video e audio nel momento in cui vengono acquisiti: l’acquisizione forense impedisce le alterazioni durante la cattura, e il sigillo elettronico qualificato con la marca temporale qualificata rende rilevabile qualsiasi modifica successiva. La metodologia forense parte dall’acquisizione in un ambiente controllato, dove nessuna persona, software, sistema o AI può alterare il contenuto, insieme al contesto (ora, posizione, dispositivo, rete); seguono la verifica dei dati e il report tecnico, e sigillo e marca temporale, riconosciuti a livello internazionale, chiudono il procedimento. Ne risulta un pacchetto autosufficiente, verificabile con strumenti standard senza passare da TrueScreen e senza fidarsi di chi lo ha consegnato.

Con l’App TrueScreen si certificano foto, video, audio e registrazioni dello schermo nel momento in cui vengono acquisiti.

Il Forensic Browser, per macOS e Windows, acquisisce e certifica pagine web, sessioni di navigazione e contenuti online.

Dal computer, il Portale certifica file e schermo e conserva le certificazioni. Per un file già esistente, la certificazione fissa contenuto e data certa da quel momento in poi, ma non attesta come il file sia stato creato.

Per i contenuti acquisiti altrove, TrueScreen offre anche il rilevamento di deepfake su foto, video e audio, disponibile oggi nel Forensic Browser su ogni piano TrueScreen: indica quanto è probabile una manipolazione, non che cosa è accaduto. La rilevazione è un segnale aggiuntivo; la certificazione alla fonte documenta come e quando il contenuto è stato acquisito.

Anche la certificazione ha un limite dichiarato: TrueScreen garantisce il come, non il cosa, perciò una scena messa in posa viene certificata come registrazione autentica di una scena messa in posa. Il peso della prova resta una valutazione del giudice caso per caso. Se un’impresa edile fotografa con l’app i danni in cantiere e un anno dopo la controparte sostiene che le immagini sono generate con l’AI, il pacchetto mostra come e quando sono state acquisite, e la discussione può passare da “è un falso?” alla verifica di dati che chiunque può controllare.

In conclusione