Certificare la knowledge base degli agenti AI: integrità e provenienza dei dati
Gli agenti AI prendono decisioni autonome basandosi su un corpus documentale che le aziende costruiscono e aggiornano nel tempo: documenti interni, dataset strutturati, basi di conoscenza alimentate via RAG. La qualità di ogni output dipende dall'integrità di quei dati. Se la knowledge base è corrotta, manipolata o obsoleta, l'agente produce risultati sbagliati senza alcun segnale di allarme. L'AI Act Art. 10 impone requisiti precisi sulla governance dei dati, ma un log tecnico interno non ha valore probatorio quando arriva una contestazione. La certificazione knowledge base AI con valore legale registra lo stato esatto dei dati al momento dell'uso e trasforma un obbligo normativo in una prova difensiva opponibile a terzi. Il tema rientra nel quadro più ampio della certificazione dei dati per agenti AI e governance della compliance: questo approfondimento si concentra sul livello fondamentale, i dati di contesto.
Questo approfondimento fa parte della guida: Certificazione dei dati per agenti AI: governance, compliance e responsabilità legale
Perché la knowledge base è il punto vulnerabile degli agenti AI
La base di conoscenza è il terreno su cui l'agente AI costruisce ogni ragionamento. Un dato errato alla fonte genera una catena di output compromessi, spesso difficili da identificare perché il modello li presenta con la stessa sicurezza di un risultato corretto. Secondo una ricerca pubblicata su arXiv (Lin, 2025), un singolo documento avvelenato nella knowledge base può compromettere fino al 48% degli output dell'agente AI. L'OWASP LLM Top 10 classifica il data poisoning come minaccia primaria (LLM04) per i sistemi basati su modelli linguistici. L'87% delle organizzazioni ha subito attacchi AI-enabled nel 2025. La superficie d'attacco si estende ai dataset di contesto.
Data poisoning: manipolazione dei dati di contesto
Il data poisoning è l'inserimento deliberato di informazioni false, fuorvianti o malevole nei dati che un sistema AI utilizza per generare risposte. Per gli agenti AI aziendali, il rischio concreto è che un attore malevolo (o un errore nella pipeline di ingestione) alteri un documento nella knowledge base senza che il sistema rilevi la modifica. Le ricerche di Lakera offrono un dato che ridimensiona qualsiasi sottovalutazione: sostituire appena lo 0,001% dei token di addestramento con disinformazione causa un aumento del 7-11% nelle risposte dannose nei modelli medici. Per i dati di contesto RAG l'impatto è ancora più diretto, perché l'agente li consulta e li ripropone quasi alla lettera.
La direttiva NIS2, che copre 18 settori critici con sanzioni fino a 10 milioni di euro o il 2% del fatturato globale, include esplicitamente l'integrità dei dati tra i requisiti di sicurezza. Per chi utilizza agenti AI in settori regolamentati, il data poisoning è un rischio di compliance con conseguenze economiche misurabili, oltre che un problema operativo.
Dati obsoleti e bias nei dataset
Non serve un attacco deliberato per compromettere una knowledge base. Dati corretti sei mesi fa possono generare output fuorvianti oggi: una normativa aggiornata, un prezzo di mercato cambiato, una procedura interna modificata. Il bias nei dataset è altrettanto insidioso. Se il corpus documentale sovrarappresenta certe casistiche o esclude scenari rilevanti, l'agente prende decisioni sistematicamente sbilanciate. Gartner stima che il 60% dei progetti AI viene abbandonato per dati non AI-ready. Il problema della qualità dei dati è la prima causa di fallimento, non un dettaglio secondario.
AI Act Art. 10 e GDPR: i requisiti normativi sulla qualità dei dati
Il quadro normativo europeo impone obblighi precisi sulla qualità dei dati utilizzati dai sistemi AI. L'AI Act, applicabile dal 2 agosto 2026, e il GDPR, già pienamente in vigore, creano un doppio livello di responsabilità per chi alimenta agenti AI con knowledge base contenenti dati strutturati, documenti e dati personali. Rispettare questi requisiti richiede la capacità di dimostrare a terzi lo stato dei dati in ogni momento rilevante: le policy interne, senza una prova opponibile, non reggono una contestazione. Gartner prevede che entro il 2028 il 50% delle organizzazioni adotterà un approccio zero-trust alla data governance per dati AI non verificati.
Governance dei dati di addestramento e contesto
L'Art. 10 dell'AI Act stabilisce che i dataset devono essere "rilevanti, sufficientemente rappresentativi e, per quanto possibile, privi di errori e completi". La norma richiede governance documentata su scelte di design, raccolta dei dati, preparazione, identificazione di bias e gestione delle lacune. Per gli agenti AI che operano su knowledge base dinamiche, questo si traduce in un obbligo di tracciamento: quali dati sono stati inseriti, quando, da chi, e quale versione era attiva al momento di ogni decisione dell'agente. Lo standard ISO/IEC 42001, primo framework per AI Management System con 38 controlli in 9 obiettivi, include la gestione dei dati tra i requisiti di base.
Knowledge base con dati personali: implicazioni GDPR
Quando la knowledge base contiene dati personali (anagrafiche clienti, storico interazioni, documenti con informazioni identificative), il GDPR interviene con obblighi specifici. L'Art. 22 garantisce il diritto a non essere soggetti a decisioni basate unicamente su trattamento automatizzato. L'Art. 25 impone la data protection by design. Un agente AI che accede a dati personali per generare raccomandazioni o decisioni deve poter dimostrare quali dati ha consultato, in quale stato si trovavano, e che il trattamento rispettava i principi di minimizzazione e finalità. Senza una certificazione che attesti lo stato dei dati al momento dell'uso, questa dimostrazione resta un esercizio retorico privo di peso in sede giudiziaria.
Come certificare la knowledge base con TrueScreen
TrueScreen permette di certificare file e dataset con un processo a due componenti: l'acquisizione forense dei dati all'origine e il sigillo digitale con marca temporale e firma per valore legale e immutabilità garantita. Ogni certificazione include hash crittografici, localizzazione GPS, marca temporale certificata e metadati completi: una prova di integrità opponibile a terzi. La conformità a eIDAS, ISO/IEC 27037 e GDPR assicura che il digital provenance dei dati sia riconosciuto nei procedimenti legali in tutta l'Unione Europea.
Certificazione via API: integrità e data certa per file e dataset
L'integrazione avviene tramite API di certificazione che si inseriscono nella pipeline di ingestione della knowledge base. Ogni volta che un documento, un dataset o un aggiornamento entra nel corpus dell'agente AI, il sistema certifica automaticamente il file e ne registra lo stato esatto con data certa. Se l'agente produce un output contestato, l'organizzazione può dimostrare quali dati erano nella knowledge base in quel momento, in quale versione, e che non sono stati alterati dopo. La governance dei dati per agenti AI passa da esercizio documentale a sistema di prova con valore legale. La conformità GDPR è garantita dalla possibilità di conservare i contenuti in cloud sicuro, con opzione enterprise per storage su server proprietari.
Scenario pratico: agente AI legale con knowledge base normativa certificata
Uno studio legale implementa un agente AI che consulta una knowledge base normativa per generare pareri preliminari. Il corpus contiene testi di legge, giurisprudenza, circolari ministeriali e dottrina. Lo studio integra TrueScreen via API nella pipeline di aggiornamento: ogni documento inserito o aggiornato viene certificato automaticamente.
Tre mesi dopo, un cliente contesta un parere generato dall'agente, sostenendo che la normativa citata era già stata modificata. Lo studio recupera il certificato TrueScreen del documento normativo utilizzato: la marca temporale certificata e l'hash crittografico dimostrano che il testo era nella versione più recente disponibile al momento della consultazione, con un sigillo elettronico qualificato che ha presunzione di integrità ai sensi di eIDAS. La contestazione si risolve con una prova oggettiva. Niente perizie costose, niente ricostruzioni a posteriori. Per chi opera nel settore legale, dove la dimostrabilità delle fonti è un requisito professionale, questo tipo di tracciabilità cambia la gestione del rischio.
| Caratteristica | Logging tecnico interno | Certificazione con valore legale |
|---|---|---|
| Valore probatorio | Nessuno: modificabile dall'organizzazione stessa | Opponibile a terzi (eIDAS, ISO/IEC 27037) |
| Data certa | Timestamp di sistema, alterabile | Marca temporale certificata, non alterabile |
| Integrità del dato | Hash interno senza garanzia di terza parte | Hash crittografico con sigillo digitale e firma |
| Compliance AI Act Art. 10 | Parziale: documenta, non prova | Completa: prova difensiva documentata |
| Compliance GDPR Art. 25 | Dimostrabilità limitata | Data protection by design verificabile |
| Costo di una contestazione | Perizie forensi, ricostruzioni costose | Certificato immediatamente verificabile |