AI e PA: privacy e rischi di un utilizzo non regolamentato

L’intelligenza artificiale generativa viene ormai utilizzata quotidianamente anche nella Pubblica Amministrazione. Spesso, però, senza indicazioni organizzative, formazione o strumenti sicuri. Il rischio è che, insieme alle richieste rivolte all’AI, vengano affidati alle piattaforme anche dati personali, informazioni riservate e frammenti della vita delle persone. Ma non è l’unico.

L’utilizzo dell’AI negli uffici

Secondo una ricerca presentata a FORUM PA 2026, il 66% dei dipendenti pubblici utilizza strumenti di intelligenza artificiale generativa nel proprio lavoro. Il dato più significativo, tuttavia, è un altro: in sei casi su dieci questo utilizzo è lasciato all’iniziativa individuale, senza regole definite, formazione, strumenti sicuri, sperimentazioni organizzate o linee guida.

È una trasformazione tanto rapida quanto silenziosa. Si utilizza l’AI per riscrivere una comunicazione, sintetizzare un documento, preparare una relazione, tradurre un testo, organizzare gli appunti di una riunione o interpretare una normativa. Operazioni apparentemente semplici, che possono effettivamente migliorare la qualità del lavoro e ridurre il tempo dedicato ad alcune attività ripetitive. Ma che possono anche nascondere un rischio sottovalutato: che cosa stiamo inserendo all’interno di questi strumenti? E come vengono utilizzate queste informazioni?

Il rischio comincia dal copia e incolla

Quando interagiamo con un sistema di AI generativa, la nostra attenzione è normalmente concentrata sul risultato che vogliamo ottenere. Chiediamo di riassumere, correggere, confrontare, classificare o suggerire. Molto meno frequentemente ci domandiamo quali informazioni siano contenute nel testo che abbiamo copiato all’interno della piattaforma.

Potrebbe trattarsi di una catena di e-mail con nomi e indirizzi, del verbale di una riunione, di un curriculum, della bozza di un provvedimento, di una richiesta presentata da un cittadino o della relazione relativa a un progetto. Nei servizi sociali, sanitari, educativi e sociosanitari il rischio è ancora più evidente. Una relazione può contenere informazioni sulla salute, sulla condizione economica, sulle relazioni familiari, sulla disabilità, sul percorso migratorio o sulla situazione abitativa di una persona.

In questi casi non stiamo semplicemente “facendo una domanda a un computer”. Stiamo immettendo informazioni all’interno di un sistema che le elabora e che può coinvolgere soggetti, infrastrutture e modalità di conservazione differenti da quelli ordinariamente utilizzati dall’organizzazione.

Questo non significa che ogni uso dell’intelligenza artificiale con dati personali sia automaticamente vietato. Significa, però, che non dovrebbe avvenire senza sapere quale strumento si sta utilizzando, per quale finalità, con quali impostazioni, sulla base di quali accordi e con quali garanzie.

L’anonimizzazione dei dati

Una convinzione piuttosto diffusa è che sia sufficiente eliminare il nome e il cognome prima di inserire un documento in un sistema di AI. Ma l’anonimizzazione è molto più complessa. Una persona può essere riconoscibile anche attraverso la combinazione di informazioni apparentemente innocue: l’età, il Comune di residenza, il ruolo professionale, una particolare condizione familiare, una patologia rara o uno specifico evento accaduto in un determinato periodo. Un testo che parla della “responsabile trentasettenne dell’unico servizio presente in un piccolo Comune” potrebbe rendere identificabile la persona anche senza indicarne il nome.

Il Garante per la protezione dei dati personali ha più volte chiarito che la semplice rimozione delle generalità o la loro sostituzione con iniziali o codici non determina necessariamente un’effettiva anonimizzazione. I dati pseudonimizzati, inoltre, continuano a essere dati personali quando possono essere ricollegati alla persona attraverso informazioni aggiuntive.

Anche il Comitato europeo per la protezione dei dati ha sottolineato che un modello di AI non può essere considerato automaticamente anonimo. Perché lo sia, deve risultare molto improbabile sia identificare direttamente o indirettamente le persone i cui dati sono stati utilizzati, sia estrarre dal modello informazioni personali attraverso specifiche interrogazioni. La valutazione deve quindi essere effettuata caso per caso.

L’equivoco dei dati pubblici

Un altro equivoco riguarda le informazioni già disponibili online. Il fatto che un dato personale sia pubblicato su un sito, su un albo, su un social network o all’interno di un documento accessibile non significa che possa essere utilizzato per qualsiasi finalità.

L’8 luglio 2026 il Comitato europeo per la protezione dei dati ha adottato nuove linee guida sul web scraping nel contesto dell’AI generativa. Il web scraping è la raccolta automatizzata e su larga scala di informazioni disponibili online, spesso effettuata senza che le persone ne siano consapevoli. Il Comitato ha ribadito che, quando questa attività riguarda dati personali, si applicano pienamente le regole del GDPR. Occorre quindi prestare attenzione, tra gli altri, ai principi di limitazione della finalità, trasparenza, correttezza, accuratezza e minimizzazione dei dati. Nel caso di dati appartenenti a categorie particolari – come quelli relativi alla salute – sono necessarie condizioni ancora più rigorose.

Il tema non riguarda soltanto le grandi aziende che addestrano i modelli. Riguarda anche le organizzazioni che li utilizzano. Chi inserisce un documento in una piattaforma deve domandarsi non soltanto se quel dato sia reperibile altrove, ma se sia necessario utilizzarlo per quella specifica attività e se lo strumento scelto offra garanzie adeguate.

L’AI sommersa

Quando un’organizzazione non affronta il tema, l’utilizzo dell’intelligenza artificiale non scompare. Diventa opaco. I lavoratori possono ricorrere autonomamente a strumenti gratuiti o personali, senza distinguere tra informazioni pubbliche, riservate, confidenziali e personali. Possono utilizzare account privati per elaborare documenti di lavoro oppure trasferire interi testi quando sarebbe sufficiente fornire poche informazioni di contesto.

Nasce così una sorta di AI sommersa: un insieme di pratiche informali che l’organizzazione non conosce, non valuta e non è quindi in grado di governare. Il paradosso è che il divieto assoluto, quando non è accompagnato da alternative e formazione, può contribuire a rendere questi comportamenti ancora meno trasparenti. Per questo la risposta non può limitarsi a dire ai lavoratori di “non inserire dati sensibili”. Occorre spiegare concretamente che cosa si intende per dato personale, quali informazioni possono rendere indirettamente identificabile una persona, quali strumenti sono autorizzati e quali attività richiedono una preventiva valutazione.

La formazione: un obbligo

L’AI Act europeo introduce espressamente il concetto di alfabetizzazione all’intelligenza artificiale. Le organizzazioni che forniscono o utilizzano sistemi di AI devono adottare misure affinché il personale possieda competenze, conoscenze e capacità sufficienti per utilizzarli in modo informato, comprendendone opportunità, rischi e possibili danni.

L’obbligo previsto dall’articolo 4 dell’AI Act è applicabile dal 2 febbraio 2025, mentre le attività di vigilanza e applicazione del nuovo quadro entreranno pienamente in funzione nell’agosto 2026. La Commissione europea chiarisce inoltre che limitarsi a consegnare le istruzioni del software o invitare il personale a leggerle può risultare insufficiente: la formazione deve essere costruita considerando il contesto, le finalità di utilizzo e il livello di rischio. Questo passaggio è particolarmente importante.

Essere alfabetizzati all’AI non significa soltanto saper formulare un buon prompt. Significa comprendere che cosa accade ai dati, riconoscere gli errori e le allucinazioni, valutare criticamente gli output, sapere quando è necessaria una verifica umana e distinguere gli utilizzi a basso rischio da quelli che possono incidere sui diritti delle persone.

Cognitive hacking: quando il bersaglio è la mente

La sicurezza informatica non riguarda più soltanto reti, dispositivi e archivi. Con il cognitive hacking, il bersaglio diventa il modo in cui una persona interpreta le informazioni, riconosce una fonte come affidabile e prende una decisione.

L’intelligenza artificiale generativa rende queste forme di manipolazione più credibili, rapide e personalizzabili. Conoscere il ruolo professionale di una persona, i nomi dei colleghi, le attività di cui si occupa, le sue relazioni o una condizione di fragilità permette infatti di costruire messaggi molto più plausibili: una falsa richiesta del dirigente, una comunicazione che riproduce il linguaggio dell’ufficio, una voce artificiale che imita un collega.

Inserire un dato personale in un sistema di AI non significa automaticamente esporsi a un’operazione di cognitive hacking. Significa però trasferire informazioni in un ambiente di cui l’utilizzatore potrebbe non conoscere pienamente modalità di conservazione, accesso e riutilizzo. Qualora quei dati fossero sottratti, estratti o trattati impropriamente, potrebbero contribuire a rendere più efficace una futura azione di persuasione o di social engineering.

Per questo la minimizzazione dei dati assume un valore ulteriore: non fornire informazioni personali non necessarie significa ridurre anche la quantità di conoscenza che potrebbe essere utilizzata per rendere più credibile un tentativo di manipolazione.

Dalle raccomandazioni generiche alle regole operative

Una politica organizzativa sull’intelligenza artificiale dovrebbe partire da poche domande concrete. Quali strumenti sono autorizzati? Per quali attività possono essere utilizzati? Quali dati non devono essere inseriti? In quali casi occorre coinvolgere il responsabile della protezione dei dati, i sistemi informativi o la direzione? Come devono essere verificati e documentati gli output?

È inoltre necessario distinguere tra contesti profondamente diversi. Utilizzare l’AI per trovare alternative al titolo di un convegno non comporta gli stessi rischi dell’elaborazione di una relazione sociale. Correggere un testo privo di riferimenti personali è diverso dal sintetizzare il fascicolo di un utente. Preparare una bozza da sottoporre a revisione è diverso dall’affidare al sistema una valutazione o una decisione.

La governance dovrebbe quindi essere proporzionata al rischio e fondata almeno su alcuni elementi: un elenco degli strumenti autorizzati, regole chiare sull’utilizzo dei dati, formazione differenziata per ruoli, procedure per i casi più delicati, verifica umana degli output e revisione periodica delle pratiche adottate.

Non è un’esigenza esclusivamente normativa. È una condizione per utilizzare l’AI in modo realmente efficace. L’OECD rileva infatti che, nonostante la diffusione dell’intelligenza artificiale nei governi, le condizioni organizzative per utilizzarla in sicurezza e su larga scala rimangono disomogenee. Soltanto 14 Paesi OECD su 36 richiedono valutazioni del rischio prima dell’adozione e appena 10 su 36 dichiarano di misurare gli impatti economici o non economici dei casi d’uso governativi.

Proteggere i dati significa proteggere le persone

Prima di inserire un documento in uno strumento di AI non basta verificare se siano presenti nomi e cognomi. Occorre quindi domandarsi se il testo contenga elementi capaci di ricostruire l’identità, le relazioni, le abitudini, le vulnerabilità o il contesto professionale di una persona. La regola dovrebbe essere semplice: utilizzare soltanto strumenti autorizzati, condividere le informazioni strettamente necessarie, generalizzare i dati di contesto ed evitare il trasferimento di fascicoli, relazioni sociali, dati sanitari, recapiti o corrispondenza interna quando l’attività può essere svolta senza questi elementi.

La protezione dei dati non riguarda soltanto ciò che una piattaforma potrebbe conoscere oggi. Riguarda anche ciò che qualcuno potrebbe fare domani utilizzando quella conoscenza per guadagnare fiducia, orientare una scelta o indurre una persona a compiere un’azione. La privacy non è quindi un freno all’innovazione, ma una sua condizione. Regole, formazione e responsabilità permettono di utilizzare l’intelligenza artificiale senza sacrificare la fiducia delle persone e la qualità dei servizi pubblici. Perché proteggere un dato significa sempre più spesso proteggere anche la sicurezza della persona che quel dato descrive.

Bibliografia

FPA (2026), La Pubblica Amministrazione infrastruttura strategica del Paese. Un’indagine di FPA, report presentato in occasione di FORUM PA 2026. Per i dati sull’utilizzo dell’intelligenza artificiale nella PA si vedano in particolare le pp. 15-18.

OECD (2026), Digital Government Outlook 2026: From Foundations to Transformational Impact, OECD Publishing, Paris, in particolare il capitolo 4, “Adopting and governing AI in government”, DOI: 10.1787/0496b2bc-en.

Parlamento europeo e Consiglio dell’Unione europea (2016), Regolamento (UE) 2016/679 del 27 aprile 2016 relativo alla protezione delle persone fisiche con riguardo al trattamento dei dati personali e alla libera circolazione di tali dati – Regolamento generale sulla protezione dei dati, con particolare riferimento al considerando 26, all’articolo 4 e all’articolo 5.

Garante per la protezione dei dati personali (2026), Provvedimento del 17 aprile 2026, doc. web n. 10257257.

European Data Protection Board – EDPB (2024), Opinion 28/2024 on certain data protection aspects related to the processing of personal data in the context of AI models, adottato il 17 dicembre 2024.

European Data Protection Board – EDPB (2026), Guidelines 03/2026 on web scraping in the context of generative AI, versione 1.0 adottata nel luglio 2026 e sottoposta a consultazione pubblica dall’8 luglio al 30 ottobre 2026 (versione non definitiva).

Parlamento europeo e Consiglio dell’Unione europea (2024), Regolamento (UE) 2024/1689 del 13 giugno 2024 che stabilisce regole armonizzate sull’intelligenza artificiale – AI Act, con particolare riferimento all’articolo 4 sull’alfabetizzazione in materia di AI.

European Data Protection Supervisor – EDPS (2018), Opinion 3/2018: Online Manipulation and Personal Data, 19 marzo 2018

Cybenko, G., Giani, A. e Thompson, P. (2002), “Cognitive Hacking: A Battle for the Mind”, Computer, vol. 35, n. 8, pp. 50-56, DOI: 10.1109/MC.2002.1023788