Intelligenza artificiale nella PA: il vero tema non è vietarla, ma governarla

La diffusione dell'Intelligenza Artificiale negli uffici pubblici sta crescendo rapidamente e, insieme alle opportunità offerte da questi strumenti, iniziano a emergere con maggiore chiarezza anche i rischi legati a un utilizzo non governato.

Un caso recente arriva dal Comune di Treviso, che ha introdotto uno specifico regolamento sull'impiego dell'Intelligenza Artificiale negli uffici comunali, limitando l'utilizzo di piattaforme non autorizzate e ponendo particolare attenzione al fenomeno della cosiddetta Shadow AI: l'uso autonomo, da parte degli operatori, di strumenti di Intelligenza Artificiale disponibili online ma non inseriti nei sistemi, nelle regole e nei processi dell'organizzazione. Leggi l'articolo del Corriere del Veneto sul caso di Treviso.

La questione, quindi, non riguarda tanto l'Intelligenza Artificiale in sé, quanto il modo in cui viene utilizzata e il livello di controllo che l'ente riesce a mantenere sul suo impiego.

Quando l'AI entra negli uffici senza un perimetro

Oggi un dipendente può utilizzare un servizio di AI generativa per sintetizzare un documento, predisporre una bozza, analizzare un testo, cercare rapidamente un'informazione o confrontare contenuti diversi. Sono attività che possono portare un evidente beneficio in termini di produttività, ma che diventano più delicate quando all'interno del prompt vengono inserite informazioni contenute in pratiche amministrative, documenti interni, dati relativi a cittadini o imprese oppure materiale non destinato a essere condiviso con piattaforme esterne.

A questo si aggiunge un secondo aspetto altrettanto importante: comprendere su quali informazioni si basi la risposta generata dall'AI, verificare se le fonti siano affidabili e poter ricostruire, almeno nei casi più rilevanti, il percorso che ha portato alla produzione di un determinato contenuto.

È proprio in questo passaggio che un semplice strumento di produttività diventa un tema di governance, sicurezza, responsabilità e controllo del dato.

Non basta chiedersi se usare l'AI

La scelta di Treviso mette in evidenza un principio destinato probabilmente a diventare sempre più centrale anche per altri enti: non è sufficiente chiedersi se utilizzare o meno l'Intelligenza Artificiale, ma è necessario definire con quali strumenti, su quali dati, per quali attività e all'interno di quali regole essa possa essere impiegata.

È proprio in questo scenario che si inserisce l'approccio di K-AI.

K-AI nasce con l'obiettivo di portare gli strumenti di Intelligenza Artificiale all'interno di un ambiente governato, nel quale l'AI non sia semplicemente una chat esterna utilizzata individualmente dai singoli operatori, ma una componente integrata nel modo di lavorare dell'organizzazione.

Assistenti specializzati e basi di conoscenza controllate

Questo significa poter costruire assistenti e agenti specializzati che operano su fonti informative selezionate, documenti e basi di conoscenza definite dall'ente, consentendo agli utenti di interrogare il patrimonio informativo tramite il linguaggio naturale e di ottenere risposte contestualizzate rispetto ai contenuti effettivamente messi a disposizione.

L'approccio cambia quindi in modo sostanziale. Non si tratta più di affidarsi genericamente a un chatbot per ottenere una risposta, ma di utilizzare l'AI come strumento di supporto all'interno di un perimetro conoscitivo controllato, nel quale l'organizzazione decide quali informazioni possono essere utilizzate e in quale contesto.

Questo aspetto è particolarmente rilevante nella Pubblica Amministrazione, dove uno dei limiti più evidenti dei modelli generativi è rappresentato dalla possibilità di produrre informazioni plausibili ma non necessariamente corrette. Per questo motivo è fondamentale che l'AI venga messa nella condizione di lavorare, per quanto possibile, su basi documentali controllate e che l'utente possa comprendere da dove provengano le informazioni utilizzate per costruire una risposta.

Attraverso tecniche RAG e basi di conoscenza dedicate, K-AI può ricercare le informazioni all'interno del patrimonio documentale autorizzato e utilizzarle come contesto per supportare l'operatore nelle attività quotidiane. L'obiettivo non è sostituire la valutazione del funzionario, ma consentirgli di trovare più rapidamente le informazioni rilevanti, verificarle e utilizzarle in modo consapevole.

Il controllo resta alle persone

K-AI non si limita alla sola interazione tramite chatbot. Può supportare la ricerca documentale, l'analisi di testi, la predisposizione assistita di documenti, la verifica dei contenuti, la consultazione di basi di conoscenza interne e la creazione di agenti specializzati per differenti ambiti operativi.

Un ente può, ad esempio, prevedere un assistente dedicato alla normativa, uno focalizzato sulle procedure interne, uno orientato alla documentazione tecnica o uno pensato per supportare la predisposizione di particolari tipologie di atti e documenti.

In questo modo l'Intelligenza Artificiale non rimane uno strumento esterno utilizzato in modo occasionale, ma può diventare una componente strutturata dell'ambiente di lavoro, con ruoli, fonti e finalità definite dall'organizzazione.

Un altro elemento essenziale riguarda il ruolo delle persone. Anche quando l'AI è in grado di analizzare, sintetizzare, confrontare o proporre contenuti, la responsabilità del processo deve rimanere in capo all'operatore.

È un principio particolarmente importante in ambito amministrativo, dove l'Intelligenza Artificiale può essere utilizzata per supportare il lavoro, ridurre il tempo dedicato alla ricerca delle informazioni, predisporre bozze o evidenziare elementi utili, ma non deve trasformarsi in un meccanismo autonomo di decisione.

Regole, formazione e AI literacy

La stessa normativa europea sull'Intelligenza Artificiale va nella direzione di una maggiore consapevolezza nell'utilizzo di questi strumenti, introducendo il tema dell'AI literacy e della necessità che le persone coinvolte nell'uso dei sistemi di AI dispongano di conoscenze e competenze adeguate rispetto al contesto in cui tali strumenti vengono impiegati.

Questo significa che il tema non può essere affrontato esclusivamente dal punto di vista tecnologico. Servono strumenti, ma servono anche regole, responsabilità, formazione e una chiara definizione dei confini entro i quali l'AI può operare.

Dalla limitazione degli strumenti alla capacità di governarli

Bloccare l'utilizzo di strumenti non autorizzati può essere una misura necessaria per limitare i rischi, ma da sola non elimina il bisogno che ha portato gli operatori a utilizzare quei servizi. Le persone continueranno ad avere la necessità di cercare più rapidamente le informazioni, sintetizzare documenti, confrontare normative, predisporre testi e lavorare su quantità sempre maggiori di dati e contenuti.

La vera sfida per gli enti sarà quindi quella di affiancare alle regole strumenti adeguati, capaci di offrire i vantaggi dell'Intelligenza Artificiale generativa all'interno di un ambiente controllato, coerente con le esigenze dell'organizzazione e integrato nei processi di lavoro.

È in questa prospettiva che K-AI vuole proporsi non come una semplice alternativa a ChatGPT, ma come un ambiente attraverso il quale un ente può iniziare a definire in modo concreto come utilizzare l'Intelligenza Artificiale, quali conoscenze metterle a disposizione, quali agenti creare e in quali processi inserirli.

Perché il tema, sempre più chiaramente, non sarà scegliere tra utilizzare o vietare l'Intelligenza Artificiale, ma decidere se lasciarla crescere in modo spontaneo e incontrollato oppure governarla in modo consapevole, sicuro e coerente con le responsabilità dell'organizzazione.