I dilemmi della IA tra comunicazione e istituzioni

Il vero rischio è creare quella che è stata definita “l’illusione di controllo”. La pretesa di creare uno spazio di controllo umano in un ambito dominato in realtà dalla macchina con la conseguente inaccettabile delocalizzazione della responsabilità a carico del funzionario designato al controllo. Terzo limite è il principio di non discriminazione. La validità del set di dati di cui dispone la macchina incide sulla correttezza dei risultati: (GIGO) garbage in, garbage out. Sotto quest’ultimo profilo può farsi molto per assicurare trasparenza e genuinità alle decisioni pubbliche. Parimenti il mondo dell’informazione e della Comunicazione italiana potrebbero sperimentare un nuovo patto di fiducia distinguendo il prodotto editoriale e di Comunicazione tradizionale da quello generato, solo o in parte, con l’intelligenza artificiale. Un obiettivo utile è, già oggi, rendersi protagonisti come custodi dell’Informazione perché produce sempre un vantaggio reputazionale. Lo strumento è il bilancio della Comunicazione, per cifrare la competenza utile a gestire e a misurare l’equità e la trasparenza dell’Informazione. L’informazione di pregio avrà sempre più mercato.

In primo luogo potrebbe riservarsi maggiore attenzione alle banche dati di cui si serve l’amministrazione che presentano talvolta dati sporchi, obsoleti o ridondanti mentre mancano informazioni fondamentali nelle analisi. Può poi imprimersi innovazione alla fase dell’acquisto dei prodotti di AI.

L’Amministrazione potrebbe non limitarsi ad acquistare prodotti di AI esistenti sul mercato ma collaborare con i fornitori nel costruire gli strumenti sulla base delle proprie specifiche esigenze. Fondamentali in questo quadro sono i contratti innovativi previsti dal nuovo codice dei contratti pubblici in cui la pubblica amministrazione può dialogare con il mercato in vista della gara e addirittura, in alcuni di essi, costruire l’offerta insieme all’impresa tenendo conto delle proprie specifiche esigenze da soddisfare. In questo modo il prodotto potrebbe da un lato meglio rispondere alle esigenze specifiche dell’amministrazione e dall’altro essere da questa conosciuto nella sua logica più profonda perchè strutturato insieme al fornitore.

Bisognerebbe poi guardare ai fornitori dei dati. La maggior parte dei dati utilizzati dall’AI sono nella disponibilità di pochi soggetti privati: grandi piattaforme tecnologiche e alcune imprese specializzate nella raccolta e nella vendita di dati. Meno rilevante è il ruolo delle banche dati pubbliche. Gli stessi soggetti, e poche altre imprese, forniscono gli strumenti di AI.

Si tratta di soggetti privati di dimensioni, capacità operative e forza economica superiore alla maggior parte degli Stati nel mondo che, attraverso gli strumenti di AI forniti, potrebbero influenzare le politiche pubbliche. Nell’attuale quadro geopolitico, il problema della manipolazione potrebbe assumere caratteri più allarmanti con riferimento ai gestori dei dati o i fornitori di AI che hanno sede in Paesi non alleati o che non hanno una legislazione di protezione adeguata. In questo caso un set di dati alterato da bias o volto alla tutela di interessi specifici potrebbe alterare le decisioni pubbliche mentre l’eventuale presenza di “backdoor” o di software di monitoraggio nascosti nel sistema potrebbe mettere in pericolo dati sensibili con possibili ripercussioni sui servizi pubblici o, nei casi più gravi, sulla sicurezza nazionale.

Il ricorso abituale a questi prodotti potrebbe tradursi in una situazione di lock in, una dipendenza rischiosa qualora, in caso di tensioni geopolitiche, venissero ridotti l’accesso ai dati o le forniture di servizi.

Può segnalarsi, infine, un problema di trasparenza di queste piattaforme capaci, come si è visto, di influire sulle scelte della pubblica amministrazione. La trasparenza e la partecipazione sono gli strumenti attraverso i quali la decisione amministrativa è costruita e può essere verificata ed essi non possono essere estranei a soggetti che a qualsiasi titolo si inseriscono nell’iter di formazione della volontà pubblica. Il tema non potrà non far parte dell’agenda normativa delle organizzazioni europee ed internazionali.

Decisivo è poi il problema della difesa delle infrastrutture fisiche su cui transitano i dati costituite per oltre il novanta per cento da cavi sottomarini e la cui interruzione rischia di riflettersi gravemente sulla continuità dei servizi pubblici. Alcuni recenti fatti di cronaca che hanno portato tra l’altro al sequestro da parte della Guardia costiera finlandese di una nave sospettata di avere tranciato volontariamente alcuni cavi in un atto di presunta ostilità ibrida, pongono con forza il problema all’attenzione delle Autorità nazionali e delle istituzioni sovranazionali.

Un ultimo punto riguarda poi la formazione del personale delle Amministrazioni che costituisce la vera sfida per il futuro del Paese e la comunicazione pubblica che è strumento indispensabile per creare creare un clima di fiducia tra i cittadini che sia consapevole dei benefici ottenibili e al contempo dei rischi. Come sottolineato dalla Commissione europea e dall’OCSE in diversi documenti, è essenziale illustrare in modo comprensibile a tutti le modalità operative dei sistemi di AI, le loro finalità istituzionali e le regole di utilizzazione nonché informare sul rispetto degli standard di sicurezza e delle linee guida etiche. Chi occupa ruoli di responsabilità istituzionali, in Italia, deve poter decidere alla pari con i tempi e gli strumenti di ogni altro Stato. Così le Aziende. È un fattore fondamentale per la sicurezza e il progresso di ogni Paese. Occorre il “set di regole “e di strutture istituzionali da dedicare come priorità per dare senso credibile alla contemporaneità sociale e di coesione generazionale.

Michele Corradino

Presidente di Sezione del Consiglio di Stato

Pier Domenico Garrone

Il Comunicatore