Intelligenza Artificiale e appalti

L’evoluzione tecnologica che interessa l’intero apparato amministrativo ha i suoi riflessi anche sulla disciplina dei contratti pubblici, oggi contenuta nel d.lgs. 36/2023. Infatti, oltre a prevedere la digitalizzazione dell’intero ciclo di vita dei contratti pubblici, l’attuale Codice dei Contratti Pubblici fa un ulteriore passo in avanti stabilendo che, al fine di aumentare la loro efficienza, le stazioni appaltanti si dotino di sistemi di intelligenza artificiale attraverso i quali gestire l’intera procedura di aggiudicazione dei pubblici appalti.

Per poter comprendere la portata di questa previsione e le sue implicazioni pratiche è necessario, anzitutto, definire cosa sia l’Intelligenza Artificiale. La Commissione Europea nel 2018 l’ha definita come “quei sistemi che mostrano un comportamento intelligente analizzando il proprio ambiente e compiendo azioni, con un certo grado di autonomia, per raggiungere obiettivi specifici”. In altri termini, i sistemi di intelligenza artificiale riescono ad adottare una decisione in maniera più o meno autonoma sulla base di determinati input che gli vengono forniti dall’uomo.

I principali problemi rispetto all’utilizzo di nuove tecnologie come l’I.A. riguardano il ruolo che ha l’uomo (e dunque il funzionario della P.A.) nell’adozione della decisione amministrativa, la comprensibilità di quest’ultima da parte dei suoi destinatari, la trasparenza e accessibilità dei dati su cui si basa, nonché la sua natura non discriminatoria.

Sebbene la piena applicazione dell’art. 30 del d.lgs. 36/2023 sia ancora lontana nel tempo, è opportuno comprendere da subito quali siano le linee guida e gli indirizzi nazionali e sovranazionali in materia di Intelligenza Artificiale. A tal proposito, vengono in rilievo, in particolare, tre documenti:

-la Carta Etica per l’Intelligenza Artificiale nel sistema giustiziale, adottata dalla Commissione europea nel 2018;

la Raccomandazione della Commissione europea del 2019, “Creare fiducia nell’intelligenza artificiale antropocentrica”;

il Libro Bianco sull’Intelligenza Artificiale del 2018 a cura della task force istituita in seno all’Agenzia per l’Italia Digitale.

Si tratta di tre documenti che non rappresentano atti vincolanti per i soggetti pubblici e privati impegnati nel processo di integrazione dell’I.A. nell’attività amministrativa, ma che tuttavia forniscono degli spunti preziosi per le pubbliche amministrazioni chiamate ad aprirsi a questa nuova

tecnologia.

La Carta Etica è un documento rivolto ad attori pubblici e privati incaricati di sviluppare strumenti di intelligenza artificiale al servizio di decisioni e dati giudiziari. Sebbene la Carta riguardi specificamente il settore della giustizia, essa fornisce spunti di riflessione trasversali e validi in generale per analizzare l’impiego dell’Intelligenza Artificiale.

Al suo interno vengono infatti enucleati i principi di: rispetto dei diritti fondamentali; non discriminazione; qualità, sicurezza e trasparenza, imparzialità ed equità, controllo da parte dell’utilizzatore. La Carta Etica richiede, in particolare, che la decisione algoritmica sia tradotta in un linguaggio chiaro e comprensibile per i suoi destinatari e, dall’altro lato, prevede che gli utilizzatori dei sistemi di I.A. possano anche modificare la decisione senza esserne vincolati.

Il secondo documento citato, ossia la Raccomandazione della Commissione europea del 2019, traduce con maggiore incisività l’idea antropocentrica dell’intelligenza artificiale, la quale è strumento e non sostituto dell’attività umana. I sistemi di I.A. devono essere pensati come mezzi al servizio delle esigenze dell’uomo, il quale non deve rimanere ingabbiato all’interno delle decisioni algoritmiche ma deve poterle controllare e, soprattutto, comprendere. Rispetto al tema del controllo, all’interno della Raccomandazione vengono delineate tre tipologie di sorveglianza sul processo decisionale algoritmico:

-human in the loop in cui l’uomo compartecipa alle attività svolte dalla I.A.;

-human on the loop in cui l’uomo svolge attività di mera sorveglianza;

-human in command che implica tanto un’attività di controllo da parte dell’uomo, quanto la stessa possibilità di valutare se avvalersi o meno della I.A.

La commissione mette al centro l’uomo inteso anche come destinatario delle decisioni algoritmiche (dunque come cittadino) e prevede che esse siano tracciabili e comprensibili, ossia che sia documentato il processo che ha generato tali decisioni, che siano individuati i dati di partenza (input) e che l’intero meccanismo di funzionamento dell’algoritmo si traduca in un linguaggio chiaro e comprensibile ai soggetti coinvolti nella decisione.

A livello nazionale, il Libro Bianco a cura dell’AgID si focalizza poi sull’utilizzo della I.A. proprio all’interno delle pubbliche amministrazioni, prestando attenzione alle criticità sollevate da questa nuova tecnologia. Il rischio più preoccupante è infatti quello della completa sostituzione dell’uomo ad opera dell’intelligenza artificiale; pericolo a cui deve farsi fronte munendo gli apparati amministrativi non solo di strumentazioni adeguate ma, soprattutto, di competenze in grado di avvalersi dell’intelligenza artificiale. Il Libro pone poi l’accento sulla necessità di investire sulla formazione e sulla ricerca per creare nuove competenze che superino quelle richieste dal processo di digitalizzazione già in atto nel paese.

L’introduzione dell’I.A. all’interno dei processi decisionali amministrativi solleva, inoltre, anche un problema di accountability: i provvedimenti adottati mediante tale tecnologia devono comunque essere ricondotti alla pubblica amministrazione, la quale deve essere in grado di motivarli; a valle, è poi necessario che tali provvedimenti siano intellegibili da parte del cittadino, che deve essere in grado di risalire ai dati di cui si è servito l’algoritmo per addivenire a una determinata decisione ed eventualmente poter riconoscere un possibile errore di calcolo. L’ulteriore sfida è dunque rappresentata dal maggiore grado di trasparenza e accessibilità che la pubblica amministrazione deve garantire ai cittadini.