Si tratta di un documento normativo basato su un approccio umano-centrico all’Intelligenza Artificiale che prevede un insieme di regole volte a tutelare i diritti fondamentali della persona. I principi su cui si fonda A.I. Act sono: vita privata e governance dei dati (art.10); intervento e sorveglianza umani (art. 14); robustezza tecnica e sicurezza (art. 15); trasparenza (artt. 13 e 50);diversità, non discriminazione ed equità, benessere sociale e ambientale (cons. 27); responsabilità dei fornitori di sistemi I.A. (art. 25).

L’obiettivo del Regolamento è quello di disciplinare l’immissione all’interno del mercato europeo dei sistemi di intelligenza artificiale da parte di soggetti pubblici e privati, anche extraeuropei.

Il provvedimento troverà applicazione nei confronti dei fornitori e degli operatori economici che fanno uso della tecnologia I.A., i quali saranno tenuti al rispetto di determinati obblighi di controllo, documentazione e garanzia della qualità dei sistemi utilizzati.

Non rientrano nell’ambito di applicazione dell’A.I. Act i sistemi di I.A. il cui utilizzo:

• sia esclusivamente volto a soddisfare scopi militari, di difesa o di sicurezza nazionale (di competenza degli Stati membri);
• siano necessari per attività di ricerca e sviluppo scientifico relative a sistemi di intelligenza artificiale;
• avvenga ad opera di persone fisiche che utilizzano l’I.A. per motivi non professionali.

L’A.I. Act adotta un approccio “basato sul rischio”, procedendo alla classificazione dei sistemi a seconda del rischio che sono in grado di generare:

• sistemi che generano un rischio inaccettabile perché in grado di manipolare i comportamenti umani, ricorrendo alla categorizzazione biometrica o identificazione biometrica in tempo reale, ovvero sistemi di rilevazione dello stato d’animo in luoghi di lavori o istituti pubblici.
• sistemi ad alto rischio i quali possono arrecare nocumento ai diritti fondamentali; rispetto a questi sistemi, fornitori e utilizzatori sono tenuti a garantire la conformità degli stessi agli standard previsti dalla normativa europea, la loro robustezza tecnica, l’adeguatezza dei set di dati utilizzati, la tracciabilità e verificabilità dei processi. Tra i sistemi I.A. ad alto rischio rientrano quelli finalizzati a determinare l’accesso o l’assegnazione a istituti di formazione; quelli utilizzati per l’erogazione di servizi pubblici o per valutare l’affidabilità creditizia.
• i sistemi a rischio minimo sono quelli esenti da obblighi, sebbene i fornitori possano comunque decidere di aderire spontaneamente ai codici di condotta. La maggior parte dei sistemi di intelligenza artificiale immessi nel mercato europeo appartengono a questa categoria.

I modelli di I.A. generativa

Si tratta di sistemi capaci di generare un’informazione nuova e originale partendo da una serie di input che vengono loro forniti; il regolamento prende in considerazione tanto questi modelli quanto quelli di A.I. per scopi generali, entrambi assai diffusi sul territorio europeo. Si tratta di sistemi che possono essere utilizzati per una vasta gamma di compiti; alcuni di essi potrebbero creare dei problemi sistemici se ampiamente utilizzati.

Il rischio sistemico consiste in una minaccia per il regolare funzionamento del mercato europeo e nella possibilità che siano pregiudicati valori come salute, sicurezza pubblica e diritti fondamentali. Per questi sistemi sono previsti specifici adempimenti come:

• redazione della documentazione tecnica della macchina, del suo processo di addestramento e della valutazione dei suoi risultati;
• rispetto della normativa in materia di tutela del diritto di autore;
• redazione e messa a disposizione del pubblico del set di dati utilizzati per l’addestramento della macchina.

La Commissione europea ritiene che, allo stato attuale della tecnologia, i modelli di I.A. per finalità generali che sono stati addestrati utilizzando una potenza di calcolo totale superiore a 10^25 FLOPS comportino rischi sistemici; tale soglia potrà essere modificata a seconda dello sviluppo tecnologico in materia.

Le sanzioni

Le sanzioni per le violazioni della disciplina in analisi sono state fissate secondo una percentuale del fatturato annuo globale dell’anno precedente delle imprese autrici dell’illecito ovvero in misura fissa, a seconda di quale sia l’importo più elevato. Gli Stati sono incaricati di individuare misure sanzionatorie efficaci, proporzionali e dissuasive, comprese le sanzioni amministrative pecuniarie.

La Governance dell’A.I.

L’attuazione del regolamento sarà garantita da un sistema costruito su due livelli, uno europeo e uno nazionale.

Le Autorità nazionali della concorrenza di ogni Stato membro verificheranno l’attuazione della disciplina contenuta nel regolamento, mentre in seno alla Commissione europea sarà costituito un Ufficio europeo per A.I. con un ruolo, da un lato, di raccordo e, dall’altro, di centro propulsore per lo sviluppo di nuove competenze all’interno dell’Unione europea in materia di intelligenza artificiale.

Un Comitato europeo per l’A.I., costituito da rappresentanti di ogni Stato, avrà un ruolo consultivo per la Commissione. Si prevede, infine, l’istituzione di un forum consultivo per i portatori di interessi, come i rappresentanti dell’industria, le PMI, le start-up, la società civile e il mondo accademico.

Al fine di incentivare la sperimentazione, il Regolamento prevede strumenti come i sandbox normativi e gli spazi di prova in condizioni reali. I primi sono ambienti, fisici o virtuali, in cui le aziende Fintech possono sperimentare nuove tecnologie, sotto la supervisione delle Autorità vigilanti del settore, per un periodo di tempo limitato e in deroga alle norme vigenti.

Le prove in condizioni reali avranno una durata di sei mesi prorogabili, e prima di essere espletate dovranno essere precedute dalla presentazione all’autorità di vigilanza sul mercato di un piano suscettibile di approvazione o meno. Sarà altresì necessario che gli utenti che si sottoporranno alla prova rilascino il loro consenso e non subiscano ripercussioni negative di alcun tipo e che i loro dati vengano subito cancellati dopo la fine della prova.

Infine, deve precisarsi che l’A.I.  Act non intende introdurre una disciplina esaustiva in materia di Intelligenza Artificiale, ma tiene conto della sussistenza di discipline specifiche già vigenti (come quella in materia di tutela della privacy).

Non resta, dunque, che attendere la definitiva adozione del testo di legge e la successiva applicazione da parte degli Stati membri per valutare i punti di forza e quelli di criticità dell’A.I. Act.

L'articolo A.I. Act: il primo provvedimento normativo sull’Intelligenza Artificiale è europeo proviene da Giurdanella.it.

Per poter comprendere la portata di questa previsione e le sue implicazioni pratiche è necessario, anzitutto, definire cosa sia l’Intelligenza Artificiale. La Commissione Europea nel 2018 l’ha definita come “quei sistemi che mostrano un comportamento intelligente analizzando il proprio ambiente e compiendo azioni, con un certo grado di autonomia, per raggiungere obiettivi specifici”. In altri termini, i sistemi di intelligenza artificiale riescono ad adottare una decisione in maniera più o meno autonoma sulla base di determinati input che gli vengono forniti dall’uomo.

I principali problemi rispetto all’utilizzo di nuove tecnologie come l’I.A. riguardano il ruolo che ha l’uomo (e dunque il funzionario della P.A.) nell’adozione della decisione amministrativa, la comprensibilità di quest’ultima da parte dei suoi destinatari, la trasparenza e accessibilità dei dati su cui si basa, nonché la sua natura non discriminatoria.

Sebbene la piena applicazione dell’art. 30 del d.lgs. 36/2023 sia ancora lontana nel tempo, è opportuno comprendere da subito quali siano le linee guida e gli indirizzi nazionali e sovranazionali in materia di Intelligenza Artificiale. A tal proposito, vengono in rilievo, in particolare, tre documenti:

-la Carta Etica per l’Intelligenza Artificiale nel sistema giustiziale, adottata dalla Commissione europea nel 2018;

–la Raccomandazione della Commissione europea del 2019, “Creare fiducia nell’intelligenza artificiale antropocentrica”;

–il Libro Bianco sull’Intelligenza Artificiale del 2018 a cura della task force istituita in seno all’Agenzia per l’Italia Digitale.

Si tratta di tre documenti che non rappresentano atti vincolanti per i soggetti pubblici e privati impegnati nel processo di integrazione dell’I.A. nell’attività amministrativa, ma che tuttavia forniscono degli spunti preziosi per le pubbliche amministrazioni chiamate ad aprirsi a questa nuova

tecnologia.

La Carta Etica è un documento rivolto ad attori pubblici e privati incaricati di sviluppare strumenti di intelligenza artificiale al servizio di decisioni e dati giudiziari. Sebbene la Carta riguardi specificamente il settore della giustizia, essa fornisce spunti di riflessione trasversali e validi in generale per analizzare l’impiego dell’Intelligenza Artificiale.

Al suo interno vengono infatti enucleati i principi di: rispetto dei diritti fondamentali; non discriminazione; qualità, sicurezza e trasparenza, imparzialità ed equità, controllo da parte dell’utilizzatore. La Carta Etica richiede, in particolare, che la decisione algoritmica sia tradotta in un linguaggio chiaro e comprensibile per i suoi destinatari e, dall’altro lato, prevede che gli utilizzatori dei sistemi di I.A. possano anche modificare la decisione senza esserne vincolati.

Il secondo documento citato, ossia la Raccomandazione della Commissione europea del 2019, traduce con maggiore incisività l’idea antropocentrica dell’intelligenza artificiale, la quale è strumento e non sostituto dell’attività umana. I sistemi di I.A. devono essere pensati come mezzi al servizio delle esigenze dell’uomo, il quale non deve rimanere ingabbiato all’interno delle decisioni algoritmiche ma deve poterle controllare e, soprattutto, comprendere. Rispetto al tema del controllo, all’interno della Raccomandazione vengono delineate tre tipologie di sorveglianza sul processo decisionale algoritmico:

-human in the loop in cui l’uomo compartecipa alle attività svolte dalla I.A.;

-human on the loop in cui l’uomo svolge attività di mera sorveglianza;

-human in command che implica tanto un’attività di controllo da parte dell’uomo, quanto la stessa possibilità di valutare se avvalersi o meno della I.A.

La commissione mette al centro l’uomo inteso anche come destinatario delle decisioni algoritmiche (dunque come cittadino) e prevede che esse siano tracciabili e comprensibili, ossia che sia documentato il processo che ha generato tali decisioni, che siano individuati i dati di partenza (input) e che l’intero meccanismo di funzionamento dell’algoritmo si traduca in un linguaggio chiaro e comprensibile ai soggetti coinvolti nella decisione.

A livello nazionale, il Libro Bianco a cura dell’AgID si focalizza poi sull’utilizzo della I.A. proprio all’interno delle pubbliche amministrazioni, prestando attenzione alle criticità sollevate da questa nuova tecnologia. Il rischio più preoccupante è infatti quello della completa sostituzione dell’uomo ad opera dell’intelligenza artificiale; pericolo a cui deve farsi fronte munendo gli apparati amministrativi non solo di strumentazioni adeguate ma, soprattutto, di competenze in grado di avvalersi dell’intelligenza artificiale. Il Libro pone poi l’accento sulla necessità di investire sulla formazione e sulla ricerca per creare nuove competenze che superino quelle richieste dal processo di digitalizzazione già in atto nel paese.

L’introduzione dell’I.A. all’interno dei processi decisionali amministrativi solleva, inoltre, anche un problema di accountability: i provvedimenti adottati mediante tale tecnologia devono comunque essere ricondotti alla pubblica amministrazione, la quale deve essere in grado di motivarli; a valle, è poi necessario che tali provvedimenti siano intellegibili da parte del cittadino, che deve essere in grado di risalire ai dati di cui si è servito l’algoritmo per addivenire a una determinata decisione ed eventualmente poter riconoscere un possibile errore di calcolo. L’ulteriore sfida è dunque rappresentata dal maggiore grado di trasparenza e accessibilità che la pubblica amministrazione deve garantire ai cittadini.

L'articolo Intelligenza Artificiale e appalti proviene da Giurdanella.it.

Da notizie di stampa l’Autorità garante della privacy ha appreso che il Comune di Trento stava portando avanti la sperimentazione di tre diversi sistemi di intelligenza artificiale, denominati “Marvel”, “Protector” e “Precrisis”.

Mentre quest’ultimo non destava particolari problemi in materia di tutela della privacy, essendo in fase di programmazione e non essendo ancora stato avviato, i primi due progetti risultavano non conformi al GDPR.

I progetti “Marvel” e “Protector”, fiinanziati nell’ambito di programmi di ricerca dell’Unione europea, prevedevano la raccolta di informazioni provenienti da luoghi pubblici mediante l’utilizzo di microfoni e telecamere di videosorveglianza, al fine di rilevare (ed eventualmente contrastare) situazioni di pericolo per la sicurezza pubblica.

In particolare, il progetto “Marvel” consisteva nella raccolta e nell’analisi di dati audiovisivi – acquisiti mediante telecamere già installate nel territorio del Comune e microfoni appositamente collocati sulla pubblica via – che avrebbero consentito di rilevare, attraverso l’impiego di tecniche di intelligenza artificiale, eventi di rischio per la sicurezza pubblica.

Il progetto “Protector”, invece, prevedeva la raccolta e l’analisi di messaggi e commenti d’odio pubblicati su svariati social network, al fine di isolare – sempre attraverso l’impiego di tecniche di intelligenza artificiale – emozioni negative e situazioni di allarme da mettere poi a disposizione delle Forze dell’ordine.

A seguito di una complessa istruttoria, il Garante ha sanzionato il Comune di Trento sulla base dei seguenti motivi:

1. Assenza di basi giuridiche legittimanti il trattamento dei dati personali, in violazione dell’art. 6 del GDPR. Il Comune di Trento, che non annovera la ricerca scientifica tra le proprie finalità istituzionali, non ha debitamente provato di aver trattato i dati personali sulla base di una delle condizioni di liceità del trattamento contenute nel richiamato art. 6;
2. Insufficienza delle tecniche di anonimizzazione impiegate dal Comune (insufficienza, ad esempio, della semplice sostituzione della voce del soggetto parlante con un’altra alterata);
3. Condivisione di dati personali con soggetti diversi dal Titolare del trattamento, ossia con la FBK, Fondazione partner dei progetti di ricerca che trattava i dati in qualità di Responsabile del trattamento;
4. Carenza di trasparenza e mancata compiuta descrizione dei trattamenti dei dati personali.

Il Garante ha censurato tutte le attività di ricerca condotte dal Comune nell’ambito dei due progetti, poiché le modalità di raccolta e di analisi dei dati sono risultate tanto invasive da comportare significativi rischi per le libertà e per i diritti fondamentali degli Interessati dal trattamento.

Si è infatti messo in evidenza che il contenuto delle conversazioni, captato mediante tecniche di intelligenza artificiale, non risultava realmente anonimizzato, tant’è che sarebbe stato possibile, a mero titolo esemplificativo, venire a conoscenza di dati personali relativi a reati posti in essere da terzi soggetti menzionati o di dati personali relativi a categorie di soggetti vulnerabili.

In ogni caso, va precisato che l’Autorità, pur condannando in questo specifico caso il Comune di Trento per come ha condotto il trattamento dei dati personali, si è detta assolutamente aperta all’utilizzo dell’AI e pronta a collaborare con ogni Amministrazione per la realizzazione di progetti di ricerca in conformità con le norme sulla tutela della privacy.

L'articolo Il Garante per la protezione dei dati sanziona l’utilizzo dell’AI in violazione della normativa privacy proviene da Giurdanella.it.