ChatGPT Archives - Giurdanella.it https://www.giurdanella.it/tag/chatgpt/ Rivista di diritto amministrativo dal 1998 Tue, 01 Apr 2025 12:30:03 +0000 it-IT hourly 1 https://wordpress.org/?v=7.1.3 ChatGPT e Gemini a confronto sul nuovo Codice Appalti https://www.giurdanella.it/2025/03/chatgpt-e-gemini-a-confronto-sul-nuovo-codice-degli-appalti/ Tue, 25 Mar 2025 15:50:58 +0000 https://www.giurdanella.it/?p=58300 (linee guida Anac, antielusività, interesse transfrontaliero)

L'articolo ChatGPT e Gemini a confronto sul nuovo Codice Appalti proviene da Giurdanella.it.

]]>
Abstract
Il presente approfondimento si propone di verificare, in maniera empirica e operativa, l’utilizzo dei sistemi di intelligenza artificiale ChatGPT e Gemini, capaci di comprendere e generare testi in linguaggio naturale, da parte degli operatori del settore della contrattualistica pubblica. L’adozione dell’IA permette, infatti, di accedere alle informazioni di ausilio in modo più veloce rispetto ai metodi di ricerca tradizionali per fornire assistenza nello svolgimento delle attività lavorative quotidiane. Verranno, pertanto, illustrate e vagliate le differenze nei processi di analisi e recupero delle informazioni, che emergono dall’impiego delle intelligenze artificiali ChatGPT di OpenAI e Gemini di Google, in risposta a quesiti specifici relativi al Codice degli appalti (D.Lgs. n. 36/2023). Il confronto e il riscontro evidenzieranno come ciascuno di questi sistemi di IA sia in grado di gestire la comprensione dei quesiti posti ed elaborare le relative risposte nell’ambito del complesso settore della contrattualistica pubblica italiana.

Indice

1. ChatGPT e Gemini
2. Intelligenze a confronto
2.1 Domanda n.1 riguardante le Linee Guida ANAC
2.2 Domanda n.2 riguardante il principio di antielusività
2.3 Domanda n.3 riguardante l’interesse transfrontaliero
3. Conclusione

Per leggere l’articolo cliccare il seguente link: https://www.giurdanella.it/wp-content/uploads/2025/03/ChaGPT-Gemini-CodiceAppalti.pdf

L'articolo ChatGPT e Gemini a confronto sul nuovo Codice Appalti proviene da Giurdanella.it.

]]>
Il paradosso dell’intelligenza artificiale bambina https://www.giurdanella.it/2024/10/noi-e-la-macchina-bambina-di-turing/ Mon, 28 Oct 2024 16:09:42 +0000 https://www.giurdanella.it/?p=57339 Immaginate visivamente di trovarvi in questa situazione: state rientrando da un viaggio intercontinentale, e a un certo punto, in aeroporto, dovete passare i controlli di frontiera. Provate a pensare a come reagireste se, nella postazione in cui normalmente è presente l’agente della polizia, vedeste un bambino di circa dodici anni, regolarmente abbigliato con l’uniforme d’ordinanza […]

L'articolo Il paradosso dell’intelligenza artificiale bambina proviene da Giurdanella.it.

]]>
Immaginate visivamente di trovarvi in questa situazione: state rientrando da un viaggio intercontinentale, e a un certo punto, in aeroporto, dovete passare i controlli di frontiera. Provate a pensare a come reagireste se, nella postazione in cui normalmente è presente l’agente della polizia, vedeste un bambino di circa dodici anni, regolarmente abbigliato con l’uniforme d’ordinanza e intento a lavorare con scrupolo nel vagliare coloro che passano il confine per fermare possibili persone sospette. Che cosa pensereste? Forse di essere capitati nello scherzo di un tiktoker, oppure immaginereste che il vero agente ha consentito per qualche minuto al figlio, nel giorno del suo compleanno, di occupare la propria postazione per farlo felice. O semplicemente non trovereste una spiegazione razionale a questo evento, effettivamente poco plausibile.

Createvi ora mentalmente quest’altro scenario: avete appena ricevuto un avviso di pagamento da parte dell’Agenzia delle Entrate e, a seguito di alcuni riscontri, venite a sapere che l’ufficio per le verifiche fiscali è stato assegnato a una bambina di nove anni, seria e diligente, ma pur sempre una giovanissima persona di quell’età. Probabilmente si tratta di una circostanza talmente inverosimile che faticate anche solo a raffigurarvela mentalmente.

Immaginate infine che, durante le vostre interazioni in un social network, insospettiti dal fatto che alcuni vostri post sono stati cancellati senza apparente motivo, veniste a sapere che, in quella piattaforma, l’intera moderazione dei commenti è rimessa ad un team di bambini e bambine che li gestisce secondo le proprie sensibilità e conoscenze. Probabilmente, oltre a pensare a qualche forma di sfruttamento del lavoro minorile, non riterreste quel team sufficientemente maturo da portare avanti con razionalità quel tipo di lavoro.

Questi scenari in sé stessi così bizzarri ci permettono di capire un grande paradosso sociale e giuridico: quelle stesse attività ora descritte, già oggi sono spesso assegnate a intelligenze artificiali. Queste ultime, però, attualmente si trovano in una fase evolutiva che da alcuni punti di vista può essere più facilmente assimilata a quella che Alan Turing chiamava la “child machine”, cioè una macchina “bambina”, che si trova nelle fasi iniziali della suo percorso di deep learning e che, complessivamente, sta sì dando segnali importanti, nell’ambito di un processo di apprendimento, ma si trova comunque in una fase non ancora “adulta”, che probabilmente raggiungerà in un prossimo futuro.

Dobbiamo quindi abbandonare l’idea di affidarci alle intelligenze artificiali, per le stesse ragioni per le quali non affideremmo a un bambino, pur intelligente e capace, un compito che richiede una mente adulta?

In realtà la questione è articolata. Il discorso appena proposto contiene alcune semplificazioni: non è così facile attribuire un’età ad un’intelligenza artificiale e, se si prova a farlo, si scopre che il risultato è diversificato, così come sono oscillanti tutti i resoconti dei test finora compiuti per cercare di assegnare un quoziente intellettivo alle intelligenze artificiali, che talvolta già superano i valori della mente umana adulta, e altre volte, anche modificando singole variabili nei quesiti, si attestano al di sotto.

Questa differenza di “età stimabile” dell’intelligenza artificiale dipende anche dalle skills su cui la si mette alla prova. In alcuni ambiti, essa già ha prestazioni uguali o superiori a quelle del cervello biologico dell’homo sapiens adulto, mentre sotto altri aspetti mantiene le caratteristiche di “macchina bambina”, magari intelligente, ma “molto giovane”.

L’intelligenza artificiale è già oggi matura, per esempio, nella capacità di indovinare i nostri gusti musicali e proporci brani che davvero apprezziamo: a tutti noi capita di stupirci positivamente quando una piattaforma di streaming mostra di saperci suggerire brani che vanno pienamente incontro alle nostre attese, focalizzandole quasi meglio di un nostro vecchio amico. Similmente, l’intelligenza artificiale già oggi raggiunge e supera la mente umana adulta nella traduzione dei testi scritti, un’attività nella quale produce risultati di indubbia qualità che, se anche non sono paragonabili al lavoro di un professionista di massimo livello della traduzione, sono almeno assimilabili a quelli di un essere umano adulto con medie conoscenze.

L’intelligenza artificiale è però ancora “bambina” nel suo rapporto con la logica, come può sperimentare chiunque di noi sottoponga degli indovinelli anche semplici a ChatGPT o a Gemini o a qualcuna delle loro “colleghe” chatbot generative. L’intelligenza artificiale è “immatura” quando si abbandona a superficiali pregiudizi nel riconoscimento facciale, e ricade nel tranello di considerare negativamente qualcuno sulla base di vaghe somiglianze somatiche, di generiche appartenenze etniche o di altri stereotipi.

È bambina quando, dopo averci fornito una risposta, anche plausibile, non è poi nelle condizioni di condurre meta-ragionamenti per spiegare le ragioni della sua determinazione e ricostruirne a posteriori il percorso logico.

L’intelligenza artificiale è “molto giovane” anche quando, ingenuamente, non distingue una fotografia incongrua da un’opera d’arte, o quando, per la sua poca esperienza, non scinde una battuta sarcastica da una dichiarazione violenta.

Il grande paradosso dell’intelligenza artificiale bambina nasce quindi dalla constatazione che tutte queste attività ora descritte sono già oggi spesso assegnate ad intelligenze artificiali, pur con i loro attuali limiti, nonostante troveremmo assurdo affidarle ad un bambino che ricadesse negli stessi bias, errori e nelle medesime inesperienze.

A volte l’affidamento di ruoli all’intelligenza artificiale avviene nell’ambito di situazioni semi-informali, come la moderazione dei social network, ma altre volte ha luogo in contesti altamente formali e istituzionali, come quando la polizia ricorre al riconoscimento facciale per le operazioni anti-terrorismo, pervenendo talvolta a incriminazioni e arresti arbitrari e illegittimi.

Qual è quindi la exit-strategy per fuoriuscire da questo paradosso? Forse rinunciare all’intelligenza artificiale come strumento in ambito privato e pubblico? E non vederla di buon occhio in nessun caso?

Certamente no. Il paradosso dell’intelligenza artificiale bambina non ci dovrebbe indurre a rinunciare ad essa tout court, ma dovrebbe solo fornirci criteri utili per capire come adoperarla e quali compiti affidarle.

Le intelligenze artificiali sono tra noi, rimarranno, e, nel rimanere, appunto, cresceranno, diventeranno adulte e supereranno i problemi riconducibili al loro attuale stato almeno parzialmente “infantile”, ovvero al fatto che oggi si presentano come sistemi ancora non pienamente affidabili.

Dunque all’intelligenza artificiale non si deve rinunciare, ma occorre non avere urgenza di utilizzarla oggi per tutto: occorre seguirla nella sua “crescita”, che non richiederà un periodo molto lungo e che secondo molti osservatori la porterà già alla fine degli attuali anni venti ad essere davvero adulta, e capace di assumere gli incarichi nei quali oggi appare incerta e inesperta.

È necessario solamente procedere con gradualità: già subito possono esserle attribuiti compiti con un livello lieve di formalismo, come quelli connessi all’attività puramente ludica nei social network, e successivamente, per gradi progressivi, man mano che avrà una graduale maturazione, potranno esserle assegnati lavori più delicati e istituzionali.

È solo la logica del “tutto subito” che va superata, anche perché il tempo per ottenere macchine adulte, verosimilmente, non sarà di decenni, ma di pochi anni, e quando si avrà la certezza che ciò sarà avvenuto, le si investirà delle opportune responsabilità, e si inizierà anche a ragionare di una loro possibile soggettività giuridica.

Il “seme” di questo approccio era comunque già presente nelle parole di Alan Turing, che nel suo iconico articolo “Computer machinery and intelligence” del 1950 aveva espresso questo concetto, che lui riferiva ad una singola macchina, ma che noi oggi possiamo riferire all’intelligenza artificiale complessivamente intesa, poiché tutti i computer esistenti sono sinapsi di un’unica “macchina universale” che è Internet. Queste erano le parole molto evocative di Turing che oggi risuonano come chiave di lettura del presente: “Invece di provare a produrre un programma per simulare la mente adulta, perché non provare a produrne uno che simuli quella del bambino? Se questo fosse poi sottoposto a un appropriato corso di istruzione si otterrebbe il cervello adulto”.

L'articolo Il paradosso dell’intelligenza artificiale bambina proviene da Giurdanella.it.

]]>
ChatGPT e lo stato di minorità https://www.giurdanella.it/2024/10/chatgpt-e-lo-stato-di-minorita/ Wed, 09 Oct 2024 09:53:23 +0000 https://www.giurdanella.it/?p=57213 Il prompt genera una selezione secondo logiche diverse da quelle di attribuzione di senso e di significati

L'articolo ChatGPT e lo stato di minorità proviene da Giurdanella.it.

]]>
Il 21 ottobre 2013 Umberto Eco tenne una lezione presso la sede dell’ONU a New York, dal titolo “Contro la perdita della memoria ONU” (traduzione in italiano)

Eccone un estratto che riguarda Internet.

“Fino ad ora la società ha filtrato le cose per noi, attraverso i libri di testo
e le enciclopedie. Con l’arrivo del Web, tutte le possibili conoscenze e informazioni, persino
le più inutili, sono lì a nostra disposizione.
Quindi la domanda è: chi sta filtrando?
Quando ci confrontiamo con il Web, non abbiamo a disposizione né una regola per selezionare le informazioni né una regola per dimenticare ciò che è inutile ricordare. Possediamo criteri di selezione solo nella misura in cui siamo preparati intellettualmente ad affrontare il calvario di navigare il Web.
Necessitiamo di centri di formazione (la scuola, i libri, le istituzioni scientifiche, alcuni siti web) che ci insegnino come operare la selezione: deve essere inventata una nuova arte della decimazione.
Filtrare non significa cancellare.
È un dato di fatto che di frequente le società non ci facciano dimenticare ciò che sappiamo o sapevamo, ma ci impediscono di scoprire ciò che non sappiamo ancora.
Perciò accade che una civiltà possa operare diversi tipi di cancellazione che può spaziare dalla censura (la cancellazione di manoscritti, i falò di libri, la damnatio memoriae, la falsificazione di fonti documentarie, il negazionismo) fino alla dimenticanza causata da vergogna, inerzia, e rimorso.
Come reagire a perdite di memoria ed eccessi di cancellazione?
Come decidere quando è necessario un filtraggio e quando dovremmo recuperare quanto illecitamente eliminato?”

Tante domande si poneva Eco. Con il senno di poi, chi stava e sta filtrando?

I motori di ricerca, certo, con Google in testa, i social network, certo, con Meta in testa…
Operazioni di filtraggio svolte da un complesso di procedure codificate che organizzano i dati in strutture semplici e li elaborano sulla base di schemi relazionali aperti, capaci cioè di modificarsi anche grazie al comportamento degli utenti. Automatismi informatici basati su una logica che risponde alle ragioni del modello di business di chi gestisce la rete, e non a quelle della produzione di informazione, della loro attendibilità e del confronto delle opinioni nel dibattito pubblico.

Da due anni a questa parte c’è un altro soggetto che si è affacciato prepotentemente nel panorama dei “selezionatori”, è ChatGPT, con tutte le sue versioni e con tutti i suoi cloni.

Ma c’è una differenza.

Quand’ero piccolo e gli insegnanti di scuola media mi mandavano in biblioteca a fare ricerca, ricordo che, malgrado la biblioteca comunale contenesse migliaia di volumi, il bibliotecario, ad ogni mia richiesta, considerando la giovane età, mi portava sempre lo stesso libro, un dizionario enciclopedico, sufficiente, per lui, ad esaudire il mio desiderio di conoscenza. Ma la curiosità era tanta che, una volta in sala lettura, approfittando dell’assenza del bibliotecario, vagavo tra i volumi “dei grandi”.

Curiosità che neppure Google (il moderno bibliotecario) è riuscito ad eliminare, tanto che raramente premo il bottone “mi sento fortunato”, ma spessissimo quello con la scritta “avanti”, proprio per andare a fondo, per cercare anche nel più remoto anfratto della rete.

Con ChatGPT finisce tutto questo, l’utente è sempre “fortunato”, l’oracolo ha già pronta la risposta esatta, che motivo ha di cercare altrove?

Il risultato del “prompt” dell’Intelligenza Artificiale è frutto di un’opera di filtraggio, selezione, calcolo statistico e probabilistico, operata secondo logiche diverse da quelle di attribuzione di senso e di significati.

Un Kant dei nostri giorni non ci considererebbe degni dello stato di maggiorità.
Se ho ChatGPT (il dizionario enciclopedico della mia infanzia) che ha intelletto per me… non ho certo bisogno di sforzarmi.

L'articolo ChatGPT e lo stato di minorità proviene da Giurdanella.it.

]]>
OpenAI risponde alle accuse del New York Times: “l’atto di citazione è privo di fondamento” https://www.giurdanella.it/2024/01/openai-risponde-alle-accuse-del-new-york-times-latto-di-citazione-e-privo-di-fondamento/ Wed, 31 Jan 2024 17:35:06 +0000 https://www.giurdanella.it/?p=56330 In un articolo pubblicato sul proprio blog, OpenAI ha preso posizione rispetto alle accuse mossegli di recente dal New York Times, definendo l’atto di citazione “privo di fondamento”. La causa intentata dalla testata giornalistica americana – dichiara OpenAI – rappresenta anzi “un’opportunità per chiarire la nostra attività, il nostro intento, e come sviluppiamo la nostra […]

L'articolo OpenAI risponde alle accuse del New York Times: “l’atto di citazione è privo di fondamento” proviene da Giurdanella.it.

]]>
In un articolo pubblicato sul proprio blog, OpenAI ha preso posizione rispetto alle accuse mossegli di recente dal New York Times, definendo l’atto di citazione “privo di fondamento”.

La causa intentata dalla testata giornalistica americana – dichiara OpenAI – rappresenta anzi “un’opportunità per chiarire la nostra attività, il nostro intento, e come sviluppiamo la nostra tecnologia”.

Nel proprio post, l’azienda sviluppatrice di ChatGPT afferma che l’addestramento di modelli di intelligenza artificiale attraverso l’uso di risorse pubblicamente disponibili su internet rientra pacificamente nel concetto di “fair-use” delle opere dell’ingegno.

Tale principio, secondo OpenAI, sarebbe ormai consolidato nell’ordinamento giuridico statunitense, in virtù di precedenti risalenti e ampiamente accettati. Esso, inoltre, risulterebbe “equo per gli autori, necessario per gli innovatori, e fondamentale per la competitività degli Stati Uniti”.

Peraltro, sottolinea OpenAI, in altri ordinamenti giuridici, come quello dell’Unione Europea, Giappone, Singapore e Israele, esistono già leggi che espressamente consentono di addestrare l’IA mediante contenuti coperti da copyright.

OpenAI chiarisce inoltre di aver implementato un semplice strumento di opt-out per gli editori che vogliano impedire l’accesso al proprio sito da parte di ChatGPT, e che il Times ha fatto ricorso all’opt-out già dall’agosto del 2023.

Relativamente al fenomeno descritto come “rigurgito”, in base al quale ChatGPT talvolta risulta in grado di generare come output interi articoli del quotidiano, OpenAI evidenzia che si tratta per lo più di articoli piuttosto vecchi, proliferati in rete su diversi siti di terze parti. In ogni caso, OpenAI ammette che si tratta di un raro bug cui talvolta incorre ChatGPT, e che la società si sta impegnando per ridurlo a zero.

La società informatica accusa infine il New York Times di aver manipolato ChatGPT, forzandolo a “rigurgitare” i propri articoli, attraverso l’impiego di “prompt” intenzionalmente diretti a tale scopo. O, addirittura, di aver fatto “cherry-picking” di esempi di rigurgito dopo molteplici tentativi.

L'articolo OpenAI risponde alle accuse del New York Times: “l’atto di citazione è privo di fondamento” proviene da Giurdanella.it.

]]>
ChatGPT sotto accusa, il New York Times cita in giudizio OpenAI e Microsoft: danni per miliardi di dollari https://www.giurdanella.it/2024/01/chatgpt-sotto-accusa-il-new-york-times-cita-in-giudizio-openai-e-microsoft-danni-per-miliardi-di-dollari/ Wed, 24 Jan 2024 11:39:56 +0000 https://www.giurdanella.it/?p=56275 La celebre testata giornalistica newyorkese ha portato in tribunale OpenAI e Microsoft, denunciando plurime e sistematiche violazioni del diritto d’autore ad opera della piattaforma ChatGPT. Secondo le accuse del New York Times, OpenAI, azienda sviluppatrice di ChatGPT, avrebbe illecitamente utilizzato milioni di articoli del quotidiano in violazione delle norme sul copyright, al fine di “addestrare” […]

L'articolo ChatGPT sotto accusa, il New York Times cita in giudizio OpenAI e Microsoft: danni per miliardi di dollari proviene da Giurdanella.it.

]]>
La celebre testata giornalistica newyorkese ha portato in tribunale OpenAI e Microsoft, denunciando plurime e sistematiche violazioni del diritto d’autore ad opera della piattaforma ChatGPT.

Secondo le accuse del New York Times, OpenAI, azienda sviluppatrice di ChatGPT, avrebbe illecitamente utilizzato milioni di articoli del quotidiano in violazione delle norme sul copyright, al fine di “addestrare” il proprio sistema di intelligenza artificiale. Tutto ciò senza aver mai richiesto al Times alcun permesso né aver previsto alcuna forma di compenso per tale attività.

Le imputazioni rivolte ad OpenAI, contenute nelle 69 pagine dell’atto di citazione, non si fermano qui.

Infatti, ChatGPT viene incolpata anche di essere in grado di generare output che recitano “alla lettera” il contenuto del Times, o che lo riassumono fedelmente, imitandone persino lo stile espressivo. Ciò in elusione del sistema di “paywall” introdotto dal Times per riservare i contenuti ai soli utenti abbonati a pagamento.

In buona sostanza, utenti privi di abbonamento potrebbero avere accesso integrale e gratuito ai contenuti del Times tramite una semplice richiesta rivolta a ChatGPT, scavalcando il sistema di paywall. A dimostrazione delle proprie affermazioni, vengono allegate all’atto giudiziario decine di screenshot in cui si evincerebbe come la chatbot di OpenAI sia effettivamente in grado di riportare in maniera fedele il contenuto di diversi articoli e report del quotidiano nordamericano.

OpenAI sarebbe dunque responsabile di sfruttare indebitamente le opere pubblicate dal Times, mettendo a repentaglio gli ingenti investimenti effettuati da quest’ultimo nella propria attività di informazione al pubblico.

 Nell’atto di citazione si lamenta altresì il danno reputazionale arrecato al quotidiano attraverso le cosiddette “allucinazioni”. Si tratta, in buona sostanza, del fenomeno in base al quale ChatGPT, anziché evitare di rispondere a domande per le quali non conosce la risposta, fornisce comunque informazioni, che tuttavia si rivelano inaccurate o addirittura false, fuorviando gli utenti. Il ché si tradurrebbe in un danno reputazionale per il giornale, laddove gli viene falsamente attribuita la fonte di tali dichiarazioni.

A fronte delle suesposte denunce, il New York Times non ha ancora quantificato in giudizio la propria richiesta risarcitoria, ma ha già preannunciato che sarà dell’ordine di miliardi di dollari. Nella citazione viene inoltre richiesta espressamente l’inibitoria dalla continuazione della violazione delle norme sul copyright e la distruzione di tutti i modelli GPT che illecitamente contengano opere dell’ingegno di titolarità del New York Times.

La vicenda giudiziaria assume primario rilievo, candidandosi ad essere un vero e proprio leading case in materia di copyright all’epoca dell’intelligenza artificiale generativa.

In particolare, i giudici della corte distrettuale Sud di New York saranno chiamati a pronunciarsi sui confini del cosiddetto “fair use” delle opere dell’ingegno protette da copyright, laddove vengano impiegate al fine di “addestrare” i software di intelligenza artificiale.

L'articolo ChatGPT sotto accusa, il New York Times cita in giudizio OpenAI e Microsoft: danni per miliardi di dollari proviene da Giurdanella.it.

]]>
Il Garante Privacy detta le condizioni a ChatGPT https://www.giurdanella.it/2023/04/il-garante-privacy-detta-le-condizioni-a-chatgpt/ Sat, 22 Apr 2023 07:15:00 +0000 https://www.giurdanella.it/?p=55822 Quali cautele dovrà seguire OpenAI perché ChatGPT possa tornare accessibile agli utenti italiani

L'articolo Il Garante Privacy detta le condizioni a ChatGPT proviene da Giurdanella.it.

]]>
Il Garante Privacy detta le condizioni a ChatGPT

Queste le prescrizioni del Garante Privacy, affinché ChatGPT possa tornare accessibile dall’Italia, facendo venire meno il precedente provvedimento di sospensione:

OpenAI dovrà “1. predisporre e pubblicare sul proprio sito internet un’informativa che, nei termini e con le modalità di cui all’art. 12 del Regolamento, spieghi agli interessati anche diversi dagli utenti del servizio ChatGPT, i cui dati sono stati raccolti e trattati ai fini dell’addestramento degli algoritmi, le modalità del trattamento, la logica alla base del trattamento necessario al funzionamento del servizio, i diritti loro spettanti in qualità di interessati e ogni altra informazione prevista dal Regolamento;

2. mettere a disposizione, sul proprio sito Internet, almeno agli interessati, anche diversi dagli utenti del servizio, che si collegano dall’Italia, uno strumento attraverso il quale possano esercitare il diritto di opposizione rispetto ai trattamenti dei propri dati personali, ottenuti da terzi, svolti dalla società ai fini dell’addestramento degli algoritmi e dell’erogazione del servizio;

3. mettere a disposizione, sul proprio sito Internet, almeno agli interessati, anche diversi dagli utenti del servizio, che si collegano dall’Italia, uno strumento attraverso il quale chiedere e ottenere la correzione di eventuali dati personali che li riguardano trattati in maniera inesatta nella generazione dei contenuti o, qualora ciò risulti impossibile allo stato della tecnica, la cancellazione dei propri dati personali;

4. inserire un link all’informativa rivolta agli utenti dei propri servizi nel flusso di registrazione in una posizione che ne consenta la lettura prima di procedere alla registrazione, attraverso modalità tali da consentire a tutti gli utenti che si collegano dall’Italia, ivi inclusi quelli già registrati, al primo accesso successivo all’eventuale riattivazione del servizio, di prendere visione di tale informativa;

5. modificare la base giuridica del trattamento dei dati personali degli utenti ai fini dell’addestramento degli algoritmi, eliminando ogni riferimento al contratto e assumendo come base giuridica del trattamento il consenso o il legittimo interesse in relazione alle valutazioni di competenza della società in una logica di accountability;

6. mettere a disposizione, sul proprio sito Internet, almeno agli utenti del servizio, che si collegano dall’Italia, uno strumento facilmente accessibile attraverso il quale esercitare il diritto di opposizione al trattamento dei propri dati acquisiti in sede di utilizzo del servizio per l’addestramento degli algoritmi qualora la base giuridica prescelta ai sensi del punto 5 che precede sia il legittimo interesse;

7. in sede di eventuale riattivazione del servizio dall’Italia, inserire la richiesta, a tutti gli utenti che si collegano dall’Italia, ivi inclusi quelli già registrati, di superare, in sede di primo accesso, un age gate che escluda, sulla base dell’età dichiarata, gli utenti minorenni;

8. sottoporre al Garante, entro il 31 maggio 2023, un piano per l’adozione di strumenti di age verification idoneo a escludere l’accesso al servizio agli utenti infratredicenni e a quelli minorenni in assenza di un’espressa manifestazione di volontà da parte di chi esercita sugli stessi la responsabilità genitoriale. L’implementazione di tale piano dovrà decorrere, al più tardi, dal 30 settembre 2023;

9. promuovere, entro il 15 maggio 2023, una campagna di informazione, di natura non promozionale, su tutti i principali mezzi di comunicazione di massa italiani (radio, televisione, giornali e Internet) i cui contenuti andranno concordati con il Garante, allo scopo di informare le persone dell’avvenuta probabile raccolta dei loro dati personali ai fini dell’addestramento degli algoritmi, dell’avvenuta pubblicazione sul sito internet della Società di un’apposita informativa di dettaglio e della messa a disposizione, sempre sul sito internet della Società, di uno strumento attraverso il quale tutti gli interessati possono chiedere e ottenere la cancellazione dei propri dati personali;

Gli atti adottati

a) Il provvedimento prescrittivo del Garante Privacy, dell’11 aprile 2023
https://www.garanteprivacy.it/web/guest/home/docweb/-/docweb-display/docweb/9874702

b) Il provvedimento cautelare del Garante Privacy, del 30 marzo 2023
https://www.giurdanella.it/2023/04/il-garante-privacy-spegne-chatgpt-in-italia-lintelligenza-artificiale-raccoglie-illecitamente-i-dati-personali-degli-utenti/

 

L'articolo Il Garante Privacy detta le condizioni a ChatGPT proviene da Giurdanella.it.

]]>
Moratoria per l’Intelligenza Artificiale: la lettera aperta https://www.giurdanella.it/2023/04/sei-mesi-di-moratoria-sugli-esperimenti-di-intelligenza-artificiale-la-lettera-aperta/ Sat, 01 Apr 2023 07:46:24 +0000 https://www.giurdanella.it/?p=55594 Quali regole per l’Intelligenza Artificiale? Servono nuove regole pubbliche. L’appello. ”Gli sviluppatori di Intelligenza Artificiale inizino a collaborare con i decisori politici per accelerare drasticamente lo sviluppo di solidi sistemi di governance dell’IA, che dovranno come minimo includere: a) nuove autorità di regolamentazione specificamente dedicate all’IA; b) supervisione e tracciamento dei sistemi di intelligenza artificiale; […]

L'articolo Moratoria per l’Intelligenza Artificiale: la lettera aperta proviene da Giurdanella.it.

]]>
Quali regole per l’Intelligenza Artificiale? Servono nuove regole pubbliche. L’appello.

”Gli sviluppatori di Intelligenza Artificiale inizino a collaborare con i decisori politici per accelerare drasticamente lo sviluppo di solidi sistemi di governance dell’IA, che dovranno come minimo includere:

a) nuove autorità di regolamentazione specificamente dedicate all’IA;
b) supervisione e tracciamento dei sistemi di intelligenza artificiale;
c) un solido ecosistema di audit e certificazione;
d) responsabilità per danni causati dall’IA;
e) adeguati finanziamenti pubblici per la ricerca tecnica sulla sicurezza dell’IA;
f) istituzioni dotate di risorse adeguate per far fronte ai rilevanti cambiamenti economici e politici (soprattutto per la democrazia) che l’IA causerà”.

Di seguito, il testo integrale della lettera aperta, pubblicata il 22 marzo sul sito del Future of Life Institute (una settimana prima del provvedimento di sospensione del Garante privacy italiano).

– – –

Pause Giant AI Experiments:

An Open Letter

We call on all AI labs to immediately pause for at least 6 months the training of AI systems more powerful than GPT-4.

AI systems with human-competitive intelligence can pose profound risks to society and humanity, as shown by extensive research[1] and acknowledged by top AI labs.[2] As stated in the widely-endorsed Asilomar AI Principles, Advanced AI could represent a profound change in the history of life on Earth, and should be planned for and managed with commensurate care and resources. Unfortunately, this level of planning and management is not happening, even though recent months have seen AI labs locked in an out-of-control race to develop and deploy ever more powerful digital minds that no one – not even their creators – can understand, predict, or reliably control.

Contemporary AI systems are now becoming human-competitive at general tasks,[3] and we must ask ourselves: Should we let machines flood our information channels with propaganda and untruth? Should we automate away all the jobs, including the fulfilling ones? Should we develop nonhuman minds that might eventually outnumber, outsmart, obsolete and replace us? Should we risk loss of control of our civilization? Such decisions must not be delegated to unelected tech leaders. Powerful AI systems should be developed only once we are confident that their effects will be positive and their risks will be manageable.

This confidence must be well justified and increase with the magnitude of a system’s potential effects. OpenAI’s recent statement regarding artificial general intelligence, states that “At some point, it may be important to get independent review before starting to train future systems, and for the most advanced efforts to agree to limit the rate of growth of compute used for creating new models.” We agree. That point is now.

Therefore, we call on all AI labs to immediately pause for at least 6 months the training of AI systems more powerful than GPT-4. This pause should be public and verifiable, and include all key actors. If such a pause cannot be enacted quickly, governments should step in and institute a moratorium.

AI labs and independent experts should use this pause to jointly develop and implement a set of shared safety protocols for advanced AI design and development that are rigorously audited and overseen by independent outside experts. These protocols should ensure that systems adhering to them are safe beyond a reasonable doubt.[4] This does not mean a pause on AI development in general, merely a stepping back from the dangerous race to ever-larger unpredictable black-box models with emergent capabilities.

AI research and development should be refocused on making today’s powerful, state-of-the-art systems more accurate, safe, interpretable, transparent, robust, aligned, trustworthy, and loyal.

In parallel, AI developers must work with policymakers to dramatically accelerate development of robust AI governance systems. These should at a minimum include: new and capable regulatory authorities dedicated to AI; oversight and tracking of highly capable AI systems and large pools of computational capability; provenance and watermarking systems to help distinguish real from synthetic and to track model leaks; a robust auditing and certification ecosystem; liability for AI-caused harm; robust public funding for technical AI safety research; and well-resourced institutions for coping with the dramatic economic and political disruptions (especially to democracy) that AI will cause.

Humanity can enjoy a flourishing future with AI. Having succeeded in creating powerful AI systems, we can now enjoy an “AI summer” in which we reap the rewards, engineer these systems for the clear benefit of all, and give society a chance to adapt. Society has hit pause on other technologies with potentially catastrophic effects on society.[5]  We can do so here. Let’s enjoy a long AI summer, not rush unprepared into a fall.

Notes and references

[1] Bender, E. M., Gebru, T., McMillan-Major, A., & Shmitchell, S. (2021, March). On the Dangers of Stochastic Parrots: Can Language Models Be Too Big??. In Proceedings of the 2021 ACM conference on fairness, accountability, and transparency (pp. 610-623).
Bostrom, N. (2016). Superintelligence. Oxford University Press.

Bucknall, B. S., & Dori-Hacohen, S. (2022, July). Current and near-term AI as a potential existential risk factor. In Proceedings of the 2022 AAAI/ACM Conference on AI, Ethics, and Society (pp. 119-129).
Carlsmith, J. (2022). Is Power-Seeking AI an Existential Risk?. arXiv preprint arXiv:2206.13353.
Christian, B. (2020). The Alignment Problem: Machine Learning and human values. Norton & Company.

Cohen, M. et al. (2022). Advanced Artificial Agents Intervene in the Provision of Reward. AI Magazine, 43(3) (pp. 282-293).
Eloundou, T., et al. (2023). GPTs are GPTs: An Early Look at the Labor Market Impact Potential of Large Language Models.
Hendrycks, D., & Mazeika, M. (2022). X-risk Analysis for AI Research. arXiv preprint arXiv:2206.05862.

Ngo, R. (2022). The alignment problem from a deep learning perspective. arXiv preprint arXiv:2209.00626.
Russell, S. (2019). Human Compatible: Artificial Intelligence and the Problem of Control. Viking.
Tegmark, M. (2017). Life 3.0: Being Human in the Age of Artificial Intelligence. Knopf.
Weidinger, L. et al (2021). Ethical and social risks of harm from language models. arXiv preprint arXiv:2112.04359.

[3] Bubeck, S. et al. (2023). Sparks of Artificial General Intelligence: Early experiments with GPT-4. arXiv:2303.12712. OpenAI (2023). GPT-4 Technical Report. arXiv:2303.08774.

[4] Ample legal precedent exists – for example, the widely adopted OECD AI Principles require that AI systems “function appropriately and do not pose unreasonable safety risk”.

[5] Examples include human cloning, human germline modification, gain-of-function research, and eugenics.

L'articolo Moratoria per l’Intelligenza Artificiale: la lettera aperta proviene da Giurdanella.it.

]]>
Il Garante Privacy spegne ChatGPT: l’intelligenza artificiale non ha base giuridica https://www.giurdanella.it/2023/04/il-garante-privacy-spegne-chatgpt-in-italia-lintelligenza-artificiale-raccoglie-illecitamente-i-dati-personali-degli-utenti/ Sat, 01 Apr 2023 06:29:54 +0000 https://www.giurdanella.it/?p=55585 “L’Intelligenza Artificiale non ha un’idonea base giuridica, indispensabile per raccogliere e trattare lecitamente i dati personali per addestrare gli algoritmi che servono al suo funzionamento”. E’ quanto sostenuto dall’Autorità Garante per la protezione dei dati personali (Garante Privacy), col provvedimento cautelare del 30 marzo scorso, emesso nei confronti di OpenAI L.L.C., con il quale limita provvisoriamente […]

L'articolo Il Garante Privacy spegne ChatGPT: l’intelligenza artificiale non ha base giuridica proviene da Giurdanella.it.

]]>
“L’Intelligenza Artificiale non ha un’idonea base giuridica, indispensabile per raccogliere e trattare lecitamente i dati personali per addestrare gli algoritmi che servono al suo funzionamento”.

E’ quanto sostenuto dall’Autorità Garante per la protezione dei dati personali (Garante Privacy), col provvedimento cautelare del 30 marzo scorso, emesso nei confronti di OpenAI L.L.C., con il quale limita provvisoriamente il trattamento di tutti i dati personali degli utenti e degli interessati stabiliti nel territorio italiano ai sensi dell’art. 58, par. 2, lett. f), del Regolamento UE 2016/679 del Parlamento europeo e del Consiglio del 27 aprile 2016.

OpenAI L.L.C. è la società statunitense sviluppatrice e gestrice della piattaforma ChatGPT, il più noto tra i software di intelligenza artificiale relazionale in grado di simulare ed elaborare le conversazioni umane, nonché la società titolare del trattamento dei dati personali effettuato attraverso tale piattaforma (sulla mancanza di idonea base giuridica per i sistemi di Intelligenza Artificiale, vedi anche la lettera di moratoria).

In base alle considerazioni svolte adesso dal Garante, l’operato di OpenAI L.L.C. violerebbe gli artt. 5, 6, 8, 13 e 25 del Regolamento.

Sotto un primo profilo, ChatGPT raccoglierebbe illecitamente i dati personali degli utenti in quanto mancano tanto una informativa agli utenti e a tutti gli interessati i cui dati vengono raccolti da OpenAI L.L.C. e trattati tramite il servizio di Chat GPT, quanto una idonea base giuridica che giustifichi la raccolta e la conservazione massiccia di dati personali, allo scopo di “addestrare” gli algoritmi sottesi al funzionamento di Chat GPT. Inoltre, le informazioni fornite da ChatGPT non sempre corrispondono al dato reale, determinando quindi un trattamento di dati personali inesatto.

Sotto un secondo profilo, nonostante – secondo i termini pubblicati da OpenAI – il servizio sia riservato ai maggiori di 13 anni, non vi sarebbero sistemi per la verifica dell’età degli utenti del servizio ChatGPT, con ciò esponendo i minori di anni 13 a risposte assolutamente inidonee rispetto al loro grado di sviluppo e autoconsapevolezza.

LA MISURA

Contestualmente all’adozione del provvedimento provvisorio, l’Autorità ha aperto un’istruttoria, che verrà eseguita nelle more della vigenza dello stesso. La società, ai sensi dell’art. 58, par.1, del Regolamento, deve comunicare entro 20 giorni le misure intraprese in attuazione a quanto richiesto dal Garante e fornire ogni elemento ritenuto utile a giustificare le violazioni sopra evidenziate, pena l’applicazione della sanzione penale di cui all’art. 170 del Codice e delle sanzioni amministrative di cui all’art. 83, par. 5 lett. e), del Regolamento, ovvero una sanzione fino a 20 milioni di euro o fino al 4% del fatturato globale annuo.

Il provvedimento, adottato con urgenza dal presidente dell’Autorità ai sensi dell’art. 5, comma 8, del Regolamento n. 1/2000 sull’organizzazione e il funzionamento dell’ufficio del Garante ed avente effetto immediato a decorrere dalla data della sua ricezione, dovrà comunque essere ratificato dal Garante nella prima riunione utile, da convocarsi non oltre il trentesimo giorno, pena la cessazione della sua efficacia sin dal momento della sua adozione.

OpenAI ha la possibilità di opporsi al provvedimento del Garante, presentando ricorso a Roma, innanzi al Giudice ordinario, entro i prossimi sessanta giorni.

Di seguito, il testo integrale del provvedimento che, al momento, “spegne” ChatGPT per gli utenti italiani.

– – –

Garante per la Protezione dei dati personali

Registro dei provvedimenti
n. 112 del 30 marzo 2023

IL GARANTE PER LA PROTEZIONE DEI DATI PERSONALI
VISTO il Regolamento (UE) 2016/679 del Parlamento europeo e del Consiglio del 27 aprile 2016 (di seguito, “Regolamento”);
VISTO altresì il Codice in materia di protezione dei dati personali (d.lgs. 30 giugno 2003, n. 196);
PRESO ATTO dei numerosi interventi dei media relativamente al funzionamento del servizio di ChatGPT;
RILEVATO, da una verifica effettuata in merito, che non viene fornita alcuna informativa agli utenti, né agli interessati i cui dati sono stati raccolti da OpenAI, L.L.C. e trattati tramite il servizio di ChatGPT;
RILEVATA l’assenza di idonea base giuridica in relazione alla raccolta dei dati personali e al loro trattamento per scopo di addestramento degli algoritmi sottesi al funzionamento di ChatGPT;
RILEVATO che il trattamento di dati personali degli interessati risulta inesatto in quanto le informazioni fornite da ChatGPT non sempre corrispondono al dato reale;

RILEVATO, inoltre, l’assenza di qualsivoglia verifica dell’età degli utenti in relazione al servizio ChatGPT che, secondo i termini pubblicati da OpenAI L.L.C., è riservato a soggetti che abbiano compiuto almeno 13 anni;

CONSIDERATO che l’assenza di filtri per i minori di età di 13 anni espone gli stessi a risposte assolutamente inidonee rispetto al grado di sviluppo e autoconsapevolezza degli stessi;
RITENUTO pertanto che nella situazione sopra delineata, il trattamento dei dati personali degli utenti, compresi i minori, e degli interessati i cui dati sono utilizzati dal servizio si ponga in violazione degli artt. 5, 6, 8, 13 e 25 del Regolamento;

RAVVISATA, pertanto, la necessità di disporre, ai sensi dell’art. 58, par. 2, lett. f), del Regolamento – in via d’urgenza e nelle more del completamento della necessaria istruttoria rispetto a quanto sin qui emerso nei confronti di OpenAI L.L.C., società statunitense sviluppatrice e gestrice di ChatGPT, la misura della limitazione provvisoria del trattamento;

RITENUTO che, in assenza di qualsivoglia meccanismo di verifica dell’età degli utenti, nonché, comunque, del complesso delle violazioni rilevate, detta limitazione provvisoria debba estendersi a tutti i dati personali degli interessati stabiliti nel territorio italiano;

RITENUTO necessario disporre la predetta limitazione con effetto immediato a decorrere dalla data di ricezione del presente provvedimento, riservandosi ogni altra determinazione all’esito della definizione dell’istruttoria avviata sul caso;

RICORDATO che, in caso di inosservanza della misura disposta dal Garante, trova applicazione la sanzione penale di cui all’art. 170 del Codice e le sanzioni amministrative previste dall’art. 83, par. 5, lett. e), del Regolamento;

RITENUTO, in base a quanto sopra descritto, che ricorrano i presupposti per l’applicazione dell’art. 5, comma 8, del Regolamento n. 1/2000 sull’organizzazione e il funzionamento dell’ufficio del Garante, il quale prevede che «Nei casi di particolare urgenza e di indifferibilità che non permettono la convocazione in tempo utile del Garante, il presidente può adottare i provvedimenti di competenza dell’organo, i quali cessano di avere efficacia sin dal momento della loro adozione se non sono ratificati dal Garante nella prima riunione utile, da convocarsi non oltre il trentesimo giorno»;

VISTA la documentazione in atti;
TUTTO CIÒ PREMESSO IL GARANTE:

a) ai sensi dell’art. 58, par. 2, lett. f), del Regolamento dispone, in via d’urgenza, nei confronti di OpenAI L.L.C., società statunitense sviluppatrice e gestrice di ChatGPT, in qualità di titolare del trattamento dei dati personali effettuato attraverso tale applicazione, la misura della limitazione provvisoria, del trattamento dei dati personali degli interessati stabiliti nel territorio italiano;

b) la predetta limitazione ha effetto immediato a decorrere dalla data di ricezione del presente provvedimento, con riserva di ogni altra determinazione all’esito della definizione dell’istruttoria avviata sul caso.

Il Garante, ai sensi dell’art. 58, par. 1, del Regolamento (UE) 2016/679, invita il titolare del trattamento destinatario del provvedimento, altresì, entro 20 giorni dalla data di ricezione dello stesso, a comunicare quali iniziative siano state intraprese al fine di dare attuazione a quanto prescritto e di fornire ogni elemento ritenuto utile a giustificare le violazioni sopra evidenziate. Si ricorda che il mancato riscontro alla richiesta ai sensi dell’art. 58 è punito con la sanzione amministrativa di cui all’art. 83, par. 5, lett. e), del Regolamento (UE) 2016/679.

Ai sensi dell’art. 78 del Regolamento, nonché degli artt. 152 del Codice e 10 del d. lg. 1° settembre 2011, n. 150, avverso il presente provvedimento può essere proposta opposizione all’autorità giudiziaria ordinaria, con ricorso depositato al tribunale ordinario del luogo ove ha la residenza il titolare del trattamento dei dati, entro il termine di trenta giorni dalla data di comunicazione del provvedimento stesso, ovvero di sessanta giorni se il ricorrente risiede all’estero.

In Roma, 30 marzo 2023
IL PRESIDENTE
Stanzione

L'articolo Il Garante Privacy spegne ChatGPT: l’intelligenza artificiale non ha base giuridica proviene da Giurdanella.it.

]]>