Pubblica amministrazione e intelligenza artificiale

Buona sera buona sera tutti possiamo direi che possiamo iniziare
Fra Benvenuti questo nuovo incontro del ciclo seminari e colloqui pietra diritto amministrativo di diritto costituzionale
Il tema dell'incontro odierno e pubblica amministrazione e intelligenza artificiale
Devo dire che quando insieme a Benedetta abbiamo predisposto il calendario di questi incontri non abbiamo avuto dubbi in merito alla necessità di dedicare al tema dell'amministrazione digitale un un incontro perché basta sfogliare qualsiasi rivista di diritto pubblico per vedere quanto spazio venga dedicato a questo tema e basta leggere il PNR per vedere come si tratti di una di un aspetto nevralgico per l'ammodernamento del del paese diciamo non abbiamo avuto dubbi sulla necessità di dedicare un incontro questo tema non abbiamo avuto dubbi nemmeno su chi invitare a parlarne
In tanti oggi si occupano di questo tema in pochi hanno iniziato a occuparsene prima che diventasse un tema di moda tra questi volti sono indubbiamente la professoressa Chiara Urania Galetta
E il professor Eduardo Racca Piotta
La professoressa chiamo Ragna Galetta non ha bisogno di essere presentata perché tutti la conoscete e ordinario di diritto amministrativo presso questo ateneo
Direttrice del centro di ricerca Cherie da poi della omologa rivista sia il centro di ricerca sia la rivista dedicano tanto spazio al tema delle amministrazioni digitali la professoressa Caretta scritto molto su questi temi tra le tante opere segnato
Tra il volume il diritto dell'amministrazione pubblica digitale edito da Giappi termine premiale incrinature sull'emendamento durante l'iter insieme al professor cavallo prevalga
Il professore Edoardo rafie ottave associato di diritto non costituzionale all'Università Bicocca fellow all'università di Berkley all'Università Bicocca tiene il corso di diritto della innovazione e dell'intelligenza artificiale anche due scritto molto su questi temi
Segnalo in particolare un'opera che uscirà se ho ben capito nei prossimi giorni di cui il professore a fiotti uno dei curatori dal titolo e ai antologie profili giuridici economici e sociali dell'intelligenza artificiale
Io ringrazio ancora anche a nome di Benedetta la professoressa calette professor la flotta per aver accettato il nostro invito
è come da programma passo la parola alla professoressa Galetta grazie
Grazie a voi chiaramente siamo in questa modalità mista per se volete per fare onore al fatto che usiamo anche noi nuove tecnologie realtà avrebbe avrei preferito essere in presenza tutto sommato
Il tema di cui mi avete chiesto di parlare intanto grazie perché sono molto contenta di essere qui per quanto a distanza e poi perché è un tema che mi sta molto a cuore
E che è diventato come diceva giustamente Paolo Provenzano di grande interesse ha suscitato l'interesse della dottrina ultimamente in maniera un considerevole
Ma in verità un tema non più così nuovo per tanti versi come cercherò di spiegarmi
E vi prego di contenerne perché posto che diamo questo tema rischia di parlare troppo quindi chiedo a Paolo e Benedetta quando esagerato di fermarmi e quindi a un certo punto semplicemente di devi farmi segno di togliermi eventualmente la parola
Allora partiamo da una premessa
Prima ancora di parlare Intini intelligenza artificiale dobbiamo dire due parole sulla questione dei bit Delta
Perché se c'è un elemento che sicuramente centrale ed è uno degli elementi di novità quando parliamo dell'amministrazione a quattro punto zero strategica utilizzato questa espressione in una
In un saggio di qualche anno fa che ha avuto un discreto successo
Allora se questa questi vendetta in effetti sono essenziali perché se come tutti sappiamo le nostre decisioni sono sempre basati su l'acquisizione di dati
Quindi chiunque di noi quando deve assumere una decisione la cosa che vorrei fare assumere la maggior quantità di dati sui quali poter Vasari detta decisione ma se questo è vero per noi come singoli luoghi a maggior ragione per le pubbliche amministrazioni ma al di là della del dato sociologico se volete il punto è che la stessa duecentoquarantuno del novanta quindi la legge sul procedimento amministrativo che impone questo alle pubbliche amministrazioni
Impone di basare le loro decisioni
Solo sui dati e sulle informazioni che sono raccolte nella fase istruttoria del procedimento amministrativo sono quelli che devono poi confluire nella decisione finale che va evidentemente adeguatamente motivata sulla base delle risultanze dell'istruttoria
Qual è la novità in un'epoca di ICT ottiche se lo diciamo in italiano
Tecnologie dell'informazione e della comunicazione beh che queste consentono di rilevare in tempo reale
Dati e informazioni da diversi canali di cui adesso sono in possesso anche le pubbliche amministrazioni
E quindi in questo modo di fornire molte più informazioni e davanti alle pubbliche amministrazioni a supporto della loro attività istruttoria
Tante che sappiamo ormai le pubbliche amministrazioni ricorrono ai vini Delta per svolgere molte delle funzioni che sono loro attribuiti i faccio qualche esempio per esempio al controllo del traffico più in generale il controllo del territorio
Ma anche per svolgere l'attività di regolazione e quindi ci sono tutta una serie di attività che adesso sono diventate più semplici da un certo punto di vista perché sono basate appunto su questo grosso patrimonio che ha costituito dai dai big detta
Nardi io aggiungo evidente a sono utilizzati anche per incrementare l'efficienza dei servizi pubblici
Pensate alla attività di rilevazione di tutte le informazioni sulle abitudini e gli interessi comportamenti le preferenze dei cittadini sulla base dei quali poi
I servizi per esempio di trasporto pubblico vengono ripensati Milano immaginati
Lì organizzati e e così via quindi in sostanza per dirla in realtà come l'ha detta qualcun altro qui mi riferisco a un libro che beh permeato oggi non è superato in tema di di appunto la rilevanza delle informazioni nel contesto di uno scenario di decisioni basate sulle ai sinti la monografia di dichiararlo Carullo ormai della due mila diciassette sulla gestione e fruizione diffusione dei dati dell'amministrazione digitale perché non ci spiega bene come la stessa funzione di informazioni delle amministrazioni pubbliche cambia cambia completamente in questo scenario sicché gli detta ci stanno aprendo dei nuovi scenari sia dalla prospettiva interna delle pubbliche amministrazioni dello e delle loro scelte organizzative sia evidentemente questo è l'aspetto più importante nella mia relazione che oggi dal punto di vista del rapporto col cittadino
Perché si viene a mostrare quel cittadino un rapporto il maggiore conoscenza che influisce evidentemente in modo chiaro sul processo decisorio un decisionale che dir si voglia delle pubbliche amministrazioni
Una una grossa premessa per quelli Dini vi starete chiedendo ma cosa c'entra tutto questo con il titolo del nostro seminario di oggi pubblica amministrazione intelligenza artificiale
E soprattutto al di là dell'interesse di tipo meramente sociologico che possiamo vedere per questa tematica qual è la sua rilevanza sul piano squisitamente giuridico
Allora cercherò di rispondere a queste due domande evidentemente brevemente partendo dal sul primo punto
Dalla dalla constatazione che queste espressioni di decisione robotica
Che si riferisce a un'espressione utilizzata da Filippo Patroni Griffi il ex Presidente del Consiglio di Stato adesso ormai alla consulta qualche anno fa
Che sottolineava come quando parliamo di decisione arabo robotica possiamo dice riferirci a due diversi scenari uno che naturalmente io lascio qui da parte mai possiamo poi magari parlare durante la discussione
La questione del robot che decide per il giudice
Che la questione molto particolare che anch'io ho studiato ma che comunque non è oggetto della nostra riflessione di oggi
Oppure invece l'altra come giudice possano e debba valutare la legittimità di decisioni amministrative robotizzate
Solo che ancora prima di andare a parlare di questo cosa che tenterò di fare brevemente occorre che capiamo bene che cosa si intende per decisione amministrativa robotizzata
Posto che il punto di partenza Piero fra l'automazione dei processi decisionali è e ritorno quindi alla mia lunga premesse non capite perché l'ho fatta e di possedere e gestire adeguatamente i dati in video evita in particolare perché se posso dirla così i dati per i sistemi di intelligenza artificiale sono un po'come l'ossigeno per noi esseri umani senza questi i sistemi di intelligenza artificiale non possono vivere meno che minuti decidere
E quindi i dati sono la base stessa per l'applicazione dei sistemi di intelligenza artificiale che utilizzano computer algoritmi varie tecniche per elaborare informazioni per risolvere i problemi e look prendere decisioni
Che in precedenza
Potevano essere prese assunte solo dall'intelligenza naturale o se mi consentite la battuta dalla stupidità naturale talvolta
Questi sistemi
Sono capaci di processare un'enorme mole di dati in tempo quasi reale ed è questo l'aspetto molto interessante cioè sono in grado molto di più dell'essere umano dotato di mera intelligenza naturale
Di restituirci rapidamente dei risultati che le permettono di avere una visione chiara del contesto decisionale
Quindi è chiaro che se guardiamo all'attività delle pubbliche amministrazioni l'incrocio fra la tematica dei bigliettai vendette all'intelligenza artificiale ci offre un potenziale enorme
Cioè attraverso l'uso di sistemi di intelligenza artificiale è possibile non solo gestire meglio tutti quei dati tutte quelle informazioni che sono in possesso delle pubbliche amministrazioni cosa che la nostra intelligenza umana
Ci permette di fare fino a un certo punto
Per per varie ragioni di limiti forse anche della capacità di utilizzare il nostro potenziale ma questo è un tema altro però quello che ci hai rotto è che i sistemi di intelligenza artificiale sono molto più efficienti da questo punto di vista e ci permettono anche ad oggi di giungere ad un'automazione relativamente facile
Almeno di parte del processo di oggi decisionale applicandolo ad ampie aree di attività di routine ripetitive standardizzate
Mi riferisco quindi a quello che i politologi chiamano attività di back-office delle pubbliche amministrazioni dove i sistemi di intelligenza artificiale potrebbero consentire un'automazione delle attività istruttorie
Che attualmente invece richiedono molti e dispendiosi passaggi interni
Il risultato quale sarebbe quello di un evidente snellimento ed accelerazione complessiva dell'attività amministrativa e quindi una maggiore efficienza della macchina burocratico amministrativa
E quindi se per per ritornare nelle mie resti nella mia veste di giurista l'uso delle delle chicche o delle ICT potrebbe essere un elemento importante nella prospettiva dell'implementazione del dettato costituzionale dell'articolo novantasette della Costituzione
Perché è potrebbe favorire da un lato una maggiore imparzialità dell'azione amministrativa perché perché l'amministrazione verrebbe a decidere sulla base di una mole di dati ben più ampia e secondo criteri che sono definiti ex ante in un algoritmo
E quindi questo con soddisfazione del principio di imparzialità dall'altro lato principio di buon andamento
Potrebbe diventare effettivamente un importante strumento per garantire l'effettività dei diritti dei cittadini e delle imprese
Su questo magari poi ci intratteniamo allora in seguito perché altrimenti de dunque parlo Giordano vini minuti
Tuttavia noi giuristi lo sappiamo e su questo forte forse ritornerà poi Edward ora Piotta l'utilizzo di strumenti tecnologici non è praticamente mai neutrale
Soprattutto con l'onere quando questi non si limitano a replicare senza il supporto cartaceo quello che veniva realizzato prima
Cioè per dirla altrimenti si pone intervento prima di come la disciplina giuridica una disciplina tecnica si influenzino a vicenda
E quindi come studioso del diritto amministrativo sono tenuta ad esaminare con molta attenzione le conseguenze sulla mia disciplina che discendono dall'intelligenza dal dall'introduzione dell'intelligenza artificiale e più specificamente dei cosiddetti algoritmi di intelligenza artificiale nel sistema del diritto amministrativo
Tanto più che consentitemi in passato se in passato era già difficile sostenere che per il cittadino fosse irrilevante
Essere destinatario di un provvedimento intervenuto
A seguito di un procedimento automatizzato o invece tradizionale oggi e questo non è non possiamo certamente più sostenerlo
Posto che vengono utilizzate delle tecnologie sempre più complesse e soprattutto i cui esiti applicativi sono sempre più difficilmente prevedibili
Penso evidentemente all'uso dei cosiddetti algoritmi di machine learning e alcun nesso fenomeno della black box della scatola nera su una Garri poi parleremo insieme a Eduardo la flotta
Peraltro di recente una sentenza del due mila e ventuno La sette otto Novi uno del due mila ventuno il nostro Consiglio di Stato ha avuto modo di esprimersi sulla stessa nozione di algoritmo in qualche modo la pronuncia ovviamente non ho il tempo di scendere nei dettagli ma questa pronuncia è stata adottata nel quadro di un'impugnativa avente ad oggetto un gli esiti di una procedura di gara relativa alla fornitura di testi Neckar
Lucido testuale di alta fascia Dubini DR
Che non ho la più pallida che cosa sia una questione rilevante
Qui il tema dei decidendum ma ce lo dice lo stesso consiglio di stato è l'esatta perimetrazione della nozione di algoritmo per il trattamento cito testuale
Trattamento riferito qui alle tacchi aritmie da parte di un peso Icardi altra faccio ok quello che qui mi interessa sottolineare al di là dei dettagli tecnici
Ecco come la nostra giurisprudenza amministrativa arriva in cui finanche a interrogarsi appunto sulla nozione di algoritmo prescindendo o meglio andando ultra per come la vedo milioni dato meramente tecnico
Infatti il Consiglio di Stato dapprima richiama la definizione accolta dalla sezione del TAR Lombardia con la sua pronuncia
Se pronuncia del TAR Lombardia che qui oggi che era più oggetto di impugnativa anche al Consiglio di Stato allora per chi non l'avesse in mente si tratta del TAR Lombardia numero otto quattro tre due mila ventuno
Dove si legge dici tutto questo Ale
Con il concetto di algoritmo accise richiama semplicemente a una sequenza finita distruzioni ben definite non ambigue
Così da poter essere eseguite meccanicamente tali da produrre un determinato risultato come risolvere un problema oppure seguirà un calcolo nel caso di specie trattare un'aritmia
E poi ci dice il TAR Lombardia
E su questo non si deve confondere con la con la nozione di intelligenza artificiale che è invece riconducibile allo studio di agenti intelligenti sistemi che percepiscono ciò che li circonda bla bla bla
Che interagiscono con l'ambiente circostante che apprendono dall'esperienza nasce il armi che elaborano linguaggio naturale che riconoscono molti movimenti punto fine della citazione non vi voglio annoiare oltre il punto meno quella di Dante mettendo in evidenza come il Consiglio di Stato poi ribalta la pronuncia di primo grado quindi del TAR Lombardia
E lo fa sconfessando proprio la conclusione del TAR Lombardia su questo punto perché il TAR in ultima analisi aveva dato ragione al ricorrente sottolineando come la commissione di gara avesse cito testuali confuso sovrapponendo indebitamente il concetto di algoritmo con quello di avvio automatico del trattamento Everett che ritorniamo a quello che stavo cercando di spiegarmi cioè per come la vedo io il Consiglio di Stato
Nel prendere la sua decisione
Si fa una cosa molto particolare perché ha si concentra su un dato importantissimo qui aggirare le sofisticate nozioni tecniche
Ci dice noi dobbiamo interrogarci sul che cosa l'Amministrazione abbia veramente chiesto e ritenuto preferibile attraverso il proprio invito offrire però è chiaro il tre tanto che così facendo il Consiglio di Stato interviene anche lui in qualche modo ad identificare le conseguenze giuridiche siano esse dirette o indirette che discendono dall'utilizzo di una nozione ad elevato contenuto tecnico specialistico quella di algoritmo
E quindi vedete cari torniamo alla casella di partenza
Voglio toccare se ho ancora tre minuti un altro aspetto che è sempre legato a questo discorso della dell'amministrazione però Angori ultimo o o come come so come avete scritto nella nel titolo di questo incontro di oggi pubblica amministrazione intelligenza artificiale
Allora la questione dei procedimenti amministrativi i cosiddetti on Tour automatizzati che avevo iniziato già pronta in prima per cui sappiamo che il dato amministrative attorno il quadro normativo scusate eh al momento totalmente carente
Ho già detto in varie sedi che a mio avviso sarebbe auspicabile e qui mi rivolgo ai Duran Duran Piotta che il legislatore si esprimesse su questo punto quantomeno per identificare gli pronti provvedimenti e quindi procedimenti per i quali l'automazione non dovrebbe essere ammissibile
Perché è in assenza di un intervento del legislatore sul punto per ora anche qui è soprattutto la giurisprudenza amministrativa che si è espressa sul tema della così detta decisione amministrativa albo ritmica
E probabilmente qui è cosa nota ma so che ci sono collegati molti avvocati e quindi probabilmente questa giurisprudenza è nota però la richiamo
Da un lato abbiamo l'orientamento assunto dalla Sezione terza bis del TAR Lazio in una serie di pronunce nel settembre due mila e diciotto
Pronunce che riguardavano provvedimenti di trasferimento di sede
E ho assegnazioni dei docenti delle scuole pubbliche adottate sulla base delle risultanze dell'applicazione di un algoritmo qui il TAR Lazio aveva detto che cito anche qualche storia costerebbe alla dismissione delle redini della funzione istruttoria
E riabilitazione a quella provvedimentale il presidio costituito dal baluardo dei valori costituzionali
Scolpiti negli articoli tre ventiquattro novantasette della Costituzione oltre che all'articolo sei della Convenzione europea dei diritti dell'uomo
Quindi sembrava un po'
Aver messo la parola fine alla possibilità di appunto
Procedimenti totalmente automatizzati e quindi provvedimenti di conseguenza
Adottati in questo modo però sappiamo poiché il Consiglio di Stato per parte sua
Con importantissima sentenza due due sette zero del due mila diciannove ha statuito contrario cioè ci ha detto
Che quando ci si trova di fronte a procedure serial non standardizzate quindi che applicano l'elaborazione che che implicano un elaborazioni di molte istanze e implicano l'acquisizione di dati certi o celtico oggettivamente comparabili per poter prendere una decisione
Irrealtà
L'affidamento di queste attività ci dice il Consiglio di Stato ha un efficiente elaboratore elettronico appaiono sto citando testuale come doverose declinazioni
Dell'articolo novantasette della Costituzione coerenti con l'attuale evoluzione tecnologica
E poi però il Consiglio di Stato ha anche aggiunto che in tutto questo non deve essere motivo di elusione
Dei principi che conformano nostro ordinamento e che regolano lo svolgersi dell'attività amministrativa in cui il Consiglio di Stato fa riferimento ai principi di pubblicità trasparenza ragionevolezza proporzionalità e così via
Potrei dire per essere un po'autocelebrativa
Che il Consiglio di Stato ha accolto la tesi che io da tempo sostengo
E cioè che il problema non sia tanto che soltanto un problema di correttezza della decisione finale adottata dalla pubblica amministrazione
Facendo ricorso alle risultanze di un'istruttoria automatizzata ma anche il modus decide di
Della pubblica amministrazione abbia una rilevanza Hun Sen
Anche in termini giuridici
Perché deve sempre corrispondere ai canoni nazionali ed europei del cosiddetto giusto procedimento diritto ad una buona amministrazione bla bla bla
E questo vale ovviamente anche nell'ipotesi in cui si possa concludere che una decisione automatizzata adottata da un sistema di intelligenza artificiale basato su algoritmi è ha infine dei conti più corretta perché è risponde meglio ai dati e alle informazioni su cui si basa rispetto ad una decisione basata su una rielaborazione di questi dati di queste informazioni da parte dell'intelligenza naturale del funzionario amministrativo senza nulla togliere all'intelligenza naturale del funzionario amministrativo evidentemente
Cioè inoltre e veramente arrivò alla conclusione
Se facciamo riferimento ai cosiddetti algoritmi di machine learning a cui fa riferimento anche la giurisprudenza del Consiglio di Stato il problema è che sappiamo bene in molti casi pare che non sia facile perché non è vero che noi vediamo ma non sia facile capire in che modo l'algoritmo è arrivato ad un certo risultato un piuttosto identificare quali sono i fattori precisi che hanno condotto a quel determinato risultato
E questo è ovvio che dal punto di vista inclusa amministrativista è un enorme problema perché la pubblica amministrazione deve sempre essere in grado di giustificare motivare spiegare le proprie decisioni
E infatti
Non a caso nella decisione due due sette del due mila diciannove il Consiglio di Stato ha concluso che l'algoritmo
Deve essere considerato a tutti gli effetti con un atto amministrativo informati con cui si applicano quindi tutti i principi che si applicano gli atti amministrativi
Quindi con la conseguenza che la regola Göring mica deve essere non solo conoscibile sesto citando il Consiglio di Stato ma anche soggetta alla piena cognizione e al pieno sindacato del giudice amministrativo e quant'questo orientamento è stato confermato da varie province successive poi sappiamo che con la pronuncia otto quattro sette due del due mila diciannove il Consiglio di Stato ha ha precisato come il ricorso all'agriturismo
Vada identificato come il modulo organizzativo strumento procedimentale istruttorio
E quindi il il ragionamento del consiglio di stato mi pare anche così condivisibile laddove poi si rifiuta di attribuire una rilevanza in quanto in questo contesto alla distinzione fra decisione amministrativa vincolata o connotata da margini
Di discrezionalità
Nella misura in cui si conferma
Che la rilevanza dell'algoritmo può essere solo procedimentale e quindi sia ancora la decisione finale ai classici canoni dell'imputabilità all'organo titolare del potere della decisione finale evidentemente vale a dire per per per dirla in parole povere che in conclusione per la sesta sezione del nostro consiglio di stato che non è stata sconfessata l'algoritmo è e rimane solo uno strumento dell'istruttoria procedimentale
Certo uno strumento di cui l'amministrazione può e deve avvalere assi
Per oggi era in corrispondenza al dettato costituzionale abbiamo detto articolo novantasette imparzialità gomma e buon andamento e che trova evidentemente una declinazione anche nei canoni di efficienza economicità dell'azione amministrativa
Mi riferisco all'articolo due quattro uno della due quattro uno del novanta quindi concludendo e veramente concludo
Se sussiste come sussiste secondo me ad oggi un onere
In capo alle amministrazioni di conseguire i propri fini con il minor dispendio di mezzi e risorse e attraverso le lo snellimento e non ce la l'accelerazione dell'iter procedimentale stavo citando il nuovo Consiglio di Stato
Allora è evidente che deve assolutamente consentirsi alla pubblica amministrazione di fare ricorso a tutti quegli strumenti che oggi sono messi a disposizione dalle ai siti
Ove questi siano idonea allo scopo e purché questo però avvenga nel rispetto del principio di trasparenza
Questo ce l'ha detto il consiglio di stato principio di trasparenza che va inteso in due modi anzitutto come piena conoscibilità e per l'esistenza di eventuali processi automatizzati e dell'algoritmo
Ma poi
Anche del come e del perché si sia giunti ad una data decisione cioè intendiamoci bene e con questo chiudo la difficoltà di spiegare in che modo l'algoritmo sia giunto ad adottare una certa decisione
Non una certa soluzione dunque non decisione non equivale al non poter fornire una spiegazione voglio dire il fatto che sia difficile arrivare a ricostruire come l'algoritmo è arrivato ad una certa soluzione
Ci porta semmai ad interrogarci determinati casi su sepali come non appena di fare ricorso all'uso di quello strumento tecnico posto che per quanto vi riguarda
Il dovere dell'amministrazione di motivare le sue decisioni quali che siano non importa la decisione finale al dovere di motivare le proprie decisioni rappresenta per lui amministrativisti spero un'irrinunciabile traguardo di civiltà giuridica e con questo concludo perché ho parlato anche troppo e vi ringrazio per l'attenzione
Grazie alla professoressa paletta tra fornito numerosissimi spunti di riflessione in particolare con l'ultimo riferimento alla parola soluzione mi sembra che abbia dato soddisfazione a tutta una serie anche di obiezioni che si appuntano proprio sulla stessa costruzione problematica dell'algoritmo ma su questo poi forse si potrà tornare
E anche sulla parola spiegazione rispetto alla soluzione a cui può pervenire la pubblica amministrazione con l'aiuto dell'algoritmo
Io passo immediatamente la parola al professor Ratti ottavi mi riservo come avrete saputo vado di capire e qualche ulteriore domanda alla finale
Allora intanto ho chiesto l'autorizzazione a togliere la mascherina ai colleghi perché parlare
Non è semplice di questi temi in più
Con il volto bendato ancor più complicato
Allora intanto parto con un ringraziamento a gli amici e colleghi Paolo Provenzano Benedetta liberali e devo dire un grazie anche a
La professoressa Galetta la professoressa D'Amico e qui vedo alcuni amici come Gabriele bottino al professor Gabriele bottino professor Giuseppe la neve che saluto con affetto e ringrazio punto it essere qui vedo anche il professor Franco no allora
Grazie perché questa è da questo è davvero il tema il tema sul quale al quale sto dedicando in questi ultimi anni la maggior parte delle miniere energie e ed è mio interesse del mio interesse da costituzionalista questo lo voglio sottolineare Inter un costituzionalista che molto interessato sempre ai temi del diritto amministrativo a cavallo tra incostituzionale l'amministrativo ma questo è un tema davvero che si sposa perfettamente si intersecano e le due discipline perché l'amministrazione rappresenta sviluppo motore
Dello stato
Economico e sociale e nella sua attività sono coinvolti interessi e diritti costituzionali
Massima deve essere quindi l'attenzione in utilizzo della tecnologia può essere davvero come cercherò di dire anche nel mio breve intervento
Uno strumento formidabile per realizzare davvero i principi costituzionali ma consentitemi però di partire anche anche io vorrei partire da una premessa che a prima vista sembra un po'fuori tema dal tema centrale della amministrazione l'utilizzo di vigenza artificiale nelle attività la pubblica amministrazione ma in realtà strettamente connesso ha a che fare con la bellissima relazione della professoressa che Letta
L'intelligenza artificiale al contrario di quello che e credono molti è una tecnologia che non si è sviluppata ieri o l'altro ieri ma che risale tra la fine degli anni cinquanta agli inizi degli anni sessanta quando il gruppo del Mitt di Boston inizia a
Sviluppare questa tecnologia sulla base di quello che è un concetto classico di tutte le formule matematiche che appunto è l'algoritmo e del resto noi troviamo scritti di giuristi come Vittorio Frosini degli anni Sessanta anche in Italia dedicati proprio al tema Cile cibernetica diritto
E devo dire che anche la letteratura italiana giusto pubblicistica sia occupata già a partire degli anni novanta montò della digitalizzazione dell'impiego delle delle tecnologie più evolute
Per lo sviluppo della pubblica amministrazione in particolare
Ora e qual è il problema italiano che spesso ne parliamo spesso subiamo quella che mi pare una retorica della digitalizzazione
Quantomeno dall'entrata in vigore del codice dell'amministrazione digitale abbiamo biblioteche e anche disposizioni
Dedicate a questo tema ma di digitalizzazione di innovazione di digitalizzazione nella nostra amministrazione nel nostro Paese
Tutti noi immagino che ne vediamo poca come dimostrò tra poco lo chiariscono anche i più recenti rapporti della Commissione europea non siamo un Paese ha particolarmente diciamo innovativo e che utilizzata la tecnologia siamo più bravi a parlarne che a a praticarla
E questo è un problema per purtroppo o per fortuna il cambio di marcia sembra essere arrivato dalla pandemia mi piace qui ricordare un'iniziativa che abbiamo organizzato con il Comune di Milano insieme la professoressa Galetta la professoressa D'Amico proprio Lila technology le tecnologie per la ripartenza
Assieme all'assessore Coco avevamo proprio messo in evidenza già ai né dopo per le poche settimane all'inizio della pandemia come la tecnologia stesse aiutando certo è chiaro lo vediamo anche oggi no non c'è un'aula piena di persone però
Stiamo continuando abbiamo continuato a fare le nostre attività grazie alla tecnologia questa considerazione se volete un po'banale banale non è perché trova una concreta applicazione nei programmi delle policy europee e nazionali
E non è un caso che la transizione digitale sia oggi tra i primi punti dell'agenda europea
Mi riferisco in particolare al piano comparsa che ha all'ambiziosa finalità di trasformare i servizi anche della pubblica amministrazione
Entro il due mila e trenta di tutta l'amministrazione in digitale un obiettivo molto ambizioso però effettivamente sono state messe le premesse anche grazie al Next Generation il look e al piano nazionale di ripresa resilienza italiano
E per la prima volta ne abbiamo visti di ministeri di tutti i tipi e di tutti i colori per la prima volta troviamo finalmente un ministero dedicato alla transizione digitale
E un comitato interministeriale che proprio pone la tecnologia spero al centro certo se guardiamo i dati statistici sulle connessioni e sul livello di diffusione della banca dall'altra della banda larga nel nostro Paese
Devo dire che i diciamo non è incoraggiante il livello al quale siamo però insomma ci sono le risorse ci sono le premesse per cambiare il passo e cambiare il passo è fondamentale e indispensabile ce lo ha già dimostrato
La professoressa Galetta io mi mi limito soltanto a ulteriormente infatti enfatizzare le parole importanti ma devo dire ancora prima gli scritti importanti che ha perché appunto
Ha condiviso con noi negli scorsi anni
E cioè quello che io da costituzionalista guardo con la massima attenzione
Il valore che l'articolo novantasette a e le potenzialità che la tecnologia può dare nella realizzare davvero fino al cioè una pubblica amministrazione efficiente ed efficace forate
Io riscontro anche in un recente incontro tipo qua in un seminario recentissimo che ho ho avuto con altri colleghi costituzionalisti amministrativisti devo dire ho riscontrato moltissima diffidenza nei confronti della tecnologia come se l'algoritmo
Fosse appunto
Dotato di personalità che può diciamo portare bene o male nelle nelle nostre vite la a tecnologia come si suol dire ne è un tra non è né buona né cattiva la tecnologia è uno strumento che può aiutare a a perseguire determinati fini però e importante queste che questa deve che questa tecnologia sia
Ben indirizzata ben regolata Benelli limitata ma questo è un punto
Su quale voglio porre l'attenzione di tutti deve essere anche penna sviluppata
Quello che oggi manca diciamocelo chiaramente nella nostra nel nostro contesto sociale nella nostra amministrazione è anzitutto una cultura della tecnologia
E in secondo luogo la capacità di poter produrre internamente
In house una tecnologia che possano davvero rispondere alle esigenze dei nostri servizi e dei nostri interessa il pubblico
I pubblici
E che possa davvero essere impiegata la professoressa che Letta ha già ricordato il caso della buona scuola ma consentitemi un attimo di riprendere questo caso
Per sotto due punti di vista e il primo e proprio quello diciamo mi serve a come dire riaffermare
Quanto ho già detto cioè l'importanza della qualità dell'evoluzione della tecnologia perché il caso della buona scuola viene è comunemente chiamato come un caso di impiego di intelligenza artificiale certo è sicuramente un algoritmo è sicuramente sono delle formule matematiche che sono state utilizzate però
A guardare i limiti gli Effetti e come ha funzionato non possiamo sicuramente qualificarlo come intelligente ma neanche come artificiale un calcolo matematico che se fosse stato lo stesso servizio fornito da una società che davvero si occupa di sviluppa intelligenza artificiale machine learning di più learning e allora il risultato sarebbe stato diverso questo lo dico perché ne abbiamo bisogno
Di essere consapevoli e il PM RR in questo senso mi pare che abbia questa consapevolezza che allo stato delle cose e dei fatti
Questa tecnologia non può essere sviluppate quindi impiegata in Hausa sono cinque o sei i player globali e mondiali in grado di sviluppare questa tecnologia
E che la sviluppano da diversi anni e che oggi appunto
I pm
Amazon Web Services Microsoft non voglio fare pubblicità sono questi sono noti e come stanno già facendo alcune amministrazioni l'unica modalità è quella di sviluppare una partner una partnership pubblico-privata che possano mettere insieme gli interessi pubblici da perseguire la tecnologia grazie alla quale va perseguita chiaramente attenzione io non è che faccio questa riflessione a cuor leggero nel senso che le implicazioni di collaborare con i privati anche se già lo facciamo in tanti servizi essenziali
E una necessità per avere una tecnologia che da ben acque davvero consenta di a vere
Dei servizi degli FI
E dei servizi e dei risultati efficienti ed efficaci allo stesso tempo però questo richiede che ci sia una regolazione che ci sia un controllo che ci sia una cultura interna dell'amministrazione me definire gli interessi nella capire quali sono i perimetri entro i quali si può muovere appunto l'amministrazione attraverso
I privati
Penso che questo sia indispensabile fino a quando noi non riusciremo a a sviluppare una tecnologia efficiente internamente però per farlo
Basti guardare il recente e ai Index ha pubblicato ogni anno dall'università di Stanford che segue questi temi
Da moltissimi anni e vediamo che i privati investono sull'intelligenza artificiale tra i settanta e gli ottanta miliardi
Gli Stati Uniti quaranta la Cina trenta e l'Europa finalmente adesso sta arrivando con i suoi dieci miliardi all'anno
Però la ricerca ha un costo e lo sappiamo noi universitarie ricercatori quanto una ricerca da noi sia insufficiente mente per finanziata questo è un tema è un po'lo stesso tema che abbiamo scusate se sembra un argomento diverso ma a mio giudizio non lo è
è come il tema dei vaccini se tu una tecnologia nulla sviluppi una non hai una conoscenza dentro la devi andare a chiedere agli altri e questo talvolta può rappresentare un problema
Ora e quindi io penso dal punto di vista delle public policy ne abbiamo la necessità di investire su conoscenze competenze e ricerca
Serve per tutto mi pare che sia la soluzione a tutti i mali dell'umanità ma in particolare quando parliamo di tecnologia questi tre punti diventano ancora più chiare ancora più centrali
E esempio della buona scuola a mio giudizio è importante però l'esempio della buona scuola è importante è anche perché come ha detto la professoressa Galetta il Consiglio di Stato fissa alcuni principi
Che valgono in generale per la tecnologia ma in particolare per l'utilizzo dell'intelligenza artificiale che a mio parere
Hanno un valore davvero assai rilevante Kissing resta perfettamente in quella che è la direzione che mi pare stia prendendo il regolatore il regolatore ovviamente europeo ora
Noi troviamo è vero che non c'è una sufficiente disciplina all'interno del nostro paese però ed è il nostro ordinamento in generale europeo però ci sono due fatti importanti il primo è il Gidp Arlacchi il Regolamento sulla protezione dei dati personali
Ormai vigente dal due mila e diciotto e ovviamente disciplinando la privacy come dice la professoressa
Galetta disciplinando appunto i dati disciplina
L'ossigeno della macchina dell'intelligenza artificiale quindi abbiamo una regolazione generale abbastanza importante e in particolare proprio quel principio di spiegare l'algoritmo lo ritroviamo Magic dichiara articoli ventuno e ventidue anche se non è un principio generale perché gli diciamo ristretto al principio alla decisione completamente automatizzata che abbia Effetti sui diritti e gli interessi e la persona mentre invece e qui concordo senz'altro con la professoressa Galetta questa dice questo che è un come Andrea Simoncini ha scritto è un diritto costituzionalizza costumi diritto costituzionale alla comprensione dell'algoritmo sono molto d'accordo con questa posizione dovrebbe essere e e essere e diventerà un diritto generalizzato di chiunque abbia a che fare con una decisione o con un esito di un'attività dell'algoritmo e in questo senso mi pare molto importante
La direzione impresa dall'Unione Europea con l'artificio l'artificio all'intelligenza Hackett
Lei Ajax
Che
Se tutto va bene vedrà la luce entro un anno e mezzo
Più probabile due anni
Però questa bozza di Regolamento mi pare che eh già dia la direzione che indichi bene la direzione intrapresa dal legislatore europeo anzitutto
Intendendo l'intelligenza artificiale come
Un
Servizio un'attività pubblica o privata che sia che debba essere attenta a preservare e semmai sviluppare i diritti costituzionali in questo senso secondo me questa è la scommessa dell'esercizio
Chi come ricercatori possiamo fare
E quindi cerco di raccogliere la sollecitazione alla professoressa Galetta quali attività amministrative possono essere nella disponibilità dell'amministrazione
Ed è veder interi attività era pubblica distrazione posso se la disponibilità dell'algoritmo possono essere rimesse a quell'intelligenza artificiale ora il la bozza di Regolamento sull'intelligenza artificiale fa una distinzione tra attività vietate attività ad alto rischio e attività ordinarie grosso modo eh sto semplificando al massimo
Nelle attività vietate come ad esempio il riconoscimento facciale il monitoraggio
Dei degli individui costante e continuo
Ci sono c'è la possibilità in taluni casi che il legislatore per Fini e interessi pubblici Possa autorizzare queste attività che in generale sono vietate però è chiaro che lo stesso legislatore quando parliamo di questo tipo di attività per le peculiarità che a questa tecnologia
Ovviamente anche lui incontra un limite che il limite costituzionale sotto questo punto di vista non possiamo non pensare a forme di Stato
Molto diverse dalle nostre come quella cinese dove noi abbiamo un credit scorra e qui diciamo un credito sociale che viene esercitato proprio in questo caso mi verrebbe da dire a causa della tecnologia consente di monitorare le persone i loro comportamenti i loro acquisti le loro opinioni e chiaramente
Questo lo puoi fare solo perché hai un algoritmo che riesce a monitorare
Miliardi di cinesi ma evidentemente è una
Un'attività che non puoi fare in uno Stato liberaldemocratico in uno Stato costituzionale che garantisce i diritti di libertà e in questa cornice secondo me noi possiamo leggere
Il futuro della nostra attività amministrativa ecco io insisto molto su questo noi li abbiamo secondo me è uno strumento molto importante e molto utile per chi studia questi temi è lei ha il nuovo cioè il rapporto che ormai semestralmente prima era annuale la Commissione europea un gruppo di esperti e la Commissione europea pubblica
Dando un po'lo stato di fatto di quale è lo sviluppo dell'impiego di intelligenza artificiale in particolare nell'attività amministrativa e nei servizi pubblici
Noi possiamo vedere come in questo rapporto il nostro Paese sia non proprio fanalino di coda ma insomma non è tra i più diciamo brillanti nello sviluppo e nell'impiego della tecnologia
Nel algoritmi che ha e di intelligenza artificiale vediamo che molti Paesi in particolare i Paesi scandinavi hanno fortemente sviluppato non si lei ha Watch non si limita a indagare soltanto l'Unione europea ma anche i Paesi collegati tra cui ad esempio la Svizzera e in questo rapporto mai vediamo che impiego all'intelligenza artificiale e davvero diffuso e riguarda davvero amministrazioni centrali e servizi di grande interesse faccio soltanto un paio di esempi algoritmi predittivi quindi non semplici formule di calcolo vengono utilizzati dalla polizia svizzera per capire in quali quartieri in quali orari è più probabile che ci siano dei reati certo voi direte ma in Svizzera i reati sono talmente pochi ma insomma comunque anche di c'è un problema e trovò una soluzione tecnologica
Ho ancora in Danimarca o in altri Paesi molto si utilizza
L'algoritmo per riconoscere il tono della voce di chi sta chiamando il centododici e capire il tipo di emergenza e se ad esempio la persona sta per avere una un attacco cardiaco mentre al telefono e quindi questo consente di come dire rendere davvero quello che dice la professoressa Caretta davvero appieno efficace ed efficiente l'attività il servizio pubblico per non parlare come dire nel caso italiano di questo impiego potrebbe essere utilizzato per tutte quelle procedure che richiedono una massima garanzia di imparzialità e terzietà dell'amministrazione penso ad esempio al Codice dei contratti
Qui il Consiglio di Stato in varie province
Che ha citato la professoressa Galetta in particolare della buona scuola dice è importante visto che l'algoritmo non nato discrezionalità
E che la discrezionalità sia impostata in partenza dall'amministrazione per giungere alle risultato che si vuole ottenere in queste parole del Consiglio di Stato
C'è la consapevolezza che la pubblica amministrazione e qui enfatizzò ancora il valore delle competenze perché se tu ottenere questi risultati devi avere delle persone che nella pubblica amministrazione abbiano davvero acconto conoscenza di questi temi e una cultura che non può essere appunto quella che che pensiamo tutti noi abbiamo in mente burocrate amministrativo classico chi non ha questo tipo di competenze deve essere protagonista nel preparare l'algoritmo l'intelligenza artificiale non è qualcosa di omogeneo di statico l'intelligenza artificiale si adegua al caso all'applicazione al tipo di risultato che tu devi perseguire e ad esempio in una selezione pubblica o in una per gara
Devi necessariamente fissare dei criteri devi poi individuare fare una comparazione fare una valutazione qui l'algoritmo può aiutare anzitutto una volta che sono fissati gli interessi pubblici tradotti ovviamente
Dalla scelta che fine legislatori degli indirizzi politici che siano a livello governativo
Vanno può essere utilizzato sia per la formulazione eventualmente di un bando sia per poi la selezione in concreto sotto questo punto di vista io penso che l'intelligenza artificiale potrebbe essere utilizzata
Lo so è un paragone un po'rischioso però secondo me potrebbe essere utilizzata come le linee guida della autorità nazionale anticorruzione in che senso
Alla fine cosa qual è stata la funzione di queste lasciando stare la natura vincolante non vincolante ma alle linee guida dell'anarchia
Non so fare altro che un modo per indirizza are quanto più possibile l'attività dell'amministrazione per evitare appunto fenomeni corruttivi best-practice no per giungerà risultato ecco
Queste linee guida potrebbero essere tradotte all'interno di un algoritmo e quindi cercare di raggiungere queste vette Vespa
Ovviamente come ci dice il Consiglio di Stato è questo lo voglio sottolineare come ci dice anche il regolarmente la bozza di regolamento sull'intelligenza artificiale intelligenza artificiale deve essere antropocentrica deve essere e deve avere al nuovo al centro comunque l'uomo e quindi questo non significa che l'uomo non possa discosta
Discostarsi dal risultato che dalla macchina che dai software intelligente ma nel farlo doteremo di farlo deve motivare lo deve argomentare e poi ovviamente queste decisioni devono essere tracciate devono essere trasparenti tutti devono essere in grado di capire qual è il ragionamento perché la macchina comunque fa un suo ragionamento che non è quello della logica necessariamente umana ma che è il ragionamento per raggiungere l'obiettivo nel modo migliore
Io quando ricordava Paolo
E specifico io insegno ho iniziato a insegnare diritto dell'innovazione del vicenza artificiale per la prima volta quest'anno e per questo anche la dice
Su come l'università si sta appunto adeguando alle necessità di formazione di quella che sarà la classe dirigente del futuro
Per spiegare nelle prime elezioni cosa sia l'intelligenza artificiale
Mi riferisco sempre faccio sempre l'esempio di Leonardo da Vinci
Io lardo Da Vinci come lo qualifichiamo come un genio ha pensato secoli prima a invenzioni che sono arrivate poi molto tempo dopo questo perché gli uomini solitamente compiono le loro scelte sulla base delle loro conoscenza conoscenze che derivano dal vedere come si comportano gli altri o conoscenze che derivano dallo studio
E quindi usciamo da una porta
Usciamo da una stanza attraverso la porta e non la finestra perché vediamo gli altri che escono dalla porta e a un certo punto capiamo quando cresciamo che se ci che se usciamo dalla finestra ci facciamo male
Però a un certo punto arriva un genio arriva una persona dall'intelligenza fuori dal comune e non segue le regole non segue quella che
La l'abitudine di fare
Di seguire comportamenti perché tutti fanno così trova una soluzione diversa una fu una soluzione nuova si inventa un elicottero si inventa un nuovo mezzo di trasporto ecco
In questo modo cioè con termini semplici e che non hanno vedere con la tecnologia cerco di spiegare intelligenza artificiale
La macchina l'algoritmo vedendo come funzionano i capiamo che non necessariamente dalla risposta che ci aspettiamo questo può essere un pericolo ma può essere anche un valore aggiunto ad esempio per trovare una cura ha una malattia perché la cura delle malattie richiede necessariamente l'utilizzo di modi differenti
Di pensare e di ragionare
Ho parlato abbastanza grosso modo ho toccato i punti volevo toccare e sono curioso di conoscere un po'le vostre sollecitazioni e poi ovviamente a disposizione per qualsiasi ulteriore integrazione Grazia
Calcolata saprà chiatta e devo dire che se la professoressa paletta e il professor Schioppa sono riusciti a sciogliere in ordine ai personali dei dubbi delle perplessità
Non del tutto aperta alcune per fistola quella delineata mi sembra ormai una strada inevitabile
Quindi questi corsi anche all'università credo che dovranno evidentemente trovare sempre maggiore spazio e mi domando ma poi lascio subito la parola il primo degli interventi programmati se si possano può immaginare
Dei diritti dalla parte appunto dei cittadini del delle persone anche non cittadini
Non di qua difesa ma comunque che possano controbilanciare tutta questa prospettiva molto positiva che ci viene riconsegnata dall'utilizzo dei degli algoritmi dell'intelligenza artificiale da parte della pubblica amministrazione
Prima dicevo lascio la parola al dottor al professor Stefano D'Ancona che ha ricercatore di diritto amministrativo presso la nostra università e lo ringrazio grazie
Ringrazio poi Lipomo
Cento comunale eccetera e poi
Che è possibile
Ringrazio per l'invito ringrazio Urgnano Orania per la bella relazione Edoardo dall'apprezzato bella relazione quel piacere di rivedere dopo tempo seppure in virtuale insomma
CCD rivediamo
Cioè alcune suggestioni dai vostri interventi quindi un intervento un minimo abbastanza evocativo di di alcuni problemi
Mi sembra di capire anche dalla lettura della giurisprudenza
Niente il fatto in questo periodo soprattutto sull'utilizzo del
Degli algoritmi Mieli dell'intelligenza artificiale decisioni amministrative
Che l'utilizzo di queste nuove tecnologie è ormai inimitabile in senso positivo
Mi vengono però da fare alcune puntualizzazioni
Su dei limiti ieri sul belli accorgimenti che possano rendere anche effettiva nell'azione dei principi che nel diritto amministrativo sono importanti seppure cambiano i mezzi di decisione
Perché il problema secondo me in questo sulla decisione diventa complessa in più c'è l'esigenza di aerei del avere di aiuto l'intelligenza artificiale nell'ambito del della Cirami
Ministro attivo
Mi sembra interessante l'espressione usata che sembra era una sorta di riserva ogni amministrazione
Usata dal Consiglio di Stato in questa decisione citata anche bachiana ventisette il ventidue settanta nel due mila e diciannove in cui in un passo il Consiglio di Stato dice la discrezionalità amministrativa senz'altro non può esservi mandata assolta
E quindi da rintracciare se al momento dell'elaborazione dello strumento digitale
Ora questo pone anche un problema sembrano dire il Consiglio di Stato attenzione
Questo può essere uno strumento procedimentale come richiamato da un'altra
Sentenza del Consiglio di Stato l'algoritmo il l'intelligenza artificiale però rimane sempre o a monte o a valle il l'amministrazione che interviene e paramento innanzitutto il software e a valle casomai corregge eventuali storture e questo mi mi impone anche la domanda
Sul che verrà fatta venire in realtà l'intervento di Edoardo
L'esternalizzazione o meno dell'elaborazione del soccer
Cioè come si coordinare e lo chiedo anche a voi
Questo concetto della riserva di amministrazione
Con il fatto che l'amministrazione può elaborare può esternalizzare l'elaborazione sotto cioè è lo stesso problema anche a me viene in mente dopo anni di studi sulla progettazione nella progettazione degli interventi quando il legislatore nella legge delega
Nella parte della progettazione dice attenzione la progettazione preliminare di fattibilità va sempre fatta dall'amministrazione perché e l'amministrazione capire l'esigenza del l'interesse pubblico e tutto quanto e quindi può fare la progettazione di base Solone
Però restando che oggi molti modelli di progettazione permettono di delegare tutto all'esterno ma lasciamo perdere presto
Quindi questo è è un problema che mi son posto la il fatto che comunque non si sia Soggetti
Alla all'Agorà impone la decisione di far venire
In mente questa questo breve passo il Consiglio di Stato ma richiamando alla memoria quell'articolo ventidue del Giglio IGP del Gigli pr Eduardo richiamato sul fatto
E che intere interessato titolare della seppure passiamo nei dati personali diritto di non essere sottoposto a una decisione basato unicamente sul trattamento automatizzate
Seppure lineare di applicazione come tu hai ben sottolineato sono diverse ma mi ha richiamato un po'a questo principio per cui ci deve essere sempre una mediazione qui
Ovviamente discorsone profilazione dei dati decisione automatizzata ancora più grave secondo passaggio
Trasparenza effettività della tutela mica la la la decisione sulla scuola del il Consiglio di Stato del due mila diciannove questa sentenza ventidue settanta
Diretto virgolette gioca facile perché si tratta di una decisione che anche all'uomo della strada
Pare qua
Come
In un passo secondo me è il più importante dice consigliere Rizzato gli esiti della stessa paiono per la decisione automatizzate
Pagano effettivamente connotati dalle il logicità e razionalità denunciate dall'appellate
Essendosi verificate situazioni paradossali cioè
Ora il problema non è quando la evidentemente la decisione automatizzata dà origine a situazioni paradossali ma è quando i l'algoritmo all'intelligenza artificiale dare luogo anche incisioni inique e difficili da svelare
Ad esempio io penso recapitato nella pratica di esaminare pianificazioni
Riferita alla zonizzazione acustica in cui si danno quando Marte i influenza testi sono rispetto a un intervento progetto che sono una originate da algoritmi eccetera eccetera e qui mi sembra un po'difficile e il diritto dei tempi
Agire per tutelare il cittadino da questo pericolo
Che siamo in mano alla decisione all'intelligenza a una decisione che non imperscrutabile può io dico questo anche che lo stesso tema della discrezionalità tecnica
Mi immagino che il giudice debba usare in questo caso
Consulenze tecniche d'ufficio in maniera sicuramente maggiore rispetto a quella a utilizzo attuale
Terzo lo
è verissimo che l'intelligenza artificiale alla capacità fare predizioni
Molto due lavorano molto elaborate cioè
L'utilizzo dei big data Fassini che si possano breve prevenire frodi da parte dell'amministrazione finanziaria
Prevenire le venti calamitosi quindi mi riferisco alla mappa dei rischi idrogeologici testi danno è stata fatta
Che anche prevenire rischi sanitari e mi riferisco alla creazione di software come l'indice di tu prevengono boh infarti giovane o malattie
Somma quindi in questo senso l'amministrazione quo erogare meglio servizi con l'utilizzo di queste tecnologie ma il problema a mio avviso è la raccolta dei dati cioè a dire
Se io
Devo fare non so qua che prevenga il l'infarto devolvere muri dell'onere una raccolta di dati disomogenei che mi facciano vedere
Che quando l'elettrocardiogramma fare in un determinato modo l'esito che tra tre mesi in un infarto facendo le corna tra virgolette però il concetto è il monte cartelle cliniche Moggi intatti
Mendicino non sono attualmente trasferiti in base vita basi dati resi omogenei tra loro e quindi non è possibile la collaborazione di software l'intelligenza artificiale che via il modo di
Di fare amministrazione in in questo modo
In ultimo interamente lascio la parola a voi
I principi cioè l'intelligenza artificiale elabora la decisione sulla base di una
I statistiche fondamentalmente
Mi chiedo quando c'è bisogno di una decisione che tenga conto della peculiarità del caso singolo
Che cosa succede cioè proprio
Probabilmente e quell'intervento dell'amministrazione a valle
Che può fare successivamente alla all'elaborazione decisione mediante algoritmo e con questa che dove io ringrazio
Forse no soffre fatale e poi professor Piotta se la professoressa da Letta vuole
Grazie
Sì volentieri aggiungere qualcosa mi sentite bene
Benissimo perché a un certo punto mi era mi ero andato dichiara Massimo video un carico
Allora dunque volevo reagire un attimo grazie Stefàno tutte osservazioni sempre intelligenti e condivisibili
E vorrei ritornare sul punto che tu hai sviluppato in materia di sviluppo in in house piuttosto che esternalizzazioni quindi il punto che era stato sollevato da Eduardo che tu hai ripreso
Perché io su questo avevano scritto qualche anno fa ad altro riguardo ma le riflessioni sono le medesime
Cioè il tema quale giustamente tu dicevi il tema della riserva d'amministrazione io mi ero occupata di questo facendo guardando appunto il decreto trasparenza e la maniera in cui poteva essere implementato nel nostro ordinamento e andando a vedere un po'quello che era successo negli Stati Uniti per cui ad un certo punto
In un contesto in cui non c'erano le risorse interne
C'è stato un ricorso all'esternalizzazione e quindi delle società private che si occuparono si occupano di rispondere alle richieste fatte ai sensi della Freedom Information Act ecco noi possiamo traslare ragionamento la stessa cosa cioè qui vale lo stesso ragionamento perché in qualche modo così facendo noi esternalizziamo la funzione pubblica cioè esternalizziamo qualche cosa che oggi come oggi soprattutto un'importanza cruciale per la pubblica amministrazione perché abbiamo detto e ripetuto sia io che Eduardo quasi un po'fino alla noia l'importanza che hanno i dati la gestione dei dati la rielaborazione dei dati eccetera e quindi che si possa immaginare di affidare questo
A società Esterne quindi a soggetti non pubblica amministrazione
Appunto ricorrendo al cosiddetto outsourcing adesso sembra abbastanza demenziali dico la verità cioè io vedo come unica possibilità di uscirne bene
Ossia di evitare che la transizione digitale sì alla fine dei conti produca un danno al cittadino e metta a rischio i diritti dei cittadini
L'unica possibilità di far fare il salto alla pubblica amministrazione e cioè che la transizione di gettare sia veramente una transizione delle pubbliche amministrazioni
Dal mondo analogico al mondo digitale con tutto quello che questo comporterebbe in termini di investimenti non solo in tecnologie
Ma anche e soprattutto in formazione del personale reclutamento del personale
Per la parte
Perdonatemi ma il Pnr
Parla continuamente di questo cioè non è un caso se io una quantità così ingente delle risorse Pnr errore sono dedicate alla transizione digitale la transizione digitale questa roba qua non è solo mettere dei computer negli uffici dei dipendenti pubblici mai creare delle reti di dati nazionali affidabili tra l'altro probabilmente sapete che avrà poco dopo Natale finalmente si è chiusa la creazione dell'anagrafe nazionale della popolazione residente perché l'ultimo comune che ancora non era inserito finalmente entrato nell'anagrafe nazionale quindi c'era una base di dati nazionale a questo punto affidabile
Che evita quella problematica dei silos gli atti separati e così via
è quella è la direzione in cui bisogna andare cioè io non vedo in nessun modo una possibilità di affidarsi a soggetti esterni posto che tra l'altro qui abbiamo un problema enorme che ha ha sollevato elaborati opta per la sua relazione e cioè che i soggetti privati che sarebbero in grado di svolgere quell'attività sono pochissimi quindi si ritrovano ad avere un potere enorme
Con tutte le conseguenze del caso quindi voglio dire chiaro siamo giusti pubblicisti non possiamo non farci la domanda delle conseguenze che questo potrebbe aprire sull'esercizio stesso del potere pubblico
E quindi no io sono totalmente negativa su questa cosa hai penso e spero che il Pnr R. farà quello che promette di fare e cioè permetterà svecchiare un po'la pubblica amministrazione reclutando giovani che siano in grado di fare questo lavoro ma soprattutto formando la pubblica amministrazione perché è ovvio che non è che uno si possa improvvisare cioè chiaramente di questo potrei fare di un'altra relazione di mezzo e quindi mi astengo dal farlo però ci tenevo a reagire su questo punto grazie
Sì grazie ovviamente io sono molto d'accordo conta però Allo stesso tempo noto cioè dico
Io so perfettamente d'accordo ma tra l'essere e il dover essere purtroppo a me pare non ci sia una soluzione diverso in che senso
Già accade da anni il problema che si porrebbe e che si sta ponendo perché già faccio un esempio il Senato con IBM sta sviluppando un Progetto di algoritmo per il tratti in gara normativo
E di questi esempi ce ne sono piccina per non parlare di quello che sta accadendo nelle città
Invito a vedere cosa accade a Venezia con la controllo e rum a che è gestita da un soggetto privato che appunto rilasciare come dire controlla il traffico e le sanzioni amministrative per limiti di velocità insomma di tutto e di più gestito da un privato ma il problema si pone già da tantissimi anni perché l'Università di Milano a un sei un suo server radi Posta Elettronica
No utilizza Microsoft
Alla Bicocca utilizziamo Google a a Bologna utilizzavamo Microsoft e il ministero dell'interno che fa la stessa cosa è quello allora il problema già c'è informazioni segretissime viaggiano sui server e sono contenuti sui server di questi suoi di questi soggetti son sempre loro
Bene e male
Vorrei dire un'altra cosa si però il guardiamo a cioè il rischio di sapere
Che
I miei risparmi sono nelle mani di Paolo Provenzano che non sono io però è una persona di cui mi fido perché ha una credibilità e perché comunque forse non lo so potrei un giorno sanzionarlo se dovesse fare qualcosa di sbagliato ovviamente trasferiamo volete che le mie informazioni ce le abbia Microsoft e quindi che ha una determinata reputazione che eventualmente forse non è detto che riesca davvero a sanzionarlo se fa qualcosa di male
Oppure preferisco che sia in un server Ramiro ma che arrivano gli archi gli hacker domani mattina guarda il caso della lezione della regione Lazio e mettono tutto nella Darko Verda
E la scelta purtroppo temo sia Cuesta
E
Anche io ovviamente vorrei e l'ho detto cioè il problema che abbiamo è che non abbiamo elevate competenze e purtroppo i software di intelligenza artificiale quelli più evoluti di machine learning e di Deep learning per funzionare in maniera adeguata richiedono anni di apprendimento
E sta questo secondo me e Stefano
Non non abbiamo un algoritmo cioè l'algoritmo
è costruito scusate per cortesia
Faccio fatica
Dicevo
L'algoritmo va costruito sul caso e sull'applicazione che tu devi realizzare Johnson & Johnson maestà adesso da qualche anno ha dato vita a una a fu una una società con Google
Per la gestione di dati sanitari per consentire a una chirurgo americano di fare un'operazione in India o a un neolaureato indiano di fare un'operazione attraverso un computer
Molto complessa e dell'algoritmo un po'come la pubblica amministrazione che indica
Sulla base dei record quale sarebbe la migliore i migliori intervento per quel determinato caso quindi ti metti al computer con un joystick
E la macchina ci suggerisce qual è l'operazione da fare per quel tipo di intervento e si è uno starnuto riconosce che è un comportamento non regolare e non succede niente
Quindi questo per dire
E questi dati so Johnson & Johnson ha iniziato a registrare i negli anni novanta
Ok e adesso sulla base di questi record produce un software per fare delle operazioni quindi c'è bisogno di un tempo di un apprendimento dice lei ai Index di Stanford che nel due mila e venticinque inizieremo ad avere
Una
Traduzione simultanea davvero precisa con l'inglese poi tutte le altre lingue cioè c'è bisogno di tempo
Quindi la scelta e questa tra il certo egli incerto speriamo nei prossimi anni anche perché le tecnologie cambieranno l'apprendimento sarà più veloce e soprattutto ne dobbiamo mettere i miliardi quello che è importantissimo ecco l'unico punto che ho dimenticato la mia scaletta perché era nell'altra pagina
E il tema della via europea dell'intelligenza artificiale in che senso
Questo è un tema come la protezione dei dati personali che non può essere circoscritto all'interno di un dei confini di uno stato anzi ha bisogno degli chiaramente attenzione diritti costituzionali disciplina nel dettaglio dell'attività amministrativa e rimesso a livello nazionale ma abbiamo bisogno di principi comuni a livello europeo e anche di attività amministrativa
Perché nonostante le differenze che noi abbiamo conosciamo nel diritto comparato tra i modelli amministrativi
è evidente però che
Il siccome molto non riesci a sapere cosa accadrà fin quando non accade purtroppo
Ne nella vita in particolare nella tecnologia quindi c'è una necessità di best-practice e di appunto record di dati registrati
Che le amministrazioni devono tra loro scambiare e infatti non è un caso che la bozza di regolamento sull'intelligenza artificiale preveda queste essendo se cioè appunto degli spazi dove provare
L'intelligenza artificiale gli algoritmi più che possono avere un maggiore impatto sui diritti costituzionali perché prima di fare danni lievi appunto sperimentali
Grazie
Grazie ancora per questi pochi minuti che restano ovviamente come sempre chiediamo a chi è collegato daremo a fumanti tacchi e qui entra dentro se ci sono domande e osservazioni
Desideri intervenire non mi sembra e come spesso accade di RAI dalle vostre relazioni anche dalle contro osservazioni emerge quella necessità forse di riprendere anche questo tema carri traffico anche se Giancarlo
C'è poco no ah ecco Giancarlo Milella se si Giancarlo Di Bella prego
Sì grazie so che ci sono soltanto pochi minuti stava tutti volevo intanto intervenire per dire che è stato bellissimo di estremo interesse veramente le due relazioni eccezionali
L'intervento di Di Stefano
Estremamente interessante mi permetto di intervenire due minuti
Per fare due piccole osservazioni la prima è che c'è una tendenza abbastanza generalizzata a utilizzare la terminologia intelligenza artificiale algoritmo e tecnologia come se fosse un'unica un unico concetto questo non è neanche completamente sbagliato però insomma quando si fanno queste analisi si rischia di creare qualche qualche confusione quindi la intelligenza artificiale e parte della tecnologia all'algoritmo e basse dell'intelligenza artificiale però a mio parere quando parliamo di intelligenza artificiale vogliamo individuare un fenomeno preciso e cioè che il momento in cui la macchina
Pechino logicamente operante nel momento in cui la macchina opera da sola
Non interviene più non non opera più sulla base della guida diretta e immediata
Del della persona
Ed è questo ecco che ci interessa nel momento in cui si vuole intervenire le cose che sono state dette sul Codice che sta preparando anzi un regolamento regolamento la la Commissione europea
Sono giustissime ancora
In maniera ancora più semplice possiamo dire cosa si può fare cosa non si può fare e cosa va regolato queste tre
Questi tre elementi rispetto a quello che ho voluto sottolineare prima cioè intelligenza artificiale e il fenomeno in cui la tecnologia permette alla macchina di agire da sola
E poi è la seconda invece osservazione che volevo fare
E è la seguente siamo russe quasi sempre e comunque largamente orientati quando analizziamo questo fenomeno
Siamo largamente orientata alti a a vedere quali sono i conflitti con i diritti individuali soprattutto la privacy poi quali sono i limiti alla autorità della dell'amministrazione eccetera
La mia osservazione la seguente che anche una domanda non sarebbe il caso anche di concentrarsi sull'articolo quarantuno della Carta europea
Dei diritti fondamentali che è l'articolo che stabilisce che i cittadini hanno bisogno ad una hanno diritto ad una buona amministrazione
E quindi come la tecnologia in generale è l'intelligenza artificiale nello specifico può aiutarci
A fare in modo che l'amministrazione sia una buona amministrazione sull'articolo quarantuno e artificieri a intelligenza artificiale
Credo che sarebbe molto utile non sono io in grado certamente di farlo ma sarebbe molto utile i di pace e mi fermo qui grazie Intini e comunque è stato veramente è interesse spento grazie
Grazie al diretto alla già direttore generale dell'innovazione nella digitalizzazione del Parlamento europeo e credo che la professoressa Galetta a alzato la mano quindi Perazzolo immediatamente la parola prego
Allora non voglio evidentemente a rubare il tempo però oltre a ringraziare Giancarlo Ferrante questo suo intervento
Volevo dire che naturalmente come Paolo sa il il tema della digitalizzazione il diritto ad una buona amministrazione è assolutamente il mio cavallo di battaglia però dobbiamo trattare in una sessione a parte nel senso che va approfondito adeguatamente però Giancarlo certamente cioè quello è il nodo cruciale nel senso che se c'è un aspetto dunque
Il nesso emerge in modo positivo è quello lì
E è lui che dobbiamo sviluppare tutte le potenzialità se vogliamo che abbia un impatto positivo sulla vita dei cittadini degli amministrati in generale perché tutto il resto sono poi se no alla fine chiacchiere
Quindi ti ringrazio per questa sollecitazione che però per quanto mi riguarda gli organizzatori per una sessione su questo tema magari l'anno prossimo ecco e con l'occasione voglio ringraziare anche ovviamente gli organizzatori bravissimi siete sempre bravissimi questo questo ciclo di di conferenze a cavallo tra il diritto amministrativo diritto costituzionale si starebbe rivelando
Veramente prezioso e tutti quelli che hanno avuto la pazienza di ascoltarci fino adesso grazie a tutti
Allora ci vediamo al prossimo appuntamento la cui data i diciamo subito un attimo di défaillance
Sarà sarà lunga stradone dramma adesso ve lo dico
Mese prossimo intanto abbiamo registrato Moments simile
Ecco qua
Allora il diciassette marzo conflitto fra Stato e Regioni corte costituzionale oggi così dizione amministrativa sempre a diciassette e trenta con i professori Pasquale Cerbo e Lorenza violini
Quindi diciassette marzo diciassette e trenta
Grazie a tutti ancora arrivederci