Diritti umani e intelligenza artificiale: la voce della società civile su governance e regolamentazione

O la sede del Parlamento a questa iniziativa che è stata organizzata per ragionare di quello che è il contributo della società civile su un grande tema di attualità quella dell'intelligenza artificiale io credo che sia opportuno prima di tutto anche per noi ascoltare ascoltare i contributi che verranno perché molto spesso all'interno di quelli che sono i luoghi istituzionali questi argomenti arrivano sempre attraverso un mainstream mediatico che portava spesso a ragionare per grandi opposti quindi i grandi rischi le grandi opportunità
E e porta a quello scontro di tifoserie che molto spesso non aiuta
A ragionare a regolamentare con saggezza ma porta appunto a schierarsi per una delle due parti con intergruppo innovazione se qui l'amico Giulio Centemero ora ci raggiungerà agile passerelle e tanti altri colleghi della Camera del Senato
Noi cerchiamo pur nelle nostre rispettive visioni del mondo e quindi in quella passione politica che ci fa scegliere e però di ragionare per confrontarci nel merito piuttosto che appunto appassionarci e diventare tifosi
Rispetto a quelli che possono essere dinamiche utopici o di stop picche
è molto importante ascoltare la voce di tutti i soggetti credo quindi è ringrazio perché voi siete i veri organizzatori al di là della disparità che abbiamo dato per ospitati di quest'occasione che ci date per ascoltare appunto ruolo la sua civile per ascoltare quelli che possono essere le grandi opportunità i grandi rischi su cui poi il legislatore sarà chiamato io lascio quindi a voi la parola per poi riuscire ad ascoltare gli eventualmente dare il nostro contributo al termine di questa discussione con lavoro
Intanto aMule Visco e ringraziamenti al senatore basso appunto per avere ospitato questo evento infine nello specifico come come ha appena detto l'obiettivo di oggi evidenziare il contributo che la società civile può dare nel definire l'approccio con cui governare ossia lo sviluppo che l'utilizzo di sistemi intelligenza artificiale tenendo sempre come bussola quello del rispetto dei diritti umani di diritti fondamentali
Mi riconnettono a un altro passaggio della sua introduzione rispetto a la necessità di non cadere di non aggrapparsi ad due narrative polarizzate su questo su questo tema ma una quella techno soluzioni stava utopista che vede nella tecnologia
E nello specifico nell'intelligenza artificiale qualcosa di salvifico che può contribuire a risolvere problemi annosi che gli esseri umani non sono riusciti a risolvere finora quindi su quegli anzi sociali e altri
E l'altro invece una retorico narrativa di tipo distopico apocalittico
Che vede nell'intelligenza artificiale in questa fantomatica intelligenza artificiale generale una minaccia alla stessa esistenza del genere umano
In mezzo a queste due narrative appunto a questi due poveri ci sono molte organizzazioni la società civile come quelle che rappresentiamo qui oggi Lionello specifico sono marchiatura Ola
E s'addice presidentite Putilov Filippo certa vide Del Monte vicedirettore di ne sente etichetta mai scrisse che invece si occupa di policy per traversine turca
Dicevo che appunto stimo molto interessati a ragionare sugli impatti qui ed ora della appunto delle system intelligenza artificiale
Siamo consapevoli non siamo buddisti siamo consapevoli che queste tecnologie possono contribuire anche a far avanzare i diritti umani così come metterli a repentaglio siccome minacciarli
Sappiamo che esistono gli strumenti che possono interpretare dati medici facilitare la diagnosi e quindi contribuire a proteggere il diritto alla vita e alla salute delle persone
Sappiamo anche però il diritto alla vita di una persona può essere minacciato a dal fatto che venga negato il diritto ad un asilo sicuro per una decisione alla frontiera fatta appresa da un sistema di intelligenza artificiale
It uno dei principali rischi che questi strumenti insomma Coop comportano è quello appunto di facilitare risultati discriminatori che violano i diritti civili politici economici e sociali di gruppi vulnerabili marginalizzati
Perché questo succede perché replicano modelli che identificano appunto né i dati di addestramento degli stereotipi dei pregiudizi e di lì per lì ripetono e e di propongo delle visioni del mondo e modelli radicati discriminazione
Abbiamo oramai una casistica di esempi in cui gli algoritmi e discriminano via questi sbagliano cerca sei Paesi Bassi su cui appunto sempre la mia collega
Diretta si è più volte Spesal nei momenti appunto di divulgazione in cui sono stati tolti ingiustamente sussidi sociali a oltre venti mila famiglie
Perché appunto c'era questo algoritmo che identificava i fattori di rischio e che ha colpito casualmente somma persone famiglie con redditi più bassi e appartenenti a minoranze etniche che sono stati costretti a restituire appunto dei sussidi e ridotte la povertà
Abbiamo visto come gli algoritmi passano sbagliare anche nel caso della appunto il cuore della sbagliata identificazione di persone che hanno avrebbero commesso dei reati
Attraverso i sistemi di riconoscimento biometrico che mostrano tassi di errore più elevati per le donne e le persone che hanno molti non hanno la pelle chiara no
Questi sono uno sono alcuni sono solo alcuni degli esempi
Convinto che richiede esemplificano appunto come l'intelligenza artificiale può essere pervasiva e permeare ogni aspetto della della nostra vita
Infatti può essere utilizzata per monitorare controllarci gli spazi pubblici prevedere la Colella la criminalità futura emozioni classificarsi
è comprensibile che quindi questa pervasività stia creando delle alleanze fra diversi soggetti della società civile che hanno anche una missione uno storico e degrado indifferenti che sono tutte interessate a mitigare i rischi di questa tecnologia che è per sua natura difficilmente intellegibile
E proprio per questo che
I nostri venite azioni hanno cominciato a lavorare insieme abbiamo Ermes Traversi che nascono no per tutelare i diritti digitali difendere la privacy
E che da tempo sottolinea no il modo in cui i diritti umani limoni impattati appunto dall'intelligenza artificiale e più largamente dall'utilizzo della tecnologia
Devo Giovine si muove da un background diverso un'organizzazione impegnata a promuovere l'apertura dei processi decisionali la tutela dello stato di diritto e dello spazio civico
Ed è proprio dalla volontà di trote agire la nostra privacy e di conseguenza libertà di espressione di movimento e nostro diritto la partecipazione che abbiamo cominciato a collaborare
Nell'ambito di una campagna cariche mio Face che si proponeva quello di vietare l'utilizzo dei sistemi di riconoscimento di ematico
Ed è stata proprio la necessità di avere una regolamentazione robusta capace di contrastare l'utilizzo da parte di aziende di governi di Sistani che poi
Possono aggravare la sorveglianza di massa di arginare anche il potere centralizzato di grandi aziende tecnologiche
Anche i danni ambientali che appunto che queste tecnologie possono comportare data l'enorme quantità di energia che appunto necessarie per il loro funzionamento
Che molte organizzazioni la società civile si sono impegnati affinché di regolamento europeo sull'intelligenza artificiale di cui parleremo oggi fosse il più solido possibile
Sappiamo che il processo di approvazione del Regolamento Roma europeo è stato Complesso la negoziazione su alcuni dei punti più controversi tra cui i cosiddetti divieti che poi a guardare bene così tanto divieti non sono è stata molto accesa sto parlando allo specifico ritorna su sistemi di polizia predittiva riconoscimento facciale la categorizzazione Dio metrica e riconoscimento delle mozioni
Quindi se vuoi potessimo se volessimo fare un bilancio somma di Regolamento e il rispetto anche la sua capacità di rispettare i diritti fondamentali possiamo dire che permangono delle preoccupazioni sul fatto che possa pienamente raggiungere i suoi obiettivi
La sua efficacia nella protezione dei diritti umani dipenderà anche da come gli Stati fra cui l'Italia attueranno questo regolamento da come riusciranno a migliorarlo in alcuni suoi punti critici e anche dal modello di governance che si sapranno dare su questo aspetto specifico le nostre organizzazioni Ciappina che appena citato quindi che quello odierno S. privacy hanno cominciato hanno allargato la propria collaborazione a ad altre che si sono poi aggiunte che nel corso del tempo hanno quando si sono uniti i nostri obiettivi dando vita a una retta che si chiama Ritter diritti mai digitali
Chi ha proprio l'obiettivo di sollecitare la politica
Su questi appunto sulla possibilità di migliorare e sulla necessità di attuare regolamenta in modo migliore possibile in modo da assicurare equità e ampia trasparenza anche nell'utilizzo degli stili sistemi intelligenza artificiale
Vorrei quindi chiudere prima di passare la parola alla collega Laura Ferrari citando un dato che ritengo importante ai fini della nostra contestazione odierna e anche del nostro interazioni future
L'importanza di una corretta regolamentazione è largamente condivisa dagli italiani secondo sondaggio di cuore o meglio tra nel due mila ventitré tre italiani su cinque ritengono che la politica e che le leggi dovrebbero intervenire per regolare lo sviluppo dell'intelligenza artificiale
Grazie
Buongiorno a tutte quel giorno tutti sanno Laura Ferrari mi occupo di relazioni istituzionali per queste organizzazioni promotrici del convegno che sono anche le organizzazioni promotrici di la retail per i diritti umani digitali quindi il mio impegno consiste nel tenere traccia delle posizioni politiche normative che ruotano intorno alla regolamentazione dell'intelligenza artificiale con un taglio specifico che è quello della salvaguardia dei diritti digitali
Quindi sapete che è stato approvato definitivamente ieri attere da settimana scorsa con la firma del consiglio
Dei ministri dell'Unione Europea
E che insomma questo Regolamento chiaramente se a breve verrà pubblicato pubblicato sulla Gazzetta ufficiale dell'Unione europea dopo venti giorni entrerà in vigore ma la diretta applicabilità
Arriverà nel corso del tempo a scaglioni in un processo lungo due anni che vedrà passo a passo
Ha applicato il Regolamento e questo dà il tempo materiale agli stati membri compresa l'Italia di adeguare il proprio tessuto normativo di adeguare la propria governance ad essere conforme con quante Regolamento europeo ci chiede quindi il Governo per il Parlamento italiano si sono già messi in moto modo virtuoso per andare incontro a e quello che ci richiede
Il Regolamento
Cogne diverse proposte di legge c'è stato il ddl approvato dal Consiglio dei ministri del ventitré aprile il Consiglio dei ministri numero settantotto a cui si sono affiancati
Ieri le proposte in Parlamento il DDL
Delle senatore Lorenzo Basso che è stato accorpato con me il DDL del senatore Vergelio
E che vede come spalla alla camera il è la proposta di legge mille ottantaquattro e delle qui presente onorevole Centemero bene in tutte queste proposte di legge vediamo tanto di quello che è stato anche tanto di quelli che sono i temi che su cui abbiamo lavorato con anticipo nome della di questa coalizione
E
Ad esempio il tema dell'autorità di Couto e parlerà di latta il tema della San box con cui abbiamo già avuto modo di confrontarci Cogne sempre l'onorevole Centemero il senatore basso eterna rivale passerella
Ci sono invece però vitigni su cui abbiamo lavorato molto come Quallizza né che non vediamo però ancora presenti ma forse anche perché è prematuro ma noi ci teniamo molto ad attirare l'attenzione a focalizzare l'attenzione su questi temi perché agli reputiamo cruciali per quella che è un'effettiva salvaguardia cassette un'effettiva tutela dei
Dei diritti Humanity diritti digitali
Quindi in particolare
Dovremo parlare di quelle che sono mere tra smarca Misna che sono previsti dal regolamento dell'unione date da lei Eilat
Che sono qui e linee di contro le violazioni dello stesso Regolamento e dall'altra parte quello che l'utilizzo dell'identificazione di quelle che sono le garanzie ecco che ruotano attorno al riutilizzo dell'identificazione biometrica come strumento di immagine di indagine quindi parlando di Red dress Natta misi in
Il Regolamento europeo ne prevede due
Uno ha il diritto di presentare denuncia all'autorità prestabilita da ogni Stato membro per ricevere questo denuncia laddove la la persona che la persona in questione ritiene di aver individuato una violazione del Regolamento
Il secondo invece il diritto a fare richiesta e ricevere una spiegazione delle decisioni individuali quindi
Questo
Insomma in tre in gioco quando ci sono delle decisioni che comportano degli effetti giuridici nella sfera personale
Della persona che ritiene di essere danneggiata nella salute nella sicurezza o nell'integrità dei diritti fondamentali quindi qualora questa decisi
O ne sia stata elaborata in base a un output di un sistema intelligenza artificiale classificata ad alto rischio del Regolamento
La persona ha diritto di chiedere spiegazioni chiare e precise sul ruolo del sistema di intelligenza artificiale nella procedura decisionale
E quelli che sono stati gli elementi principali della decisione adottata
Quindi rispetto a il diritto di presentare denuncia e al diritto di richiedere spiegazioni per le decisioni individuali quello che noi chiediamo quello che di dotare l'ufficio che riceve le denunce dei repressivi di di indipendenza e l'imparzialità necessarie a un corretto e credibile
Gestione di queste denunce e poi chiediamo che il diritto alla spiegazione delle decisioni individuali si arrese effettivo da procedure
Che stabiliscano dei termini congrui
E che prevedano un sistema di segnalazioni e di sanzioni prestata a coloro che si sottraggono da questo obbligo di fornire le spiegazioni in una maniera adeguata tali che insomma consentano un'effettiva comprensione
Delle delle degli elementi alla base del ruolo del sistema di intelligenza artificiale che ha prodotto questo a tutte che ha portata all'elaborazione della decisione bene
Invece a dispetto all'altro punto chi menzionavo quindi le garanzie attorno all'identificazione di un'Africa sia in tempo reale se ex-post ecco l'identificazione biometrica utilizzata come strumento di indagine è subordinata da una preventiva autorizzazione
E dall'altra parte questa autorizzazione che devasta la data o da un'autorità giudiziaria o da un'autorità indipendente secondo Regolamento questa autorizzazione deve essere poi notificata a una seconda autorità
Che sulla base di tutte le notifiche
Che riceve deve elaborare una relazione annuale dove va a fare un monitoraggio per un'intera quello che è stato l'utilizzo dei si del dell'identificazione mi ematica come sistema d'indagine
Quindi quello che noi chiediamo e che il ruolo di a autorità che che chi da che insomma che fornisce questa autorizzazione
Sia assegnato all'autorità giudiziaria perché crediamo che sia L'Unità che ha un'esperienza effettivamente consolidata di bilanciamento dei diritti fondamentali con quelle che invece sono alle esigenze di indagini
E dall'altra parte chiediamo che l'autorità chiedeva curare questa relazione annuale sia un'autorità indipendente e soprattutto che ci sia un un a un sistema di procedure che comunque ci siano delle regole che consentano che i risultati di questo monitoraggio
Sulla sorveglianza di Matri kafkiano effettivi e siano effettivamente pubblici e conoscibili
E chiamiamo l'onorevole Centemero che sappiamo che deve andare a prendere il
Grazie grazie Laura per per avermi trattato la parola grazie Lorenzo per aver organizzato l'incontro
Allora stavo prendendo un po'di appunti
Perché pensavo di venire qui e come al solito parlare di competitività
Ed essendo se perché la Sandoz è importante per combattere Company Flags brand venne e vecchie ho colto alcuni spunti e vorrei soffermarmi su questi no
Partirei da e raccontarne ecco un popolo quello che faccio no poi magari andiamo anche sulla strategia parlamentare e di ruberò veramente cinque minuti perché insomma siete qui interessanti voi e i vostri commenti rispetto quello che che può dire un parlamentare calvo di giovedì mattina comunque a parte gli scherzi allora ho colto da Martina Turtle autoctona
Degli spunti sul potere centralizzato danni mentali
I diritti umani digitali a cui si ricollega era il tema della cittadinanza digitale
Spesso sono gli est le stesse cittadine gli stessi cittadini che non conoscono i loro diritti nello scenario digitale quindi un primo passo lo facciamo nella scorsa legislatura inserendo elementi di contrasto al cyberbullismo nella norma sull'educazione civica un piccolo passo ma è qualcosa e qualcosa che
è già insegnato alle bambine e bambini quindi poi crescendo ovviamente si assume maggiore consapevolezza che cosa sto facendo in questo senso
Non tutte le città di tutti i cittadini per esempio sanno che c'è un sito
Dove può andare a vedere che i punti della patente come si attiva il parental control per i genitori
Per quanto riguarda gli smartphone e non conoscono tanti servizi di questo tipo allora
Ovviato un programma sperimentale nel collegio dove sono stato eletto che quando la Provincia di Bergamo
Con degli angeli digitali cioè
Dei ragazzi e ragazzi del servizio
Civile digitale ora non ricordo più il termine specifico ma è una branca proprio del servizio civile sotto la presidenza del Consiglio
Con un piccolo obolo
Ho attivato questo servizio dove tutte le cittadine cittadina provincia di Bergamo per i prossimi due mesi possono prendere appuntamento
Andare da loro o sentirli anche digitalmente quindi via The Age piattaforme che medie telefono per chiedere dalla cosa più semplice attivare lo spirito farsi aiutare nella nell'utilizzo del non banking e via discorrendo fino anche a conoscere i propri diritti digitali
Quanti conosciamo tutti i modi per ottenere il diritto all'oblio
Io ne sto scoprendo per vicissitudini e personali che non vi auguro tantissimi cioè anche con un non luogo a procedere per esempio si può ottenere il diritto all'oblio e non lo sapevo e teoricamente su cioè teoricamente e faccio parte delle dei legislatori
Però ovviamente mi occupo sono in Commissione Finanze non mi occupo di temi di giustizia ma queste son cose importantissime qui discendono anche un po'di che i diritti umani digitali cioè faccio un piccolo esempio seguito per cultura
Per attaccamento mio personale la crisi che è partita Nagorno Karabakh
Osi intestato fondamentale
Ci sono ancora poche realtà che in Italia si occupano di oggi in seriamente se non per quanto riguarda o comunque c'è poca conoscenza dei metodi oggi ho cercato di farmi una formazione con i corsi on line dell'Istat cattolica di Milano
Mi sono iscritto sentì taglia per conoscere forse dovremo parlarne alle nuove generazioni fa piacere
Che ci sia una parte società civile che si coalizza
E parli di di questo tipo di di argomenti
Poi si è parlato di potere centralizzato e qui faccio un po'di pubblicità
Ho pubblicato a febbraio libero che si occupa di Mf TM traversone industrie creative editore Castelvecchi scusate la comicità finito lo sport voglio però mettere di fronte al fatto che Grazia Bloch c'è in grazie a un'evoluzione della società che si basa su tre pilastri Stato mercati e comunità in questo momento il pilastro più forte è quello delle comunità secondo me e lo si vede un po'in tutti i settori
E grazie la decentralizzazione della
Dell'informatica tramite la blocchi cena stiamo andando anche verso una democratizzazione del del web
Nel due tre dove non saranno più solo non sono più suo lei però si piattaforma pubblicitaria decidere quali informazioni devono circolare liberamente
Ma saremo e siamo noi stessi se pensiamo per esempio al voto market di una galleria
Dar che etiope magari è un esempio strana un po'tirato che però non poteva arrivare su la piazza di Milano New York Roma o Londra adesso con gli anni effetti imitando in effetti quassù è possibile
Si possono fare tantissimi altri esempi però c'è una democratizzazione dell'UE che s'accompagna ricollegandomi sempre a Marina tuttora
A maggiori ecco costi ambientali no
A cui però si sta trovando ci stanno trovando delle soluzioni
Forse visto annoiando sta un po'di pagando però ho trovato questi spunti davvero interessanti
Osservando per esempio stati himalayano del Bhutan povero sperduto se vogliamo ma come sta sviluppando la propria economia
Mi intanto e ne effetti che finanziano
Il trasmutare in tre il quindi non ottenendo il loro sentiero
Per esempio anche avendo aperto miniere libico ANIA antidecreto valute grazie all'idroelettrico e quindi che ci si ricollega ai danni in vent'anni dopodiché Laura Ferrari garanzie rimedi
Sulle authorities non spendo ulteriori parole perché ne stiamo discutendo veramente molto però Carenzi rimedi molto importanti l'abbiamo visto lo dico
Lo dico da parlamentare del centrodestra ma una cosa che riguarda un po'tutti abbiamo visto il tema dossieraggio che può capitare a tutti
Cioè c'è stata una fuga di notizie che non doveva esserci nella trasmissione tra Banca d'Italia e procure
Però quello che dicevi lauree molto importante nel senso che da cittadino a cittadino deve se non ogni modo in ogni momento conscio consapevole e di avere modo di verificare quello che Leo gli sta succedendo cioè come viene osservato vi metricamente come vengono osservati i suoi conti correnti cioè bisogna fornire delle garanzie rispetto a quello che a volte diventa Leviatano di Hobbes
C'era un controllo se vogliamo Anco premente da parte dell'autorità qui questi rimedi sono molto importanti
Ora fisco la parte filosofica quadro sul pratico poi vi prometto che ho finito al come diceva Laura con Lorenzo abbiamo presentato Luís al Senato a un la nel disegno di legge per la creazione essendo facevo lamentare io alla Camera il progetto di legge nome diverso ma la sostanza
è la stessa quindi azione a tenaglia contestualmente arrivato il DDL da parte del governo vediamo come si potrà procedere dal punto di vista di tecnica parlamentare se mandare avanti da solo
Il il Progetto di legge ddl Susan Bozzo accorparlo con il DDL del governo questo poi lo valuteremo strada facendo
Salendo su che cosa permette
Permette innanzitutto la sperimentazione c'è già un Sandoz lamentare in Italia che è quello per per finte che incertezza e la seconda finestra è stato creato nel due mila diciannove col decreto crescita sta funzionando in un Paese di civil law
Come l'Italia è molto importante avere spazi sperimentazione oppure la tecnologia e l'innovazione andranno sempre molto più velocemente molto più veloci
Della legislazione e noi rimarremo al palo rispetto agli altri Paesi che ne c'erano più veloci io sono molto critico rispetto lei Hayat perché secondo me avrebbe dovuto adesso pensare alla sperimentazione e tra un anno e mezzo due pensare a definire il rischio perché secondo me le cornici di rischio che avete ben definito
Andavano studiata e messa in box di ogni Stato membro e nel forum delle ai che sarà a livello comunitario e non definite ex ante perché allora è vero che magari presenteremo un po'di più i diritti
A livello di Unione Europea
Ma che cosa succederà vicina India Nordamerica se pensiamo che l'Italia stanze miliardi di euro per lo sviluppo la strategia per l'intelligenza artificiale e Arabia Saudita che non è la Cina nell'India negli Stati Uniti ne stanzia quaranta
Capiamo che
In altre geografie ci saranno sviluppo molto più rapido
è molto più libero e quindi essendo tutti sotto lo stesso cielo forse dobbiamo preoccuparci anche di quello che avviene neanche i continenti comunque più numero Boltro altro tempo meno rubato abbastanza
E mi scuso posso anche divagato ma mi faccia il piacere
Cogliere i vostri spunti e vi ringrazio i complimenti
Grazie grazie onorevole per il suo presso intervento assolutamente non divagato insomma ha un tema molto grande sicuramente diciamo io quello che dico sempre intanto mi presento scusate sono dilettanti screzi parte subito sarà diretta esche se sono parte del board di di privacy Hector crea c'è un'altra organizzazione della società civile quel Thermes che si occupava da qualche anno e di diritti digitali
Io nello specifico mi occupo di quel campo di sapere che viene definito etica delle tecnologie ed impatto sociale dell'intelligenza artificiale quello che diciamo il commento che stavo per fare e che in realtà parlare di digitale di digitalizzazione è importante perché la sensazione molto spesse che in Italia siamo passati direttamente a parlare di intelligenza artificiale senza senza passare per tutta l'entre insieme di pratiche di di applicazioni di sistemi digitali che hanno più a che fare con i dati l'analisi di dati molto più semplice e non direttamente con l'intelligenza artificiale generativa olmeca verso o cose più sofisticate complicate ecco quindi chiaramente partiamo un po'Atlanta già attivista
E ad altri Paesi proprio perché ci sarebbe un discorso Monte da fare capi a che fare con la digitalizzazione dei processi e servizi ma che è come se non avessimo avuto il tempo di fare quindi noi proviamo un po'a recuperarlo attraverso altre altre discussioni
Ma molto bene che si inseriscano anche queste sicuramente proveremo ad occuparci anche di questo io volevo diciamo intervenire brevemente su sul tema della governance che chiaramente al di là delle delle applicazioni dei sistemi di tutto quello che si può fare con l'intelligenza artificiale come come sapete come ha già introdotto Laura
Una parte consistente del regolamento europeo sull'intelligenza artificiale sarà proprio quello di capire chi si occuperà di indirizzarlo a livello nazionale e chi si occuperà di supervisionare le applicazioni intelligenza artificiale questa che fare chiaramente con tutto il dibattito le decisioni che ci sono a livello appunto italiano su sul tema delle autorità delegate all'intelligenza artificiale io vorrei tenere un attimo ancora da parte questo tema del delle autorità chiaramente ne dobbiamo parlare oggi però per i prima dire una cosa
Sulla governance più in particolare dell'intelligenza artificiale
Non esiste in Italia una governance dell'intelligenza artificiale non esiste da diversi anni anche se in realtà continuiamo a parlarne ne abbiamo parlato varie volte ci sono state diverse strategie che abbiamo proposto che a prescindere dai diversi Governi che si sono alternati
Ognuno tendenzialmente da diversi anni da diverso tempo ha proposto un modo per occuparsi di intelligenza artificiale soprattutto a livello di ricerca soprattutto a livello di Investimenti
Se l'è sentito molto parlare ripeto anche quando c'era un ministero diciamo preposto a questo
Ma non c'è in Italia una governante di intelligenza artificiale chiaramente dipende molto cosa intendiamo con con Governance
Io quando pensa la governance penso soprattutto a una serie di strategie diciamo al di là del dell'innovazione della sperimentazione di quello che vogliamo fare a livello nazionale appunto a livello di sviluppo e di ricerca su su quest'ambito
Penso a a tutta una serie di strategie che indirizzò sino in qualche modo il sentimento di un paese rispetto a un determinato tema no quindi in questo caso come diceva Martin apertura quando parliamo intelligenza artificiale non parliamo solo di innovazione parliamo anche di diritti parliamo anche di impatto
Che questi sistemi hanno sulla siccità l'onorevole poco fa faceva una serie di esempi
Proprio per evitare diciamo derive autoritarie che hanno a che fare con le tasse la sanità la giustizia l'intelligenza artificiale può entrare in qualsiasi ambito delle nostre vite come cittadini
Quindi una governance dell'intelligenza artificiale richiederebbe di dare un Indirizzo come l'ha fatto già altri paesi diciamo ci sono degli studi
Che richiudono un po'queste strategie nazionali l'Italia è arrivata molto tardi su questo è stata uno degli ultimi Paesi in Europa è uno degli ultimi Paesi al mondo a proporre una strategia quando l'abbiamo fatta diciamo nelle pagine sulla governance parlo dell'ultima strategia nazionale che è stata pubblicata
Quando quando l'abbiamo fatto le pagine sulla governance e su come si intendeva diciamo indirizzario e questo questo sviluppo e questa guida di queste tecnologie Italia erano l'ultima pagina e c'era quattro righe dedicate a come fare no quindi non si è mai detto chi dovesse farlo
E come ora lo sappiamo c'è un un decreto legge appunto che abbiamo letto che però diciamo io se posso permettermi di di di commentare brevemente lo vedo molti linea corna con questi altri documenti di qui di cui parlavo nel senso che elenca una serie di di pratiche ancora molto diciamo astratte se se vogliamo
Perché non dà chiaramente un'idea di cosa vogliamo fare noi in Italia con questo strumento con questa serie di strumenti con queste tecnologie
In molte parti richiama come diceva Laura punto regolamento europeo quindi non dà effettivamente una specifica di divieti piuttosto che videro che piuttosto che di altri idee e su come si vuole trattare questo tema nel nostro Paese
In alcuni punti sono appunto ridondante rispetto a quello che sarà la normativa europea oggi c'è un richiamo diciamo se vogliamo ancora parlare di governance richiama una serie di principi che sono diciamo quelli che adesso stati già elencati da dall'Europa dal tanti organismi sovranazionali dallo e si dia appunto alla commissione che negli anni hanno aggiunto una serie di principi secondo cui l'intelligenza artificiale pedestre sviluppate dovrebbe essere indirizzata dalla dalla corazza punta la trasparenza la non discriminazione
Alla canta Militia alla schiena abilità quindi di tutti questi principi non è in questo momento ancora non sappiamo bene cosa farne perché non è chiaro come ce ne occuperemo sappiamo appunto chi è chi saranno le autorità occhi insomma sono le le utilità proposte preoccuparsene prima di andare a caratteristiche di questa autorità su cui diciamo ci siamo occupati negli ultimi mesi del time settimane di di di pubblicare appunto un un report e un sommario
Volevo fare altro commento cioè sul fatto che una governance anticipatoria di ripeto manca quello che tanti altri Paesi hanno fatto è stato avere una serie di problemi con l'intelligenza artificiale che ma in Italia non abbiamo avuto io faccio ricerca anche nei Paesi Bassi rispetta come loro come diceva Martina trattano l'intelligenza artificiale o in generale diciamo l'automazione di alcuni servizi soprattutto pubblici
I Paesi Bassi hanno avuto una serie di gravi problemi negli ultimi anni perché è un Paese Karl estremamente sperimentato con l'automazione servizi pubblici in particolare con il welfare sono stati diversi scandali legati sia a livello nazionale sia a livello locale
Per l'impatto che queste sperimentazioni mamma non solo hanno avuto sui cittadini e diciamo quello che noi possiamo imparare da queste da queste casistiche
A vedere diciamo degli errori che sono stati commessi e quello che è successo proprio a livello olimpico pratico ad anticipare no
Mi ricordo solo una caso diciamo che può essere in qualche modo riconducibile a una cosa di questo tipo ha una serie di fallimenti proprio legati all'automazione servizi che qualcuno di voi si correrà il frutto antico algoritmo della buona scuola che ha legato insomma questo Paese in qualche modo una serie di altri casi che si sono verificati in giro per l'Europa e che ha richiesto a delle corti insomma a alla politica in qualche modo di dettare una serie di risposte a a quello che era successo però diciamo Italia al di là di questo non ha avuto una serie di veramente
Scandali o Problemi con l'intelligenza artificiale questo evidentemente ci ha lasciati molto indietro Preah Ko quello che dovremmo dire noi oggi è non aspettiamo lo scandalo preoccuparci di capire che qual è l'impatto sui cittadini italiani sui cittadini italiani dell'intelligenza artificiale
Non aspettiamo che succedono cose brutte perché son già successo in altri Paesi nel guardare a queste pratiche che rimangono comunque le pratiche europee
Per capire cosa possiamo fare
Vado alla alla questione dell'autorità
E non vi rubo altro tempo
Una delle richieste delle Iaia ex ter del regolamento europeo era quella di garantire l'indipendenza delle autorità preposte a livello nazionale di occuparsi di intelligenza artificiale
La proposta che c'è sul tavolo in questo momento al Governo al Parlamento su appunto su questo tema
Non soddisfa questo requisito diciamo del del regolamento europeo perché appunto si tratta di due autorità che non non garantiscono indipendenza verso l'alto due autorità direttamente diciamo sotto al al controllo governativo e quindi come diceva anche lavora prima questo non non diciamo non presenta dei problemi solo in riferimento a tutta una serie di compiti che queste attività saranno chiamati a svolgere ma ad esempio anche al fatto che ci saranno dei meccanismi e dei sistemi di intelligenza artificiale che verranno proposti dal governo in quanto tale per essere applicati a livello centrale sui cittadini ci saranno persone tutti Paesi saranno anche in Italia
Il fatto che le autorità che dovrebbe governare dovrebbe controllare quegli stessi strumenti e porre dei limiti anche per far rispettare il Regolamento europeo
Il fatto che questa utilità sia controllata dallo stesso Governo che chiederà di applicare utilizzare quei sistemi quelle tecnologie e potenzialmente molto problematico perché ripeto vediamo ora non abbiamo il il tempo di raccontarlo
Però proprio quello che è successo in altri Paesi tendenzialmente quando sono stati dei problemi gli scandali legati all'impatto sociale di El Grito intelligenze artificiali chi è subentrato
Per
Diciamo garantire le libertà e i diritti dei cittadini erano le autorità per la protezione dati personali ad esempio perché fino a questo momento sono state le uniche autorità indipendenti che potesse effettivamente controllare in qualche modo e proteggere e difendere i diritti
Dei cittadini vado all'ultimo punto un'altra parte diciamo un altro attore che può fare questa cosa qui e la società civile chiaramente no cioè di di proteggere controllare
E fare un Padova ci sto più per quanto riguarda i diritti digitali in questo senso ma che son sempre diritti umani
Dei dei cittadini e delle cittadine sono le organizzazioni della società civile che in questo momento non sono assolutamente tenuti in considerazione dalle proposte normative che ci sono sul tavolo anche in Italia
Non non pare esserci nessuna intenzione al momento di coinvolgere la cittadinanza di coinvolgere la società civile sulle varie discussioni che vanno fatte rispetta l'intelligenza artificiale quindi ecco diciamo ci sono una serie di principi effettivamente in questo decreto legge però non si capisce bene a livello di trasparenza ne ha parlato punta anche l'onorevole poco fa
A livello di partecipazione arriva all'inclusione di una serie di attori rilevanti
Non si capisce bene come ci comporteremo non è dettagliato interiormente una delle cose più importanti su cui pareva si Network ha insistito negli ultimi anni e chiudo e su cui adesso insisteremo anche con questa con questo gruppo allargato di organizzazioni
è il tema della consapevolezza dei cittadini no è vero che i cittadini non sono informati di tante cose
Che succedono nel nostro Paese legati al digitale legati l'intelligenza artificiale è anche vero che finora i Governi non hanno fatto assolutamente nulla per garantire che questo fosse effettivamente un diritto soddisfatto per la sento che tre anni fa ha dovuto fondare un osservatorio che si chiama Salvatore amministrazione automatizzata e che tiene traccia in qualche modo gli algoritmi che usano già le pubbliche amministrazioni italiane dall'Agenzia delle entrate del ministero l'istruzione a a tante altre ministero degli Interni
Tutti in qualche modo usano nel diciamo dei servizi pubblici INPS Agenzia delle entrate sono forse tra le più importanti USA negli algoritmi
O di sistemi semi automatizzati per interfacciarsi con i cittadini no questo ha delle ripercussioni potenzialmente grandi soprattutto se i cittadini ma neanche diciamo una quantità di altri attori tra cui la società civile è informata su queste pratiche
Perché diciamo c'è un tema di competenza cioè in tema di trasparenza e ne pensiamo che questo sia uno dei grandi punti di partenza che ci deve necessariamente essere soprattutto in questa fase quindi ecco
Una delle nostre richieste a un po'di popolari questi principi di intenzioni
Di chiarire un po'questa questa direzione dove andrà chiaramente ci sono una serie di raccomandazioni per queste autorità che si interfaccia d'anno
Presso quell'intelligenza artificiale che vanno assolutamente rispettate su questo siamo un po'preoccupati procurati
Grazie
Vado io
Salve a tutti grazie grazie per per l'invito a tutte le nostre organizzazioni in questo contesto così importante mi spiace purtroppo dovuto andare via l'onorevole Centemero ma continueremo la la conversazione parka
Volevo ha sollevato alcuni punti molto interessanti che ora la pena riprendere ma questo spero sia appunto un primo momento per la società civile di confronto con le autorità sul tema che sicuramente andrà avanti a lungo i sandali Del Monte sono direttore dell'associazione Ermes Center un'associazione che è stata fondata dodici anni fa
Informalmente ma un collettivo di persone Technology tecnologie ricerca tre ricercatrici che già lavorava sui temi di cui stiamo parlando da diversi anni e che appunto deciso di fondere le proprie competenze tecnologiche
Con il tema dei diritti digitali diritti digitali che per noi sono banalmente per dare una definizione chiara tutti quei diritti
Già riconosciuti
Però in ad ogni essere umano diritto di espressione diritto di movimento diritto di asilo traslati nella sera digitale che oggi sempre di più si trovano a dover purtroppo o per fortuna lo vedremo ad essere valutati anche da algoritmi e non solo da esseri umani quindi da subito io qui parlo prevalentemente di riconoscimento facciale uno dei temi appunto che ha interessato la nostra associazione a capo quello del riconoscimento facciale una tecnologia che oggi conosciamo tutti che si è sviluppata non velocissimamente ma che diciamo ha raggiunto ormai una penetrazione sostanzialmente anche commerciale
Veramente importante in pochi anni e né da subito sostanzialmente ci siamo posti il tema della relazione tra riconoscimento facciale tutela dei diritti digitali
Un interesse per lo più inizialmente accademico anche di curiosità tecnologica in alcuni di noi ovviamente un interesse appunto però che all'epoca era rivolto a quelli che sostanzialmente erano regimi autoritari Capri come
Cento facciale se ne parlava per quelle nazioni quei governi quei regimi che avevano
Una forma tutto tranne che democraticamente
Sistemi pensabili
Fino a una quindicina d'anni fa con alcune eccezioni che poi vedremo solamente prove in contesti
Distanti da quelli che sono i valori riconosciuti dall'Unione Europea quindi contesti improntati su il controllo e la sorveglianza dei propri cittadini
Sulla Cina e riconoscimento facciale se scritto articoli pay per editoriali per anni
La Cina è stata utilizzata no almeno per una decina d'anni come principale esempio di questo tipo di stato che ha fatto della sorveglianza di Umit dica uno dei propri pilastri per la sopravvivenza
Pilastro ovviamente che serviva a cosa a reprimere qualsiasi forma di dissenso
Dopodiché ne abbiam parlato di Cina abbiamo parlato di Russia e poi vedremo dei casi anche dalla Russia ci siamo poco preoccupati di quello che succedeva nel frattempo negli Stati Uniti nel Regno Unito e nostra Alia dove intanto la tecnologia appunto
Avanzava diventava commerciale veniva sempre più utilizzata anche negli spazi pubblici e su questo cito proprio anche un un breve estratto del libro della mia collega Vierne Center lavora per l'errata pubblicato punto questo libro intitolato Black Box così facciamo
Doppio pubblicità editoriale Black Box sicurezze sorveglianza nella sua città in cui dice molto spesso le tecnologie impiegate nel contrasto della sorveglianza tendono a diventare parte del sistema di sicurezza dei paesi senza troppo scalpore e ciò ancor di più quando si tratta di democrazia paradossalmente è lì nelle democrazie che il dibattito manca mente sembri eccetera Ants mentre invece anche la condanna dei Paesi autoritari che usano sistemi simili
Questo per dirvi che quindi già essere qui a parlare delle possibili applicazioni del riconoscimento facciale negli spazi pubblici in Italia è per tutti non è una sconfitta siamo già partendo da un punto di sconfitta e cercare cercando di diciamo limitare i danni
Per capire perché si tratterà sconfitta beh adesso non mi voglio dilungare abbiam parlato di Cino abbiam parlato di regimi autoritari però facendo degli esempi molto pratici vi ricorderete tutti i due mila diciannove le proteste ad un congresso
Ok riconoscimento facciale utilizzato cioè già ovviamente predisposto e quindi utilizzato per riconoscere e reprimere chi protestava
E quindi vi dico qualcosa uno due titoli di articoli che sono usciti nel due mila diciannove su questo tema New York Times nelle proteste di un Cong i volti diventano armi
Anche in Italia diversi
Negli Italiani giornali si sono occupati del tema e vi cito il titolo dell'inchiesta quindi non un giornale rivoluzionario che ottobre due mila diciannove titolava il monito dei giovani di Hong Kong il riconoscimento facciale è un pericolo
Non è un caso se una delle foto simbolo fu probabilmente nella ricorderete tutta di quelle proposta di quelle sposate di quelle proteste
è un gruppo di attivisti di Hong Kong che tira giù un lampione con appunto installata sopra una telecamera di riconoscimento facciale
Esempio di Hong Kong andiamo in Russia la Russia di Putin come sapete come avrete letto ha riempito tutti gli spazi pubblici in particolare della Città di Mosca
Di videocamere di riconoscimento facciale non solo gli spazi pubblici diciamo
In superficie ma anche le metropolitane
è stato fatto un uso massiccio di queste tecnologie di nuovo ovviamente per arrestare i dissidenti e soffocare qualsiasi tipo di protesta
In un'inchiesta molto interessante pubblicata recentemente da Reuters
E sono stati visionati più di due mila casi giudiziari mostrando che le telecamere in Russia hanno svolto ruolo importante nell'arresto di centinaia di manifestanti la maggior parte di queste persone è stata riconosciuta imprigionata nel due mila ventuno dopo essersi unito alle manifestazioni antigovernative
Anche dopo l'invasione dell'Ucraina dal febbraio due mila ventidue le autorità russe hanno utilizzato il riconoscimento facciale per prevenire che le persone manifestassero pubblicamente
Perché se si sa di poter essere facilmente di notificati difficilmente se avrà il coraggio dimettersi in gioco
Non è quindi un segreto che il governo russo abbia utilizzato questa tecnologia già da diversi anni sono al due mila diciassette la Città di Mosca ha annunciato pubblicamente e con grande enfasi positiva
Il lancio di uno dei più grandi network di video-sorveglianza di riconoscimento facciale nel mondo
Il dipartimento delle tecnologie dell'informazione di Mosca ha dichiarato che centosessanta mila telecamere sparse per la città più di tre mila delle quali collegata sistemi riconoscente o facciale avrebbero aiutato le forze dell'ordine arrendere la città più sicura
Arrivati a questo punto voi
Ho alcuni di voi penseranno come di solito si pensa in questi casi bene ma ne siamo l'Europa non siamo alla Russia con la Cina ed è quello che effettivamente scene spesso risposto quando riportiamo tutti questi casi bene pari porterò cercano di essere breve sta renitenti promesso alcuni casi da cioè se ci dentali quindi vedete che non è necessario essere la Cina può essere la Russia per farsi sfuggire il controllo di determinate tecnologie
Tanto che come rimanendo russe ci ricorda al drammaturgo Anton Cechov se in scena compare una pistola quella pistola sparerà per analogia possiamo utilizzare la stessa fase per un'infrastruttura tecnologica una volta acquistata installata nelle nostre città quella tecnologia verrà utilizzata e pensare che sia sufficiente come ci stiamo ponendo oggi
La questione porre dei paletti e qualche restrizione
Vaga e tenue come quelle contenute nelle agli atti per tutelare gli individui dei sistemi di controllo così potente fasi di diciamo abbastanza naïf d'altra parte ed il
Vi invito poi a leggere delle copie cartacee che abbiamo portato comunque trovate on line il policy paper che abbiamo appena pubblicato
Una volta che la tecnologia trova scusate la tecnologia di sorveglianza trova uno spazio per poter essere commercializzata la storia non la mia opinione ci dice che questa tecnologia si diffonderà la tecnologia disse di riconoscimento facciale qualunque sia la sua applicazione ha mostrato tra l'altro numerose falle e qua arriviamo al punto più interessante per noi
Certificate da una letteratura accademica vastissima basta con Volare fascio recognition bias ritrovate dodici mila link a dodici mila ricerche che vi raccontano quanto questa tecnologia se ancora fallace
Ne abbiamo riportato nel nostro policy pay per quattro sostanzialmente caratteristiche principali per cui siamo spaventati dall'idea che nel nostro Paese si possano utilizzare queste tecnologie in spazi pubblici
La sua fallibilità prima di tutto punto dicevamo sono molti casi riportati nel mito di persone arrestate a causa di errori di sistemi di riconoscimento facciale
Andiamo finalmente negli Stati Uniti quindi non più un regime autoritario e vi riporto il caso abbastanza recente di Randal Corana reid fermato e arrestato dalla polizia nello Stato americano della Georgia nel due mila ventidue mentre stava guidando verso casa di sua madre il giorno dopo la festa del Ringraziamento
I dissero che è ricercato per crimini in Louisiana prima di portarlo in prigione quindi signor faranno così si vuol fare identificato ha passato diversi giorni in prigione
Prima che si capisse
Che il suo arresto derivava davo riconoscendomi un sistema dicono cento facciale che aveva errato il riconoscimento però i suoi giorni di prigione lunga fatti lo stesso il secondo problema di questa tecnologia la sua innata natura invasiva beh lo abbiamo detto prima una volta perché essi installa questo tipo di tecnologia verrà utilizzata con tutte
Le tre Moore
E le volontà di tutelare i diritti mantenere le nostre libertà che abbiamo oggi però dobbiamo anche porci il problema di che cosa sarà la nostra società tra dieci quindici vent'anni
Nel momento in cui però queste tecnologie saranno a disposizione di chiunque abbia il potere di poterlo utilizzare siamo di nuovi negli Stati Uniti una delle applicazioni più assurde e per questo ve la riporto del riconoscimento facciale avvenuto in alcune scuole per riconoscere i bambini all'entrata
In questa questa applicazione è stata poi testata per oltre un anno
Che si è arrivati alla conclusione che ci fosse un livello di un'accuratezza fino al trentacinque per cento del riconoscimento facciale dei bambini delle scuole in particolare
Per le ragazzine di colore a fronte di tutte queste preoccupazioni e quindi dei genitori e delle autorità il sistema nelle scuole è stato smantellato anzi sta per essere smantellato in alcune scuole ancora presente
Il tate alza criticità che portiamo qui sul tavolo e la tendenza della riconoscimento faccia la fattoria effettivi Function credito ovvero il graduale ampliamento delle funzioni di una tecnologia rispetto a quelle per cui è stata pensata
Qui un esempio sempre dagli Stati Uniti e quello dell'Immigration and Customs Enforcement ovvero l'agenzia americana che si occupa di controllo alle frontiere e il tema delle frontiere poi lo riprenderemo perché è importante molto anche in Italia
Agenzie americana che ha giustificato l'uso di questa tecnologia di sorveglianza invasiva
Affermando che fosse necessaria per affrontare crimini gravi che possono con che posso potenzialmente coinvolge bambini e traffico di essere umani
Un'analisi della società civile sui casi in cui l'agenzia per i confini per per le dogane delle dogane dei confini degli Stati Uniti ha utilizzato questa tecnologia ha dimostrato che non c'è stato nessun caso in cui bambini e forze dell'ordine fossero in pericolo ma è stato utilizzato solo per riconoscere le persone che varcavano il confine
Infine e scusate senza dilungando ma il quarto punto molto importante la quarta critici tale logico preside di controllo insite nella nel razionale della tecnologia stessa cioè quello che abbiamo visto prima è una tecnologia di sorveglianza di controllo poi possiamo raccontarci che sia utilissima per rendere le nostre città più sicure da che cosa non si sa
Ma se al comunque parlando di applicare in Italia una tecnologia di sorveglianza
Tutti questi problemi che violentato il recente Regolamento europeo sull'anti degenza artificiale non è in grado di risolverli cerca di mitigare lì
Cerca di limitarli ma non è in grado di risolverli
Ed è proprio sulle generici città e sull'ampiezza delle eccezioni al divieto di utilizzo il riconoscimento facciale che la società civile europea espressi dubbi più forti
E ha allertato i governi nazionali le istituzioni europee sul tema vi riporto solo per non guardare solo al nostro piccolo orticello italiano la posizione di asse slavo una delle più importanti organizzazioni internazionali che si occupa del tema
Che ha definito il testo provato al Parlamento europeo a marzo come piano di scappatoie eccezioni e deroghe il che significa che non sarà in grado di proteggere le persone nei loro diritti umani da alcuni degli utilizzi più pericolosi dell'intelligenza artificiale
Un altro pezzo se non governativa internazionale molto importanti articoli mentina se espressa criticamente nel confronti del testo approvato
Dal voto parlamentare dichiarandosi delusa per il fatto che le Ariette non riesce a vietare completamente l'uso delle delle tecnologie di riconoscimento è motivo d'identificazione biometrica remota in tempo reale negli spazi accessibili al pubblico
Bisogna quindi considerare anche come vi dicevo prima il fatto che si sta pensando di posare una tecnologia di questa portata che oggi ci appare come implosivo vile
Che venga utilizzata per una sorveglianza diffusa ma che sappiamo
Invece
Porta con sé questo rischio quindi le raccomandazioni che la società civile sì permette di dare alle istituzioni italiane
Nel trasportare il regolamento europeo sull'intelligenza artificiale in Italia b la raccomandazione principale è che
Ma quand'anche sistemi di riconoscimento facciale siano completamente vietati negli spazi pubblici in Italia
Come vi dicevo sappiamo di partire già per metà sconfitti quindi nel caso che il divieto assoluto non venga prese in considerazione raccomandiamo quanto meno di rafforzare le verifiche su come i progetti presentati dai Comuni
Alle prefetture e successivamente il ministero degli interni per utilizzare le videocamere di riconoscimento facciale
Vengono implementati di effettuare dei controlli sugli impianti sia sul di videosorveglianza installati fornendo una reportistica pubblica sui risultati ottenuti l'accountability
Nell'utilizzo di tali
Tecnologie
Fondamentale raccomandiamo inoltre che il ministero dell'interno possibilmente l'accordo con il garante per la privacy o per l'autorità ma che verrà costituita per l'intelligenza artificiale pubbliche nella maniera più accessibile disaggregata possibile
Tutti i dati relativi all'utilizzo di sistemi di riconoscimento facciale riportando la percentuale di errori riscontrati le statistiche relative al tipo di reato per cui è stato richiesto e
Autorizzato l'utilizzo corredate da una valutazione di impatto
Vogliamo capire se mai verrà utilizzata questa tecnologia se veramente rende le nostre città più sicure o se invece viene utilizzata per altri scopi
Prima di chiudere l'intervento scusami Martina treni no un minuto
Un altro tema che mi sta veramente a cuore il tema delle frontiere e dell'utilizzo di queste tecnologie sui migranti abbiamo Parigi è peggio perché era nelle mani passerella Acea comunica che narici catartici pare quindi se anche guai Cauca esso manda
O di corsa situata all'adesso mi rilasso parlo lento alla fine quei aggiungendo altri mistero di essere stato chiaro ma preferenze entrando un po'veloce quindi se poi ovviamente avete qualche curiosità o dubbio chiedete pure dicevo il tema dei migranti tema che Erme Center ma non solo noi a tutte le organizzazioni direi
Della nostra coalizione sta molto a cuore
Tema su cui
Stiamo spendendo e Larry Fist delle riflessioni e delle analisi più approfondite anche in virtù dei valori dei principi su cui almeno a parole
La mostro che non lo chassis fonte
Solidarietà inclusività diversità non vi ripeto tutte queste parole le conoscete bene
La sperimentazione di tecnologie della Slovenia Anza in questa materia in materia migratoria va avanti da anni va avanti fondamentalmente senza alcun tipo di limitazione o tutela per gli esseri umani che arrivano ai nostri confini
L'approccio del regolamento europeo sull'intelligenza artificiale tratta migranti stranieri e richiedenti asilo come un gruppo di persone dover semplicemente controllare tracciare e sorvegliare in quanto non cittadini europei
Questo tipo di sorveglianza si verifica ovviamente in zone grigie in zone di grande sofferenza in cui la responsabilità dello Stato dei governi dovrebbe essere ancora più presente in altre situazioni
Allo stesso tempo leggiamo continui richiami anche da parte dei più alti vertici dell'Unione Europea come vi dicevo dalla stessa presidente underline ai principi di inclusione solidarietà giustizia sociale
E integrazione di poche settimane fa un convegno in cui appunto la presidente Mondher Lai Anna
Con tanto di slide dietro che in caratteri cubitali riportavano inclusa un'solidali ti eccetera eccetera spiegava perché per la nostra unione sia importante tutelare e promuovere questi valori il preambolo della carta dei valori fondamentali dell'Unione europea perché abbiamo anche una carta dei valori fondamentali dell'Unione europea dovrebbe essere la bussola morale
Che dirige sia le istituzioni europee che tutti gli stati membri
E e il preambolo recita che consapevole del suo patrimonio spirituale e morale l'Unione si fonda sui valori indivisibili e universali della dignità umana della libertà dell'uguaglianza e della solidarietà
Essa si basa sul principio della democrazia e sul principio dello stato di diritto
Pone la persona al centro della sua azione istituendo la cittadinanza dell'Unione e creando uno spazio di libertà sicurezza e giustizia per tutti
è una meravigliosa enunciazione di principio e di principi che però non trova riscontro con l'agire concreto dei nostri rappresentanti europei nel momento in cui che avrebbe più bisogno di tutele e protezione poiché estremamente vulnerabile
Si ritrova al contrario ad essere sottoposto a trattamenti che non è esagerato definire disumani
Per questo raccomandiamo che la gestione dei database come AFIS per cui non so se avete avuto modo di approfondire il recente magre Shumpert è stato approvato dalle istituzioni europee
Poco più di un mese fa
Da la possibilità
All'autorità che sorvegliano le frontiere
Di utilizzare sistemi di riconoscimento biometrico
Suban Pini dai sei anni in su il precedente Regolamento europeo opponeva limite quattordici anni lo abbiamo abbassato ai sei anni
Il dati biometrici di chiunque venga riconosciuto le frontiere come sapete finiscono limitata bis AFIS Eurodac
Europeo che fondamentalmente è il database dei criminali quindi chiunque venga
A chiunque vengano presi rapidamente sulle frontiere finisce immediatamente anche sei sei anni e due giorni nel database da che le forze dell'ordine europee utilizzano per la ricerca di criminali quindi scusate ritorno raccomandazione per cui chiediamo che la gestione del database come AFIS che raccolgono dati biometrici di persone appartenenti a categorie vulnerabili come emigranti rifugiati e richiedenti asilo così come il funzionamento degli algoritmi utilizzati lassiste Massari della Polizia di Stato nei nostri confini siano trasparenti accessibili a giornalisti organizzazioni non governative e osservatori
Nazionali e internazionali per i diritti umani
L'unione di Stati in cui vorremmo vivere e sentirci rappresentati non è la fortezza Europa che contraddice se stessa e sui proclami di aperture solidarietà perché e in un convegno su i diritti umani intelligenza artificiale è bene ribadirlo la difesa dei diritti umani o è per tutti o non è per nessuno e ho finito grazie
Sassi prima di chiudere appunto che corna e senatore e basta visto che abbiamo recuperato diciamo un piccolo spazio purtroppo perché l'onorevole passerella dalla recita partecipare forse diverta voleva aggiungere qualcosa che prima nella concitazione nel rispettare i tempi dell'ASI rispettare i tempi è riuscita a dire promettiamo che sarà solo un passaggio e poi lasciamo la parola per chiudere al senatore grazie non è
Grazie Martina una battuta sola perché appunto io prima ho voluto dire tante cose perché veramente sono sono tante le cose da dire ma ne approfitto anch'io per sottolineare è un punto quando dico che non esiste una governance italiana sull'intelligenza artificiale intendo dire che noi non ci stiamo occupando di tutte queste cose che stiamo dicendo
Ma non solo cioè diciamo quello che che noi troviamo preoccupante come ha definito prima in questa fase in questo momento storico accueil tre anestetici occupate fino adesso per come la vediamo noi quindi
Succedono cose di cui diciamo nessuno tendenzialmente sa niente non lo dicono ottica chiaramente di di complottista ore in alcun modo diciamo luddista come diceva prima
Giustamente Martina qui non è un tema di diciamo non conosce la materia e aver ha paura delle distorsioni che ci possano essere e non essere informati riporta un po'siamo molto informati su quello che può succedere
Sono molto informati anche su cosa di buono potrebbe accadere ma non occupando se ne porto apprendere cose buone possono succedere perché se non c'è la indirizza non può succedere neanche
Diciamo tutta la platea di di potenzialità positive quindi il punto è ci sono già
Amministrazioni italiane ci sono già dipartimenti governativi ministeri che fanno uso di sistemi diciamo non sofisticati di intelligenza artificiale sui cittadini
è importante che i cittadini i media i giornalisti i parlamentari i deputati sappiano di queste di questi strumenti
Oltre a questo diciamo la nostra preoccupazione verte in particolare in realtà su questo che ci siamo mossi e mostri soprattutto per organizzare questo momento oggi
Sul fatto che come dicevo non sono non ce ne siamo occupati in questo momento il Governo ha fatto una proposta che secondo noi va proprio nella direzione peggiore se se vogliamo che appunto il tema di affidare il controllo italiana dell'intelligenza artificiale a due autorità che che nominò anche a questo punto che sono Agde e ACN
Che sono due eternità governative cioè sono due autorità non indipendenti
Quindi diciamo mi mi trovavo anche a Bruxelles a parlarne con con alcuni italiani italiani che se ne sono occupate in Parlamento
A Bruxelles e di questo tema qui che dicevano effettivamente l'Italia non sta rispettando quello che regolamento europeo chiede che indipendenza ora sono stati anche i momenti ultimamente dove si è notata ancora di più questa non indipendenza rispetto a queste agenzie e e anzi la loro vicinanza alla politica e al governo
E questo diciamo non è un tema di parzialità politicante ma proprio di indipendenza assoluta che deve esserci non tema così potenzialmente strumentalizzabili esaltata la politica e che così invece
Diciamo gli altri paesi europei che hanno già avanzato delle proposte stanno assicurando questa distinzione e questa indipendenza quindi ecco volevo solo assicurarmi che questo messaggio fosse passato grazie ancora
Grazie a tale appunto si dà rimarcato questo passaggio che era dell'avevi già detto palestra edito in modo più chiaro che ha avuto più tempo per sottolineare appunto il punto di vista Espresso Ina anche in questa casa è un Parisi per perché abbiamo pubblicato un po'di tempo fa proprio su le motivazioni per cui secondo noi appunto
L'altro internazionale perverse di vent'indipendente anche le caratteristiche che dovrebbe avere e a questo punto lascio alla senatore bassa punto per chiudere che ringrazio nuovamente per lo spazio e l'opportunità di confronto
Trama
Ribadisco che sono io a ringraziare voi per nell'occasione l'occasione di confronto e spero appunto adesso anche di poter riprendere alcuni dei vostri concetti di capire essi alcune delle cose delle preoccupazioni per i test presso possono trovare e come possono trovare anche Paul uno spazio di dibattito all'interno di quello che sarà un percorso comunque non semplice soprattutto non prese rispetto a questo tema della regolamentazione noi parliamo di intelligenza artificiale ma come dire
Dobbiamo uscire anche dal mainstream di quella che la parola in questo momento chiave non c'è solo il garante degli inserti liceale ma c'è tutto il grande tema delle tecnologie in senso molto più ampio che comunque
Condivido manco di una governance generale sia in sede europea ancor di più in sede italiana
Lo dico purtroppo anch'io temo come dire ho visto che oggi la la capacità di sintesi della parte femminile saltati efficace io non sarà efficace ma
Credo che siano comunque importanti tutti temi spera di
Toccare dei ripeto non senza dilungarmi ma è davvero importante per voi avete toccato alcuni punti che anche a me stanno parte vanità cuore e devo dirvi quello storico cento facciale e forse sono di quelli che mi preoccupa di più e quindi vorrei arrivarci parto però dal tema della governance
Perché all'inizio della legislatura io vengo dal mondo sono informatico vengo dal mondo il digitale o grande fiducia che le tecnologie possono aiutare
Ricordo un bellissimo incontro fatto con un grande divulgatore che rapirà Angela
Che venendo alla Camera l'intergruppo innovazione una volta la prima volta che lo incontrai insieme l'intergruppo ci disse
Io sono convinto che la lavatrice la tecnologia abbiano fatto tu di più per la massa che non la politica ovviamente era la sua moda in modo molto efficace da divulgatore per esprimere un concetto fuori
L'uomo come sapete invece era molto attento anche ai temi dei diritti non voleva semplificare voleva un po'a sfidare come dire la politica a
Tra regolamentare e affrontare le grandi questioni portando da vero valore e quindi dire mettendo in rilievo come la tecnica tecnologia possono fare tanto ma anche come se lasciate invece possono essere utilizzate all'inizio legislatura dicevo
Con altri colleghi con il collega incita quanti Play che non presentato un disegno di legge campionato Innovation HP di sistema sapendo che non avrebbero mai avrei mai trovato la luce parlamentare perché e affrontando appunto l'intero sistema difficilmente si sarebbe potuto essere incardinato mia vera e un percorso lineare ma era basato proprio sui tre capisaldi quello che la governance quello
Dei diritti e quello poi dell'adozione dello sviluppo tenendo insieme questi tre capisaldi perché difficilmente uno può andare senza l'altro
Lo dico perché sono ancora convinto che noi non dobbiamo solo regolamentare lo dico qui a questo tavolo con le cose che ho sentito ma perché ne sono assolutamente convinto noi non possiamo essere lo spazio che regolamenta senza sviluppare per il semplice motivo
Che rischiamo di essere circondati da un mondo in cui la tecnologia va avanti in cui se noi non riusciamo a essere lo spazio in cui c'è la migliore tecnologia che segue le regole che rispetta i diritti
Il rischio che verranno adottate le altre tecnologie allora non ci basta mettere le regole ma dobbiamo anche sviluppare ed essere un luogo dove si riesca a sviluppare a promuovere l'adozione delle tecnologie che rispetti poi quelle regole
Però dobbiamo farli andare insieme in parallelo con le due strade lo trovo davvero rischioso e purtroppo se invece come dicevo all'inizio
Ci facciamo trascinare in un dibattito in cui o regole o sviluppo tecnologico in questo binomio e rischiamo anche di non avere quella seguito quel consenso che comunque in ogni teocrazia è fondamentale e questo lo ribadisco e lo ritengo fondamentale un altro grande fisico italiano una volta mi disse
L'essere umano
Il miglior sistema risparmio energetico quello che si riesce a fare con poche calorie in termini di movimento di calcolo non s'è messo la macchina ancora in grado di farlo con così poca energia
Questo cosa significa che tendiamo a fare sempre la cosa più comoda e non quella più giusta perché tendiamo se abbiamo una tecnologia che ci permette di fare qualcosa a farla prima di ragionare sicura stiamo facendo delle conseguenze o meno
L'ho semplificata ma credo come dire che questa immagine ci trasmetta a tutti il senso il motivo per cui invece dobbiamo mettere delle regole sul piano razionale
Non perché non abbiamo fiducia che ciascuno di noi come cittadino si muova responsabilmente ma perché il rischio è che abbiamo a disposizione dei mezzi che senza pensare alle conseguenze che portano vengono adottati
E quindi banalmente il piccolo comune non credo che possa esser ritenute
Responsabile se vuole adottare una telecamera per controllare che non vengono vandalizzati giardinetti dove vanno i bambini
Il tema è che non c'è dietro quel ragionamento con quell'implicazioni che invece comportano e quindi noi dobbiamo avere una quadro generale di regole che consentano di a vere i mezzi per controllare quei giardinetti senza avere implicazioni come quelle che venivano ricordate questo lo dico per dire dobbiamo tener conto anche di quelle istanze che ci sono e allora bisogna affrontare i nodi da affrontare i nodi io parto da quello che veniva ricordato che voi avete proposto che è quello dell'autorità
E io ho grande preoccupazione sul tema di lasciare delle agenzie non perché queste agenzie non siano agenzie fatte da professionisti validissimi
Sia l'ariete che la CN ma appunto come nel prato sono agenzie quindi dipendono dal governo non sono autorità indipendenti
Poi su questo stiamo per esempio per predisporre una proposta e le vostre dire sulle citazioni e anche il vostro Peters saranno sicuramente tenuto in conto di direi
Che io da tempo ritengo che oltre a quello che già voi dite ma per tutte le autorità non solo per questa dovremo fare anche un passaggio in più ovvero sia inserire una modalità di selezione dei garanti
Che tenga conto anche di una dinamica di tipo casuale ovvero non sto dicendo di estrarre a sorte chi va a fare il garante dell'autorità sto dicendo che esistono meccanismi che la storia ci insegna in cui all'interno di professionalità definite
Vengano estratti delle figure che abbia qui professionalità quindi che se non altro cambio per competenza e all'interno di quelle poi l'organismo democratico come il Parlamento possa scegliere ma noi dobbiamo togliere la possibilità di una scelta che sia una scelta comunque che dipende dal governo perché già in questi anni abbiamo visto persone di grande professionalità di grande competenza che però hanno poi il rischio di dipendere dei governi allora io vorrei inserire anche all'interno di quella scelta un meccanismo che metta ripeto che non va perché altrimenti so che a volte questo discorso è frainteso che non porti alla casualità della scelta ma che inserisca meccanismi di casualità nella selezione di rose che permettano l'anno on contro l'abilità del processo dall'inizio alla fine del percorso questo è stato fatto
Il in Italia abbiamo per esempio degli esempi del passato in cui questo meccanismo veniva fatto proprio per limitare quello che era il controllo tecnocratico pure aristocratico in epoche in cui non c'era ancora diciamo
Il principio del voto universale e hanno hostess aiutato nelle diminuire quelli che sono le conflittualità o soprattutto la possibilità poi da parte del potere esecutivo di influenzare anche le autorità credo che ancor di più per un'autorità di questo genere vada fatto poiché c'è un tema c'è un tema ovvero rispetto a questo disegno di legge
Chi è arrivato del Governo e che appunto a scavalcato anche quei greci parlamentare quale sarà la nostra capacità di influire e quindi anche la nostra
A Scelta nel decidere se modificare quindi influire sulla Processo riprovazione di questo disegno di legge oppure di andare come dire a eventualmente a non condividerlo credo che sia un tema a vero perché un'altra delle proposte che invece insieme al collega lecita
Ho presentato in questa legislatura è quella di una legge annuale sul digitale perché ritengo che noi non possiamo pensare di governare a priori tutte le scelte dell'impatto tra tecnologia avrà sul futuro
E su questo arrivò davvero a conclusione lo sapevo travisato che non avevano neanche questa capacità di sintesi però il tema che è venuto che è stato affrontato in particolare l'ultimo tema questo riconoscimento facciale
Anche a me sta molto a cuore sta molto a cuore perché penso che sia paradigmatico di tanti altri temi che siano simili a questo ovvero sia
A me quello che spaventa di più non è l'errore ovvero sia l'errore che questa tecnologia ancora oggi a neanche il pregiudizio perché spero come dire sempre o questo grado di ottimismo che e se riusciamo a costruire un processo anche di controllo anche grazie come dire al lavoro che fanno le tante organizzazioni che controllano
Si riesca a progredire nel di munire il fattore di errore e che comunque sia rimanga sempre il principio della scelta umana rispetto all'azione perché un conto è un'allerta fatto da un algoritmo un conto l'azione poi viene Teresa è un essere umano nel decidere a fronte di quell'altra sapendo perché altrimenti come dire saremo ipocriti che quando noi abbiamo un algoritmo che si dice che c'è un novantanove per cento di probabilità che sia qualcosa influenza anche molto la decisione umana quindi sapendo che l'algoritmo va comunque controllato in maniera molto forte
Perché non basta poi lasciare la responsabilità che a volte come dire che la scelta assicurativa che non i diritti qualcuno fuori all'essere umano quindi dove dobbiamo mettere non solo il principio della scelta umana ma anche una regolamentazione dell'algoritmo che non vada influenzare o a deresponsabilizzare quella scelta umana
Però quella cosa che mi preoccupa di più è l'uso improprio invece che può essere fatto secondo me su questo non ci sono
Progressi tecnologici che ci possono mettere a riparo da quello che la storia ci insegna l'umanità ha sempre fatto ovvero sia laddove aveva il potere di utilizzare una tecnica una tecnologia piuttosto che come dire a un diverso modo per usare proprio potere e non aveva contrappesi molto spesso molto spesso l'ha utilizzato questo non si tratta come dire di vollero assolutamente vedere in maniera negativa
Qui processi che avvengono però è un dato di fatto che leggendo la storia abbiamo visto e quindi bisogna trovare almeno se non c'è sono idee nuove
Ma l'unica grande forza democratica penso a quello al grande dibattito che c'è in questi giorni sulla riforma costituzionale che la nostra Costituzione ha messo per la difesa rispetta queste forzature è stato un a serie di potere distribuito in cui non ci sia un esercizio del potere da parte di pochi singoli soggetti
Ma ci siano contropoteri è una serie di contrappesi di potere in maniera tale che il controllo venga fatto in maniera di seguito e più abbiamo e abbiamo la possibilità di allargare alla Società Civile
E quindi a un controllo diffuso più questi contropoteri riescono a bilanciati
Su questo esprima anch'io un po'di perplessità sulla Iat ma non solo perché non è riuscita a regolamentare tutto ma anche perché ha provato a regolamentare tutto troppo troppo la tecnologia e poco i principi io credo che una grande carta che regolamenta l'innovazione tecnologica che potrebbe impattare maniera così forte doveva vivere più un profilo appunto costituzionale quindi di pochi
Leggi poche regole che andassero a normare i principi piuttosto che non andare perché perché è evidente che quando noi ripetiamo cento volte
Una parola diritto come cioè nell'aia c'è il tema come dire che questa parola sia in sovrabbondanza perché in realtà abbia non abbia la garanzia di riuscire a a entrare realmente nel merito quando la Costituzione
Di definisce citare una repubblica non ha bisogno di dirlo a ogni articolo una Repubblica lo diciamo alta sola ma quel principio è un principio inamovibile
Allora lì credo che sia serva fare ancora tanto io credo che sia molto positivo che l'Europa si sia mossa per dare delle regole perché ha comunque voluto testimoniare su questo io penso dobbiamo andare fieri che l'Europa sia ancora uno del spazi politici un a comunità che si interroga sulle regole sui diritti ma l'Europa oggi a tanta strada per come dire arrivare a una vera regolamentazione di quei diritti soprattutto in questi ambiti
E quindi è positivo che sia stato un primo passaggio pensare che dissi fermi l'azione regolatoria sarebbe un errore
Per fare questo all'interno dei vari Parlamenti servirebbe ed è una proposta che abbia fatto e ribadiremo al di là dell'approvazione di quelli che possono essere disegni di legge decreti per andare a mettere delle prime norme fondamentali
Quella che io presentato insieme degli altri colleghi inserisce per esempio la necessità della filigrane dell'etichettatura dell'intelligenza artificiale perché respiriamo fondamentale almeno la trasparenza se l'utilizzo in alcuni campi è oramai reale e non ha senso come dicevo prima sto parlo ma il riconoscimento di quale algoritmi di intelligenza artificiale sono dietro un certo processo deve essere trasparente per tutti quindi mette una filigrana d'ogni passaggio di ogni algoritmo permette a chiunque non soltanto Haitink economici con la forza
Per farlo ma qualunque cittadino con un strumento o penna di verificare
Tutti quelli che sono stati gli algoritmi che sono stati applicati a una determinata scelta piuttosto Panther nato prodotto
è qualcosa di cui si sta dibattendo rimane in frazionale e tecnologicamente fattibile bisogna portarla avanti
Però questi sono tanti piccoli tasselli il tema vero è aprire un dibattito sui temi di fondo quindi sui temi valoriali dei diritti che sarà la base perché con questo chiudo il tema chi veniva ricordato dell'utilizzo di quelle tecnologie per esempio per quanto riguarda le frontiere immigranti è un tema che riguarda non solo la tecnologia o meglio non tanto la tecnologia ma quello che è il diritto delle persone allora se noi andiamo a regolamentare una tecnologia acconsentendo a quella tecnologia di fare qualcosa che viola un diritto universale
Noi non stiamo mettendo una regola noi stiamo evitando di far sì che venga applicata un principio un valore è una regola generale quindi rischiamo addirittura di fare qualcosa di peggiore
Quando mettiamo troppe regole il rischio e che quelle regole lì vengono o applicate solo ai più deboli e non è più forti quindi c'è un tema di regolamentazione che va oltre il tema tecnico e e lo dico davvero chiudo appunto da uno che viene da un percorso da informatica tecnologo crede ed è fiducioso
Dobbiamo fare attenzione a non farci imbrigliare nel tema tecnico e ricordarci sempre qual è la norma che va a salvaguardare il diritto della persona con tutte le conseguenze che questa altrimenti rischiamo di avvinghiarsi e di farci portare dentro a un percorso che alla fine nel normare quella tecnologia viene meno al principio generale
Grazie mille a stralcio darsena
L'ultimissima cosa per chiudere intanto volevo ringraziare di essere stati estate qua con noi fino adesso invece ascoltato volevo rimarcare il fatto che insieme appunto deputy lodi privacy nato ed Hermès e anche gli altri associazioni che fanno parte della rete diritti umani digitali per cui a Miss International Italia che qui oggi
Piglio tenta anche anche strali continueremo a pungolare la politica su questi temi e anche a portare avanti una necessaria azione di sensibilizzazione anche di informazione delle persone perché
Cito un altro dato di quel sondaggio che già menzionato prima moltissime persone non passando neanche bene che cosa sia l'intelligenza artificiale
Nonostante chi lavori della bolla e ai creda che tutti sappiano che cos'è un modello generativo leggevo puntino su di un altro sondaggio gli Stati Uniti
E in questo
Questa tecnologia anche già più avanzata che che diceva che molte persone appunto da precettare rilevante non sanno neanche di che cosa
Di che cosa si parla quindi questo è per dire che rimane molto il lavoro da fare
Che insomma ci sono diversi soggetti che possono contribuire insomma fare avanzare
E a impastare una ha un approccio a delineare un approccio pronto allo sviluppo tecnologico dell'intelligenza artificiale non che sia improntato al rispetto dei diritti fondamentali grazie