Governare l'algoritmo

Buonasera buonasera a tutti qua stiamo organizzando velocemente un convegno senza pilota coatti di quelli che si vedano da soli come le auto guidate dall'algoritmo per quanto mi riguarda io sono
O un giornalista
Stavo certo insomma il il punto è parlare del potere dell'algoritmo quindi farei una brevissima introduzione per poi lasciare la parola i nostri interlocutori forse come conclusione
Al presidente del si possa sapendo che ha facoltà che sarebbe diretta a far ne ha facoltà di fare interruzioni domande durante qualunque momento della nostra
Serata di il potere dell'algoritmo si può prendere la diversi punti di vista io faccio il giornalista e quindi la prima cosa che mi hanno talmente sono dei momenti nei quali il potere dell'algoritmo si è visto per esempio siamo a cacciarci
Monsignore ha preso un pistolero né ed è andato a una moschea e ha sparato all'agente durante
La preghiera nel due mila diciannove marzo
Uccidendo cinquantuno persone
E si è ripreso ha ripreso questa scena
Indiretta la pubblicata su Facebook e Facebook Lapresa e rilanciata velocemente verso tutti quelli che largo rituali per il voto pensata sarebbero stati interessati a vedere questa scena
Molto presto un umano si è accorto di quello che stava succedendo
Perché nessun algoritmo legge bene cosa succede in una diretta dove ci sono immagini sparatorie sangue emozionante potrebbe essere un film
Ma una mano se ne accorge blocca tutto e finalmente viene tolta questa diretta l'algoritmo aveva il potere di far sapere a tutti in quel momento una cosa del genere fatti di questo tipo sono successi su tutte le piattaforme you tube ha fatto vedere le decapitazioni dell'Isis
Naturalmente Twitter ha fatto vedere un presidente degli Stati Uniti che incoraggiava la gente ad andare a occupare il congresso
Questo potere
Un potere che in qualche modo deriva dal fatto che siamo in un'epoca ulteriore rispetto all'epoca della scrittura rischia Scola quando quando eravamo nel mondo della scrittura prima si decideva se una cosa era interessante e importante e poi la si scriveva
Specialmente quando poi queste erano norme e regole leggi allora il potere di scrivere era particolarmente significativo
Adesso noi scriviamo tutto prima di sapere se è importante adesso tutti noi stiamo scrivendo in quattro cinque sei dieci e server che siamo qui
Molto probabilmente stiamo scrivendo quello che ascoltiamo
Molto probabilmente ci sono una serie di curiosità che stiamo prendendo degli sms dei Whatsapp che stiamo facendo tutto questo viene registrato viene registrato la localizzazione quello che stiamo curiosando quello che scotta ascoltiamo eccetera eccetera prima di sapere se è importante
Fatta tutta questa registrazione per farsene qualcosa di questa scrittura ci vuole una modo per tirare fuori quello che è importante da quello che è stato scritto e questo è l'algoritmo quindi il nuovo potere scrivere quella algoritmo che stabilisce che cosa importante su quello che è già stato scritto
è inutile che ieri noi scrivevamo adesso è importante capire come l'algoritmo lo tira fuori
Tutto sommato questo funziona molto bene per dei rapporti tra macchine per i rapporti tra persone è più Complesso la grande algoritmo di quella questione lì si chiama algoritmo di raccomandazione e dice
Settica piaciuta questa cosa ti piacerà anche questa
Come fa sapere che ti piacerà anche questa
Perché vede classifica quella cosa che ti è piaciuta
La mette a confronto con molte altre cose tra la quelle simili
Guarda il comportamento degli altri che hanno visto quelle simili e le hanno e hanno visto insieme anche la cosa originarie e dice insomma più o meno che dovrebbe piacere ma a forza di andare avanti così l'algoritmo impara
Che le persone sono interessati a certi tipi di cose più che altro se c'è sangue emozione paura piace di più interessa di più
Attrae più l'attenzione e l'algoritmo pensa essenzialmente a tirare fuori l'attenzione da questo pubblico per rivenderla sul mercato pubblicitario o altre cose
Quindi fondamentalmente l'algoritmo era Totaro con raccomandazione al centro di queste piattaforme da Amazona Twitter era fece epoca you tube eccetera serve per decidere che cosa le persone sembrano
Proprio su questo uscì gioca la battaglia decisiva di questi questi giorni nelle prossime settimane la Corte Suprema arriveranno due casi di questo che partono da questo questione
Che essenzialmente mettono in discussione la regola generale di internet fino adesso la
La sezione duecentotrenta del dissensi Act del mille novecento novantasei che stabiliva che le piattaforme non sono responsabili di quello che ci scrivono sopra Lusi utenti
Questo ha reso possibile fare delle grandi piattaforme che erano tranquillamente ma levate da tutto quello che ci avrebbero fatto gli utenti
Alla Corte Suprema arrivano due casi che fondamentalmente dicono sì però questi qui hanno promosso questi video in particolare quello del dell'Isis
Con il loro algoritmo quindi non sono stati semplicemente dei sistemi di distribuzione di cose che facciano gli utenti sono stati dei veri promotori editori hanno una responsabilità se hanno una responsabilità cambia tutto piattaforma diventano editori diventano giornali diventano qualcosa che ha la scelta esplicita di quello che il precedente su questo è nata perché è stato chiuso perché esplicitamente incoraggiava dicevano gli accusatori a usare la piattaforma per scambiarsi gratuitamente musica che altrimenti sarebbe stata appagamento e quindi siamo qui
Dopo Khrushchev vertice già Giacinta bene ma non è Macrone hanno fatto partire una grande
Questione sulla responsabilità delle piattaforme arrivato alla Commissione adesso arriva alla Corte Suprema nelle prossime settimane sapremo diciamo se la regola generale di internet che rendeva
Non responsabili le piattaforme quindi non responsabili gli algoritmi sarà confermata nel momento in cui non fosse confermata l'algoritmo sarebbe salito direttamente al potere allora per quanto ne sappiamo
Queste sono chiacchiere da giornalisti ma per fortuna abbiamo anche persone che ci pensano seriamente
In ordine alfabetico darei adesso la parola a Elena Esposito e poi gli altri il
Il Presidente può intervenire in ogni momento compro però è bello perché uno dice ne ha facoltà
Padre grazie
Grazie produzione gaffe la possibilità di portare parlare qui di averlo decisi Pallavicino
Io avevo una presentazione che è un po'ecco le coliche sul mi scuso un po'magari non appropriata la fede però mi è stata chiesta preparata cercherò di essere abbastanza era molto semplice di essere tutto sommato dialogica diciamo
C'è stato chiesto introdurlo si sente funzionante
Ripresentarsi allora io mi chiave Esposito sono sociologa una doppia affiliazione questo dice a metà tempo in Italia resta di Bologna ampiamente a tempo Bielefeld Adidas resta di Bielefeld in Germania
Dove dirigo questo progetto che devo presentare perché lo devo ringraziare per contratto ma sono anche molto se dice un progetto finanziato dall'aiuto piazza Scouts sulla previsione algoritmi Ca'molto più applicativo di quello che dirò qui oggi
Per cui pensavo su invito e organizzatore di parlare un po'di questa questione molto generale che sta dietro a quello che vi ha sentito adesso insomma la questione che si rimasta aperta da da diventa una cinquantina d'anni insomma da quanto avviene compiute da quasi cominciato a aveva delle macchine che lavano processa non manipola l'informazione c'è che accompagnato sempre questa questione queste macchine sono intelligenti riusciremo a riprodurre con le banche l'intelligenza umana in che modo quando riusciremo a far le città
E la cosa ha avuto
Andamenti alterni si parla di primavere quando sembra che la macchina fra tre giorni sarà intelligente
Inverni quando scopre che avesse un po'più complicate che la macchina e intelligente ma composto Ubide attorno per un motivo o per l'altro
E adesso sembra essere siamo assolutamente in una primavera in un'estate detergente artificiale perché abbiamo adesso si parla di adesso di algoritmi piuttosto che di computer messo mappe sono dettagli insomma
Nadia abbiate Falco delle macchine questi algoritmi che sono in grado di fare delle cose molte cose che finora erano prerogativa dell'intelligenza umana insomma
Queste macchine sono in grado di rispondere al telefono di fare conversazioni esso questi nuovi eccetto i CPT di cui si passano sono in grado di creati di degenza artificiali generativa si dice
Di creare testi che non possono essere distinti dei testi prodotti da un essere umano di creare immagini di di dare consulenza psicologica di riconosce di volti eccetera no
Per cui a quanto pare siamo in un momento di svolta molti lo dicono
A cosa è dovuta questa svolta in cerchiamo di capire un po'più tecnicamente cosa ci sta dietro insomma son due motivi di questa primavera diciamo da dieci quindici anni dell'intelligenza artificiale il primo è ma cosa che ha una sua tradizione non è del tutto nuovo il progresso imbecille dormiente delle macchine che apprendono da su ordinativi che apprendono diciamo questo c'è sempre stato da cinquant'anni si parla di questi giorni
Però da negli ultimi tempi tale decina d'anni abbiamo delle macchine che sono capace non solo di apprendere ma di apprendere da fessure c'è la macchina decide da sola che cosa vuole imparare come lo voglio imparare
Non solo di recente da Matching circa cinque anni anch'c'ho detto è che ancora più nuove si paga dipende dal ring di apprendimento profondo
O di a supervisor di nuove procedure no per cui gli algoritmi non solo decidono di Sassoli cosa imparare ma come impararlo e e con come arrivare lo risultati in modi talmente complesse talmente elaborati
Che nessuna mente umana e nessuna complicazione di mitomani alcuni casi può comprendere come la macchina ora nemmeno i programmatori nel nostro progetto lavoriamo con dei programmatori che lavora come centralmente e dicono che loro stessi
Non sanno non capiscono lo stessi che programmare una macchina non capisco non possono capire per comodità aggiornare di lavorare completamente diverso dall'isolamento umano
Come la macchina Riva i suoi risultati
Quindi questa ora prima grande novità
Però non sarebbe possibile sale su un'altra novità che abbia anche questa del dieci quindici anni cioè il Macelloni non funzionerebbe senza i cosiddetti big Titan
Di cui si parla anche molto insomma
Sì sì sono il limati da perito devono Trevisi questi big data di detta che sono dei dati Diversi molto diverso da quelli che utilizzava le procedure statistiche tradizionalismo
Ecco la definizione di vitata è molto controversa ci sono varie cosicché Bari proposte
Però una cosa su cui sono d'accordo tutti quelli che ci lavorano che i big detta hanno bisogno del cosiddetto Bel partecipativo del web due punto zero che abbiamo da diciamo dal dall'inizio degli anni Duemila insomma sono una cosa di questo abbastanza recente
La combinazione di queste due novità mescita mica avanzato e vendetta ha prodotto le Marche ci troviamo a gestire oggi sono questi algoritmi
Che riescono a fare dicevamo in modo efficaci molto efficace delle delle prestazioni che finora abbiano richiesto sempre la la il contributo di intelligenza cultore annosa questione
Queste macchine sono finalmente i reparti di sinti abbiamo che fare delle macchine che sono filtro riuscite a realizzare diciamo il sogno o l'incubo dipende punto di vista dell'intensità artificiale
Io a me sembra di non certo che questo quel quel quell'vuole presentare qui con voi insomma
Anzi a me sembra che la stessa idea che sta alla base dei processi dei progetti Progetti intelligenza artificiale da cinquant'anni non sia più adeguata a descrive la situazione di oggi quello che stiamo osservando adesso
Perché se si vede come lavorano questi precedenti algoritmi si può vedere che il la riproduzione dell'intelligenza non è il punto non è meno lo scopo di questi progetti
Anzi si potrebbe dire che le macchine queste macchine questa con ritmi riesca a fare queste cose così strabilianti così efficaci non perché sono finalmente diventati intelligenti ma paradossalmente proprio che non cercano più di essere intelligenti
Le macchine adesso fanno qualcosa altrove
Si potrebbe dire anziché i progressi costruiamo oggi non segnano il trionfo dei tesa artificiale ma io direi addirittura l'abbandono del progetto che stava dietro sta succedendo qualcosa di diverso
Perché i processi che guida questi algoritmi sono mai completamente di testa processamento ma hanno e
Fatti nessuna mitomani poi comprendere come dicevamo
E programmatore lo dichiara esplicitamente già una decina d'anni fa solo l'ha detto noi non cerchiamo di copiare intelligenza sarebbe uno le troppo pesante e non abbiamo fortemente bisogno non ci interessa copia all'intelligenza
Cosa fa miracoli facciamo l'esempio di come lavoro senza dover copia all'intelligenza
Un esempio che viene fatto spesso a cui mi riferisco anch'io spesso perché efficace seri programmi di traduzione automatica non so chi li sta utilizzando io che lavoro fra due Paesi utilizzo di continuo
E adesso questi programmi come Deep translate e tanti altri che funziona benissimo
E i sabba stanza pecche per ricordarmi cosa succedeva fino anche quindici anni fa insomma i programmi di frazione automatiche erano utili meno divertenti perché faccende castronerie incredibile del del TC decori adesso io devo dir ditta sente è impressionante insomma perché suscita era parlare così bene i Promotor dicono in modo molto chiaro
Sono uscita a fare questi macchine che traducono in modo così efficace perché hanno rinunciato all'idea disegnare alle macchine le regole la grammatica della lingua non lo stanno più facendo il i programmi che proprio con l'esempio dal cinese al l'italiano non siamo vicini se lo sapete italiano in atti programmatori di sanno non non cerca di capire cosa vi ricorre frasi tradurle seguita rivolte a lingua non fanno qualcosa di diverso insomma
Circa no ecco
Cercano solo di hanno utilizzarle grande materialità mentre quantità di questi big detta i testi che trova sul web magari in tante lingue con una con una tela della Commissione europea e così via e cerca questi parte ha messo parte sulla Gran parole in corso in questo discorso
Pattern regolarità
Ma tenete i testi che trova anche utilizzano per fortuna dei testi che diventano efficaci significativi hanno senso per noi perno e quello che la macchina ci dice come produttore completamente comprensibile nocca con ritmo che non lo capisce non ha bisogno di capirlo
Come anche Syria Alex a quando parlano con noi non capiscono niente come stavo dicendo
Un programmatore che produce cambi produce testi per programmi per produrre testi lo dice esplicitamente citazione le macchine non ragionano come le persone
Per scrivere come le persone insomma in tutti i casi processo sono molto diversi
Spetta pediatrico distinto quanto no non abbia assolutamente ostili sgarrare avventura anzi fare con sensibilità diverse
Profitto delle
Del privilegio cioè mentre lo dicevi mi veniva in mente la diversità con la quale i miei nipoti hanno imparato alle elementari a leggere rispetto a me
A me insegnavano le singole lettere e le dovevo mettere insieme c'è una insiemi Ustica di cui oggi ci si si avvalgono di insegnanti per cui questi bambini si impadroniscono della parola prima che delle singole lettere
E progressivamente della frase
Può darsi che compiute musiche esattamente un tecniche come questa potrebbero assomigliarsi
Ma
Fu un possibile un ponte mobile in perché i bambini essi non mettendo per niente di pedagogia che coniuga insieme all'avvocato gli ossidanti a tutto danno amico non me lo deve anche con mia figlia che sta seduti in questa direzione
E ed ha senso no tra lo scopo siccome è sempre per avere una procedura diversa per arrivare a un risultato che il bambino oltre docente del discente deve padroneggiare capire di cosa si tratta e saper utilizzare anche per altri scopi no
E le macchine su se poi vado avanti poi risolutivo peso privati proprio non ha competenze di capire cioè l'idea che la macchina capisca è un onere la macchina funziona così bene proprio perché non ha bisogno di capire niente il bambino deve semplicemente con gli schemi ottici
Come ancora si diceva di non imparare a pappagallo
Un'altra ed è semplicemente ripetere quello che il il patto che è stato detto in modo così senza senza capacità di fare dei collegamenti sia capacità di Antar prospettive e così via lettera ma de fare proprio questo
Come perché appunto in qualche modo come vedremo queste macchine comprendere è complicato come ter per come dicevo prima i fanno prezzo spesso una una metafora di Astrium andar via il filosofo tedesco che diceva gli uomini hanno imparato a volare quando ha rinunciato l'idea di costruire delle macchine che battono le ali come gli uccelli Pierfranco fanno insomma quando erano state cominciata a volare
Ecco questi algoritmi si potrebbe dire che hanno imparato a fare quello che noi facciamo con intelligenza quando ha rinunciato all'idea do come così dice devi copiare il volo degli uccelli è già altri copiare la sua intelligenza fanno una cosa completamente diversa
Per cui il risultato è quello che per noi diventa un una cosa che
Così possiamo utilizzare in modo intelligente incrementano sette licenza ma la macchina può produrre solo se rinuncia Lidia deve produrre intelligenza come sta facendo esplicitamente gli alcolisti adesso
Che ho capito questo
è chiaro che si
Avanti vado un po'avanti allora trova dettate regolarità
Quel qui praticamente ho sentito questo che il fatto che le macchine lavora come noi non è una debolezza di queste politiche ma diretta Parrot forza
Il successo di queste che non ci si basa anche sul fatto che non cerca di produrre riforme tese insomma Anna per quello nel libro che avete visto in anticipo io proponevo di parlare di capi di comunicazione artificiale piuttosto che di intelligenza artificiale ma su questo
Sì ho tempo
Prova a dire due cose insomma
Tre perché
Sì
Sopra
Allora disarmati non sono intelligenti no però effettivamente tutti sappiamo che le macchine ormai supera il test di Turing tessiture lo sapete che viene utilizzato già da cento anni circa per vedere se non anche intelligente
E si dice la macchina supera il Testaccio intelligente
Se un interlocutore umano che interagisce con la macchina non si rende conto che suo partner è una critica anziché un essere umano esile ancora adesso distanti così ottanta giorni fa che parla poco oltre scrittori rimane differimento no
Che da da da mia prospettiva come sociologa e al teste tosto strano per se ci pensate e il il testo mi sono per niente l'intelligenza della macchina ma misurano altre cose a sua misura quelle fiere la capacità comunicativa
Ed misura la capacità della macchina di agire come competente informativo efficace partner comunicativa ma niente a che vedere con intelligenza no
Per cui secondo me questo è un po'il punto su cui io così fare lavorare le macchine ma imparato diventare intelligenti hanno imparato a partecipare alla comunicazione
Per questo io farei fare piuttosto ti chiedi comunicasse diteci esatti Ticciati ha formati mitica di comunicazione artificiale
Bisogna però capire cosa si tratta e cosa intende per comunicazione artificiale
Per questo faccio salto Padi confermato un attimo passato sottostare sprecati cosa cosa volevo dire nessuno
Ma il punto forse questo in questo processo le macchinoso intelligenti malinteso senso Manal diventa superflua anzi sempre e ripeto sempre spendermi dispensario diventati ancora di più perché questi algoritmi deve scendere dal ring
Sono capaci di elaborare manipolare l'informazione o con efficienza mai vista prima però non sono capaci di produrre da soli
Gli algoritmi hanno bisogno per questi ago intenso debiti Trinità perché ha trascrivibilità si potrebbe dire gli atleti si nutrono dell'informazione girate a ciascuno di noi sul web e lo utilizzava per terrestri per arricchire per rende più complesso il loro comportamento torturate delle formazioni nuove che possono essere sorprendenti
Per questa appunto devono aver la possibilità di accedere al web
Faccio un esempio ambiguità ha spiegato di cosa si tratta insomma il
Programma un riferimento che rimasto un po'il modello per tutti questi approcci è come per tante altre cose Google
Google utilizza questa coi topi ricevente che si dice accidentato interne così come lo conosciamo noi non ma l'ho fatto perché
La Grillo peggio elenca funziona in modo molto diverso e l'altra con i Tunica alla base quest'idea di questi sono centri di questi motori di ricerca che c'erano anche prima gli a cui consigliano
La differenza tipici elenca tre auto Tisato un approccio molto diverso
Per capire quali sono le pagine sul web sono interessanti per l'interlocutore perché fanno domanda a Google Ugo non cerca di capire cosa dice la pagina web o di che cosa sta parlando nata semplicemente a vedere
I link ai pezzi Inc cioè quante volte il traffico sul web è andato su questa pagina e come vengono fatte le richieste insomma
E
Precedente imparata questi collegamenti
Non solo di che poi dove sono informazioni ma anche di che cosa parla ciascuna pace si potrebbe dire quindi che era solito e catturato cosa costruito in tutti i casi progettato per catturare riflettere le scelte e le decisioni comportamenti far presa dagli utenti
Ad esempio
John c'è l'antica di Google dice che non a caso esito se una fallisce casuali stent dunque non cerca di dire cose importanti su antistante cioè che dice Nicola C H l'umanità pupazzo quando circa stante c'è utilizza il nostro comportamento sul web
Per dirigere le proprie scelte per arrivare a definire il bel risultato significativi
Mi fermo però perché così
Dopo la fare questo esempio per mostra un pochettino come funzionano oggi come fa questo algoritmo che non è intelligente
Agire come Catto come parte comunicativo che funziona in modo che per noi ti risente sfruttando l'intelligenza che noi mettiamo sul web da quando quando navighiamo quando soffiano quanto facciamo
Ricerche sul
Su internet ma anche ad esempio quando ci muoviamo col GPS quando facciamo di comportamenti dove raccolte dell'internet alle cose e così via su tutti i nostri comportamenti guidati nostra intelligenza che vanno a trasformarsi in dati che circa un sul web
Che gli algoritmi utilizzato costi o qualcosa più di una volta assolutamente neanche mai pensato insomma
Che
Dunque
Non è intelligente fa quello che è stato programmato per fare a un a un potere che quindi è diverso diciamo così sempre che sia un soggetto questo
La lettura originale
Di Elena Esposito sta in questo fatto oggi la intelligenza artificiale come sistema di comunicazione o o comunque interpretabile nel dominio della questione la comunicazione tra l'altro la destra
Verificabile se si usa questa famosa ciabatta CPT perché lei non sa niente ogni volta che li fai una domanda o lui non so li fai una domanda su una cosa che non conosci ti sembra intelligentissimo ma se li fanno domande su una cosa che conosci bene
Fatto è pieno di errori ma non solo ma se gli dici quanto fa due più due e lui dice quattro
Però se tu insisti quella che dice fa cinque te lo dico io
Dopo tre o quattro interazione dice sì sì è vero ho controllato meglio fa cinque perché è più per la comunicazione per per l'empatia per stare per andar d'accordo che per veramente dirti quello che raccoglie facendo una ricerca pazzesca su sui testi che trova su internet e quindi c'è è è un ente è molto interessante pensarlo nel modo era come capisco questo però non ci toglie dal problema di capire di chi è la colpa insomma cioè sono responsabili di tutti i nostri problemi sono l'opportunità della nostra vita questo genere di domande e poi alla fine capp comprendendo i limiti che le e la potenza di queste tecnologie
Non possiamo non Porcelli con Laura Palazzo Zani che ha scritto tra l'altro un libro con che nel sottotitolo A sfide etiche al diritto io mi ricordo
Una una presentazione del Gip tipi del del del regolamento sulla prime sul sul sulla data
Sulla protezione dei dati col povero Buttarelli che diceva io so che non dovrei fare questo discorso ma questo discorso io giurista non posso non farlo
E commosso dice perché l'etica viene prima del diritto
Grazie innanzitutto grazie dell'invito al presidente io sono Laura palaziale insegno filosofia del diritto alla LUMSA mi occupo veramente da tanti anni di di bioetica di etica applicata alla medicina
E e forse il focus proprio come diceva il presentatore che il rapporto fra etica e diritto perché ci siamo resi conto tanto più avanza la tecnologia
Quanto la tecnologia sollevi dei problemi di carattere morale e quanto poi questi problemi di carattere morale debbano essere anche tradotti in leggi in norme che governano la nostra società
Che contributo posso dare oggi a questa discussione ringrazio tantissimo Elena che veramente molto interessante la prospettiva che che sconvolge completamente da chi si occupa di questo tema perché
Se vogliamo l'espressione intelligenza artificiale cioè la parola intelligenza e quindi mette già
L'espressione in competizione l'uomo con la macchina poi di fatto mesi giustamente Tanzi tenga se questa prospettiva che ha riaperto che molti degli studi si stanno allontanando però chi ha coniato l'espressione scoperto mille novecentocinquantasei mai avrei pensato che l'hanno cognata così tanti anni fa voleva provocare in fondo no questo rapporto uomo-macchina e noi continuiamo a usare guazzo antropomorfi no antropomorfi Cofano assente dall'India memoria e certe decisioni scelte algoritmi che cioè continuiamo ad applicare alla macchina e quindi questo rapporto
Comunque ce lo siamo con
Credo che sia un sogno che si è un incubo come ci poniamo rispetto a questo ecco cosa succederà da questo incontro governa l'algoritmo mi sono letta bene il titolare di Kobe ma governa
Detto all'imperativo cioè tu governo al chi governa l'algoritmo
Siamo governati dagli algoritmi perché c'è anche chi parla di Aldo Croazia no in alcuni santità autoriali sapeva bene che l'algoritmo
Governa i cittadini ne siamo in paese per fortuna incontinenti Paesi democratici quindi vorremmo governare gli algoritmi o come facciamo a governarli
Oggi nato avete questa domanda una domanda molto importante perché prima ci diceva Luca che la riunione Loca che è vero noi tutti sì facciamo aiutare da nella scelta di film no perché in fondo gli algoritmi c'è anche agevolano la vita perché no dobbiamo cercare un luogo
Pensare alle vacanze c'è qualcuno che ha studiato un paio sì comportamenti che ci aiuta a fare delle scelte
Quello che mi preoccupa è un'altra cosa
L'algoritmo
Penso a qualche esempio in medicina che sceglie eh ricoverare o no un paziente se di metterlo al paziente sulla base dei dati clinici comparati con altri dati clinici quindi la predizione del rischio di malattia
Persino durante la pandemia si pensava al qualcuno l'ha fatto applicava l'algoritmo per decidere chi dovesse entrare o no in terapia intensiva e a dare un argentino autore
Con risorse scarse beh insomma c'è un dibattito enormi sui problemi etici di queste scelte
Affidando all'algoritmo mi preoccuperebbe molto
Ecco perché Lettica è entrata veramente in modo molto forte su questi temi dell'algoritmo si sia coniata anche l'espressione non so quanto vale Aldo retica
Cioè l'idea è che lei etica debba dire qualcosa rispetto a questo Toso avanzamento tecnologico che tanti definiscono dirompente
Io sono rimasta molto colpita dalla quantità di morti che si usa l'aggettivo dirompente rispetto a queste tecnologie
Quando io ho vissuto altri dibattiti sulle tecnologie riproduttive sull'ingegneria genetica sul fine vita eccetera questo termine non si usava mai tutte le tecnologie sono dirompenti ma questa
Ci sembra più dirompente delle altre non si parla di nuova ondata tecnologica
Perché perché teniamo che ci sia chi posto usare questo algoritmo e passa in qualche modo governarci attraverso l'algoritmo ecco che qui ci sono una quantità enorme di documenti
A livello italiano a livello delle diverse nazioni d'Europa livello europeo la Commissione Rota ha lavorato molto su questo tema a livello globale l'UNESCO l'OCSE eccetera
Documenti nati da esperti che si occupano di diverse discipline possono anche avere idee diverse ma che
Vogliono mettere al centro alcuni requisiti etici dell'algoritmo e dell'applicazione dell'intelligenza artificiale quali sono questi requisiti bene Lucio i principali perché più o meno c'è una convergenza in tantissimi documenti che si sono posso frapposti c'è una convergenza a dire questo primo requisito etico abbiamo tante che sviluppi dell'intelligenza artificiale cosa vogliamo
Vogliamo che l'uomo mantenga un controllo significativo sull'intelligenza artificiale sulla Goretti uno cioè l'algoritmo mi suggerisce questa è una cosa altro esse l'algoritmo mi sostituisce
Sono due cose completamente diverse
Perché mi suggerisca va benissimo ripeto diciamo che tutti noi nel nostro nostra vita quotidiana
Tendiamo a delegare la tecnologia no tutto diciamo agli smartphone eccetera noi deleghiamo molto alla tipologia
Quello che
Sbagliamo e delegare troppo alla tecnologia no in un documento nel cortile dei Gentili presieduta dal suo Presidente Amato abbiamo scritto proprio dobbiamo eccedere nella delega tecnologica perché perché rischiamo di impoverire le nostre capacità
A forza di farci scegliere film dall'algoritmo forse non li sappiamo scegliere più dico banalmente ma pensate a chi invece operano sale l'ambito medico deve prendere delle decisioni sul paziente deve fare una diagnosi si affida all'algoritmo perché ci sono già gli algoritmi software che aiutano a fare diagnosi
E che possono addirittura sostituiti sostituire i medici nelle diagnosi ecco impoverisce poi la capacità
Oppure tende anche a non essere non sentirsi più veramente responsabile per quelle scelte perché le affidata all'algoritmo eccetera quindi queste sono problematiche che potranno risolvere nel mantenere un supervisione sulla macchina
Seconda questione l'affidabilità degli algoritmi perché se ne usiamo tanti se si sviluppano in modo così rapido devono essere affidabili cioè
Sicuri efficaci come facciamo la sperimentazione sui farmaci nessuno di noi si sognerebbe di prendere un farmaco non sperimentato se perché non si può fare ma aspettiamo che segua l'iter di sperimentazione e lo stesso vale per i software gli algoritmi
Dobbiamo essere sicuri che ci sia un bilanciamento fra i benefici che ci possono dare e i rischi perché abbiamo anche dei rischi nell'uso di questi di questi algoritmi terzo elemento la spiega Vilita
Ecco si parla sempre di Expedia dei letti matto giustamente c'hai detto che insomma difesi programmatori non sanno spiegare e che ha io poi non saprei neanche comprendere devo dire non conoscendo così bene
La matematica l'informatica eccetera però spiega avvilita si intende la trasparenza
Diteci che ci sono algoritmi non so come sono quali sono i calcoli le formule le procedure però diteci che ci sono degli algoritmi che decidono suggeriscono le decisioni al posto nostro allora questa trasparenza l'anno l'opacità
è è è qualcosa che sempre più si avverte come un'esigenza di carattere etico
Un un quarto punto è la non discriminazione Novella perché ovviamente gli algoritmi sono costruiti da da progettisti da produttività appunto
Matematici progettisti e sviluppatori
E che possono avere dei pregiudizi come tutti gli esseri umani e allora se selezione i dati ma selezione dati
Non so di soggetti di una certa età incerto genere di una certa etnia di certe caratteristiche allora vuol dire che poi l'algoritmo esclude chi non fa parte della raccolta dei dati quindi comunque anche lì ci possono essere dei pregiudizi dobbiamo cercare di avere degli algoritmi diciamo non discriminatori e poi ultimo punto
Ammesso e non concesso che riesca ad avere
Dei degli algoritmi che sono
Sicuri affidabili
Che assistono alle mie le mie scelte in inclusivi ecco che non escludono nessuno debbo cerca di far sì che tutti possano avere accesso perché noi oggi viviamo ancora in un mondo dove c'è un divario digitale inutile dirlo no persone
Anche con insomma che non hanno quelle digital skills non possono semmai usufruire di alcuni servizi che si possono comunque offrire gli algoritmi
Questi documenti come dice Di Luca
Sono documenti perché ce ne sono molti di etica che suggeriscono queste riflessioni al diritto e quindi è interessante come la bozza di regolamento
Dell'Unione lotta bozza per ora ma pare che possa essere approvata quest'anno bozza scritta nel due mila ventuno
è fortemente intrisa di questi elementi etici cioè è la prima volta che vedo in un documento che nei considerando iniziali cita dei documenti di comitati etici
Quindi significa che chiaramente questo inciso fortemente perché si ritiene che le regole debbano tenere conto di questi requisiti
Dal mio punto di vista fosse ancora due minuti quello che da penso che sia molto importante mio che sta emergendo dei vari dibattiti
è innanzitutto che i cittadini acquisiscano consapevolezza perché
Possiamo governare l'algoritmo se sappiamo che l'algoritmo ci suggerisce qualcosa e quindi in tutti i cittadini
Quale che sia il la preparazione informatica digitale devono avere una consapevolezza critica dei propri contro perché ci sono delle cose favorevoli ci sono dei problemi ma dobbiamo entrare in questa discussione e quindi tutti dobbiamo essere informati
Secondo punto secondo me è molto importante è che gli sviluppatori
Che hanno delle responsabilità se fanno male gli algoritmi siano formati ai principi dell'etica
Perché sono loro che li costruiscono quindi dobbiamo creare un dialogo no fra chi costruisce algoritmi chi si occupa di etica per far sì che questa etica entri nel disegno della tecnologia
Si continua a parlare di Ethics by design sarebbe fantastico per neve ci occupiamo arieti cave abbiamo sempre lavorato in questo modo c'è la tecnologia si sviluppa la tecnologia
Solleva problemi etici e poi ci rivolgiamo al diritto emerse nell'etica cioè la cerchiamo di integrare già nel momento in cui si sviluppa la tecnologia abbiamo fa fatto un passo avanti ce lo siamo in ritardo ma riusciamo ad agire insieme la tecnologia
E ultimo punto credo importante anche la responsabilità delle aziende grandi aziende informatiche che ovviamente no sono loro che che producono
E si sta nascendo l'idea di creare qualcuno usa l'ha fatto dei comitati di etica all'interno di queste aziende affinché nel momento in cui si fa ricerca
Si valuti la ricerca un po'grosso modo quello che succede nella medicina no da decenni che esistono i comitati di etica negli ospedali che valutano le sperimentazioni dei farmaci casi clinici eccetera
Una cosa di questo genere cioè su quel modello creare un modello simile anche nel campo informatico digitale dove
Dove naturalmente si possa creare questa interazione
Mi fermo qua gran grazie
Sito in tour per per sciogliere un tema sul perché si dice sempre dirompente è primo perché non abbiamo trovato una migliore parola per tradurre disattesa e francamente non lo so cecene una migliore però dirompente è un po'diverso dal distratti fu ed è una parola che si tratti che ha un connotato diciamo generalmente positivo nella economia Schumpeter Yllana perché però OPA si si parla di di di di distrutti vita dell'innovazione no in quel caso
Nel mondo della digitale distruggere è positivo almeno fino a l'epoca di Saccà disaccaride dei di quelli lì tu fai prima rompi le cose poi si vede no e questo è stato il suo programma di lavoro infatti ha rotto tantissimo almeno a tre miliardi e mezzo di persone per adesso
Punta salire ancora di più nella rottura
Non tutti i settori sono così per cui nella medicina farmaceutica tu prima di rompere fai degli esperimenti diciamo così no
E questa è una delle strade strategie con le quali si cerca di rispondere al problema
Come facciamo a introdurre l'intelligenza artificiale senza avere un percorso di prove di sperimentazione simile a quello della farmaceutica cioè questo concetto della Sand Bocskai per cui si può cercare di capire comunque Ursula quando si prepara a diventare presidente della della commissione fa un documento in questo documento di programma
Al punto digitale scrive entro cento giorni dal mio iniziativa uscirà Corona proposta di legge sulla e Jana Henke sull'intelligenza artificiale
Dalla mia Commissione che affronterà i suoi problemi etici cioè questo parte dall'INPS di fronte a lei cioè lei lo fa questo nel giugno luglio del diciannove sono appena passate in carcere c'è lo shock di avere una cosa di quel tipo di fronte agli occhi e l'anno prima avevano finito con la con la commissione precedente con commissione di esperti che si occupava di etica dell'intelligenza lui che ha dato il suo rapporto alla Commissione successiva pensiamo è è molto presente in Europa questa cosa non lo è negli Stati Uniti tanto meno in Cina dove tra l'altro non si chiama intelligenza artificiale ho scoperto si chiama
Saggezza artificiale
Il casino
Da però sì
Sentito un professore che me l'ha raccontato un professor cinese ecco va be'però sono andato a vedere i caratteri tradotti con Google traduttore no quattro caratteri di intelligenza di Micelli prendi uno per uno e ce ne sono due che dicono saggezza
L'altro allora detto questo cioè da educare da da avere consapevolezza Cristina Pozzi forse può proseguire anche da questo punto di vista
Grazie
Intatto grazie Minerva pronte per tutti gli spunti era un discorso così ampio che si sta ci sono veramente tanti punti di vista portare io sono Cristina Pozzi satanista autrice delegata di e Tullia che è parte del gruppo Treccani ci occupiamo di creare contenuti e strumenti digitali per il mondo della dell'educazione in tutto il mondo e la scuola dei giovani dei giovani adulti
E ovviamente tra questi contenuti ci interroghiamo anche molto su quali sono quelli da portare rispetto a questi argomenti che che spesso faticano un ponte entrare soprattutto nel mondo della scuola
In questo ambito io ormai da dal Benina e quindici un po'anche da prima ma in maniera
Più più forte dal due mila e quindici che mi occupo molto di studiare di approfondire i temi dell'intelligenza artificiale
Ma soprattutto di interrogarmi su quali sono gli affetti che tecnologie come quelle che arrivano a questa disciplina
Hanno e avranno anche in prospettiva nel futuro sulla nostra società e quindi anch'io come prima cosa quando ho visto un titolo non fatta subito
La domanda appunto come ricostruire i termini no di questo governo algoritmo largo ritorno governa chi governa un ritorno giustamente era esatto quindi era giustamente messo apposta per per stimolare la curiosità da questo punto di vista e e da subito la la la prima cosa a a cui ho pensato è stato proprio il tema della delega nel senso che
Sostituirà il subito no questo tema di di governo di potere iniziando a parlare di delega perché non è che l'algoritmo arriva la tecnologia arrivare a una sua volontà nostra sto tendiamo quasi a pensare che arrivino tutti questi cambiamenti tecnologici ma era passano condizionali questi movimenti delle nuove tecnologie
Sono condizionali perché siamo noi come esseri umani come società in qualche modo a ad andare in una direzione piuttosto che in un'altra
Quindi intanto c'è una delega e quindi un po'siccome potrà o parla forse di un algoritmo delegato faceva un po'ridere Vespa
Nell'atto una di che è un algoritmo delegato
A questo punto però se cambiamo il termine forse questo un po'come comunicazione ci aiuta a vivere con un framework diverso no tema del dell'intelligenza artificiale
Anche parlare di delega forse ci pone subito dei dei punti di vista differenti perché innanzitutto appena parliamo di delega accidenti dei ricchi di lega che cosa
A cosa in questo caso all'algoritmo no quindi e la prima domanda è questa a questo punto chi stiamo delegando deleghiamo all'algoritmo deleghiamo
Alle società che ci stanno dietro che li sviluppano la risposta è probabilmente entrambe le cose
Però già ricordarsi che c'è anche dall'altra parte qualcosa una Società una grande azienda
Che di fatto determina come in questo algoritmo funziona ci aiuta anche a evitare quella di responsabilizzazione anche un po'di cui di questi scarseggiano parlato
D'altro canto c'è un altro problema quando io delego
Di solito voglio anche poi un po'controllare quello succede alle di quello codazzo in mano qualcun altro c'ha un rapporto un rapporto che si basa su un meccanismo di fiducia
In questo caso questo meccanismo non funziona tanto bene per diversi motivi mi da un da un certo punto di vista intanto se io Cristina
Vi leggo algoritmo qualcosa in realtà purtroppo non posso fare un atto di fiducia vero
Perché è stato detto gran parte di questi algoritmi soprattutto quelli che fanno parte del della disciplina nel di PIL Burning
Di fatto non sono trasparenti a noi sono completamente
Opachi se non lui perché noi non siamo in grado davvero di capire come se l'algoritmo è arrivato a darci quella risposta
Non potendolo capire di fatto non possiamo affidarci è proprio un atto di fede c'è l'intenzione più fiducia per me fiducia una cosa diverso che si basa anche più su un nessun capire cosa sta facendo l'altra persona come stava arrivando a darmi una risposta e quindi a quel punto mi fido e che lasciano che sia lui voleva decidere per me in questo caso devo fare un poco un atto di fede
D'altro canto però è anche vero che proprio questo fatto di funzionare in maniera differente a Noemi
A volte completamente ignota in realtà permette a questi algoritmi di essere anche quasi cattivi perché di fatto vedono dei pattern vedono dei dei collegamenti che noi non vedremo mai
E quindi e visto che per ora se ne è parlato sempre molto anche in negativo spetta anche qualche lancia a favore di questi sistemi perché etico anche chiedersi a cosa rinuncio se decido di non usarli
E ci sono ambiti contesti nei quali in realtà riescono ad aiutarci ad avere un quadro più completo magari proprio perché scovano dei meccanismi dei collegamenti
Che noi non riusciremmo a spiegare perché lavorano assunti una logica di correlazione
Che che riesce a a usare tantissimi dati cosa che invece noi con la nostra intelligenza umana di solito riusciamo a manipolare numero di dati un un bel po'più limitato
Quindi insomma deleghiamo questa capace questa capacità di di elaborare tanti Davide lavorare simboli non di comprenderli di senza sapere il fatto giustamente
Ricordato senza capire nulla di quello che si sta passando mai lavorano simboli e ci fanno ritornare
Una risposta
Va quale ci dobbiamo affidare completamente quindi con un atto di fede che però appunto non sempre
Di cuore è per forza sbagliato separato per ambito medico
In tanti casi chiaramente senza dare la decisione a all'algoritmo ma faccia farsi aiutare nell'individuare quello può essere un problema penso soprattutto alla diagnostica per immagini ormai è un tema più che diffuso e e anche dov'è molto provato l'apporto che questi sistemi possono dare
Poter individuare meglio quale può essere il problema
Preziosissimo e l'umano più la macchina insieme riescono molto meglio diagnosticare quindi magari anche a salvare una vita quindi ovviamente ben venga anche se non so cosa cosa ha fatto
Nei suoi meccanismi come l'algoritmo che riesca a darmi una risposta perché comunque è una risposta che funziona che mi aiuta
Quindi ovviamente il tema troppo capire in quali contesti e come metterli come utilizzarli
Evitando appunto di fare poi invece un un eccesso di delega diciamo così sempre giocando sul tema della delega
E e quindi metterli poi nella nella situazione di prendere decisioni per non invece
Senza aver capito nulla lasciando completa autonomia
Ad poi aggiungere anche un altro tema
Perché legato
A di nuovo invece uscendo dalla parte individuare gli occhi e mi affido all'algoritmo ma anche
Pensando alle grandi aziende tecnologiche che stanno dietro a questi sistemi
Perché in questo caso parliamo anche di affidare appunto i i nostri dati che poi possano trasformarsi informazioni tutta una serie di di ragionamenti a posteriori si diceva prima
E di affidarli a a un ente che in questo caso stazza appunto una società
In questo caso cosa succede nomi spesso non siamo è stato detto giustamente no non siamo molto consapevoli di essere io dico portatori di dati potremmo dire fra qualche modo ognuno di noi è un portatore di tutta e generatore di tutta una serie di dati
E e però c'è poca consapevolezza di questo c'è poca consapevolezza di quanto li diamo a disposizione di queste di queste aziende di fatto mi attraversa poi utilizzati questi algoritmi
E la cosa buffa anche poi quando però capitano situazioni in cui magari a una pubblica amministrazione a chiederci
Una piccola porzione di quei dati che normalmente ne diamo tranquillamente a questi strumenti
Noi non ci fidiamo
Cosa che a me fa
Impazzire da questi cioè perché curiosa no
Dopo tranquillamente la mia immagine otto tantissime cose magari un algoritmo che
Che dall'altra parte mi mi risponde dandomi magari un lo spezzone di un video dove io compaio al posto di una grande attrice in nel film balcanica ad esempio e lì credo tranquillamente i diritti sulla mia immagine magari anche per tutta la vita senza neanche leggere però se poi c'era era un'emergenza sanitaria viene chiesto di di dare la disponibilità di un dato che può essere utilizzato anche per il bene comune oltre che per il mio
Dico no non mi fido chissà cosa ci puoi fare e e e quindi è chiaro che qui c'è un meccanismo che
Che siccome poi a questo punto esce dal dal singolo problema dell'algoritmo insieme anche un tema di sistema
è un tema di di contratto sociale che in qualche modo va un po'forse riparato con l'ingresso anche di questi strumenti di questi grandi
Entità di queste grandi società tecnologiche
Senza contare il fatto che spesso società tecnologiche non sono
Nazionali
E quindi c'è avari per esempio parla di colonialismo dei dati chips il fatto che ci siano grandi società che di fatto stanno raccogliendo dati e quindi di conseguenza tantissime informazioni sui cittadini
Di Paesi dove loro non hanno la sede e che questo possa diventare in futuro anche una forma di sfruttamento no mi anziché andare a prendere
Le le materie prime quello che prima si andava a prendere con le forme di colonialismo che in questo caso si sposta gran questo tipo di situazione fatto
E e questo è un tema se vogliamo che ancora più grande perché a questo punto geopolitico però se si parla di poteri e di algoritmi credo che che stiamo tema che che comunque va ricordato e di cui forse si parla anche troppo poco
Spagna insomma come dicevo in realtà ci sarebbe veramente tantissimo da da dire un po'di appunti scusate
Riagganciandomi solo ad alcune cose che voi avete detto
Poi lascio lo spazio ponga una discussione
Da un lato giustamente dicevamo andrebbe data una maggior consapevolezza anche a a tutti i consumatori utenti di questi strumenti
Il punto che io metto in maniera forse anche un po'provocatoria è
Si può riuscire davvero davvero conforta diciamo così di consenso informato su uno strumento di questo genere
Se abbiamo detto che appunto in parte c'è completamente opaco nel suo modo di funzionare in parte anche una velocità di cambiamento per cui
Una volta che viene rilasciato sul mercato un algoritmo continua evolversi quindi anche se io lo certificò oggi vi dicessi dal punto di vista etico è perfetto funziona benissimo partono lui comincia a interagire
Acquisisce nuovi dati quei dati portano con sé
Nuovi pregiudizi e questi pregiudizi vengono amplificati dalla macchina
Quindi è un controllo che dovrebbe essere continuano da parte di chi lo produce ma anche poi da parte di chi lo utilizza poter dire veramente io ti do il consenso perché so cosa sto facendo sto cosa usare gustosa sposando
è veramente complesse quindi è un po'una domanda sospesa questa proprio che che mi era rimasta un po'come suggestione anche dai vari temi trattati pattinatrice grazie
Decisamente di più di etica il jazz dei generi
Perché questo è esattamente il problema la questione dei buy Hassan mentre essa molto perché diciamo del bias quindi è un il devo toglierli di mezzo stima cioè nasce il bias nell'ambito della giustamente della statistica è una parola che riguarda la il campione statistico c'è il campione statistico effettivamente estratto casualmente allora potrà rappresentare l'universo se invece non è estratto casualmente ma in modo per qualche maniera distorto si evince che a un bar contiene un bias
E questi dati non sono estratti casualmente
Mai sono tanti ma non sono estratti casualmente e non sono mai tutti i dati possibili
Quindi c'è sempre un buy ex
E ci sono Baires molto pericolosi bias molto poco pericoloso quelli che riguardano le macchine che parlano con le macchine per sapere se una macchina ha bisogno di manutenzione in maniera predittiva
Nessuno se li mette troppo a a a preoccuparsene una quando riguardano il di persone effettivamente c'è da domandarsi se non ci sono una serie di storie pazzesche sul sulle discriminazioni poiché razziali o a altro che vengono fuori quando questi bias diventano supporto a decisioni scomode e che quindi reggente delega volentieri perché dice ha detto l'algoritmo
E sono a posto si scoprono poi questi Paesi e quindi le ingiustizie che chi ha fatto così
Pensando desse più obiettivo invece amplificato giustamente la questione del del dei pregiudizi
Ora con tirante curiosità e Rampello di tremore mi domando come va a finire sottotitolo insomma governa l'algoritmo è un imperativo è una osservazione che
Un titolo ambivalente come ambivalente la realtà nella quale ci troviamo
Che dovremmo portare a un risultato diverso da quello della parabola che incombe su tutta questa vicenda che è la parabola di Odissea nello spazio
Di cui a cui prima accennavo
Che parte non lo dimenticate da qui l'immagine stupenda del nostro bisnonno che brandisce rosso
Percependo che questo è un può essere uno
Strumento che aumenterà la sua capacità di governare la realtà che ha intorno
E che è l'inizio della Storia della civiltà umana che è venuta producendo via via nuove macchine nuove tecnologie
Che hanno migliorato la nostra capacità di governare la realtà circostante
Anche quando ci hanno sostituito
Perché ci hanno sostituito in mansioni tendenzialmente fisiche sgomberando le nostre capacità principali quelle interdetti
Rese più o utilizzabili peraltro no quindi dalla dalla forza muscolare al vapore dal vapore all'elettricità molti esseri umani hanno potuto dedicarsi ad altro
Oddio i carcerati poveretti che già hanno smesso di remare non so esattamente cosa di meglio l'hanno fatto ma di sicuro hanno fatto meno fatica probabilmente a vivere del loro difficili vite già
E già questo è un risultato
Finché arriverà questa astronave
Che un computer impazzito porterà nello spazio a una deriva senza fine non arriverà dove l'uomo la voleva destinare
Mi piace ricordare questa parabola perché più volte utilizzata dagli apocalittici per dimostrare che ciò che stiamo facendo ci sporchiamo dritti ad una fine del mondo da noi stessi provocata in realtà se non tra novanta secondi trecentoventi se quindi tale da evocare una reazione luddista che porti a rompere tutti questi computer Rea tornare a prima
E questo è proprio sbagliato anche perché la fine di Odissea nello spazio
è soltanto la fine di un malfunzionamento di una macchina che abbiamo già sperimentato più volte a in
Ci sono stati più dichiara balzo e anche alcuni Boehringer
Che avendo una tecnologia mal congegnata hanno finito per precipitare perché i piloti non erano più in grado boeing soltanto la
La anima europea reagisce all'idea che l'utero bass possano questi gli americani Baring semmai vero
Bonino ha avuto questo problema pronto
E quella è stata proprio Odissea nello spazio perché loro non riuscivano più a controllarlo e il gadget elettronico portava dritto verso del in una rotta che andava in a
Quando insomma
Non è affatto necessario che sia così
Ed è sbagliato vedere tutto quello che questa tecnologia ci ha dato appunto come un qualcosa che ci abbia ridotto ci possono ridurre sbagliato i benefici sono stati straordinari e possono essere assolutamente straordinari sia per la parte più tradizionale e quella dell'off-shore insomma io ho vissuto quando stavo al Sant'Anna di Pisa
Il lavorìo Sunna robotica che non solo ricostruiva la mano artificiale ma creava in questi ragazzoni robotici
Ecco capaci di rimuovere detriti di una pesantezza tale da essere nonché l'immobilità uno-due persone
E quindi in luoghi dove c'è stato un disastro
Dove non può arrivare la macchina con la sua forza
Arriva con la dimensione di un umano e anche meno un aggeggio su cui è stata calibrata una forza che gli permette di estrarre Pietroni
E magari liberare una persona che lì sotto che altrimenti col tempo necessario con altri mezzi sarebbe morto e compra per dare un esempio
Di questa straordinaria utilità e io lo racconto sempre
Ecco mi colpiva ma che diceva sono vecchie abbastanza da ricordare che ci quindici anni fa io ecco avrei avuto motivo di reagire male davanti ad una cosa simile io sono vecchio abbastanza intenti del nostro lei non c'era ancora non c'era ancora neanch'io nella legalità però i miei ricordi vanno molto più indietro e appunto l'allora
Si schiera il sagrato forse o anche di più
Quando era presidente dell'ordine dei medici italiani Parodi Ligure che fu grande personaggio della medicina e della politica dell'Italia di molti anni fa vedete
E come quando al secondo anno di università parlavo di Garibaldi e non ero sicuro che capissero bianchi stavo faccio una
E lui mi diceva assai o ora noi saremo in grado di raccogliere in un'unica banca dati con questi computer e che non c'erano ancora quelle bestie norme alla Olivetti non
Tutte le diagnosi
Che esistono al mondo in relazione a determinati sintomi per cui ogni medico
Indicando i sintomi potrà a vere le diagnosi a cui quei sintomi si prestano ti rendi conto che
Quello che oggi ben di più di quello che oggi si accumula con trent'anni d'esperienza no aveva ragione
Per cui noi vecchi abbiamo sempre preferito il vecchio medico al giovane perché il vecchio medico ha esperienza al giovane non l'ha ancora anche il giovane questa esperienza ad acquistare
L'acquista dalla dalla macchina
I tale diagnosi eccetera quindi insomma sono
Bon asta Bona però però te prima che ancora si sposino sta io spiegarmi le ragioni per cui divorzieranno prima aspetta sta tranquilla spetta a farmi sposare
Allora grande beneficio a noi e in tanti altri settori è inutile dirlo
Detto questo i problemi che oggi segnaliamo e sono quelli io coincidono pressoché interamente perché ciò lavorato insieme Laura
Su queste cose sono fondamentalmente due sono venuti fuori stasera
Il primo è questo del Bayer su
Perché i dati sono quelli che qualche essere umano gli ha infilato dentro
Senza elementi valutativi per cui si danno dei casi li ricordava Luís prima
Negli Stati Uniti
C'è la banca dati che si usava per valutare se un arrestato va tenuto in carcerazione preventiva oppure restare libero
Questa banca dati ha dentro una stragrande maggioranza di neri per la semplice ragione che per mille ragioni capita più spesso ai neri che non ai bianchi di finire nei guai
E sì e poi cadono nelle mani di poliziotti bianchi o neri che siano i poliziotti problema pare diventi anche più grave fatto sta idee che quindi la reazione naturale dell'algoritmo
Di vedere nel nero uno più predisposto a ripetere il reato di un altro
E quindi se tu segui l'algoritmo così come e commette lo dice
Tutto prima di metter dentro un bianco ci pensi quattro volte il nero metti tranquillamente dentro perché te l'ha detto l'algoritmo
Nella medicina anche questo è stato notato quasi tutti i dati sono raccolti su bianchi maschi
Io lessi tempo fa un articolo nel cui titolo c'era scritto era sul New York Times che vi sono dei pazienti che hanno il clitoride
Ma questo alle algoritmo non risulta e quindi ed è possibile che questa cosa Inter agisca con altre creando situazioni cliniche diverso da quelle
In cui la conformazione è diverso da
Ecco questo è un problema serio ora una domanda che io avevo per Elena
Ma nelle ore e nei di porno un diritto
Non c'è anche la capacità
Di allargare da solo la Rete dei dati che se ci sono Circe ci sono
Anche se nessuno me ne ha messi dentro io li vado a trovare
Io che tra sempre l'esempio che tu hai fatto nella traduzione io che traduco avvalendomi dei Patriots che trovo in ciò che sta scritto
Probabilmente ho la possibilità di io algoritmo di guardare non dati che mi hanno messo dentro ma i dati che sono in giro nella Rete
Allora bene o male il clitoride sharing rette allora io posso corre ecco perché se c'è una capacità di autocorrezione dei bikers
Beh quesito rende per me molto più affidabile perché io onestamente mi fido di più dell'autocorrezione che della correzione umana perché
Ogni umano ha nella sua testa il bias e e quindi
Ecco questa
Io ora finisco per che voglio che tu abbia il tempo di di rispondere a me o anche ad altri questo è il primo problema
Cioè se non ci liberiamo dal bias appunto e qui è il punto dove tu hai ragione
Poi il medico che si fida
Ma in ogni caso appunto io sostengo che tutte le volte che sostitutivo non di forza fisica ma di decisione intellettuale nonno dovrebbe essere
E che la decisione
Sulla base di questo corredo informativo dovrebbe essere sempre adottata dal cervello umano per una ragione molto semplice e qui mi verrà Elena se sbaglio
Perché il gap localmente potrà essere di più quanto vuoi e un wide quanto vuoi ma costruito su ciò che c'è nel passato
Sullo ieri
Gli manca il futuro
Gli manca la intuizione creativa di che cosa di diverso ci può essere nel caso che ho davanti rispetto ai milioni di casi assunti come precedente
Che mi vengono esposti come è quindi presto rientra in questa categoria dei cd così
Insomma
E e qui mai aperto il cuore dicendo comunicazione non intelligenza
Ma perché caccino deve mai decidere questo qua che mi ha solo comunicato che cosa è successo non è intelligente come me che dispongo di quesito per migliorare la mia capacità di decidere insomma le
Quello che chiamiamo l'intelligenza umana
Ha dentro di sé un'attualità
Che mi ricordo in uno scritto su Cavour Luciano Cafagna attribuiva alla politica
Lui diceva alla politica quando è vera e diffidate dalle imitazioni
Perché vi sono tanti che mancano di questa qualità pretendono di esercitarla il disastro è pressoché sicuro
Ma nel caso di Cavour la politica dimostrava la propria qualità
E la sua qualità e quella di riuscire
A derivare dagli addendi un numero superiore alla loro somma
Ecco quindi la creatività ti permette di metterci qualcosa di più di quello che scheggia ce e fra l'altro la scienza va avanti così
Perché sei scienziati fossero stati solo gli algoritmi forse la il sole continuerebbe a girare intorno alla terra perché ad un certo momento
E Galileo che dice ma insomma questi dati mi suggeriscono una cosa nuova e anche quello che serve capo Lamela in testa
Poteva attribuire questa mela le ragioni più diverso è già stabilite da tutti gli algoritmi dell'epoca invece dice non è che magari c'è la forza di gravità ora non era così semplice scocca ma cioè e e e il mio punto principale questo qua non può decidere l'algoritmo perché ogni caso può avere in sé un elemento che provoca una decisione nuova che non cede
Che non ce ne fossero anche migliaia i casi e allora il giudice
Deve essere in grado di vedere nel suo imputato una persona di terza da tutte le altre che magari è in grado di
Migliorare cosa che gli altri non erano in grado di fare
Insomma è l'esempio che io faccio sempre per destare orrore in chi mi ascolta
C'è un algoritmo
Che ha classificato tutte le espressioni facciali degli immigrati che si presentano alle nostre frontiere europee
Sostenendo di a vere ragioni di asilo politico il che assicura comunque loro un trattamento diverso
E il primo a a a a valutare li è è quello che si trovano davanti competente ufficio di polizia eccetera fece largo ritmo
Che ha stabilito che certe facce sono le facce dei bugiardi
Altre espressioni sono le espressioni di chi dice la verità quindi essere tutti dentro Villetti chiedono Marley vuole lo status a ragioni per avere l'asilo politico
E tu dici dissi ma ti viene una faccia come quella di chi è classificato come bugiarde ma non racconti balle e Viani immediatamente ecco no
Ecco qui deve decidere e e concludo
Questo è un punto importante per chi i giuristi lo capiscono
è bene che ci siano regole ed è bene che ci sia questo Regolamento molto più chiaro delle bozze sulle situazioni ad alto rischio
In cui vi siano proprio delle regole esplicite che impongono di decidere e non di affidarsi perché attenzione se non è chiaro questo nessun medico oserà discostarsi da quello che dice l'algoritmo e poi magari va male il paziente
Perché rischia di essere ritenuto responsabile di malasanità perché anziché dar retta da algoritmo ha dato retta al proprio intuito
E invece ha fatto bene a dar retta al proprio in Twitter non seguire l'algoritmo ecco questo è un punto fondamentale
Noi abbiamo da difenderci da queste situazioni
Ma attenzione non ci dobbiamo difendere dalla tecnologia che ci ha portato a questo punto in fondo CIPE comunica alla nostra intelligenza qualcosa che sta a noi utilizzare ora
Risponde
Prova a rispondere a una minima parte degli stimoli che sono venuti perché potevo già scaduta nel questi nessuno complessa però
Dicendo voterà prima di rispondere
No non è vero è vero
Pratico e vediamo un po'le questioni generali sa in una prima osservazione che non posso evitare di far sentire tutti questi tre Stati contributiva può arrivo alla questione insomma
Mi fa piacere che dal mio punto di vista Baia stazione dal mio dal mio prospettiva che era il tema abbiam parlato per niente di quella che di solito è la questione che sorge sempre con simpatia di intelligenza artificiale
Lì ma che sta diventando detergenti nove la competizione fra lo delle macchine e così via perché tutti gli esempi che abbiamo fatto non tengono conto di questo insomma
Non la si è mai chiesto la macchina vorrà deciderà sull'alcova fare insomma come dire fa il dell'esempio di oggi si prevede una il del Boeing
Il problema non è più il profilo ed India di servire uno era che al due mila o come si chiamava
Voleva decide parte sta proprio insomma e il bottino qualitative protesto appropriato che il problema non è che l'algoritmo vuole autonomamente in rete la singolarità la macchina che diventa super intelligente volle sopra pubblico avrà il sopravvento pretese insomma
L'affrontare i problemi diversi voi che precipita allo stesso non perché vuole precipitare i problemi che deve affrontare come siamo sedotti tutte queste discussione solo il Bayes livello partita degli algoritmi insomma
Che su una questione che non ha niente a che vedere con una presunta competizione tra intelligenza umana e quella dei degli algoritmi
Poi sino ad acquisire da dove vengono queste cose giustamente è stato fatto osservazioni i dati insomma il PAI sta nei dati no perché diceva Laura giustamente le macchie sono baita che state costruite a qualcuno che torna alla sua prospettiva Condi poi pregiudizi e così via ma questo bene o male anche se avessimo degli dei programmatori che tengono conto in questa prospettiva non risolve il problema perché poi è quella che che aveva sollevato adesso insomma non è tanto il Bayer stelle del cioè in parte del programmatore che ha una sua prospettiva ma il vero problema come diceva che stia giustamente è che la macchina poi anche sulla fine un buy aspramente si nutre di tutti questi dati che trova sul web che sono a pieni di Weiss inevitabilmente per cui in questo modo
Come dire i programmatori per quanto sia eticamente attenti non riesca a controllare il pregiudizio delle macchine insomma
La questione dove li Maritati cos'era una come poi la la macchina estende la gamma dei dati che ha a disposizione
Queste lato interessati redditività del divide et interessante e come che cosa se non non c'è di occuparsi la macchina per il sopravvento abbia un mille queste di Plutarco pace questa questione preoccupanti interessate alquanto preoccupanti
In liquidità non semplicemente tanti dati selezionati da qualcuno invita non solo selezionati
La difesa fa l'uso dei dati la statistica stati facciamo di campioni Coppa dei Campioni seguendo certe procedure di avere contrasta famosa regola capace in Cambogia altri fare in modo che i dati siano puliti dimodoché sostanzierà fidati sentimenti a spazzatura tenda spazzatura
E quella campionamento si fa in modo di non aver sfasature decretati puliti corretti che garantiscono l'attendibilità dei risultati
Decidete o di Lotito non campioni tu prendi tutto quello che c'è non selezioni insomma e proprio costoro nella nella logica di queste cose ma i risultati poi lo dimostra insomma
Non è semplicemente una una esaltazione dei programmatori
In questo rumore questo questa fase UNESCO questa così ricchezza anche dei dati cioè la capacità di ottenere risultati che erano stati previsti in precedenza
Che vengono in Italia metà al passato ma non erano quello che il programmatore interni mente praterie Max un grado di utilizzare questa gamma di dati in un modo diciamo con tutte le il l'accortezza il caso creativo questi sempre nell'affrontare perché poi queste ma che lo fanno in un modo che come diceva diceva controllo by Design insomma
Le macchine possono essere la carta Stasi pare disavanzo si poteva cercare di rendere le macchine comprensibili però molte macchine sono efficacissima anche capo medio non sono poco comprensibili seduti ci diamo se la macchina poi nel modo che non è comprensibile
Non la vogliamo utilizzare ci proviamo a ci priviamo è una forma di luddismo ampliato alle macchine perché chi si prende responsabilità ittica come diceva anche Laura di decidere questa macchina che funziona benissimo per certi risultati
Ma non è controllabile non è compresi la rete in senso umana costa tredici e di utilizzarla infatti il li frena pareri adesso sta cedendo un'altra strada
Non sta cercando di cori dico mi raggiunge la trasparenza della macchina perché impossibile queste ma che se tu li vedi c'è un devi fare Burning diceva
L'obiettivo sarebbe né dalle macchine rendere queste macchine talmente come dire artificialmente stupida sufficienza quello possiamo comprendere che ha uno scopo com'è che non è un risultato in qualche modo plausibile insomma
Sta cercando di avverte nel nel spiega Valeria e delle procedure di controllo dei risultati della macchina che non dipende dal fatto che lo riconfermiamo
Dei controlli incrociati e teste di di vario tipo del Outis la cui proprio la cosa un altro coi poco trovati col processo algoritmo tutti retrocessi estremamente e lavorate stiramenti segno così che non presuppongono però che non possiamo dobbiamo necessariamente capire quello che su quello che succede
Che per noi come dire è una svolta in qualche modo epocale come atteggiamento
Prego Pubblico ai summit se posso scusate solo una
Per parlare anche a a rispondere anche da parte mia sul tema di come decidere cosa può decidere da macchine dove dobbiamo intervenire in effetti non abbiamo parlato di un tema importante che è quello del buonsenso umano
Ecco credo questo potrebbe essere discriminante nel senso che laddove ci sono decisioni che richiedono buonsenso noi oggi sappiamo che la macchina il buonsenso non c'era e non è in grado di averlo cioè l'esperimento di un artista
Divertente che prende un autobus da un tono ma e la chiude dentro un cerchio di linea
Continua e visto che la macchina imparato dal Codice della strada settari che continuano un po'Trust attraversarla nel momento in cui ci entra dopo non può mai più uscire perché la riga continua e non al buon senso di capire che a quel punto chiuso dentro un cerchio in realtà potrebbe uscire no
E ci dimostra come un sistema di questo tipo non al buonsenso per solo lo fa in modo anche simpatico ecco quindi credo forse il buonsenso potrebbe essere una di quelle capacità umane che oggi non è nella macchina e che può fare da discriminante su cosa può decidere da sola la macchina e cosa no ci son decisioni su quel buonsenso può non servire ci son decisioni in cui invece cruciale esso presente l'imputato nel caso del giudice
E questo sul tema bambini insomma raggruppando mi di educazione un po'cerco di capire anche quali sono gli effetti sul a anche sul modo di ragionare di questa nuova generazione che chiamammo nativi digitali
E io qui credo che ci siamo stiamo vedendo solo la superficie di quella che era alta ma grandissima rivoluzione antropologica quindi non ho risposta su cosa sia giusto cosa sia sbagliato ma certamente quello che già stiamo vedendo a che il nostro modo di ragionare cambia in base al fatto che utilizziamo questi strumenti
Il nostro modo di cercare una soluzione cambia non non troviamo subito risolverla Neumann prima cosa che pensa che il nostro cervello attivare le parti che ma non cercare on line la risposta
E già questo cioè figuriamoci adesso con appunto il tracciato botto o situazioni del genere quindi io da questo punto di vista sono anche curiosa ma ovviamente anche sia con Speak con spirito critico di vedere come il nostro cervello evolverà così come ha fatto nel passato con la scrittura o con altri grandissimi cambiamenti che hanno avuto a che fare con nostro modo di di pensare perché poi le cose sono collegate
Va be'la i ragazzi da usare di come diavolo si chiama
è una conseguenza quasi immediata è stata che in molte università americane hanno abbandonato il pretore sono tornate le all'esame orale io farei la stessa cosa con il buonsenso insomma scusa Laura
Fatto che ci siano i dati perché i dati non è che rappresentano noi cioè io sono di più dei miei dati della somma limitati quindi il dato sempre comunque parziale che spesso alla complessità della realtà
E e quindi già questo è è il primo buyers e quindi da qui in poi
Si procede d'accordissimo come diceva Cristina sul sul buon senso dire papà la comprensione del senso del significato che può avere solamente l'uomo perché come ci dicevi tu
Il la macchina elabora informazioni mette insieme corre l'accetterà ma non entra nel contenuto quindi non può comprendere il senso mentre l'uomo è consapevole di sé a che comprende il senso quindi si muoveranno su piani che sono completamente diversi
Prima di fare un'ultima domanda volevo osservare il fatto che
Sul buon senso c'è anche con un lato culturale cioè se c'è un buon senso americano c'è un consenso italiano Noemi io l'unica volta che sono andato su una macchina che si guidava da solo nella macchina americana mi trovavo invece sull'argine di un fiume italiano questa genera molto stretto
Però era due
Sensi di marcia
La macchina che si guidava da sola quando guidava da sola andava in mezzo a questo
Margine perché pensava che fosse impossibile
Che ci fosse una corsia così stretta e quindi si metteva in mezzo pensava che forse non so macchina strada americane si metteva in mezzo bella larga quindi quando arrivava una macchina dall'altra parte
Doveva prendere il volante guidatore rimetterla di lato
Il buonsenso è comunque anche quello culturale un domanda che volevo fare attuabili veri si ricollega a quello che ho detto all'inizio lo vorrei fare
Al Giuliano Amato lo avevo incontrato una volta sull'aereo che non lo può ricordare quando era era un problema e stava andando
No e standard e stavamo ed era edere capo dell'Antitrust italiana
In quel momento l'Antitrust europea si occupava della Microsoft diceva che la macro poteva essere
Accusata di avere costruito monopolio di aver abusato di una posizione dominante eccetera eccetera
Adesso
Io gli ho chiesto che cosa avrebbe fatto
Su questo argomento e lui naturalmente da anche per la sua posizione hanno detto
Meno male che non mi devo occupare o altro da fare grazie arrivederci allora fino adesso che lo inchiodò di fronte targate missione vorrei sapere cosa farebbe posto della Corte Suprema degli Stati Uniti visto che
Adesso ci stiamo domandando se
Queste piattaforme anche con il loro algoritmo hanno provocato dei disastri significativi nella consapevolezza nelle nell'immaginazione di delle persone che si sono fatte indurre a seguire largo ritmo persiste per esempio vedere
Le cose più sanguinose che il che eccessi possano vedere sulla Rete
E posso che abbiamo detto che alla fine la responsabilità è degli umani che e devono essere loro a decidere cosa fare di questo affidare all'algoritmo a none l'assoluzione ideale ma se questo è vero allora di quello che la gente vede nel sociale sia quando sono positivi e quindi siamo tutti felici sia quando sono
Fondamentalmente disastrosi
è colpa delle aziende o no se siamo FIAT creiamo una nuova adesso hanno non è colpa accerta chiede aziende questo si colloca in un tema più grande che è quello che è stato creato dal espansione eccessiva dell'algoritmo il quale
Ha diritto di voto in consiglio d'amministrazione vi sono dei consigli d'amministrazione nei quali
Ci sono dei voti che sono rappresentati in onda un essere umano manda un algoritmo che poi decide il suo voto
Allora chi ne risponde al mondo
Su è divertente leggere i saggi sulla personalità giuridica dell'algoritmo perché dimostra che il diritto può arrivare alla follia
Ma è evidente che o è di chi ha deciso di metterlo lì o è di chi lo ha fatto o e di tutte e due
Ma è impensabile che decisioni che sono imputate all'algoritmo
Non abbiano uno umano a cui e indirettamente si possa risalire e se questo verrà detto quello umano ci sarà un po'più attento dopo
Non c'è altra risposta
Io credo che sia abbia finito spero che questo convegno senza guidatore Trovato il vasto interesse grazie al precarie per aver organizzato