Puntini sull'AI - AI e guerra: l'Intelligenza Artificiale come arma invisibile dei conflitti moderni

Tra le sue innumerevoli applicazioni l'intelligenza artificiale sta ridisegnando anche le strategie militari geopolitiche su scala globale introducendo nuove capacità ma anche nuovi rischi e sfide etiche droni autonomi analisi predittiva cyber sicurezza e propaganda digitale sono solo alcuni degli usi e degli effetti di questa rivoluzione
Il conflitto in Ucraina si è rivelato un vero e proprio laboratorio per l'applicazione degli IAS in ambito bellico e accelerato lo sviluppo e l'adozione di queste tecnologie
Allo stesso modo anche il conflitto in Medioriente in particolare tra Israele e Hamas avviso impiego crescente di sistemi di a per la difesa aerea la sorveglianza e la gestione delle informazioni strategiche
Evidenziando come queste innovazioni siano modificando profondamente la conduzione delle operazioni militari
Questa trasformazione non riguarda solo gli esperti militari o i policy maker ma un impatto diretto sulla sicurezza nazionale e sulla privacy dei cittadini e sul futuro stesso dei conflitti armati
In questa puntata cerchiamo di comprendere meglio gli impatti degli anni conflitti e nelle strategie di difesa e di attacco
Ciao io sono Marco Cerrone e vi do il benvenuto a una nuova puntata di puntini su RAI la rubrica di radio radicale che di cui dalla scoperta dell'intelligenza artificiale un punto alla volta
Per mettere alcuni puntini sulla i su questo tema abbiamo con lui Carola Frediani giornalista e scrittrice spetta di serve sicurezza paralisi diritti digitali
Dopo anni in cui ha lavorato come giornalista professionista dal due mila diciotto ha iniziato a lavorare nell'ambito cyber per aziende e organizzazioni internazionali
Prima Iuc si oppone il team di sicurezza globale di Amnesty International
Attualmente e info secca Technologies sta a Human Rights Watch e autrice di diversi libri tra cui guerre diritte e Saber traino oltre essere cofondatrice del progetto editoriale indipendente guerre diritte punto i t
Nel due mila ventiquattro ha lanciato in partecipo con il centro di digital Ethics dell'Università di Bologna la newsletter digital con Fix
Nella quale si parla di cultura digitale e ai sedersi più riti e diritti digitali innanzitutto grazie a Carola Frediani per la sua partecipazione il suo contributo grazie a te
Un primo puntino sulla i che vorrei affrontare con te è legato all'inquadramento da un punto di vista tecnologico poiché anche se l'utilizzo di tecnologie digitali e in particolare dell'intelligenza artificiale non sono una novità nei contesti di attacco e di difesa
Lo scorso anno in realtà abbiamo visto è assistito ad uno sviluppo sempre più avanzato e più esteso d'Elia nel settore militare
Dai droni autonomia ai sistemi avanzati di comando e controllo anche nell'ambito della cyber sicurezza
Prima di addentrarci sulle questioni etiche e i rischi di queste tecnologie
Può esserci a comprendere meglio come sta cambiando concretamente la natura delle operazioni militari con l'introduzione dell'intelligenza
Artificiale fornendoci anche qualche esempio specifico concreto di come queste tecnologie vengono impiegate sia nell'attacco che nella difesa
Sì sicuramente purtroppo con le due guerre che abbiamo visto in questi ultimi anni cioè la guerra in Ucraina Aquara il Medioriente ne abbiamo visto una un balzo in avanti nell'applicazione di queste pagine sul campo
Ovviamente queste applicazioni sono a hanno a che fare con l'ambito di Intelligence quindi di raccolta analisi da
E previsioni capacità predittiva e di per fare tutta la sedicente su quel torniamo alla che fare con lo sviluppo e la il potenziamento dei sistemi d'arma
E con la il tema disinformazione creazione potenziamento di campagna di disinformazione a sua volta individuazione di queste campagne quindi contro contrasto a alla disinformazione questo aquile gli ambiti principali diciamo che ha da questo punto di vista è la guerra in Ucraina quella che mostra tutta una serie di esempi addirittura è stata definita forse in modo un po'altisonante però è stata definita la prima guerra e Here I cioè la prima guerra dove c'è un ampio uso di diversi sistemi che integrano
Sì se l'intelligenza artificiale tu citavi prima giustamente l'ampio uso di di troni che sa che perché fatto diciamo che è stato fatto che continua a essere fatto sulla nella nello scenario bellico i gli ucraini questo momento sia da parte ucraina ma anche da parte russa droni ma anche sistemi che e hanno a che fare con veicoli diciamo a terra o e poi sistemi disegno di riconoscimento facciale ai checkpoint o applicati in altri ambiti tutta la gestione delle delle infrastrutture critiche
E soprattutto l'analisi diversità atti per poi i determinare in modo più veloce diciamo efficiente anche in via obiettivi da colpire cioè fondamentalmente c'è un'integrazione sempre maggiore dei dati che provengono dei droni i dati che provengono dai immagini satellitari dai dai social media
Da database delicati già attirati io che sono finiti on line e via dicendo una grande massa di informazioni che viene analizzata per poi prendere delle decisioni operative anche nel look che hanno a che fare proprio con scelte anche di allora se a che fare anche con diciamo sistemi di Artiglieria dove andare a colpire come cosa in che momento quindi c'è un'integrazione tra l'altro pubblico-privato in particolare c'è una forte spinta anche dei dei dei privati
E questo deriva anche dal fatto che l'Ucraina era un paese diciamo molto sviluppata dall'Unindustria sull'utente
Ai Teen molto sviluppata
E e e quindi su questa poi costruito tornasse dei sistemi di acceleratori
Tecnologici di start-up che hanno cercato di ridurre il più possibile i tempi di sviluppo e di applicazione di nuove tecnologie di questo tipo alla alla diciamo al campo di battaglia
E poi c'è stato anche l'intervento di aziende anche in grossi colossi internazionali americani che sono sullo sono intervenuti a a dare man forte all'ucraino una serie di ambiti pensiamo ad esempio americana paganti nel che diciamo si occupa di analisi di Intelligence dei dati per poi appunto di come dicevo prendere decisioni
E e via dicendo quindi questa forte integrazione pubblico privato lo sviluppo del nuovo condusse autoctona di questo tipo basti pensare che locale in questo momento ci sono circa duecentoquaranta duecentocinquanta zingari sta sta di di start-up di intelligenza artificiale e quindi
Tutto questo ha portato a un balzo in avanti come dicevo prima delle applicazioni sul campo che integrano sistemi di intelligenza artificiale
I solleciti molto interessante anche perché spesso utilizzato questa analogia del ormai non esiste più lo sa la mossa nel senso che estesa anche in ambito privato adesso cioè la possibilità di sviluppare e aprire tra l'altro a disponibilità a disposizione veramente tantissimi tantissimi
Soldi per poter implementare soluzioni molto avanzate che fanno dico neanche da competitore rispetto a quelli che sono i Budget dei singoli Stati ma sicuramente possono aiutare molto l'innovazione in questo campo spostandoci però sul versante delle criticità
Quali sono i fattori etici a Torviscosa tenere in considerazione quali sono i rischi per la tutela dei diritti umani e civili delle popolazioni coinvolte
In questo tipo di conflitti nel campo di battaglia diciamo sia digitale che analogico
Sì le questioni etiche ovviamente sono enormi nel senso che insomma tutti questi sistemi ne abbiamo visto anche appunto l'uso di sistemi per automatizzare il prendere decisioni autonomia o parzialmente un tono Menga individuare proprio con il target da colpire e quando il target a colpire è un umano
E si capisce che qua si entra il territorio molto pericoloso questo su quindi questo tipo di sistema ad esempio si è parlato di più
Nella nella guerra nella Striscia di Gaza dove Israele in seguito una serie di inchieste giornalistiche venuto fuori che somma Israele utilizza questo sistema soprannominato la rende che appunto aiuta individua in modo usato Tura Series ma un sistema di degenza attrice avete individuare persone sospetti militanti in quel caso di ammasso di altri gruppi armati
Da colpire questa portato si è visto a un aumento nella diciamo a una moltiplicazione anche dei dei bombardamenti e via dicendo quindi quei questo quindi mosso tutta una serie di questioni etiche la prima è il rischio che questi sistemi possano appunto fare avere un effetto moltiplicatore anche in nei cosiddetti danni collaterali chiamiamoli così no c'è quindi aumentare ancora di più un effetto distruttivo e colpire anche persone che innocenti l'altra questione che la questione del controllo e della responsabilità umana nel momento in cui si decide di utilizzare un sistema del genere va detto che in quei in quel caso del sistema che citavo e la posizione di Israele ITC sia al controllo umano no
Dopodiché è chiaro che la direzione e il rischio in cui si sta andando in questo controllo umano sia sempre più limitato quindi questo apre una serie questioni appunto sulla controllo di quello che viene effettivamente fatto sulla anche l'accountability come sedici inglese cioè alla fine chi è responsabile di quello che viene fatto e un'altra questione quella dell'opacità
Di di questi sistemi cioè vengono utilizzati per ottenere dei risultati militari ma questa questione dell'opacità diciamo esistenti licenza artificiale
Una questione che noi abbiamo già in ambito civile
E che viene ulteriormente esacerbata in ambito militare perché sì già abbiamo poca trasparenza dei modelli l'intelligenza artificiale che vengono utilizzati a livello commerciale e possiamo immaginare
La trasparenza e a la capacità di avere accesso dati e capire come come funziona un sistema effettivamente
E quali sono le conseguenze dell'uso di quel sistema ecco capire tutto questo diventa veramente difficile per la società civile stampa anche la politica in senso più ampio quindi
Pone moltissime moltissime questioni etiche e politiche per l'utilizzo di questi sistemi
è come detto come dicevi l'automazione di queste decisioni militari che poi in realtà al di là dell'ambito militare è proprio questo uno degli delle caratteristiche fondamentali in un certo senso dell'intelligenza artificiale sarà la possibilità di decidere o comunque di dare un certo tipo di auto putto e che necessità in generale in quasi contesto di controllo umano però questo solleva appunto delle questioni molto rilevanti soprattutto legate a i conflitti e considerando che lei Act il recente Regolamento europeo o sull'intelligenza artificiale non include tra i sistemi vietati quelli destinati a utilizzi militari
Ci sono dei protocolli e quali sono eventualmente utilizzati per garantire che ci sia un controllo umano al di là delle dichiarazioni di chi le utilizza dell'intelligenza artificiale mi conflitti e quali secondo te potrebbero essere degli strumenti di governance anche internazionale che potrebbero regolamentarlo lo sviluppo
Prima di darti la parola però faccio ascoltare atti anche a chi ci segue cosa ci ha risposto il nuovissimo modello cinese
Di intelligenza artificiale ditta sì crea versione tre e in modo tale da verificare un po'le le due opinioni
L'automazione delle decisioni militari tramite via solleva questioni cruciali su responsabilità e controllo umano
Attualmente protocolli come il controllo umano significativo M. HC garantiscono che gli esseri umani mantengano la responsabilità finale anche in sistemi avanzati come le armi autonome letali
Linee guida etiche nazionali ad esempio negli USA e nell'UE promuovono un uso responsabile del Lia nella difesa con processi di verifica e validazione umana
A livello internazionale il diritto internazionale umanitario fornisce un quadro normativo mentre forum come l'ONU e il gruppo di esperti governativi sulle armi autonome letali facilitano dialoghi multilaterali per prevenire una corsa agli armamenti
Iniziative volontarie come la dichiarazione di Parigi e la cooperazione tecnologica attraverso organizzazioni come l'ISO cercano di stabilire standard comuni
Tuttavia persistono sfide
Mancanza di consenso sul controllo umano difficoltà di monitoraggio il rischio di una corsa agli armamenti
Per il futuro sarà essenziale rafforzare la cooperazione internazionale promuovere trasparenza e sviluppare norme vincolanti che bilancino innovazione in sicurezza integrando principi etici e diritti umani nello sviluppo del Lia militare
Ecco questo è diciamo la risposta automatica che c'è stato dato non abbiamo fatto nessun tipo di di intervento né io fatto verifiche su questi argomenti però quindi chiedo a te cosa ne pensi anche rispondendo alla domanda
Ma da me è andata abbastanza bene nella risposta e il problema è che è stata un po'troppo diplomatico un po'troppo riusciamo forse ottimista nel senso che è vero si applica la legge umanitaria internazionale ma non sufficiente i vi
Ero qui c'è un dibattito da anni un dibattito e anzi un tavolo a livello ONU per proprio al su diciamo i sistemi di arma autonoma letali ieri l'inglese low cost
Che su cui in realtà non abbiamo neanche su questa Niang una definizione condivisa a livello internazionale di che cosa siano quindi già partiamo da questa difficoltà in più
Questo tavolo fa a che esiste da anni questo non fa molta fatica ad andare avanti a raggiungere degli obiettivi concreti principale di più concreto che viene richiesto da una serie di Paesi in realtà maggioritari
Proprio diciamo vietare l'uso di questi sistemi per diciamo colpire essere ultimi
Però su questo siamo ancora allontani fondamentalmente perché c'ha il merito di alcuni grandi Paesi e questi Paesi principalmente sono stati uniti Russia Israele e India
Quindi
è chiaro che non c'è un interesse politico da parte dei delle delle procure dei principali potenze militari in questo momento della voler limitare e regolamentare in modo netto
Questo questo ambito quindi c'è il rischio di una possibile corsa ai agli alle armi gli armamenti di questo tipo
C'è il rischio di una proliferazione di questi strumenti
E anche che in qualche modo vengano POIN diciamo più facilmente accettati in a livello di diciamo di discorso pubblico perché perché ovviamente tutto questo si inquadra in un discorso più ampio sulla tecnologia e sull'intelligenza artificiale in cui
Sì attribuisce a questi strumenti una sorta di infallibilità di veridicità di oggettività non sappiamo chiunque studi era presente l'intelligenza artificiale fa benissimo che ci sono ampi studi ricerche libri e via dicendo che parla non solo della questione
Aziende dei buy asserì dei pregiudizi che possono essere insomma e in qualche modo incorporati da questi sistemi ma anche dal cosiddetto rischio
Automation bias cioè il rischio di di fatto affidarsi ciecamente a dei sistemi proprio perché gli si riconosce una sorta di autorità
In materia e di non andare a a invece
Indagare criticamente o anche solo opporsi alla loro decisione come diciamo DC sovrumano perché appunto perché non conviene o perché si ritiene che che insomma non che la la loro decisione sia necessariamente corretta oggettiva con la migliore
Quindi il sicuramente in questo momento
Ci troviamo di fronte a a una sfida proprio perché abbiamo visto
Che mentre un po'di anni fa il tema ad esempio delle del dei killer Robots come venivano chiamati dalla campagna stavo killer Robots che già si poneva o punto anni fa la questione
Poteva sembrare essere forse più vicina a noi adesso abbiamo visto la incominciamo a vedere l'applicazione di alcune di queste tecnologie direttamente sul campo
E questo forse rischia di essere insomma rischia di entrare nell'uso e di convincere magari anche di entrare anche in questo ciclo in questo ai prendiamo investitori privati startupper aziende colossi Tec che comunque lavorano e fanno profitti anche in questo campo e ricordiamo anche l'importanza del settore privato anche in questo contesto militare
E quindi questo potrebbe rendere ancora più difficile l'obiettivo di mettere al bando
Questo tipo di armi spostandosi ora
Sul versante più politico della della questione secondo i dati del Sipri la spesa militare totale nei Paesi dell'Unione europea nel due mila ventitré era stata di trecentotredici miliardi di dollari
Circa un terzo di quella degli Stati Uniti e poco superiore rispetto a quello della Cina ora al di là degli aspetti economici la mancanza di un esercito comune ha un impatto sulle strategie condivise ma anche sull'efficienza delle tecnologie adoperati perché ovviamente poi ogni Paese va a fare un certo tipo di scelte di investimenti
In quest'ottica qui quale ruolo potrebbe giocare secondo te l'intelligenza artificiale nella costruzione di un'eventuale difesa digitale europea integrata
Ma dunque sicuramente
Tornando al caso dell'Ucraina di cui dicevamo prima li cosa abbiamo visto abbiamo visto un Paese che riuscito
Attraverso elementi anche in di normazione tecnologici a rispondere piuttosto bene all'aggressione
Vieri di un Paese è molto più
Grosso forte con maggiori risorse no
E questa Capri l'industria diciamo che l'ho visto in Ucraina in Ucraina è un'industria balzata anche di piccole
Medie impresa start-up che hanno che hanno fatto Rete con anche programmi governativi le vicende hanno trovato dei dei meccanismi di di lavoro e di produzione
Che le hanno rese molto diciamo efficaci quindi
Sono sono state in grado di scalare velocemente di di ottenere risultati voracemente quindi in questo per dire e anche pensando ad alcuni sviluppi che viviamo e l'esigenza artificiale non necessariamente bisogna pensare a costruire
Che ingigantire
Dei giganti industriali di giganti tecnologici forse potrebbe lavorare nel mettere a sistema delle capacità di appunto anche in modo più agile delle delle capacità di prese anche di dimensioni più piccole ma capaci di innovare capaci di essere di portare diciamo Moon
Della delle capacità delle competenze di metterle a frutto quindi forse quello che manca all'Europa è proprio la direzione strategica su questo che si lega all'idea e che si lega necessariamente la politica industriale no
Quindi forse l'Europa dovrebbe decidersi di avere una politica industriale pure forte sui temi tecnologici sulla questione della sovranità anche tecnologica dell'indipendenza tecnologica vero che è indietro
Questo non lo so ma non ci sono dubbi su questo ma non bisogna anche dare per persa diciamo questa
Questa sfida quindi numero non so se è una risposta alla domanda che era abbastanza difficile però
Penso sicuramente che l'Europa ne delle carte da giocarsi se si riesce a muovere in modo unitario e con una visione finché saranno i singoli stati da soli le loro start-up verranno assorbite da altri colossi
E non avremo un controllo sulle nostre infrastrutture critiche sulle nostre
Dovremo sempre ricorrere a qualche insomma moghul straniero
E quindi bisogna lavora aventi una capacità di visione sarà aumenta la capacità di visione anche diciamo di pianificazione nel dei prossimi dieci quindici vent'anni
Su questo infatti staremo a vedere se appunto tutti questi cambiamenti realtà potranno dare una spinta anche per quello che sta succedendo perché ovviamente si parla sempre di Stati Uniti Cignaroli realtà l'Europa
Ha bisogno come dicevi tu di di fare strada può darsi che questa situazione possa dare un po'fu fungere un po'da reagente quindi velocizzare un po'lei attività su questo fronte forse abbiamo il tempo per un'ultima domanda prima di passare al suggerimento che in ogni puntata lasciamo i nostri ascoltatori
Anche qui ci spostiamo invece su un altro aspetto perché l'intelligenza artificiale realtà sta trasformando anche un altro tra virgolette campo di battaglia cioè quello dell'informazione durante i propri conflitti
Mi affido diciamo la tua magistrale capacità di sintesi anche su temi così complessi
Per farci qualche esempio concreto di come viene utilizzata Aliaj in a temi di propaganda e di disinformazione in queste zone di conflitto
E quali potrebbero essere le contromisure per proteggersi sostanzialmente da questo tipo di un giudizio
Ma fino all'anno noi lo stiamo vedendo delle cose diciamo completamente a rivoluzionare rispetto al passato è va detto che ne avevamo già della della disinformazione e quando non era esplosa ancora lei ai generativa
Ovviamente lei Hai generativa permette di automatizzare tutta e rendere più veloci più semplice di tutta una serie di attività che vanno ad esempio dalla creazione di finte
Finti profili on line alla creazione di testi alla alla traduzione in localizzazioni in altre lingue
Quindi questo semplifica così come semplice gli attacchi di phishing ha semplifica anche diciamo la produzione di disinformazione e poi va be'ci tutto il tema dei X sei per quindi era il capo della messa in circolo di immagini video audio finti creati diciamo con intelligenza artificiale
Però hanno non stiamo vedendo ancora diciamo qualcosa che modifica e in modo strutturale è quello che abbiamo perché perché il punto è anche la distribuzione cioè non è solo la creazione di contenuti ma come vengono distribuiti e quindi e qua entrano in gioco delle piattaforme entrano in gioco i social media
E quello la diciamo il diciamo la Pia il il punto in cui alcune
Campagna di disinformazione malevola possono essere amplificate o possono essere spente sul nascere magari ricordo che in passato alcuni social media ad esempio lo stesso Facebook hanno lavorato tantissimo sull'individuare operazioni di influenza di Stati
In altri stati alle che consistevano nella frazione di profili finti nella nel nel farli muovere in modo coordinato ed ovviamente insomma in autentico bisognerà vedere se i conti dovranno investire in questo visto il nuovo trend da parte di società nidiata Twitter il ex Facebook e via dicendo che sembrano sempre più disimpegnati da questo punto di vista e indifferenti all'impatto sociale delle loro piattaforme e anche spalleggiato in questo caso ormai d'amministrazione americana
Prima di concludere come nelle altre puntate ti chiedo di suggerire alle ascoltatrice agli ascoltatori una risorsa per continuare ad approfondire i temi che abbiamo trattato in questa puntata allora io consiglio un po'Tercas
In inglese quindi spero che non sia
Si chiama tette want sei Valdes Technology non ci salverà
Del Morlupo del cast molto bello perché il suo Autore intervista ogni volta una uno scrittore è un giornalista un un pensatore
E e il punto diciamo il filo conduttore è un approccio molto critico
Molto progressista molto critico
Alla alla tecnologia al Sud nella società
Non è detto anche quando diciamo non è detto che diciamo uno possa sentirsi completamente in sintonia con con il punto di vista del re dell'Autore però alle conversazioni sia con questi invitati sono estremamente interessanti soprattutto un punto di vista che insomma non Donelli quello così dominante
In giro e quindi penso che sia amavo molto utile ogni tanto esporsi
A a un punto di vista insomma un po'più alternativo
Ne abbiamo bisogno soprattutto su questi temi ma sicuramente in generale
Io ti ringrazio tantissimo per aver condiviso le tue riflessioni la tua analisi su un tema di di estremo interesse i complessità e che ovviamente richiederà ulteriori approfondimenti e quindi anzitutto Grazia grazie a voi è stato Gasser
Sì volete riascoltare l'episodio o condivide lo potete trovarlo come sempre sul sito di Radio Radicale www radio radicale punto it e sulle principali piattaforme di od casta
Vi ricordo che potete scriverci appuntini sulla it chiocciola gmail punto Como per domande e commenti suggerimenti anche sulle prossime puntate intanto vi do appuntamento al prossimo episodio di puntini sulle i la rubrica di radio radicale che mi guida la scoperta dell'intelligenza artificiale un punto alla volta