“L’umanità si trova in un momento decisivo della propria storia. A oltre ottant’anni dall’inizio dell’era nucleare e alle soglie dell’era dell’intelligenza artificiale, siamo chiamati ad affrontare una sfida senza precedenti. Mai prima d’ora il progresso scientifico aveva offerto opportunità così straordinarie, creando al contempo rischi tanto profondi per il nostro futuro comune. Quando furono sviluppate le prime armi nucleari, il mondo ebbe l’opportunità di evitare una condizione permanente fondata sulla paura. Quell’occasione fu mancata e, da allora, l’umanità vive sull’orlo dell’annientamento nucleare”: così inizia il documento che ha concluso la ‘Global Nobel Laureates Assembly on Artificial Intelligence and Nuclear War’, svoltasi fino al 16 luglio tra Borgo ‘Laudato sì’, nelle Ville Pontificie di Castel Gandolfo, e il Campidoglio, proponendo un percorso condiviso per affrontare le sfide poste dall’intelligenza artificiale e dalla crescente instabilità internazionale.

Se da un lato l’intelligenza artificiale offre opportunità senza precedenti per la ricerca, la medicina, la tutela dell’ambiente e lo sviluppo umano, dall’altro il suo utilizzo incontrollato rischia di accentuare gli squilibri economici, concentrare il potere nelle mani di pochi soggetti e alimentare una nuova corsa agli armamenti: “Con l’intelligenza artificiale si presenta oggi un pericolo analogo. L’integrazione dell’IA nei sistemi nucleari riduce drasticamente il tempo disponibile per il giudizio umano durante una crisi, o addirittura lo sostituisce. Questa tecnologia modifica il contesto nel quale gli Stati dotati di armi nucleari competono tra loro”.

Nel preambolo sì è sottolineato il rischio competitivo tra potenze: “E’ probabile che l’IA provochi una perdita massiccia di posti di lavoro e accentui la competizione economica tra le potenze nucleari. Potenzia inoltre gli attacchi informatici, capaci di compromettere infrastrutture civili e strategiche essenziali, e rende possibile una nuova forma di guerra dell’informazione. La pace dipende da una realtà condivisa: senza fatti non può esserci verità; senza verità non può esserci fiducia; e senza fiducia non sono possibili il dialogo, la verifica e l’autolimitazione tra le nazioni”.

Il documento ha sottolineato il rischio di una trasformazione controllata da pochi: “Le capacità più avanzate dell’intelligenza artificiale, le risorse computazionali e le infrastrutture dei dati sono sempre più concentrate nelle mani di un numero ristretto di Paesi e di grandi imprese, generando profonde asimmetrie di potere e riducendo gli incentivi alla cooperazione. L’IA è una tecnologia destinata a produrre trasformazioni economiche, militari e sociali di vasta portata e si sta sviluppando con una rapidità senza precedenti nella storia umana”.

Quindi è necessario uno sviluppo necessario: “Gli sviluppatori di sistemi di intelligenza artificiale dovrebbero pubblicare in modo trasparente i principi che guidano il comportamento dei loro modelli ed essere ritenuti responsabili, anche sul piano giuridico, del rispetto di tali principi. L’intelligenza artificiale deve essere progettata e monitorata affinché operi in armonia con gli interessi dell’umanità, nel rispetto del diritto internazionale e dei diritti umani”.

Da qui la richiesta ad un uso responsabile: “La decisione finale di impiegare un’arma nucleare non deve mai essere affidata a un sistema automatizzato. Chiediamo l’adozione di un trattato internazionale che vieti l’integrazione irresponsabile dell’intelligenza artificiale nei sistemi di comando, controllo e lancio delle armi nucleari, garantendo che rimanga sempre un controllo umano effettivo e significativo”.

Quindi l’Intelligenza Artificiale non deve essere usata in maniera malevola: “Dobbiamo impedire l’uso malevolo dell’intelligenza artificiale nelle operazioni informatiche e negli attacchi contro le infrastrutture nucleari critiche. Gli Stati dotati di armamenti nucleari devono sottoporre i propri sistemi a verifiche di sicurezza (‘fail-safe review’) per ridurre la vulnerabilità delle loro forze nucleari rispetto a controlli o manipolazioni non autorizzati tramite IA.

Promuoviamo lo sviluppo e l’impiego responsabile dell’intelligenza artificiale per migliorare il benessere umano, accelerare il progresso scientifico e medico, proteggere l’ambiente, rafforzare la resilienza delle società e promuovere la pace, lo sviluppo sostenibile e il bene comune”.

Quindi dalla lettura dell’enciclica ‘Magnifica Humanitas’ la richiesta ai governi di un dialogo che favorisca una governance dell’Intelligenza Artificiale: “Invitiamo governi, imprese e organizzazioni internazionali a rendere possibile un rallentamento coordinato dello sviluppo delle forme più avanzate di intelligenza artificiale, istituendo meccanismi condivisi di verifica e solidi processi di valutazione, sia interni sia indipendenti.

Sosteniamo il Panel Scientifico Internazionale Indipendente delle Nazioni Unite sull’Intelligenza Artificiale e promuoviamo ogni altra iniziativa ispirata allo spirito della Magnifica Humanitas. Chiediamo che vengano ampliati la ricerca e il dialogo internazionale per individuare nuovi percorsi istituzionali verso una governance globale dell’intelligenza artificiale e per favorire, in futuro, l’attuazione di iniziative di governo globale in questo ambito”.

Da qui la richiesta che l’Intelligenza Artificiale diventi un ‘bene comune’ per i giovani: “Riconosciamo che le sfide che oggi affrontiamo saranno con ogni probabilità risolte dalla prossima generazione di leader. I giovani devono essere messi nelle condizioni di confrontarsi con le minacce rappresentate dalle armi nucleari, dall’intelligenza artificiale e da altri rischi potenzialmente catastrofici, attraverso l’educazione, il tutoraggio, la collaborazione tra generazioni e una partecipazione inclusiva che coinvolga tutte le regioni, le culture e le comunità”.

Un bene comune che diventi educativo: “Dobbiamo promuovere iniziative educative che sviluppino responsabilità etica, pensiero critico, alfabetizzazione mediatica e digitale, competenze nell’uso dell’intelligenza artificiale e una autentica cultura della pace. Riconosciamo inoltre che l’umanità è esposta a molteplici minacce interconnesse, le cui conseguenze indesiderate ricadono spesso su persone che non hanno alcun accesso né controllo sulle tecnologie che le generano.

Per questo chiediamo la creazione di un bene comune digitale (digital commons) che favorisca la raccolta e la condivisione dei dati necessari ad approfondire la conoscenza e sostenere azioni efficaci riguardo alle armi nucleari, all’intelligenza artificiale priva di adeguata governance e ad altre minacce esistenziali”.

Una richiesta per un disarmo nucleare: “Chiediamo l’avvio urgente di negoziati seri, continui e condotti in buona fede che conducano, entro un quadro concordato e con tempi definiti, all’eliminazione verificabile e irreversibile delle armi nucleari.

La comunità internazionale deve respingere la normalizzazione delle armi nucleari come strumenti permanenti di sicurezza e rafforzare le norme umanitarie e giuridiche sancite dal Trattato di non proliferazione delle armi nucleari (TNP) e dal Trattato sulla proibizione delle armi nucleari (TPNW)”.

Quindi il documento ha sottolineato la richiesta di ridurre gli arsenali: “Invitiamo gli Stati dotati di armamenti nucleari a fermare la nuova corsa agli armamenti e l’espansione dei propri arsenali, a riprendere i negoziati bilaterali e multilaterali sul controllo degli armamenti e sul disarmo e ad adempiere pienamente agli obblighi e agli impegni assunti in base al diritto internazionale.

Gli Stati dovrebbero perseguire misure verificabili di limitazione e riduzione degli arsenali; abbassare i livelli di allerta; aumentare il tempo disponibile per le decisioni; abbandonare le dottrine basate sul lancio su allarme (‘launch-on-warning’) e sulla risposta immediata; ridurre il ruolo delle armi nucleari nelle strategie di sicurezza; rafforzare le comunicazioni di crisi; prevenire operazioni informatiche contro i sistemi di comando, controllo e comunicazione nucleari; e sviluppare forme di cooperazione volte a evitare incomprensioni, errori di valutazione ed escalation involontarie. Le nazioni dotate di armi nucleari devono promuovere politiche e dottrine che riducano progressivamente il ruolo di tali armamenti, rafforzino la stabilità strategica e diminuiscano il rischio del loro primo impiego e di una guerra dalle conseguenze catastrofiche”.

(Foto: Media Vaticani)