Siamo dove si trovava il mondo nel 1945

Non ho potuto partecipare di persona alla conferenza AI for Peace, perché l'apertura dell'Assemblea generale delle Nazioni Unite mi ha tenuto impegnato, ma desidero condividere ciò che a mio avviso è in gioco. Credo che oggi ci troviamo dove si trovava il mondo tra la fine del 1945 e l'inizio del 1946. È arrivata una tecnologia dal potere senza precedenti, che comprendiamo poco, e la diplomazia necessaria per contenerla è appena agli inizi.

Il parallelo con l'era nucleare

Dopo Hiroshima e Nagasaki, alle nazioni del mondo servirono circa vent'anni per iniziare a porre dei limiti all'era atomica. Nel 1946 gli Stati Uniti avanzarono proposte di controllo internazionale, ma Washington e Mosca esitarono, e nel 1949 la corsa agli armamenti era già in corso. Una vera governance cominciò solo con il Trattato del 1963 sulla messa al bando parziale degli esperimenti nucleari, dopo lo scampato pericolo della crisi dei missili di Cuba. Questa volta dobbiamo fare meglio. E affrontiamo questo momento in una fase di grande debolezza del multilateralismo. Gli Stati Uniti, che ospitano l'ONU, ebbero alla guida Franklin Roosevelt, e Eleanor Roosevelt fu la promotrice della Dichiarazione universale dei diritti umani. La leadership di oggi è molto diversa.

L'IA e la guerra

Nelle ultime settimane abbiamo visto emergere segnalazioni, da parte dei dirigenti delle aziende di IA avanzata, secondo cui i loro sistemi potrebbero sfuggire al loro controllo, con misure di sicurezza che non comprendiamo bene e che di certo non sono in vigore. Non è fantascienza. In un mondo interconnesso, un programma informatico può raggiungere sistemi d'arma, il monitoraggio nucleare e persino le decisioni di lancio, oltre alle infrastrutture da cui dipende la società, come quelle idriche. C'è chi domanda perché non si possa semplicemente staccare la spina, ma nel nostro mondo nulla può essere staccato. Mi preoccupa anche il modo in cui il presidente Trump liquida questi rischi, e la visione dell'IA come una gara per battere la Cina che non andrebbe rallentata. Mi aspetto che il tema emerga nell'incontro con il presidente Xi in questa settimana.

L'IA come strumento di pace

La stessa tecnologia può essere messa al servizio della diplomazia. Con alcuni colleghi sto esplorando come l'IA possa organizzare il patrimonio di conoscenze su un conflitto, migliorare la qualità dei negoziati e rafforzare istituzioni come il Consiglio di Sicurezza. Avendo assistito alle sue sedute, trovo inadeguato il livello della discussione, che somiglia più a un'arena politica che a un luogo dove si risolvono problemi. L'IA potrebbe anche sostenere il lavoro della Corte internazionale di giustizia e dei nostri sistemi di arbitrato, a servizio di mediazione, arbitrato, giudizio e deliberazione, che sono gli strumenti fondamentali della pace. Nel prossimo anno organizzeremo dei workshop su questo tema e invito altri a unirsi a noi.

L'IA e la politica

In pochissimo tempo l'IA ha cambiato la politica americana, in gran parte in peggio. Ha creato un piccolo gruppo di miliardari che possiede gran parte dei nostri social media e importanti testate giornalistiche, tra cui il Washington Post, e che quindi influenza ciò che vediamo e ciò che ascoltiamo. Questa classe è più ricca e più potente dei plutocrati della Gilded Age. È opaca, non gode della fiducia del popolo americano e alcuni dei suoi membri sono tra i principali finanziatori del presidente Trump.

La governance dell'IA

Secondo i plutocrati, l'IA dovrebbe governarsi da sola. Un ex alto consigliere del presidente ha dichiarato questo fine settimana che non serve alcuna regolamentazione e che le imprese provvederanno a tutto. Lo ritengo insostenibile. L'alternativa di un G2 tra Stati Uniti e Cina sarebbe meglio di niente, ma non è sufficiente, perché la corsa agli armamenti proseguirebbe accanto alla diplomazia. Gli Stati Uniti stanno militarizzando l'IA il più in fretta possibile. Abbiamo bisogno delle Nazioni Unite, l'unica istituzione con portata globale e legittimità, anche se dobbiamo ancora chiederci da dove verrà la sua capacità di agire e come dovrà essere organizzata. L'incontro previsto per maggio, insieme all'arrivo di un nuovo Segretario generale, ci offre l'occasione per una riflessione profonda e urgente.

L'etica e la tradizione morale

Voglio lodare la recente enciclica Magnifica Humanitas, straordinario documento di Papa Leone sull'intelligenza artificiale. Attinge alla dottrina sociale della Chiesa ma si rivolge a tutte le persone di buona volontà, credenti e non credenti. Parla della dignità umana e di come governare questa tecnologia perché non ci distrugga. Spero che diventi centrale nel nuovo programma dell'Università per la Pace.

IA, sostenibilità e disuguaglianza

L'IA può sostenere la modellizzazione climatica, lo sviluppo di farmaci e l'istruzione, e può essere alimentata da energia verde. Ma come la macchina a vapore, l'elettrificazione e l'informatica, è una tecnologia di uso generale. Aumenta la produttività, ma sposta anche lavoratori e lavoratrici dai loro impieghi e sposta reddito dal lavoro al capitale, aggravando la disuguaglianza. L'IA è sostenibile, dal punto di vista economico e ambientale? La mia risposta è sì e no. Entrambi i problemi si possono affrontare, perché non ci mancano né il potenziale delle energie rinnovabili né gli strumenti di politica economica, ma ci manca la politica. In definitiva è una scelta umana, ed è per questo che l'etica è la cosa più fondamentale.