L'algocrazia contro l'umanità

Alla due giorni di AI4Peace, Sergio Bellucci, filosofo politico e direttore del Dipartimento AI for Peace dell'Università per la Pace delle Nazioni Unite, ha proposto una lettura dell'enciclica "Magnifica Humanitas" di Papa Leone XIV che va controcorrente rispetto al modo in cui la Chiesa viene di solito percepita davanti alle grandi trasformazioni tecnologiche.

Un intervento senza precedenti

Il punto di partenza è storico. Non era mai accaduto, ha ricordato Bellucci, che la Chiesa Cattolica intervenisse "nel giudizio o nell'affrontare le conseguenze di una tecnologia" mentre questa era ancora in corso. Nemmeno quando la stampa a caratteri mobili produsse uno scisma: allora la Chiesa intervenne a valle, con l'indice dei libri proibiti, dicendo cosa si potesse leggere e cosa no. Questa volta l'enciclica interviene sulla natura stessa del cambiamento mentre è ancora in atto, ed è questo a segnalarne la gravità.

Da strumento a macchina, il punto di rottura

Il passaggio in corso, argomenta Bellucci, non è un semplice aggiustamento, ma la fine di un ciclo aperto due o tre secoli fa: quello in cui l'umanità è passata dall'uso di strumenti che moltiplicano la capacità della mano, alla costruzione di macchine che inglobano il sapere del lavoro umano trasformandolo in capitale fisso. L'intelligenza artificiale generativa porta a compimento questo processo, candidandosi a sostituire la quota di lavoro non più necessaria alla produzione. Come scrive Leone XIV (paragrafo 109) occorre "riconoscere il lavoro invisibile, spesso sfruttato, che alimenta i modelli algoritmici" e "interrogare le geografie del potere che definiscono chi può addestrare i modelli e chi è solo oggetto di addestramento". Il paragrafo 150 aggiunge un avvertimento: i "nuovi modi" di lavorare non sono necessariamente migliori, perché l'IA rischia di costringere chi lavora ad adattarsi al ritmo delle macchine invece che il contrario, dequalificando le mansioni e sottoponendo i lavoratori a sorveglianza automatizzata. Da queste pagine nasce l'auspicio pontificio di un rinnovamento sindacale davanti alla disoccupazione tecnologica di massa, insieme alla messa in discussione del PIL come misura dello sviluppo, uno strumento vecchio di oltre ottant'anni.

La proprietà non è un diritto assoluto

Un secondo asse dell'intervento riguarda la proprietà. Il paragrafo 67 inserisce tra i beni "universalmente destinati a tutti" anche brevetti, algoritmi, piattaforme digitali, infrastrutture e dati, denunciando che la loro concentrazione in poche mani alimenta il divario tra chi partecipa alla rivoluzione digitale e chi ne resta ai margini. Su questa base l'enciclica riafferma un principio classico della dottrina sociale cristiana: il diritto di proprietà privata non è mai stato considerato assoluto o intoccabile, ma resta sempre subordinato alla destinazione universale dei beni. Un'affermazione che meriterebbe di entrare tale e quale nel programma di qualunque forza politica.

Nessun algoritmo rende la guerra accettabile

Il terzo tema toccato è quello della guerra algoritmica. Al capitolo quinto, l'enciclica scrive che "non esiste algoritmo che possa rendere la guerra moralmente accettabile" e che l'IA "non sottrae il conflitto alla sua intrinseca disumanità", potendo solo renderlo più rapido e impersonale, con le vittime ridotte a dati. Bellucci lega questo passaggio in particolare alla guerra condotta tramite droni, che separa la presenza fisica di chi uccide dal campo di battaglia, rendendo l'atto moralmente meno percepibile a chi lo compie.

Algocrazia, un potere che non comanda ma configura

Richiamando il ciclo delle forme di governo descritto da Polibio, in cui la democrazia degenera in oligarchia quando le istituzioni smettono di cercare il bene comune per cercare il bene di una parte, Bellucci propone il termine "algocrazia": un potere che seleziona gruppi e li fa diventare maggioranza attraverso le forme istituzionali, escludendo chi resta minoranza. A differenza della burocrazia, questo potere non piega e non minaccia apertamente: configura, orienta, costruisce un paesaggio abitabile che però non ha più un esterno. Non esiste più un Robin Hood possibile per chi resta fuori dal sistema: o si è dentro, o semplicemente non si esiste. Ciò che nella Silicon Valley si chiama "code is law", il codice informatico che si sostituisce alla legge, sarebbe la sintassi concreta di questo nuovo potere.

Su questo terreno, con l'enciclica, Papa Leone XIV ha aperto una richiesta di confronto internazionale che travalica i confini della fede e si rivolge non ai credenti ma all'umanità intera.