Albert e l'assistente pacifista

PeaceLink è nata nel 1991, alla fine della prima guerra del Golfo, ai tempi delle BBS. La scommessa era la "telematica per la pace": usare le reti digitali per collegare persone e associazioni del movimento ecopacifista. Da lì il nome. Trentacinque anni dopo la vocazione rimane la stessa: attivismo mediatico e online, campagne ambientali, disarmo nucleare, diritti digitali e open data, tutto grazie a volontari e aperto a chiunque voglia partecipare.

Strumenti AI generalisti e loro limiti

Il nostro rapporto iniziale con l'intelligenza artificiale generativa è stato esplorativo ed empirico. Abbiamo cominciato con ChatGPT, poi Google NotebookLM (oggi Gemini Notebook) e infine Open Notebook. Nel 2024, insieme a Pax Christi, abbiamo organizzato una serie di corsi di formazione sull’uso dell’intelligenza artificiale per la pace, rivolti a volontari, giornalisti ed educatori.

Ogni strumento ci ha insegnato qualcosa e al tempo stesso ci ha fatto prendere consapevolezza di alcuni limiti importanti:

• mancanza di specializzazione: un assistente generalista risponde su tutto, ma non è preciso su argomenti specifici di nostro interesse (ad es. testate nucleari, trasferimenti di armi o inquinamento industriale);

• gate impliciti: su certi conflitti o su alcuni argomenti spinosi i modelli commerciali producono risposte evasive, bilanciamenti artificiali o addirittura rifiuti;

• bias: i modelli sono addestrati su corpus in cui dominano le fonti occidentali e la narrazione pacifista rimane marginale;

• allucinazioni: sui temi di nicchia del movimento pacifista il modello colma i vuoti con inferenze statisticamente plausibili ma non verificate né veritiere;

• fonti non controllabili: le fonti utilizzate per arricchire il contenuto sono opache e spostano ulteriormente il bias.

Il giardino mentale

Ha preso così forma il desiderio di costruire qualcosa su misura, non solo in termini tecnici, ma anche di pratica metodologica. Abbiamo cominciato a ipotizzare come avrebbe potuto essere il nostro "giardino mentale”, prendendo a prestito un’immagine da un post di Matteo Roversi, ispirata da una frase della recente enciclica Magnifica Humanitas di Papa Leone XIV:

Le moderne intelligenze artificiali sono infatti più "coltivate” che "costruite” (M.H., 98)

Addestrare o affinare (fine-tuning) un modello esistente è fuori dalla portata di un'associazione di volontariato. Ma anche nella pratica di utilizzo di un modello già addestrato esistono degli spazi di trasformazione. Il comportamento di un modello viene orientato con la scelta delle fonti, la cura dei prompt e la potatura paziente dei risultati. Abbiamo quindi pensato di cambiare accuratamente ciò che il modello vede e il modo in cui viene interpellato, costruendo un’applicazione agentica che ci permettesse di controllare tutti i processi intermedi presenti nella gestione del contesto e nel suo arricchimento.

A differenza dei profili personali che le piattaforme commerciali offrono al singolo utente, questa personalizzazione può essere un lavoro collettivo sui prompt e sulle fonti compiuto da attivisti, che contribuiscono con le proprie competenze e con i propri valori. Un lavoro che somiglia più a quello di un giardiniere che a quello di un ingegnere, perché in ogni giardino servono più mani, tempo e competenza.

Più nel dettaglio, gli obiettivi che ci siamo posti sono stati i seguenti:

• orientare un LLM verso valori pacifisti;

• interrogare in linguaggio naturale il patrimonio di contenuti di PeaceLink;

• approfondire con collezioni documentali dedicate;

• arricchire le risposte con fonti esterne affidabili e coerenti con i nostri principi;

• integrare banche dati interne ed esterne;

• assistere nella scrittura dei contenuti;

• affinare il comportamento del sistema, capire come rispondono i diversi modelli e diventare progressivamente indipendenti.

Albert, il bollettino pacifista

Albert, avviato nel settembre 2024 e consultabile su www.peacelink.it/albert, è stato il nostro banco di prova. Albert nasce da una lacuna: il movimento pacifista mondiale non riesce a dare una visione complessiva di sé stesso. Ogni organizzazione produce materiali e calendari nei propri canali, spesso dentro piattaforme private i cui algoritmi premiano il coinvolgimento superficiale più che la qualità informativa. Si perde il filo che lega ciò che accade a Gaza a ciò che si discute in Parlamento sul riarmo, o le campagne di boicottaggio ai trattati sul controllo degli armamenti nucleari.

Albert prova a tenere insieme un quadro costantemente aggiornato delle crisi militari e geopolitiche e una panoramica mondiale dei movimenti per la pace e il disarmo. Vuole essere un bollettino ancorato ai fatti, non propagandistico. È pubblicato in quattro lingue (italiano, inglese, francese e spagnolo), perché gli LLM possono abbattere barriere linguistiche che il movimento, da solo, farebbe fatica a superare. Ogni edizione è rivista e approvata da un curatore umano prima della pubblicazione.

Il nostro assistente

Il software che abbiamo implementato poggia su cinque pilastri.

Agentico. L'LLM non risponde a una domanda isolata: pianifica, sceglie strumenti, interroga basi di dati e valuta iterativamente il risultato. Il cuore è un grafo decisionale che classifica l'intento della conversazione, la riformula, ne estrae i concetti principali, recupera i documenti rilevanti ed elabora una risposta in base al contesto e agli strumenti di ricerca associati.

Fonti curate. Selezioniamo fonti che controbilancino i bias dei modelli, le puliamo e convertiamo in formato strutturato, le accompagniamo con metadati accurati e coerenti.

Prompt curati. Le fasi in cui l’agente deve affrontare decisioni e valutazioni sono molteplici, e così sono i relativi prompt che lo indirizzano. Tutti questi prompt sono gestibili dalla redazione, per poter essere affinati attraverso sperimentazioni basate su un campione di domande specifiche che abbiamo costruito nel tempo. Queste domande riflettono i nostri interessi e le criticità che abbiamo riscontrato durante l’uso degli applicativi LLM commerciali. Svolgono quindi una funzione di benchmark, un riferimento per confrontare l’impatto delle numerose variabili in gioco (i prompt, i modelli e i loro parametri).

Profili di ricerca. Ogni domanda viene ricondotta a un intento, per poter orientare il modello rispetto all'eterogeneità degli argomenti che trattiamo. Ad esempio ambiente, ricerca sulla pace, disarmo, armi nucleari, campagne nonviolente. A ogni intento è associato un profilo di ricerca, che definisce quali fonti usare, con quali pesi, quali servizi dati interrogare e indicazioni in linguaggio naturale per l'agente. L’agente viene quindi indirizzato ad arricchire il contesto usando i documenti più attinenti (RAG of Experts). La ricerca è ibrida, sia semantica che testuale, così da non perdere nomi di persone, sigle di trattati o luoghi.

Dataset. In maniera simile, i dati strutturati sono esposti all'agente tramite server MCP attinenti al profilo di ricerca, su open-data che abbiamo importato, altre basi dati interne nostre, costruite nel tempo, e in alcuni casi interrogando direttamente delle API (Wikipedia, Wikidata, Guardian Open Platform).

Tecnologie e modelli

Il software è tutto FOSS (libero e aperto) e lo stack tecnologico è ospitato nella nostra infrastruttura indipendente, senza alcuna dipendenza dal BigTech. Elenchiamo le tecnologie principali che utilizziamo: Linux, Kubernetes, CloudNativePG con pgvector, Python, LangChain e LangGraph, LiteLLM, FastMCP, Streamlit, vLLM, Langfuse, Apache Superset.

Nessun software proprietario, il codice che sviluppiamo viene rilasciato con licenza GPL su git.peacelink.it.

LiteLLM ci permette di cambiare fornitore LLM a seconda delle necessità. Riteniamo importante non essere associati a fornitori pesantemente coinvolti in conflitti armati, o con termini di servizio discutibili, per cui utilizziamo OpenAI, Anthropic, DeepSeek solo per test occasionali. Al momento per l’assistente usiamo i modelli della francese Mistral, e quando necessario (per riservatezza dei dati) un modello con pesi aperti (Qwen) eseguito sulla nostra infrastruttura.

Utilizzo e lancio al pubblico

Il software è già operativo da mesi e ci è servito non solo per Albert ma anche per alcune inchieste e produzioni di contenuti. Ad esempio l'analisi dei programmi parlamentari sul riarmo, una bibliografia curata sulla nonviolenza, le inchieste sulla contaminazione da PFAS attorno alle basi militari di Aviano e Sigonella. L’applicativo può produrre tabelle comparative, mappe mentali, grafici e diagrammi, utilizzando la capacità degli LLM di generare marcatura Mermaid.

Finita la fase di rodaggio, abbiamo deciso di lanciarlo al pubblico, gratuitamente, su peacelink.it/chat proprio in concomitanza con la conferenza AI4Peace. L’interfaccia per il pubblico è volutamente semplice, i visitatori del sito usufruiscono delle impostazioni configurate dalle redazione. Dobbiamo imporre dei limiti giornalieri per contenere i costi, ma non abbiamo nessuna intenzione di offrire un servizio a pagamento. Si tratta di un esperimento che vuole soprattutto essere formativo, sia per noi che per i nostri lettori, sull’uso consapevole dell’intelligenza artificiale.

Valutazione

Proprio da questa fase di sperimentazione e formazione abbiamo tratto alcune valutazioni, in parte tecniche e in parte generiche, che vogliamo condividere in questa presentazione.

Implementazione tecnica. Il codice, in buona parte scritto con l’aiuto di assistenti AI, richiede una stretta supervisione. Inoltre gli applicativi agentici richiedono attenzioni particolari per le sfide che pongono in termini di sicurezza. Un'implementazione responsabile impone limiti alla ricorsione del grafo, attenzione al prompt injection, sandboxing, consapevolezza del rischio composizionale degli MCP.

La competenza chiave è linguistica. È un cambio di paradigma: il funzionamento di un’applicazione informatica di questo tipo è governato da chi conosce il linguaggio naturale più che quello di programmazione. Le decine di prompt che ne fanno parte, così come i commenti che descrivono i servizi dati, sono testi da scrivere, riscrivere e discutere. Per esempio, solo dopo un lungo lavoro di affinamento dei prompt siamo riusciti a ottenere risposte non evasive da modelli commerciali su temi delicati come le armi nucleari.

La competenza sul tema è insostituibile. Scegliere le fonti, affinare i dati, curare e supervisionare richiede persone che conoscano il disarmo, l'ambiente, la storia dei movimenti pacifisti. Solo un attivista esperto può dire se un'analisi è solida e se la prospettiva è coerente con i nostri valori. In altri termini, iniziative come la nostra servono soprattutto a potenziare l’efficienza; l’intelligenza artificiale può integrare una conoscenza che già abbiamo.

Ingegnerizzazione dei dati. Si usa dire "garbage in, garbage out”, ovvero la qualità del testo generato è legata indissolubilmente alla qualità del testo e dei dati in ingresso. Solo un esperimento pratico permette però di capire, nel dettaglio, quali sono le accortezze da seguire. Quanto conti ad esempio ridurre il rumore presente nel testo in ingresso (ovvero usare esclusivamente markdown). Oppure affinare il chunking (la frammentazione del testo usata nella rappresentazione vettoriale per la ricerca semantica) in base alla tipologia dei documenti utilizzati. Evitare di far lavorare i modelli con i numeri, perché non sono affidabili a riguardo, e spostare operazioni numeriche sofisticate in strumenti MCP su cui il modello viene adeguatamente istruito. Organizzare i metadati in maniera che siano consistenti attraverso le diverse fonti. E curare ossessivamente la rappresentazione temporale dei contenuti, altrimenti risulta impossibile per i modelli creare cronologie accurate.

Osservabilità. Si tratta di un continuo trial-and-error, prove su prove i cui errori costituiscono un patrimonio da cui poter imparare e migliorare. Ma questo è possibile solo se si è in grado di aprire la scatola nera e analizzare ogni passo svolto dall’agente: su cosa riflette (molti modelli espongono con dei marcatori <think> le loro valutazioni intermedie), quali strumenti valuta, quali documenti recupera dalla ricerca semantica, quando e perché decide di aver raggiunto un risultato valido, quanti token consuma.

Feedback loop. Di recente abbiamo sperimentato un cambiamento, forse epocale, che ci preoccupa ma di cui non possiamo non prendere atto. Ormai la maggior parte dei nostri lettori umani accede ai nostri contenuti attraverso la mediazione di un applicativo chat. Di questi, nel 96% dei casi l’applicativo è ChatGPT. E sappiamo che questo fenomeno sta avvenendo in misura simile ovunque su Internet. Per capirci di più, abbiamo personalizzato il nostro software di analisi (Matomo) per monitorare cosa viene letto dai cosiddetti fetcher, i bot che acquisiscono contenuti in tempo reale mentre un utente interroga un LLM commerciale, e cercare di correlarlo con la nostra produzione di contenuti. Purtroppo stiamo perdendo il web per come lo abbiamo vissuto e usato negli ultimi decenni. Se da un lato la scelta, strategica, che abbiamo fatto di integrarci il più possibile con questi bot ci ha permesso di acquisire una discreta "RAG authority", al tempo stesso siamo consapevoli che i nostri contenuti sono presentati da un intermediario al di fuori del nostro controllo, in una conversazione di cui non possiamo far parte. Da qui l’urgenza anche di provare a lanciare, nel nostro piccolo, un applicativo chat che permetta di ricostruire una relazione diretta con i nostri lettori.

Impatto ambientale. I modelli consumano energia, e crediamo che sia dovere di chiunque lavori con l’intelligenza artificiale monitorare il proprio consumo. È una domanda che non possiamo ignorare, a cui dobbiamo essere in grado di dare una risposta, anche se la normativa attuale non ce lo richiede. Necessita lavoro, competenze, attenzione, e riflessione su tutta la propria supply-chain tecnologica. Ma si tratta di una buona pratica che ci porta anche ad approfondire un argomento complesso e a delle scoperte sorprendenti. Nello specifico, abbiamo adottato Kepler, un progetto di Sustainable Computing che ben si sposava con la tecnologia alla base della nostra infrastruttura (Kubernetes).

Sovranità digitale. La tecnologia non è neutrale, conseguentemente non lo sono neanche le nostre scelte a riguardo. Scegliere il fornitore di LLM è una scelta anche etica, così come il sistema operativo che usiamo, l’infrastruttura su cui memorizziamo i nostri dati, gli applicativi con cui lavoriamo. Non si tratta più di un’argomentazione esclusivamente tecnica. Abbiamo avuto alcuni esempi recenti del crescente rischio geopolitico associato alle forniture tecnologiche, e di come la loro improvvisa interruzione sia un’opzione non più ipotetica. Siccome gli argomenti che trattiamo (pace, disarmo, ambiente) hanno una rilevanza geopolitica, non possiamo pensare di essere immuni da questo rischio.

La buona notizia è che questa consapevolezza sta maturando, soprattutto in Europa, accompagnata da investimenti infrastrutturali, e che l’alternativa in termini di software esiste, non è solo meno rischiosa, ma è più etica, e funziona pure meglio, si chiama software libero.

Il cantiere resta aperto

L’esperimento continua, l'assistente pacifista non è un prodotto finito ma una costante evoluzione tecnica, editoriale e organizzativa nel percorso di adozione dei LLM, da un lato ancorata ad aspetti pratici, dall’altro con l’intenzione di stimolare una più profonda riflessione sul cambiamento in corso. Ci auguriamo, avendolo aperto al pubblico, di suscitare curiosità e partecipazione. Il link è: www.peacelink.it/chat