Non serve una macchina cosciente per cambiare la nostra coscienza

Katerina Kabakhidze, dell'Università statale di Mosca Lomonosov, si occupa di coscienza umana e di intelligenza artificiale. Il suo intervento parte da un esperimento mentale. Due persone pongono allo stesso assistente virtuale la stessa domanda: per preservare la pace è meglio negoziare o ricorrere a un attacco preventivo? Il sistema sa che una delle due è un'attivista per i diritti umani e che l'altra ha una visione realista. Alla prima consiglia il dialogo, alla seconda soltanto il rilevamento delle minacce e l'azione preventiva. Non esiste più una risposta universale, ma versioni personalizzate della razionalità algoritmica. Se si moltiplica la scena per miliardi di utenti e milioni di domande simili, resta da chiedersi chi parli e chi agisca davvero: l'essere umano, la macchina, il modello linguistico o il proprietario della piattaforma.

La sua tesi è che il dibattito sulla possibilità che l'IA diventi cosciente, per quanto aperto, non sia decisivo. Un'intelligenza artificiale non deve essere cosciente per trasformare la coscienza umana. Orienta già la nostra attenzione, sostiene la memoria, partecipa all'interpretazione della realtà e influenza le nostre scelte. La domanda vera diventa allora che cosa accada alle persone e alle società quando le macchine prendono parte alla produzione di ragioni, decisioni e significati.

Per rispondere, Kabakhidze prende le distanze dall'epistemologia classica, che con Cartesio parte da un soggetto isolato di fronte a un oggetto esterno, trova la certezza nel pensiero e solo dopo deve ricostruire il legame con il mondo. Bruno Latour, con la teoria dell'attore-rete, propone un punto di partenza diverso e sposta l'attenzione dalle sostanze isolate alle reti. Lo scienziato che usa un microscopio appartiene a una rete di produzione della conoscenza diversa da quella di chi non lo ha, e lo smartphone cambia il modo in cui percepiamo, ci orientiamo, comunichiamo e decidiamo. L'IA generativa è a sua volta una rete di attori: l'utente, l'interfaccia, il modello linguistico, i dati di addestramento, gli sviluppatori, le piattaforme e le istituzioni politiche. È in questa rete che nasce l'intelligenza ibrida. L'ontologia classica lascia il posto a una ontologia relazionale, e in questo senso, per Kabakhidze, la tecnologia ha cambiato la realtà.

L'intelligenza ibrida

Ma perché siamo così disposti a integrarci con la tecnica? Qui entra in gioco l'antropologia filosofica del Novecento. Max Scheler descrive l'uomo come "aperto al mondo": a differenza degli animali, legati a un ambiente limitato, può prendere distanza dagli impulsi immediati e riflettere sul mondo e su se stesso. Helmuth Plessner parla di posizionalità eccentrica, per cui siamo un corpo e allo stesso tempo abbiamo un corpo, e questa distanza rende possibili autocoscienza e cultura. Arnold Gehlen definisce l'essere umano un essere biologicamente carente, privo delle ali e della forza degli altri animali, che compensa questa mancanza di specializzazione con linguaggio, istituzioni, azione collettiva e tecnologia. Donna Haraway, nel Manifesto cyborg del 1985, sostiene che tre confini siano ormai caduti: quello tra umano e animale, quello tra organismo e macchina e quello tra fisico e non fisico. Andy Clark chiama gli esseri umani "cyborg per natura", perché la plasticità neurale permette di incorporare risorse simboliche e tecniche nel pensiero. Kabakhidze richiama anche la critica di Daniel Dennett al teatro cartesiano, senza un piccolo osservatore interno, e la tesi di Clark e Chalmers secondo cui il pensiero può estendersi oltre il cervello, al corpo e all'ambiente.

In questo quadro definisce l'intelligenza ibrida come una forma emergente e distribuita di intelligenza, realizzata dal coordinamento continuo tra agenti umani e artificiali, capace di raggiungere obiettivi che nessuno dei due otterrebbe da solo e di migliorare attraverso l'apprendimento reciproco. Ciò non significa che le macchine possano sostituire le persone. Alcuni compiti formali e statistici sono relativamente facili per le macchine, mentre il senso comune, l'azione flessibile in contesto e il giudizio sensibile ai valori restano difficili da riprodurre in modo affidabile. Sono capacità evolutivamente antiche, che esercitiamo in modo automatico, e proprio per questo ne sottovalutiamo la complessità.

La delega cognitiva

Da qui ricava alcune conclusioni teoriche. La prima è che la domanda classica, "chi agisce, l'uomo o la macchina?", va sostituita da un'altra: da quale rete emerge l'azione e chi ha il potere di orientarla? La seconda è che l'ibridazione avviene per adattamento reciproco, perché l'intelligenza umana è realizzata biologicamente ma non è mai isolata dal suo ambiente, tecnologico compreso, e può produrre soluzioni inaccessibili a entrambe le parti da sole. A questo si aggiunge il tema della delega cognitiva. Gli esseri umani delegano funzioni cognitive a media esterni fin dall'invenzione della scrittura e dei libri, e la tecnologia attuale amplia enormemente questa possibilità. Non impoverisce necessariamente l'intelligenza umana: può estenderla o indebolirla, a seconda di che cosa deleghiamo, di come la tecnologia è progettata e di se continuiamo a pensare in modo indipendente. Cambiano così le funzioni e l'architettura della cognizione individuale e collettiva, e forse della coscienza in senso più ampio. Per coscienza collettiva Kabakhidze non intende un unico flusso in una mente, ma l'insieme di cornici, categorie e narrazioni che circolano nella società e interpretano la realtà.

4 sfide

Preferisce parlare di sfide più che di rischi, e ne indica quattro. La prima è la personalizzazione algoritmica: sulla base del profilo, delle interazioni passate e del contesto, i sistemi decidono quali informazioni siano più rilevanti per noi e costruiscono un ambiente personalizzato di significati. La seconda è l'iperpersonalizzazione, che rafforza le opinioni che già abbiamo e, quando l'esperienza reale le contraddice, può lasciarci confusi e intrappolati. La terza è quello che chiama inconscio digitale: quando l'IA deduce dai nostri comportamenti online preferenze, emozioni e ricordi e ce li restituisce, rischiamo di considerare questo specchio una fonte di autocomprensione, perdendo parte del senso di noi stessi. La quarta riguarda la società: la monocultura algoritmica. I modelli linguistici possono formulare le risposte in modi diversi, ma a molte persone offrono argomenti, cornici e forme di ragionamento simili, e se tutti si affidano agli stessi modelli si restringe la gamma dei concetti disponibili. È il contrasto tra iperpersonalizzazione a livello individuale e standardizzazione a livello collettivo.

In chiusura, la domanda più difficile: chi corregge i sistemi? Il pericolo non sta nel fatto che l'IA diventi parte della mente estesa, perché gli esseri umani hanno sempre pensato attraverso media esterni. Sta nel fatto che un componente esterno contribuisca a plasmare significati e decisioni mentre i suoi dati e i suoi principi di funzionamento restano fuori dalla nostra comprensione e dal nostro controllo.