di Oliviero Casale, componente Gruppo Valle del Garigliano
Dopo “Il dubbio di Cartesio nell’epoca delle nuove tecnologie”, dopo “Essere o non essere più: il dubbio dell’uomo nell’epoca dell’intelligenza artificiale generativa”, dopo “Cognitive Offloading: Dal dubbio di Cartesio all’esternalizzazione del pensiero” e dopo “La retroazione del pensiero nell’epoca dell’intelligenza artificiale generativa”, avverto che il mio percorso di riflessione arriva a una soglia ulteriore. Il problema che mi si presenta ora non riguarda più soltanto il dubbio, la delega o il circuito del pensiero. Riguarda qualcosa di ancora più delicato, cioè la fiducia.
Finché l’intelligenza artificiale appare come uno strumento che aiuta a cercare informazioni, a chiarire un concetto o a organizzare un ragionamento, la questione può ancora sembrare pratica. Ma quando questi sistemi cominciano a occupare stabilmente il posto di mediatori del sapere, di consiglieri, di sintetizzatori del vero e di guide nei processi decisionali, allora il problema cambia natura. Non si tratta più soltanto di usare una tecnica. Si tratta di capire a chi e a che cosa stiamo affidando il nostro rapporto con la conoscenza.
In questa luce mi viene naturale tornare a Cartesio, che nel primo dei miei articoli costituiva il punto di partenza per pensare un soggetto impegnato a cercare nel proprio esercizio del dubbio un fondamento per il vero. Se allora il pensiero cercava in sé una certezza, oggi la situazione mi appare quasi rovesciata, perché il soggetto non soltanto alleggerisce la fatica del conoscere, ma sembra sempre più disposto a fidarsi di apparati esterni che ordinano informazioni, semplificano la complessità, anticipano problemi e propongono risposte. Ciò che Cartesio cercava di assicurare nel lavoro interiore del cogito rischia così di spostarsi verso un’esternalità tecnica che non fonda in proprio la verità, ma la rende ogni giorno più accessibile, plausibile e pronta all’uso.
Per comprendere questo passaggio trovo particolarmente utile John Hardwig, perché la sua riflessione sulla fiducia epistemica ricorda che il conoscere umano non è mai stato un’impresa interamente solitaria. Nessuno possiede da solo tutte le competenze necessarie per orientarsi nel mondo. Per questo la dipendenza epistemica dagli altri è una condizione strutturale della vita umana. Oggi, però, questa fiducia tende a spostarsi, almeno in parte, verso agenti epistemici artificiali che non si limitano più a fornire dati, ma si presentano come fonti di orientamento cognitivo. Il problema, a mio avviso, non nasce dal fatto che la fiducia esista. Nasce dal fatto che stia cambiando il suo oggetto. Ci si fidava di altri esseri umani. Ora si comincia a fidarsi di sistemi artificiali che assumono sempre più una funzione simile a quella del testimone o del consigliere.
Accanto a Hardwig entra naturalmente in scena Alvin Goldman, perché il tema dell’affidabilità non dipende tanto dall’attribuire a questi sistemi una coscienza o un’intenzionalità paragonabili a quelle umane, quanto dal chiedersi se possano funzionare come fonti affidabili di conoscenza. Non basta che un agente artificiale produca risposte fluenti o apparentemente corrette. Occorre che distingua tra fatto, inferenza, opinione e speculazione, che possa essere controllato e smentito, che operi entro un quadro di rigore e responsabilità. La fiducia, in questo senso, non coincide con il conforto psicologico prodotto da una risposta persuasiva. Coincide con la possibilità di trattare quel sistema come una fonte la cui affidabilità può essere esaminata e messa alla prova.
Questo nodo si lega direttamente al terzo e al quarto articolo, nei quali il cognitive offloading e la retroazione del pensiero avevano già mostrato come la delega non sia mai neutrale. Se l’agente artificiale non si limita più a eseguire un compito ma si incarica di semplificare problemi, selezionare percorsi conoscitivi, suggerire interpretazioni e anticipare lacune, allora la questione non riguarda più solo il vantaggio operativo. Riguarda la forma stessa della soggettività che si sta producendo. In questo passaggio il riferimento a Mark Coeckelbergh mi sembra decisivo, perché la sua idea di epistemic agency permette di dire con precisione ciò che è in gioco. Se un soggetto smette progressivamente di esercitare il lavoro di formare, rivedere e sostenere le proprie credenze, allora non sta soltanto risparmiando tempo. Sta forse cedendo una parte della propria capacità di essere autore del proprio conoscere.
Da questo punto di vista, il mio percorso mantiene una continuità molto netta. Nel primo articolo il problema era il fondamento del pensiero. Nel secondo il rischio di non essere più pienamente se stessi attraverso la delega crescente. Nel terzo il sospetto che il cognitive offloading potesse diventare autoannullamento. Nel quarto la constatazione che il pensiero cominciasse a muoversi in una forma di circuito chiuso mediato dalla stessa macchina. Ora, con il tema della fiducia, emerge una domanda ancora più radicale, perché non si tratta più solo di ciò che l’uomo lascia fare alla macchina, ma di ciò che arriva a credere attraverso di essa.
Naturalmente, io non penso questa mediazione soltanto in termini negativi. Gli agenti epistemici artificiali possono anche funzionare come strumenti di sostegno reale, capaci di aiutare utenti non esperti a orientarsi di fronte a linguaggi specialistici, asimmetrie informative e contesti complessi. Possono colmare lacune, proporre domande migliori, rendere più simmetrico l’accesso alla conoscenza. Questa funzione è importante, perché mostra che la tecnica non deve essere pensata solo come impoverimento, ma anche come possibile sostegno a un’umanità altrimenti esposta a squilibri di potere epistemico. Il problema, però, non scompare. Proprio ciò che protegge può anche disabituare, e proprio ciò che potenzia può, nel lungo periodo, atrofizzare.
Qui mi torna utile ricollegarmi a Norbert Wiener, già richiamato nel quarto articolo, perché il tema della retroazione non riguarda più soltanto il ritorno dell’informazione nel circuito del pensiero. Ora investe la fiducia stessa. Quando un agente artificiale suggerisce, verifica, ordina, corregge e rilancia continuamente il sapere, si crea una struttura in cui non solo il linguaggio ma anche la credibilità tende a rientrare nello stesso sistema. La fiducia, in altre parole, rischia di diventare parte di un circuito tecnico che si autoalimenta. Non si crede più soltanto in base a una verifica autonoma o a una pluralità di fonti umane, ma sempre più in base alla coerenza e alla persuasività di un apparato che organizza per noi il campo del credibile.
Se sposto poi il discorso dal singolo allo spazio comune, allora per me diventa essenziale il riferimento a Jürgen Habermas. La fiducia negli agenti artificiali non è mai soltanto privata. Quando una società si abitua a ricorrere agli stessi sistemi per orientarsi, informarsi, verificare e decidere che cosa è plausibile, allora è l’intero spazio pubblico a essere coinvolto. In una prospettiva che richiama Habermas, la verità pubblica non è mai separabile dalle condizioni comunicative che rendono possibile un’intesa criticabile e argomentata. Se questi presupposti vengono colonizzati da agenti artificiali opachi o troppo omogenei, il rischio non riguarda più soltanto l’errore individuale. Riguarda la tenuta stessa di una sfera pubblica del vero. Ed è qui che, pur non citandola direttamente come asse del mio discorso, sento anche l’eco di Hannah Arendt, cioè dell’idea che un mondo comune esista solo finché esistono fatti condivisibili e non soltanto impressioni manipolabili.
A questo livello la riflessione si collega bene anche a Hans Jonas, già centrale nel mio percorso precedente, perché il suo invito a non fermarsi agli usi ma a interrogare gli scopi delle tecnologie conserva qui tutta la sua forza. Non basta chiedere come usare bene agenti artificiali epistemicamente affidabili. Occorre domandarsi perché si voglia costruire una società che affida a essi una parte crescente del proprio rapporto con la conoscenza. Se una macchina è in grado di assisterci nel conoscere, questo non equivale ancora a dire che debba diventare il luogo privilegiato del nostro orientamento epistemico.
Dentro questa cornice il richiamo a Joseph Weizenbaum acquista, per me, un peso particolare, perché ricorda che non tutto ciò che può essere automatizzato dovrebbe esserlo. Quando Weizenbaum metteva in guardia dalla sostituzione di funzioni umane che dovrebbero coinvolgere comprensione, responsabilità e rispetto, non stava solo tracciando un limite tecnico. Stava difendendo un’idea dell’umano come luogo di presenza e giudizio che non può essere interamente convertito in procedura. Trasportata nel tema della fiducia epistemica, questa intuizione mi aiuta a vedere che il problema non è soltanto se l’agente artificiale sappia abbastanza, ma se l’atto di fidarsi possa essere integralmente trasferito a una macchina senza impoverire la qualità umana del rapporto con il sapere.
Su questo sfondo diventa prezioso anche il riferimento contemporaneo a Shannon Vallor, che mette in guardia non tanto dal mito di una macchina cosciente pronta a sostituire l’uomo, quanto dal rischio più concreto che gli esseri umani rinuncino progressivamente alla fiducia nella propria capacità di giudicare, scegliere e orientarsi. L’IA non appare soltanto come uno strumento che estende il pensiero, ma come un ambiente che può lentamente ridisegnare ciò che significa pensare, scegliere e assumersi il peso delle proprie decisioni.
Per questa ragione, io credo che la fiducia, nell’epoca degli agenti epistemici artificiali, non possa essere pensata né come un gesto spontaneo né come una semplice funzione di comodità. Fidarsi significa sempre distribuire autorità, accettare una dipendenza, modificare l’architettura del proprio rapporto con il mondo. E se oggi questi sistemi vengono proposti come mediatori sempre più stabili del sapere, allora il compito non consiste nel rifiutarli in blocco, ma nel costruire intorno a essi condizioni di contestabilità, verificabilità, pluralità delle fonti e resilienza umana tali da impedire che l’aiuto si trasformi in atrofia e che il supporto diventi una sostituzione silenziosa.
Se devo riconoscere un punto in cui i miei cinque articoli si ricongiungono, è proprio questo. Ogni volta che l’uomo alleggerisce la fatica del pensiero grazie a una tecnica più potente, ottiene certamente un guadagno, ma insieme si espone al rischio di perdere il rapporto vivo con quella parte di sé che si forma soltanto nella lentezza, nell’incertezza, nella verifica e nella responsabilità del giudizio. Oggi vedo che questo rischio assume la forma della fiducia, perché non stiamo più solo usando l’intelligenza artificiale per scrivere, cercare o discutere, ma stiamo iniziando a riconoscerle una funzione sempre più vicina a quella di un’autorità epistemica. Ed è per questo che la domanda che mi si impone non riguarda soltanto l’accuratezza delle sue risposte, ma la forma dell’umano che rimane quando il vero non viene più conquistato, discusso e custodito principalmente dall’uomo, ma sempre più ricevuto da apparati che ce lo rendono plausibile, accessibile e pronto a essere creduto.
Oliviero Casale, dalla Valle del Garigliano, porta avanti una riflessione sul rapporto tra intelligenza artificiale generativa, soggettività e filosofia della tecnologia.
