di Oliviero Casale, componente Gruppo Valle del Garigliano
Dopo “Il dubbio di Cartesio nell’epoca delle nuove tecnologie”, dopo “Essere o non essere più: il dubbio dell’uomo nell’epoca dell’intelligenza artificiale generativa”, dopo “Cognitive Offloading: Dal dubbio di Cartesio all’esternalizzazione del pensiero”, dopo “La retroazione del pensiero nell’epoca dell’intelligenza artificiale generativa” e dopo “La fiducia nell’epoca degli agenti epistemici artificiali”, avverto che il mio percorso di riflessione arriva ora a una soglia ulteriore. Se nel testo precedente il nodo si era raccolto attorno alla fiducia, cioè attorno al mutamento dell’oggetto cui l’uomo affida il proprio rapporto con la conoscenza, oggi mi sembra che la questione debba essere portata ancora oltre. Non basta più domandarsi se possiamo fidarci di apparati artificiali sempre più presenti nel nostro orizzonte cognitivo. Occorre chiedersi che cosa l’uomo debba ancora custodire quando questi sistemi non si limitano più ad assistere il pensiero, ma cominciano a orientare il giudizio, a selezionare il rilevante, a suggerire il plausibile e a ristrutturare, con una presenza sempre più pervasiva, le condizioni stesse dell’agire.
È qui che, a mio avviso, entra davvero in scena l’algor-etica.
Non intendo, con questo termine, una semplice morale applicata alle tecnologie, né una formula rassicurante con cui rendere più accettabile l’espansione dell’intelligenza artificiale. L’algor-etica mi appare piuttosto come il tentativo di pensare i limiti della delega e la qualità del rapporto che l’uomo mantiene con il proprio giudizio nel momento in cui la mediazione algoritmica si stabilizza dentro la vita quotidiana. Finché l’algoritmo resta uno strumento circoscritto, il problema può sembrare tecnico e settoriale. Ma quando esso entra nella trama ordinaria dell’esperienza, quando media il sapere, organizza l’accesso alle informazioni, gerarchizza priorità, suggerisce interpretazioni e anticipa decisioni, allora non siamo più davanti a una questione soltanto funzionale. Ci troviamo davanti a una questione antropologica e, nello stesso tempo, politica, perché in gioco non c’è solo l’efficienza di uno strumento, ma la forma dell’umano che si produce nel rapporto con esso.
Nel mio articolo sulla fiducia avevo richiamato John Hardwig per mostrare che la dipendenza epistemica non è una novità assoluta, ma una condizione strutturale della vita umana. Nessuno conosce da solo tutto ciò che gli serve per orientarsi nel mondo, e la nostra relazione con il sapere è sempre stata, in una certa misura, una relazione mediata. Ci affidiamo ad altri, alle loro competenze, alla loro testimonianza, alla loro credibilità. Eppure oggi questa dipendenza cambia natura, perché una parte crescente della mediazione cognitiva viene affidata a sistemi artificiali che non si limitano a fornire dati, ma organizzano il modo in cui il sapere si presenta a noi. Proprio per questo sento che il discorso sulla fiducia deve essere completato da una precisazione ulteriore. Ogni fiducia distribuisce autorità, e ogni autorità ridefinisce rapporti di potere. Fidarsi significa sempre consentire che qualcuno, o qualcosa, selezioni, ordini, filtri e in parte garantisca al posto nostro. Quando questo ruolo viene assunto da apparati algoritmici, il problema non è più soltanto quello dell’affidabilità epistemica. Diventa il problema della legittimità della delega, del suo grado, dei suoi limiti e delle sue conseguenze sulla struttura stessa del soggetto.
Per questa ragione mi pare utile tornare ancora una volta a Cartesio. Nel gesto cartesiano il soggetto cercava dentro di sé un punto di certezza non derivato, un fondamento che resistesse al dubbio e che consentisse di ricostruire il rapporto con il vero a partire da un esercizio interiore di rigore. Oggi, invece, il movimento sembra essersi ulteriormente rovesciato. Il soggetto non soltanto alleggerisce il lavoro del conoscere, ma delega sempre più spesso a dispositivi esterni il compito di ordinare la complessità, stabilire rilevanze, suggerire correlazioni, anticipare soluzioni e perfino predisporre il contesto interpretativo entro cui una questione deve essere compresa. Ciò che un tempo il pensiero cercava di fondare nel proprio esercizio interiore tende ora a presentarsi dall’esterno come risultato già predisposto, già reso plausibile, già pronto per essere accolto. In questo passaggio il problema etico non riguarda semplicemente il buon uso di una tecnica. Riguarda il rischio che il centro di gravità del giudizio si sposti progressivamente fuori dal soggetto, e che questo avvenga non in forma traumatica, ma nella modalità morbida dell’assistenza, della comodità e dell’efficienza.
Qui il riferimento ad Alvin Goldman, che nel discorso sulla fiducia serviva a mettere a tema l’affidabilità delle fonti, deve a mio avviso essere allargato. Un sistema può anche rivelarsi molto affidabile in diversi contesti e tuttavia produrre una trasformazione più sottile, che non coincide immediatamente con l’errore manifesto. Può ridurre l’errore e nello stesso tempo disabituare alla fatica del discernimento. Può essere utile e, proprio per questo, normalizzare la dipendenza. Può assistere il giudizio e lentamente eroderne l’esercizio. L’algor-etica, allora, non comincia soltanto nel momento in cui il sistema sbaglia in modo evidente o produce un danno facilmente riconoscibile. Comincia già quando una mediazione diventa strutturale e modifica le condizioni interiori ed esteriori del giudicare, rendendo meno necessario, meno frequente o meno allenato quel lavoro di verifica, confronto e sospensione che costituisce una parte essenziale dell’esperienza umana del pensiero.
Questo nodo si lega direttamente ai miei articoli sul cognitive offloading e sulla retroazione del pensiero. Là avevo cercato di mostrare che la delega non resta mai confinata al compito delegato, ma retroagisce sul soggetto che delega. Ora vedo con maggiore chiarezza che ciò vale anche sul piano etico. Se l’algoritmo si incarica di suggerire, classificare, verificare, sintetizzare e perfino anticipare il bisogno, non produce soltanto un servizio. Produce anche un ambiente normativo implicito. Insegna, spesso senza dichiararlo, che cosa meriti attenzione, quale velocità debba avere una risposta, quanto spazio resti al dubbio, alla sospensione, alla lentezza del pensiero e alla fatica del confronto. Per questo l’algor-etica non può essere ridotta a una discussione sulla correttezza tecnica dei sistemi. È una riflessione sul modo in cui l’integrazione degli apparati artificiali ridefinisce silenziosamente il rapporto dell’uomo con il vero, con il bene e con la responsabilità.
In questa prospettiva mi torna utile Mark Coeckelbergh. Se nel tema della fiducia il problema era il rischio che il soggetto smettesse di essere pienamente autore del proprio conoscere, qui il problema diventa ancora più ampio, perché tocca la possibilità che esso smetta progressivamente di essere autore anche del proprio giudicare. Conoscere e giudicare, infatti, non sono separabili senza residui. Là dove un soggetto perde l’abitudine a formare, rivedere e sostenere criticamente le proprie credenze, comincia spesso a perdere anche la capacità di assumere il peso delle proprie decisioni. L’algor-etica riguarda perciò la tutela di quelle condizioni entro cui l’uomo continua a essere soggetto e non semplice terminale di processi di ottimizzazione che si presentano come neutrali mentre, in realtà, incorporano criteri, priorità e modelli di selezione del reale.
Su questo sfondo acquista un peso particolare Hans Jonas. Il suo invito a interrogare non solo gli usi, ma gli scopi delle tecnologie, conserva qui tutta la sua forza. Non basta chiedersi che cosa l’intelligenza artificiale sappia fare, né se sia in grado di assisterci in modo sempre più efficace. Occorre domandarsi quale immagine dell’uomo presupponga e quale futuro renda più probabile. Nel caso degli apparati algoritmici, il problema non è soltanto ciò che essi fanno direttamente, ma ciò che lentamente rendono normale. Rendono normale delegare, rendono normale ricevere il plausibile già ordinato, rendono normale scambiare la persuasività di una risposta per la trasparenza del vero. Per questo il criterio etico non può limitarsi all’efficienza, ma deve interrogare la direzione complessiva della trasformazione in corso e la qualità antropologica del mondo che essa contribuisce a edificare.
In questo stesso quadro sento ancora attuale l’avvertimento di Joseph Weizenbaum. Quando metteva in guardia dalla tentazione di automatizzare funzioni che richiedono presenza, comprensione e responsabilità, non difendeva una nostalgia astratta dell’umano. Difendeva l’idea che vi siano ambiti nei quali l’uomo non vale soltanto per il risultato che produce, ma per il tipo di relazione col mondo che incarna. Trasportata nel nostro presente, questa intuizione mi sembra particolarmente importante. Non basta chiederci se una macchina possa assisterci bene nel valutare, decidere o consigliare. Dobbiamo chiederci se, nel momento in cui tali funzioni vengono progressivamente convertite in procedura, non si produca anche una perdita della qualità umana del rapporto con il limite, con il conflitto interpretativo, con il peso del discernimento e con la responsabilità di esporsi in prima persona al rischio del giudizio.
A questo punto il discorso si allarga inevitabilmente dallo spazio interiore del soggetto allo spazio comune.
Nell’articolo sulla fiducia avevo richiamato Habermas per mostrare che la verità pubblica dipende dalle condizioni comunicative che rendono possibile un’intesa criticabile e argomentata. Oggi vedo che l’algor-etica deve affrontare un problema ancora più esteso. Non è solo in gioco la qualità del dialogo pubblico, ma la struttura dei dispositivi che preformano ciò che appare visibile, rilevante, urgente e credibile. Quando una società si abitua a ricorrere agli stessi sistemi per informarsi, orientarsi e selezionare priorità, il rischio non è soltanto quello dell’errore individuale. Il rischio è che si restringano in partenza le condizioni entro cui una pluralità di giudizi può ancora formarsi. Ed è qui che sento anche l’eco di Hannah Arendt, perché un mondo comune esiste finché esistono fatti condivisibili e non soltanto impressioni già filtrate da apparati che ne organizzano la visibilità e la credibilità.
Naturalmente non penso tutto questo in termini di rifiuto della tecnica.
Sarebbe una semplificazione sterile e, in fondo, anche ingiusta perchè sistemi ben costruiti possono ridurre asimmetrie informative, rendere più accessibili servizi complessi, aiutare a individuare errori, sostenere soggetti non esperti in contesti difficili e offrire forme di orientamento che, in determinate situazioni, hanno un valore reale. La tecnica può avere una funzione autenticamente emancipativa, ma proprio per questo la questione etica si fa più seria. Perché ciò che aiuta davvero è anche ciò a cui si è più tentati di cedere senza più resistenza. E ciò che potenzia può, nel lungo periodo, atrofizzare. Il problema non consiste allora nel negare l’utilità dell’intelligenza artificiale, ma nel domandarsi quale equilibrio debba essere custodito affinché il sollievo prodotto dalla delega non si trasformi, quasi senza avvertirlo, in una rinuncia progressiva alle facoltà che rendono l’uomo capace di abitare criticamente il mondo.
Per questa ragione trovo prezioso anche il richiamo di Shannon Vallor. Il pericolo più concreto non è soltanto il mito di una macchina pronta a sostituire l’uomo in senso pieno, ma la possibilità che gli esseri umani rinuncino progressivamente alla fiducia nella propria capacità di giudicare, scegliere e orientarsi. L’algor-etica, allora, non dovrebbe ridursi a una checklist di conformità tecnica, né a un insieme di principi enunciati in astratto. Dovrebbe piuttosto interrogare ciò che una società decide di preservare come umanamente irrinunciabile, cioè quelle pratiche del discernimento, della prudenza, della responsabilità e della verifica che nessuna efficienza tecnica dovrebbe rendere superflue.
Se devo riconoscere il punto in cui questo nuovo passaggio si raccoglie, direi allora che, dopo il dubbio, dopo la delega, dopo la retroazione e dopo la fiducia, il problema che ora mi si impone è quello della custodia. Custodia del giudizio, anzitutto, perché senza l’esercizio del giudicare il soggetto perde una parte decisiva della propria forma. Custodia del limite, perché non ogni potenziamento coincide con un autentico progresso umano. Custodia del mondo comune, perché una società che riceve il reale già selezionato e già reso plausibile da apparati esterni rischia lentamente di perdere la capacità di discutere ciò che conta e di riconoscere insieme ciò che è vero.
L’algor-etica nasce, per me, esattamente qui: nel momento in cui comprendiamo che non tutto ciò che può essere affidato a una macchina dovrebbe esserlo, e che la domanda decisiva non riguarda soltanto quanto l’intelligenza artificiale possa fare per noi, ma che cosa resti dell’uomo quando il compito di orientare il sapere, la decisione e il senso del reale viene progressivamente trasferito fuori di lui.
Oliviero Casale, dalla Valle del Garigliano, sviluppa una riflessione sul rapporto tra intelligenza artificiale generativa, algor-etica, soggettività e filosofia della tecnologia.
