di Oliviero Casale, componente Gruppo Valle del Garigliano
C’è una domanda che dovremmo cominciare a porci con maggiore serietà: stiamo ancora cercando la verità, oppure stiamo iniziando a delegarla all’intelligenza artificiale? La formula può sembrare eccessiva, ma descrive bene una tendenza ormai evidente. Sempre più spesso non usiamo i chatbot soltanto per farci aiutare a scrivere una mail, riassumere un testo o trovare più rapidamente un’informazione: chiediamo loro di spiegarci il mondo, di dirci che cosa è importante, di restituirci il senso di una polemica, di un fatto politico, di una questione culturale o sociale. Senza quasi accorgercene, stiamo trasferendo a questi sistemi una parte del lavoro che un tempo apparteneva alla lettura, al confronto tra fonti, alla riflessione personale e, in ultima analisi, al giudizio.
Il punto, però, è che un sistema di intelligenza artificiale non funziona come una mente umana. Un modello linguistico non riceve il linguaggio come esperienza viva, ma lo tratta dopo che esso è stato scomposto in token, cioè frammenti di testo, e tradotto in identificatori numerici che il sistema può elaborare. In altre parole, prima ancora di “rispondere”, la macchina lavora su una rappresentazione computabile del linguaggio, non su un’esperienza del significato. Questa osservazione è decisiva, perché ci ricorda che il chatbot non capisce il mondo come lo capiamo noi: elabora sequenze, correlazioni e probabilità su enormi quantità di dati.
Da qui discende una conseguenza che spesso dimentichiamo. I modelli generativi sono, in sostanza, macchine di completamento del testo: prendono un input e producono la continuazione linguisticamente più plausibile rispetto al contesto ricevuto. È una capacità potentissima, ed è proprio questa potenza a renderli affascinanti. Ma è anche il punto in cui nasce il rischio. Perché la loro forza non consiste nel distinguere il vero dal falso nel senso umano del termine, bensì nel generare una risposta coerente, scorrevole, verosimile. Il pericolo, allora, non è soltanto che l’intelligenza artificiale sbagli; è che possa sbagliare bene, cioè in modo credibile, elegante, convincente.
E qui bisogna fermarsi un momento. La minaccia più grande non è l’errore grossolano, che mette in allarme quasi subito, ma la risposta ben scritta, ordinata, pronta all’uso, quella che ci solleva dalla fatica di verificare. La vera trappola è la comodità. Quando una macchina ci offre immediatamente una sintesi, una spiegazione, una gerarchia di priorità, una conclusione che “suona giusta”, il rischio è che non ci limitiamo a usarla come supporto, ma cominciamo a trattarla come sostituto del nostro lavoro interiore. È in quel momento che non stiamo più semplicemente consultando uno strumento: stiamo iniziando ad appaltare il rapporto con il reale.
Per capire fino in fondo che cosa questo significhi, bisogna ricordare una cosa semplice ma decisiva: la conoscenza umana non coincide con il possesso immediato di una risposta. Le neuroscienze mostrano da tempo che apprendimento e memoria dipendono dal rafforzamento di specifici percorsi neuronali, cioè da quella plasticità sinaptica attraverso cui l’esperienza modifica concretamente il cervello. Quando leggiamo, analizziamo un testo, confrontiamo dati, ritorniamo su una questione difficile, non stiamo solo raccogliendo informazioni: stiamo costruendo connessioni, consolidando tracce, trasformando ciò che apprendiamo in qualcosa che entra davvero nella nostra esperienza. Il sapere, insomma, non è solo risultato; è anche processo.
Se questo è vero, allora il problema dell’uso quotidiano dei sistemi di AI non riguarda solo l’affidabilità delle risposte, ma anche l’effetto che producono su di noi. Quando riceviamo sintesi già pronte, interpretazioni già ordinate, testi già semplificati, una parte crescente del lavoro cognitivo viene esternalizzata. E se questo accade sistematicamente, non tratteniamo solo meno informazioni: finiamo anche per elaborarle meno in profondità. Non siamo più noi a costruire il percorso che conduce alla comprensione; ci limitiamo a riceverne il prodotto finale. All’inizio sembra un vantaggio. A lungo andare, potrebbe diventare una forma di dipendenza cognitiva.
La questione, allora, non è se l’intelligenza artificiale sia utile. Lo è, e sarebbe ridicolo negarlo. Può aiutare nella ricerca, nella scrittura, nello studio, nel lavoro, nell’organizzazione delle informazioni. Può persino migliorare molti processi se viene usata con intelligenza. Il punto è un altro: che posto le assegniamo. Se resta uno strumento da interrogare criticamente, può essere preziosa. Se invece diventa il luogo a cui chiediamo non solo una risposta, ma anche il criterio per fidarcene, allora il problema cambia radicalmente natura.
Non a caso, anche i testi tecnici più seri insistono ormai sui limiti di questi sistemi: possono generare contenuti falsi o fuorvianti, possono produrre testi ingannevoli, possono rendere opaco il confine tra interazione umana e interazione automatica, e pongono problemi concreti di trasparenza, responsabilità e affidabilità. Questo significa che il tema non appartiene alla retorica anti-tecnologica, ma alla comprensione più lucida del fenomeno. Non stiamo parlando di fantascienza. Stiamo parlando del modo in cui una tecnologia già presente nelle nostre vite rischia di modificare le nostre abitudini mentali.
Forse, allora, la domanda più importante non è se l’intelligenza artificiale sarà sempre più potente. È quasi certo che lo sarà. La vera domanda è se noi, mentre essa cresce, continueremo a esercitare le facoltà che ci rendono davvero liberi: leggere con attenzione, verificare le fonti, sostenere la fatica del dubbio, distinguere una risposta plausibile da una risposta fondata, non smettere di pensare solo perché una macchina sa formulare molto bene ciò che vogliamo sentirci dire. Perché una società che scambia la fluidità per verità e la plausibilità per conoscenza non diventa più intelligente: diventa più vulnerabile.
L’intelligenza artificiale può aiutarci molto, ma non può sostituire il lavoro umano del discernimento. Si possono delegare operazioni, sintesi, compiti ripetitivi, perfino prime stesure. Non si può delegare senza conseguenze la responsabilità del giudizio. È lì che si gioca ancora la differenza decisiva tra una macchina che genera linguaggio e una persona che cerca il vero. Ed è forse proprio da qui che dovremmo ripartire: non dalla paura dell’AI, ma dalla difesa della nostra capacità di non smettere di ragionare.
Oliviero Casale, dalla Valle del Garigliano, riflette sul rischio che l’intelligenza artificiale trasformi il nostro rapporto con la verità, indebolendo pensiero critico, memoria e capacità di giudizio.
