di Oliviero Casale, consigliere Fondazione Communia – Rete Permanente Beni Comuni
Dobbiamo iniziare a preoccuparci per l’evoluzione dell’intelligenza artificiale?
La domanda è sempre meno teorica. I sistemi AI stanno diventando più capaci, più autonomi e sempre più coinvolti nello sviluppo di nuovi sistemi AI.
Secondo Anthropic, questa trasformazione potrebbe portare a uno scenario in cui l’intelligenza artificiale contribuisce direttamente alla progettazione dei propri successori. Non siamo ancora a quel punto. Tuttavia, la traiettoria descritta dall’azienda merita attenzione.
Il tema centrale è questo: il mondo dovrebbe avere la possibilità di rallentare o sospendere temporaneamente lo sviluppo dell’AI frontier? E, soprattutto, uno stop coordinato tra i maggiori player è davvero possibile?
Anthropic e la possibilità di rallentare l’AI frontier
È proprio dentro questa tensione che si colloca la posizione espressa di recente da Anthropic. In un articolo pubblicato ultimamente sul proprio sito, la società non invoca semplicemente una pausa immediata e unilaterale.
La sua tesi è più precisa: il mondo dovrebbe avere l’opzione di rallentare o sospendere temporaneamente lo sviluppo dell’AI frontier. Tuttavia, questa opzione avrebbe senso solo se fosse coordinata, verificabile e credibile.
Il passaggio chiave è il seguente:
“We believe it would be good for the world to have the option to slow or temporarily pause frontier AI development to enable societal structures and alignment research to keep up with the advance of the technology.”
In italiano: Anthropic ritiene che sarebbe positivo, per il mondo, avere la possibilità di rallentare o mettere temporaneamente in pausa lo sviluppo dell’AI frontier. Lo scopo sarebbe dare tempo alle strutture sociali e alla ricerca sull’allineamento di tenere il passo con il progresso tecnologico.
Perché uno stop coordinato sembra quasi impossibile
L’idea di una pausa coordinata appare razionale sul piano della sicurezza. Tuttavia, nella pratica, sembra estremamente difficile.
Il motivo è semplice: l’intelligenza artificiale frontier non è solo una tecnologia. È anche un’infrastruttura strategica. Coinvolge Stati, grandi aziende, piattaforme digitali, investitori e interessi geopolitici.
Chi controlla i modelli più avanzati può ottenere vantaggi enormi. Può aumentare la produttività, rafforzare la sicurezza nazionale, costruire nuovi prodotti, influenzare mercati e consolidare potere tecnologico.
Per questo uno stop coordinato tra tutti i principali player sarebbe complesso. Ogni attore avrebbe un forte incentivo a non restare indietro. Inoltre, alcuni potrebbero essere tentati di rallentare pubblicamente e continuare in segreto.
Anthropic riconosce questo problema. Infatti, la società lega l’eventuale pausa a una condizione precisa:
“we expect that we would slow down or temporarily pause, if other developers at or near the frontier also did so in a verifiable manner.”
In altre parole, Anthropic si aspetterebbe di rallentare o sospendere temporaneamente lo sviluppo solo se anche altri sviluppatori frontier, o vicini al frontier, facessero lo stesso in modo verificabile.
L’AI sta già accelerando lo sviluppo dell’AI
La preoccupazione nasce da un fatto concreto: l’AI sta già accelerando lo sviluppo dell’AI.
Per gran parte della storia dell’intelligenza artificiale, gli esseri umani hanno guidato ogni fase del ciclo di sviluppo. Ricercatori e ingegneri scrivevano codice, progettavano esperimenti, interpretavano risultati e decidevano le direzioni successive.
Secondo Anthropic, questa dinamica sta cambiando. Oggi una quota crescente del lavoro viene delegata a sistemi AI.
All’inizio, i chatbot aiutavano con piccoli frammenti di codice. Poi sono arrivati agenti capaci di modificare interi file. Ora, secondo Anthropic, gli agenti possono eseguire codice, testare soluzioni, correggere errori e delegare compiti ad altri agenti.
Questo cambia il ruolo degli esseri umani. Gli ingegneri non scrivono più necessariamente ogni riga di codice. Sempre più spesso dirigono, revisionano e validano il lavoro prodotto da sistemi AI.
Il dato più rilevante: Claude scrive gran parte del codice
Anthropic afferma che, a maggio 2026, più dell’80% del codice mergeato nella propria codebase era stato scritto da Claude.
Inoltre, nel secondo trimestre del 2026, un ingegnere medio mergeava circa otto volte più codice al giorno rispetto al 2024.
Questo dato va letto con cautela. Le linee di codice non misurano automaticamente la qualità del lavoro. Più codice non significa sempre più valore. Tuttavia, il segnale resta forte: l’uso dell’AI sta aumentando drasticamente la capacità produttiva degli ingegneri.
Anthropic precisa che l’aumento non deriva dal fatto che le persone scrivano più codice manualmente. Deriva dal fatto che Claude produce una quota rilevante del codice, mentre gli esseri umani supervisionano.
Dal “fare” al “decidere cosa fare”
Il punto centrale non è solo che l’AI scrive codice. Il punto è che l’AI sta diventando sempre più efficace nell’eseguire compiti complessi.
Anthropic distingue tra due livelli:
- fare bene un compito;
- decidere quale compito vale la pena fare.
Nel primo livello, Claude sta diventando molto forte. Può scrivere codice, risolvere bug, eseguire esperimenti, ottimizzare processi e analizzare risultati.
Nel secondo livello, il vantaggio umano resta più evidente. Scegliere gli obiettivi, valutare quali risultati siano affidabili e capire quando una direzione non porta da nessuna parte richiede ancora giudizio.
Anthropic riassume questo punto con una frase importante:
“The comparative advantage of humans as of right now is still in seeing the bigger picture and thinking beyond the confines of the immediate task.”
Il vantaggio comparativo degli esseri umani, almeno per ora, sta ancora nel vedere il quadro generale e nel pensare oltre i confini del compito immediato.
Che cos’è la recursive self-improvement
Il termine più delicato è recursive self-improvement.
Con questa espressione si indica uno scenario in cui un sistema AI diventa capace di progettare e sviluppare il proprio successore. In pratica, l’AI non aiuterebbe soltanto gli esseri umani a costruire nuovi modelli. Potrebbe diventare parte centrale del ciclo di miglioramento.
Anthropic afferma chiaramente che non siamo ancora arrivati a questo punto. Inoltre, precisa che questo scenario non è inevitabile.
Tuttavia, se la traiettoria continuasse, la recursive self-improvement potrebbe arrivare prima che molte istituzioni siano preparate.
Questo è il nodo della preoccupazione. Se i sistemi AI potessero costruire sistemi ancora più potenti, il ritmo del progresso potrebbe dipendere sempre meno dal lavoro umano e sempre più da compute, energia, infrastruttura e automazione della ricerca.
Benefici e rischi di un’AI che migliora sé stessa
Anthropic non presenta questo scenario solo in termini negativi. Sistemi AI molto avanzati potrebbero portare enormi benefici.
Potrebbero accelerare la ricerca scientifica, aiutare nella sanità, migliorare la scoperta di farmaci, aumentare la produttività e risolvere problemi tecnici complessi.
Tuttavia, i rischi sarebbero altrettanto profondi. Se l’AI diventasse capace di costruire i propri successori, diventerebbe più difficile garantire controllo, monitoraggio e allineamento.
Il problema non sarebbe solo creare sistemi potenti. Sarebbe verificare che sistemi sempre più potenti restino comprensibili, controllabili e orientati a obiettivi compatibili con quelli umani.
I tre scenari possibili secondo Anthropic
Anthropic immagina tre scenari principali per il futuro dell’AI frontier.
1. Il progresso rallenta
Nel primo scenario, le curve attuali rallentano. Le capacità dei modelli potrebbero seguire una curva a S. Dopo una fase di crescita rapida, potrebbero emergere rendimenti decrescenti.
I limiti potrebbero essere tecnici, energetici, infrastrutturali o legati alla disponibilità di chip e compute.
Anche in questo scenario, però, l’impatto dell’AI resterebbe forte. Le capacità già disponibili potrebbero diffondersi nell’economia e trasformare aziende, lavoro e servizi.
2. Continuano i guadagni di efficienza
Nel secondo scenario, i laboratori AI continuano a ottenere guadagni composti di efficienza.
L’AI automatizza una parte crescente dello sviluppo, ma gli esseri umani continuano a stabilire le direzioni di ricerca e a giudicare i risultati.
In questo mondo, piccoli team potrebbero produrre output che in passato richiedevano organizzazioni molto più grandi. Una società di cento persone potrebbe svolgere il lavoro di aziende composte da migliaia, o persino decine di migliaia, di persone.
Questo scenario avrebbe effetti enormi sulla produttività. Ma potrebbe anche essere usato per finalità dannose, come sorveglianza, manipolazione informativa o operazioni di influenza su larga scala.
3. L’AI sviluppa autonomamente i propri successori
Il terzo scenario è quello della full recursive self-improvement.
Qui i sistemi AI diventano capaci di costruire e migliorare i propri successori. Il ruolo umano nello sviluppo diretto si riduce in modo drastico.
Gli esseri umani si concentrerebbero soprattutto su supervisione, validazione e verifica. Tuttavia, la velocità del progresso potrebbe aumentare molto, perché il laboratorio AI funzionerebbe sempre più come un sistema automatizzato.
Questo è lo scenario più incerto. È anche quello con le implicazioni più profonde per economia, sicurezza, governance e controllo umano.
Perché una pausa unilaterale non basta
Anthropic distingue tra una pausa coordinata e una pausa unilaterale.
Una singola azienda potrebbe decidere di rallentare subito. Tuttavia, questo non risolverebbe il problema generale. Potrebbe semplicemente spostare il vantaggio competitivo verso altri attori.
Se un laboratorio prudente si fermasse, mentre altri continuassero, il risultato potrebbe essere un ecosistema meno sicuro. Il leader tecnologico potrebbe diventare un attore meno trasparente, meno regolato o meno interessato alla sicurezza.
Per questo Anthropic insiste sulla necessità di coordinamento e verifica.
Una pausa significativa richiederebbe più laboratori frontier, in più Paesi, disposti a fermarsi o rallentare alle stesse condizioni. Richiederebbe anche la possibilità di controllare che ciascuno rispetti l’accordo.
Il problema della verifica
La verifica è uno degli ostacoli più difficili.
Nel caso dell’AI, non è semplice controllare se un attore stia davvero rispettando una pausa. Le grandi corse di training possono essere più facili da nascondere rispetto ad altre infrastrutture strategiche.
Inoltre, gli input dell’AI sono general-purpose. Chip, data center, energia e infrastruttura cloud possono essere usati per molte finalità diverse.
Questo rende difficile distinguere attività legittime da attività vietate da un eventuale accordo.
Anthropic osserva che il mondo ha già costruito regimi di verifica per tecnologie complesse. Tuttavia, questi sistemi hanno richiesto decenni di fiducia e infrastruttura. Nel caso dell’AI, il tempo disponibile potrebbe essere molto più breve.
Cosa vuole fare Anthropic
Anthropic afferma di voler contribuire alla costruzione di sistemi che rendano possibile un rallentamento credibile.
Questi sistemi dovrebbero permettere ai principali sviluppatori frontier di verificare che gli altri abbiano effettivamente rallentato o sospeso lo sviluppo. Dovrebbero anche ridurre il rischio che un attore scorretto usi una pausa come copertura per avanzare in segreto.
Inoltre, Anthropic intende promuovere conversazioni con policymaker, ricercatori, società civile e altre aziende AI.
Il punto è importante: la discussione non può restare confinata dentro le aziende che costruiscono i modelli. Le implicazioni riguardano sicurezza, lavoro, economia, governance e società.
Dobbiamo preoccuparci?
Forse sì, dobbiamo iniziare a preoccuparci. Ma bisogna farlo con precisione.
La preoccupazione non riguarda soltanto il fatto che l’AI diventi più potente. Riguarda il fatto che l’AI sta già accelerando il proprio sviluppo, mentre le istituzioni e i meccanismi di controllo avanzano molto più lentamente.
Anthropic non dice che la recursive self-improvement sia inevitabile. Non dice nemmeno che una pausa unilaterale sia la soluzione.
Dice qualcosa di più specifico: sarebbe utile avere l’opzione di rallentare o sospendere temporaneamente lo sviluppo dell’AI frontier, se questo servisse a permettere alla società e alla ricerca sull’allineamento di tenere il passo.
Il problema è che questa opzione, per essere reale, richiederebbe un coordinamento tra attori che oggi competono in modo intenso.
Stati, corporation, piattaforme digitali e investitori hanno incentivi forti a proseguire. Per questo lo stop coordinato appare difficile. Forse difficilissimo.
La domanda decisiva, quindi, non è solo se dovremmo rallentare. È se saremo ancora in grado di farlo quando ci sembrerà necessario.
