L’intelligenza artificiale può davvero sfuggirci di mano. Ma prima di temere il dominio delle macchine dovremmo capire chi sta costruendo il racconto del nostro futuro
C’è qualcosa di profondamente umano nel modo in cui stiamo imparando ad avere paura dell’intelligenza artificiale. Abbiamo costruito una macchina capace di parlare, ragionare, programmare, creare immagini, attraversare in pochi secondi quantità di conoscenza che nessun essere umano potrebbe leggere in una vita. E quasi immediatamente abbiamo cominciato a immaginare il momento in cui quella macchina non avrà più bisogno di noi.
Fino a poco tempo fa il racconto dominante era quello della meraviglia. L’intelligenza artificiale avrebbe accelerato la ricerca scientifica, scoperto nuovi farmaci, aumentato la produttività, trasformato l’istruzione e liberato l’uomo da una parte del lavoro intellettuale ripetitivo. Oggi il lessico è cambiato. Si parla sempre più spesso di perdita di controllo, rischio esistenziale, superintelligenza e persino di estinzione della specie umana. La metafora che ritorna è quella della bomba atomica e, come per il nucleare, si comincia a evocare la necessità di un “disarmo” prima che sia troppo tardi. Il Corriere della Sera ha ricostruito in questi giorni proprio questo passaggio, individuando nell’RSI, il Recursive Self Improvement, uno dei punti centrali dell’allarme: l’ipotesi di sistemi capaci di contribuire al proprio miglioramento, riducendo progressivamente la necessità dell’intervento umano.
È un’idea vertiginosa. Un’intelligenza artificiale aiuta a progettare un’intelligenza artificiale migliore; quella nuova generazione accelera ulteriormente il processo; la successiva ancora di più. Se la dinamica funzionasse davvero in questo modo, il progresso potrebbe smettere di seguire i tempi della ricerca umana e assumere un ritmo difficilmente prevedibile.
Ma proprio qui dovrebbe iniziare la cautela intellettuale. Perché tra “un’AI contribuisce a migliorare un’altra AI” e “l’umanità perde il controllo della propria creazione” esiste uno spazio enorme, riempito da una lunga successione di ipotesi. Il sistema dovrebbe non soltanto diventare straordinariamente capace, ma acquisire sufficiente autonomia, poter operare nel mondo, avere accesso a risorse e infrastrutture, riuscire ad aggirare le protezioni costruite dagli uomini e infine perseguire comportamenti incompatibili con gli interessi di chi lo ha creato.
Ognuno di questi passaggi è possibile oggetto di ricerca. Nessuno, però, è automaticamente contenuto nel precedente.
Ed è precisamente qui che un nuovo studio di Luciano Floridi, Jessica Morley e Claudio Novelli introduce nel dibattito una domanda molto più antica dell’intelligenza artificiale: che cosa significa sapere qualcosa sul futuro?
Nel loro Not Even Wrong 2: An Audit of Public AGI Prediction, 1950–2026, i tre studiosi hanno esaminato ventiquattro tra le più note previsioni pubbliche sull’arrivo dell’AGI, sulla Singolarità e sulla possibile estinzione provocata dall’AI. Non hanno cercato di stabilire se l’Apocalisse arriverà. Hanno posto una domanda apparentemente più modesta: queste previsioni sono formulate in modo tale che un giorno possiamo stabilire che erano sbagliate?
Il risultato è notevole. Diciannove su ventiquattro, il 79 per cento, vengono classificate come not even wrong, secondo la celebre espressione attribuita a Wolfgang Pauli: non necessariamente false, ma formulate in modo da non poter essere realmente falsificate. Due risultano falsificabili e già smentite; tre rimangono aperte. E, osservano gli autori, la qualità complessiva di questa pratica previsionale non mostra un miglioramento rilevabile con la maturazione del settore.
È una distinzione fondamentale. Essere sbagliati è perfettamente compatibile con la scienza. Anzi, è una delle sue condizioni. Una previsione precisa accetta di esporsi alla realtà. Dice cosa accadrà, entro quando, attraverso quale meccanismo e quali osservazioni consentiranno di stabilire che non è accaduto. Una profezia funziona diversamente. Può cambiare significato mentre il tempo passa. Può spostare l’orizzonte. Può ridefinire ciò che intendeva prevedere.
Floridi e colleghi ricordano che persino Alan Turing, nel 1950, formulò una previsione estremamente più vulnerabile di molte dichiarazioni contemporanee: indicò un periodo, un test e una soglia misurabile. Proprio per questo il mondo avrebbe potuto contraddirlo.
Ed ecco il primo grande paradosso dell’epoca dell’intelligenza artificiale: disponiamo di macchine immensamente più sofisticate di quelle che Turing poteva immaginare, ma rischiamo di parlare del loro futuro con categorie molto meno precise.
Gli autori del paper non sostengono affatto che l’AGI non arriverà o che i rischi dell’AI siano fantasie. Lo precisano esplicitamente. Alcuni argomenti seri sulla difficoltà di controllare sistemi estremamente avanzati rimangono intatti. La loro affermazione è più circoscritta e, proprio per questo, difficile da liquidare: un insieme di affermazioni che non può essere dimostrato sbagliato non può essere trattato come evidenza. E invece quelle affermazioni influenzano governi, finanziamenti e priorità della ricerca. Il problema diventa ancora più evidente quando compare la parola “estinzione”.
La scomparsa dell’umanità rappresenta la conseguenza massima immaginabile. Di fronte a una conseguenza infinita, persino una probabilità minuscola può sembrare intollerabile. È la struttura del cosiddetto Pascal’s mugging: se il danno possibile diventa abbastanza grande, la sua enormità finisce per oscurare la domanda sulla probabilità che accada realmente.
Floridi e colleghi fanno un’osservazione volutamente provocatoria: utilizzato da solo, questo schema potrebbe giustificare un’attenzione straordinaria anche verso un’invasione extraterrestre o un demone cartesiano.
Naturalmente l’AI non è un extraterrestre. Esiste, progredisce e possiede già capacità straordinarie. Il punto filosofico è un altro: la gravità di una conseguenza non costituisce una prova della sua probabilità.
Ed è proprio mentre discutiamo dell’estinzione che rischiamo di trascurare problemi dell’intelligenza artificiale molto meno spettacolari e già presenti.
Anthropic ha recentemente denunciato casi nei quali Claude sarebbe stato utilizzato o si sarebbe tentato di utilizzarlo in attività collegate a propaganda, cyber-operazioni e ambiti militari, con episodi ricondotti nel rapporto a soggetti legati a diversi Paesi, tra cui Cina e Russia. L’azienda afferma di aver individuato e bloccato questi abusi.
Qui non occorre immaginare una macchina che sviluppa una volontà propria. È sufficiente un essere umano con una volontà molto tradizionale che utilizza una macchina molto nuova.
Forse è questa la distinzione che il fascino dell’Apocalisse tende a cancellare. Esistono rischi derivanti da ciò che l’AI potrebbe decidere di fare in un futuro ipotetico, ed esistono rischi derivanti da ciò che gli uomini possono già decidere di fare attraverso l’AI. I secondi sono meno metafisici, ma decisamente più verificabili.
C’è poi un altro problema che riguarda la verifica, questa volta non delle profezie ma dei risultati prodotti dalle macchine.
Immaginiamo un’AI capace di formulare diecimila ipotesi scientifiche in un pomeriggio, progettare centinaia di molecole, produrre milioni di righe di codice. La capacità di generare conoscenza aumenterebbe enormemente. Ma una molecola deve essere sperimentata. Una teoria deve affrontare la realtà. Un programma deve essere controllato. Una diagnosi deve corrispondere al paziente.
Potremmo così trovarci davanti a uno strano paradosso: la capacità delle macchine di produrre cose da verificare potrebbe crescere più rapidamente della capacità umana di verificarle.
E mentre questo accade, potremmo utilizzare proprio l’AI per delegare progressivamente le competenze necessarie al controllo. Il programmatore che non comprende più completamente il codice generato; lo studente che ottiene il risultato senza imparare il procedimento; il giornalista che legge la sintesi senza tornare alla fonte; il ricercatore che si affida a un sistema la cui catena di ragionamento non può ricostruire.
Il problema filosofico, allora, cambia natura. Non è più soltanto chiedersi se una macchina possa sapere più cose dell’uomo. È chiedersi se l’uomo conserverà abbastanza conoscenza per riconoscere quando la macchina sbaglia. E proprio qui il problema della conoscenza incontra quello del potere.
Quando il capo di un’azienda che sviluppa uno dei sistemi più avanzati al mondo avverte che quella tecnologia potrebbe diventare immensamente più intelligente degli esseri umani e potenzialmente pericolosa, può essere perfettamente sincero. Non abbiamo elementi per concludere il contrario.
Ma sarebbe ingenuo ignorare che quella stessa frase produce anche un potentissimo effetto di posizionamento. “Abbiamo costruito un ottimo software” racconta un’azienda.
“Stiamo costruendo qualcosa di così potente che potrebbe cambiare il destino della specie” racconta quasi una potenza mondiale.
È quello che potremmo definire marketing della catastrofe, senza necessariamente intendere con ciò una manipolazione deliberata. Allarme e interesse economico possono convivere. Una persona può credere sinceramente nel rischio che denuncia e contemporaneamente beneficiare dell’attenzione, degli investimenti e della centralità politica che quell’allarme produce.
Floridi e colleghi ricordano, del resto, che le previsioni tecnologiche non si limitano a descrivere il futuro: possono contribuire a determinarlo. Il rapporto Lighthill del 1973, dopo aver confrontato le promesse dell’AI con i risultati ottenuti, contribuì alla drastica riduzione dei finanziamenti britannici che sarebbe stata associata al primo “AI winter”. Le previsioni diventano così fatti istituzionali: orientano legittimità, investimenti, ricerca e decisioni pubbliche.
E allora la domanda diventa inevitabile: chi verifica chi ci dice che l’AI è pericolosa?
È significativo che nel dibattito recente sia emersa proprio l’idea di verifiche indipendenti sui laboratori di frontiera. Se una tecnologia può davvero rappresentare un rischio sistemico, la valutazione di quel rischio non può dipendere esclusivamente dalle aziende che la costruiscono.
Ma anche qui compare un paradosso economico. Audit sofisticati, enormi gruppi dedicati alla sicurezza, certificazioni e infrastrutture di controllo costano molto. I grandi operatori possono permetterseli. Un nuovo concorrente molto meno.
Una regolamentazione pensata sinceramente per rendere l’AI più sicura potrebbe quindi produrre anche un effetto collaterale: consolidare il mercato nelle mani delle poche aziende abbastanza ricche da soddisfarla. E a questo punto, inevitabilmente, compare la Cina.
Perché mentre discutiamo filosoficamente della possibilità che un giorno l’intelligenza artificiale possa sottrarsi al controllo dell’uomo, Stati Uniti e Cina stanno combattendo una battaglia molto concreta per controllare la tecnologia prima che quella eventualità si presenti.
Il Corriere ha ricostruito l’allarme americano sulla distillazione: secondo un rapporto dell’intelligence statunitense citato dal giornale, dal 2024 importanti laboratori cinesi avrebbero interrogato milioni di volte costosi modelli americani, sfruttandone gli output su larga scala. La distillazione consente infatti di utilizzare le risposte di un modello più potente per contribuire all’addestramento di un altro sistema: un problema che negli Stati Uniti viene letto anche alla luce degli enormi investimenti necessari per costruire i modelli di frontiera.
Ed ecco che il dibattito sul “rallentare” assume improvvisamente un significato diverso.
Dario Amodei, Sam Altman ed Elon Musk sono tra le figure che hanno espresso apertura o sostegno verso un rallentamento della corsa ai sistemi più avanzati. Donald Trump ha risposto in senso opposto. Il suo ragionamento è esplicitamente geopolitico: gli Stati Uniti sono davanti alla Cina e devono restarci, perché, nelle sue parole, «chi vince nel campo dell’AI, vince su tutto».
Le due posizioni sembrano inconciliabili.
Una dice: dobbiamo rallentare perché questa tecnologia potrebbe diventare troppo potente.
L’altra risponde: non possiamo rallentare proprio perché questa tecnologia è troppo potente.
Ma sotto la contraddizione esiste un accordo quasi perfetto: l’intelligenza artificiale è ormai considerata una forma di potere.
Potere economico, perché può trasformare la produttività. Scientifico, perché può accelerare la ricerca. Militare, perché entra nella cyberwarfare, nell’intelligence e nei sistemi autonomi. Informativo, perché permette di produrre persuasione e propaganda su una scala precedentemente impensabile. E geopolitico, perché un vantaggio tecnologico sufficientemente grande potrebbe trasformarsi in un vantaggio strategico.
La questione è diventata talmente trasversale da produrre negli Stati Uniti alleanze che fino a ieri sarebbero sembrate improbabili. Bernie Sanders e Steve Bannon, partendo da visioni politiche profondamente differenti, si sono trovati nello stesso evento dedicato alla necessità di mantenere l’AI sotto controllo umano e limitare la concentrazione del potere tecnologico. Il fatto è interessante non perché le loro motivazioni coincidano – non coincidono – ma perché mostra quanto l’AI stia attraversando le tradizionali linee politiche. Forse allora abbiamo commesso un piccolo errore prospettico.
Ci siamo domandati se l’intelligenza artificiale possa un giorno conquistare il potere e abbiamo prestato meno attenzione al fatto che il potere si sta già riorganizzando intorno all’intelligenza artificiale.
Tra aziende che possiedono modelli e aziende che non li possiedono. Tra Stati che dispongono dei chip più avanzati e Stati che cercano di raggiungerli. Tra chi può sostenere miliardi di investimenti e chi rimane escluso. Tra chi produce le previsioni sul futuro della tecnologia e chi costruisce le proprie politiche sulla base di quelle previsioni.
È qui che il paper di Floridi, Morley e Novelli diventa particolarmente prezioso. Non ci chiede di smettere di preoccuparci. Ci chiede qualcosa di più difficile: preoccuparci con metodo.
Gli autori propongono di applicare alle previsioni sull’AI ciò che altre discipline hanno imparato dolorosamente a fare: definire con precisione ciò che si prevede, stabilire come misurarlo, fissare una data, dichiarare una probabilità, spiegare il meccanismo causale, confrontare la previsione con quelle precedenti e lasciare una traccia delle revisioni. Soprattutto, affidare il giudizio a qualcuno diverso da chi ha pronunciato la profezia. È quasi sorprendente quanto tutto questo suoni poco futuristico.
Dopo aver evocato superintelligenze, Singolarità e macchine capaci di migliorare se stesse, la soluzione epistemologica potrebbe consistere nelle vecchissime virtù della scienza: misurare, verificare, dubitare, conservare gli errori e accettare di essere smentiti.
Perché l’intelligenza artificiale potrebbe davvero trasformare la civiltà. E proprio per questo sarebbe irresponsabile liquidarne i rischi come fantasie. Ma sarebbe altrettanto irresponsabile trasformare una possibilità in una probabilità, una probabilità in una certezza e una certezza in una politica senza fermarsi, lungo il percorso, a chiedere quali prove sostengano ciascun passaggio.
La questione più importante potrebbe quindi non essere se un giorno una macchina riuscirà a impedire a un uomo di premere l’interruttore. Potrebbe essere molto più vicina a noi.
Chi decide quando quell’interruttore deve essere premuto? Chi stabilisce che il pericolo è reale? Chi controlla le prove? Chi beneficia delle regole introdotte per evitarlo? E chi possiede le macchine nel frattempo?
Forse la vera partita dell’intelligenza artificiale non opporrà semplicemente uomini e macchine. Opporrà uomini ad altri uomini, aziende ad altre aziende, Stati ad altri Stati, tutti convinti che il futuro dipenda dalla tecnologia che possiedono – o da quella che temono possano possedere gli altri.
L’Apocalisse artificiale rimane, almeno oggi, una possibilità da studiare. La lotta per il potere di definirla, raccontarla e governarla è invece già cominciata.
Stefano Camilloni
