A volte ritornano…i punti di non ritorno

Combinando lo stato di tutti e nove Limiti Planetari in un unico numero diagnostico,
il risultato del Planetary Health Check 2026 è in zona pericolo. E cresce anno dopo anno.

Lo so, già in passato si è trattato del ritorno…dei punti di non ritorno (tipping point), ma questa è un’analisi che parte da un punto di vista diverso. E sarebbe il caso di evitare di ritornarci…

C’è un profondo legame tra lo stato di salute del pianeta Terra e quello umano: un’interconnessione esplicitata attraverso sistemi complessi e adattativi. 

Si veda oltre per i dettagli

Nell’ottobre del 2024, presso la "European School of Management and Technology" di Berlino (ESMT) si tenne un incontro noto come “Virchow-ESMT Lecture”. In quell’occasione fu ampiamente illustrato e dimostrato come la rapida crescita delle pressioni antropiche siano agenti destabilizzanti il sistema terrestre. Dopo aver definito nove limiti planetari da rispettare (figura a sinistra, dettagliata più avanti anche se già da qui è chiaro quanto si sia…in rosso!), le evidenze scientifiche indicavano chiaramente già da tempo che ben sei dei nove limiti planetari sono già stati superati, aumentando il rischio di oltrepassare soglie di collasso irreversibili. Tipping point appunto. Tra i vari limiti planetari ad esempio il cambiamento climatico, l’acidificazione degli oceani, lo stato della biosfera e l’estinzione di massa in corso. 

La civiltà umana ha preso forma e si è sviluppata durante l’Olocene, un’epoca geologica iniziata 11.700 anni che coincide, approssimativamente, con la fine dell’ultima fase glaciale che interessò l’emisfero boreale: un’epoca di stabilità climatica, un punto di riferimento per condizioni operative adeguate alle esigenze dell’umanità. Rimanere entro questo spazio è essenziale sia per la resilienza ecologica sia per il conseguimento degli Obiettivi di sviluppo sostenibile delle Nazioni Unite (SDG), che dipendono dalla stabilità del sistema terrestre.

Nonostante la Terra presenti ancora retroazioni autoregolanti, dette anche «negative» e sembrano offrire una finestra d’azione limitata ma decisiva per invertire la rotta, sappiamo oggi purtroppo che la capacità della biosfera di regolare il clima è gravemente minacciata: senza interventi urgenti per ripristinare e proteggere la natura e i suoi serbatoi naturali di carbonio, persino la completa decarbonizzazione entro il 2050 potrebbe non bastare a prevenire crisi sistemiche.

I self-dampening feedbacks sono infatti meccanismi in cui l’esito di un processo contribuisce a stabilizzarlo, rallentarlo o contrastarlo, mantenendo l’equilibrio (ne abbiamo scritto di recente); agiscono quindi in modo opposto ai cosiddetti feedback positivi, auto-rinforzanti.

Soltanto riconoscendo lo stato di salute del nostro pianeta come fondamento del benessere umano e della giustizia, che sia quella climatica o quella legata alla necessaria ridistribuzione delle risorse, possiamo valutare, persino annualmente, il percorso da percorrere.

Introduzione
C'è una connessione importante tra la salute delle persone e quella del pianeta, entrambe comprensibili come sistemi complessi adattivi che interagiscono. Come la Terra, anche un sistema sanitario è complesso e adattivo: comprende persone, strutture, istituzioni e ambiente, le cui interazioni possono amplificare o attenuare una crisi. Allo stesso modo, la scienza descrive il pianeta come un sistema adattivo complesso, composto da componenti biologiche e geologiche interconnesse: alle famose cinque sfere, litosfera, idrosfera, biosfera, criosfera e atmosfera, insieme alle loro interazioni fisiche, chimiche, geologiche e biologiche, dovremmo aggiungere secondo molti una cosiddetta antroposfera, che non tanto distingue biologicamente Homo sapiens dalle altre entità viventi, quanto culturalmente per il suo profondo impatto.

Con una visione certamente al di fuori della concretezza e del rigore del metodo scientifico (gli stessi autori precisavano il carattere metaforico delle loro affermazioni), nel 1979 James Lovelock e Lynn Margulis (ne scrissi qui) elaborarono la cosiddetta “Teoria di Gaia”, espressione estrema di un certo tipo di pensiero ecosistemico del XX secolo: una Terra vista come entità vivente, che si autoregola per rimanere in uno stato di sano equilibrio allo scopo di attenuare il disturbo. Se il pianeta si scalda per effetto della pressione antropica (sotto forma di emissioni di gas serra) il pianeta deve raffreddarsi per controbilanciare lo squilibrio energetico (cioè il calore in eccesso) creato dalle pressioni antropiche sotto forma di emissioni di gas serra, ecco che deve raffreddarsi con degli opportuni cicli di feedback negativo. Ma se il pianeta, come accade, viene lasciato troppo poco curato, potrebbe intraprendere un percorso malsano, allontanandosi dalla sua capacità di autoregolarsi (cioè attenuare lo stress).

Metafora o no, per la prima volta nell’esistenza umana sul pianeta Terra, abbiamo prove ampie e inequivocabili che la Terra paziente è in una condizione critica.

E tornando al paragone iniziale un sistema sanitario resiliente non può limitarsi a curare i pazienti: deve contribuire a proteggere le condizioni ambientali che rendono possibile la salute. Occorrono controlli sanitari regolari e va definito scientificamente uno spazio operativo sicuro sulla Terra entro cui sia possibile l'equità, la prosperità e sistemi sanitari funzionali per gli esseri umani.

La posta in gioco? L’umanità.

Ricordando un antico proverbio Navaho che recita che «noi non ereditiamo la terra dai nostri padri ma la prendiamo in prestito dai nostri figli» ribadisco che siamo la prima generazione nella storia del genere umano ad avere un’idea piuttosto precisa dell’eredità che toccherà in sorte ai nostri posteri.

Stato attuale della salute della Terra
Sia il “Gruppo intergovernativo sul cambiamento climatico” (IPCC), che il “Panel internazionale sulla biodiversità e i servizi ecosistemici” (IBPES) riconoscono che non sarà possibile raggiungere gli Obiettivi di Sviluppo Sostenibile senza un pianeta sano. L’obiettivo siglato più di un decennio fa a Parigi sembra essere già saltato. E tutto questo perché finora non si è stati in grado di definire politiche globali che comprendano e affrontino l’interezza del problema.

È di ieri la notizia che l’assemblea internazionale di IPCC si è conclusa senza una decisione sui tempi del prossimo rapporto mondiale, e questo stallo favorisce ovviamente i governi meno interessati alla decarbonizzazione che, guarda caso, sono i più grandi emettitori di gas serra. Dopo gli ultimi fallimenti inoltre, dalla prossima COP non c’è molto da attendersi se non…le solite chiacchiere.

Anche eliminando carbone, petrolio e gas e raggiungendo emissioni nette zero entro il 2050, il pianeta continuerebbe a perdere stabilità. La decarbonizzazione, infatti, non basta se non proteggiamo le funzioni complesse del sistema Terra, soprattutto quelle svolte dagli organismi viventi della biosfera. È questa la sfida cruciale del nostro tempo.

Secondo l’IPCC, abbandonare i combustibili fossili non è sufficiente: per rispettare l’Accordo di Parigi, occorre anche preservare la capacità della biosfera terrestre e marina di assorbire circa il 50% della CO₂ che emettiamo. Ciò richiede di mantenere intatta fino alla metà delle terre emerse e di conservare entro intervalli stabili la fisica, la chimica e la biologia degli oceani. Da qui la necessità di definire e misurare uno «spazio operativo sicuro» per i processi biofisici che sostengono la resilienza, la stabilità e la vita sulla Terra. L’obiettivo è salvaguardare l’abitabilità del pianeta, preservandone la capacità di autoregolarsi.

Stabilità, resilienza e capacità di sostenere la vita definiscono, nel loro insieme, la salute del pianeta: la possibilità per il sistema Terra di garantire nel tempo le funzioni da cui dipende l’umanità. Oggi questa stabilità è minacciata, perché le pressioni umane hanno già raggiunto i limiti dei processi naturali che regolano il pianeta.

Allo stesso tempo, i progressi scientifici ci consentono di giungere ad alcune conclusioni fondamentali:

• Abbiamo oggi un punto di riferimento che ci consente di definire lo stato di salute del pianeta.
• Sappiamo riconoscere i segnali di un pianeta in sofferenza e individuare quelli da monitorare per valutare il rischio di superare i punti di non ritorno.
• Indipendentemente dalle osservazioni della  International Commission on Stratigraphy dobbiamo riconoscere che siamo ormai nell’Antropocene, dove noi, esseri umani nel mondo attuale, siamo la forza dominante del cambiamento sul pianeta Terra e dove i rischi di cambiamenti irreversibili si avvicinano rapidamente.

Nella Figura 1 seguente, «Viaggio dell’umanità sulla Terra», c’è la sintesi delle evidenze che definiscono lo stato di riferimento da cui dipende la salute del pianeta e dell’umanità.

Figura 1 - Il viaggio dell'umanità sulla Terra – Dimensione della popolazione umana e temperatura globale da 500.000 anni fa e fino al 2100.
La figura è un insieme composto di diversi set di dati, inclusi stime di dati paleocliimatici, proxy data, misurazioni recenti e proiezioni future.

La Figura 1 (qui per una visione più nitida) mostra la base scientifica su cui sono definiti i limiti planetari, e serve a comprendere l’evoluzione del pianeta Terra negli ultimi 400.000, a comprendere quindi un periodo compreso tra 200.000 e 300.000 anni fa, parallelamente al viaggio di Homo sapiens su di essa.

La temperatura media globale della superficie è già aumentata di 1,2 °C rispetto all’epoca preindustriale. Se l’attuale degrado ambientale e l’uso dei combustibili fossili continueranno al ritmo attuale, entro la fine del secolo il riscaldamento potrebbe raggiungere almeno 2,7 °C. Sono passati circa tre milioni di anni da quando la Terra aveva temperature del genere: un cambiamento di questa portata potrebbe segnare la fine del Quaternario. Una traiettoria che porti ai 2,7 °C è quindi estremamente pericolosa, perché non sappiamo se il pianeta riuscirebbe ancora a garantire condizioni di vita dignitose a otto, presto nove, o ai dieci miliardi di persone attesi per la fine del secolo.

Il dato più sorprendente è che, dalla nascita delle prime civiltà circa 12.000 anni fa, la temperatura media della Terra è rimasta entro l’intervallo eccezionalmente ristretto di 14 ± 0,5 °C, caratteristico dell’Olocene, una stabilità affermatasi dopo il raggiungimento del culmine glaciale e l’avvio della fase di riscaldamento, circa 18.000 anni fa. In precedenza, per gran parte dei suoi circa 2-300.000 anni di storia, Homo sapiens contava al massimo pochi milioni di individui, organizzati in comunità di cacciatori-raccoglitori, e attraversò due glaciazioni e due periodi interglaciali. Con l’uscita dall’ultima era glaciale ebbe inizio la rivoluzione neolitica: l’umanità divenne sedentaria, sviluppò agricoltura e allevamento e avviò il percorso verso le civiltà odierne.

L’ingresso nell’Olocene offrì all’umanità una stabilità climatica senza precedenti: stagioni e piogge divennero abbastanza regolari da consentire la pianificazione agricola; nelle savane la prevedibilità delle precipitazioni rese possibile seminare e conservare acqua fino al raccolto; nelle zone temperate le temperature primaverili intorno ai 15 °C garantivano circa 120 giorni utili prima della raccolta autunnale. Questa regolarità sostenne lo sviluppo delle società moderne. Oggi, però, ci stiamo allontanando proprio da quelle condizioni, che rappresentano il riferimento climatico favorevole all’umanità.

Che cosa ci sta spingendo fuori dall’Olocene, ovvero fuori dal punto di equilibrio?

Figura 2 - Un'immagine stilizzata dei possibili stati del sistema terrestre. Attualmente la Terra si trova su un percorso lontano dall'Olocene.
Se atterrerà in condizioni "simili all'Olocene" o si allontanerà ulteriormente, dipende dagli sforzi dell'umanità per piegare
la curva delle emissioni di gas serra e proteggere e restaurare la natura.

Nella Figura 2, rappresentando l’Olocene come una zona di equilibrio a minor dispendio energetico, la Terra ha intrapreso un percorso (Antropocene) che la vede attualmente in bilico sull’orlo di due possibilità. Per adesso abbiamo normali variazioni naturali, includendo tutto ciò che ha a che fare con il vulcanismo e la sismicità del pianeta, o con i processi climatici o le tempeste solari, ma, per ora, la resilienza del sistema è tale che anche urtato, il sistema non traboccherà oltre il bordo di questa coppa.

Le evidenze indicano però che questa depressione si sta facendo meno profonda: basteranno forzanti sempre più deboli per spingere il sistema Terra oltre la soglia. Il pianeta potrebbe così passare a un nuovo stato di equilibrio, una «Terra-serra», dalle conseguenze profondamente incerte per l’umanità.

L’Olocene è lo stato di riferimento favorevole all’umanità: il sistema Terra è però complesso e adattivo, i suoi principali organi, gli elementi che contribuiscono alla stabilità del clima e che possono assumere stati diversi, separati da soglie critiche, sono in stato di disequilibrio. Se le pressioni superano tali soglie, i meccanismi di autoregolazione possono trasformarsi da feedback stabilizzanti in processi auto-rinforzanti, accelerando il cambiamento. Come quando la fusione del ghiaccio delle banchise polari espone le sottostanti acque più scure diminuendo fortemente il potere riflettente della superficie: l’aumento della temperatura aumenta la fusione che espone le acque scure che aumentano la temperatura che…

Figura 3- Il sistema di tipping points relazionati all’aumento della temperatura globale media, al di sopra del quale
ciascun punto di non ritorno è probabile che si inneschi. (via Potsdam Institute)

Tipping point – punto di non ritorno

Quali sono le ragioni della deriva che allontana il pianeta dalle condizioni oloceniche?

Le cause, ancora una volta, sono da ricercare nei tipping points: ogni volta che uno di essi viene raggiunto e superato lo stato di salute generale del pianeta peggiora in maniera irreversibile e indebolisce lo stato di salute e le possibilità di ripresa, ecco perché l’Olocene rappresenta dunque lo stato di riferimento favorevole da cui dipendiamo. L’interazione continua tra le cinque sfere rende il sistema Terra complesso, reattivo e adattivo. Facendo riferimento a quanto illustrato nella Figura 3, è possibile individuare 16 tipping points, alcuni dei quali contribuiscono a regolare il clima e possono assumere stati stabili diversi, separati da soglie critiche. Di questi 6 si trovano nell’Artico dove la calotta glaciale della Groenlandia svolge un ruolo centrale ed è collegata, attraverso l’Atlantico settentrionale e la circolazione AMOC, ad altri sistemi come la foresta amazzonica e la calotta antartica. Sono componenti fisiche e biologiche interconnesse, nelle quali l’oceano agisce come il sistema circolatorio del pianeta, integrando anche i cicli biologici. Se le pressioni superano le soglie di criticità i meccanismi di retroazione possono passare dall’attenuare lo stress all’amplificarlo.

Mettendo dunque in relazione tutti questi fattori emergono due aspetti fondamentali.

Una volta individuati i processi ambientali che regolano la salute del pianeta occorre conoscerne quantitativamente i limiti, per ciascuno di essi, superati i quali è dimostrato che la condizione della Terra possa deteriorarsi al punto di generare cambiamenti irreversibili e tali da compromettere i sistemi di supporto alla vita.

Un esempio: l’espansione termica dell’acqua all’aumentare della temperatura.

Ogni volta che si parla aumento del livello medio dei mari a causa del cambiamento climatico si fa spesso riferimento solo alla fusione dei ghiacciai continentali, delle calotte polari e della Groenlandia. In realtà la causa principale dell’innalzamento del livello del mare in tempi recenti è dovuto all’espansione termica seguita all’aumento della temperatura degli oceani.

Nel grafico gli scenari. Più tardi si smette di riscaldare più alta sarà la crescita del livello, ma crescerà comunque. E se 1 m o 1,5 m vi sembrano pochi vi ricordo quel che ho scritto in questo post, prendendo ad esempio il delta del Mekong. Più della metà dell’effetto di innalzamento registrato ad oggi è causato dall’espansione termica e, mentre possiamo avere incertezze sulle modalità e le tempistiche che riguardano la fusione dei ghiacci, non ce ne sono in questo caso. Anche molto tempo dopo la cessazione delle emissioni di gas serra il livello del mare continuerà a salire. Questo è un tipping point, e questi altri.

• Il ghiaccio galleggiante della banchisa, o quello continentale dei ghiacciai, fonde a causa del cambiamento climatico. Ma questo espone le acque o le terre sottostanti, più scure, che quindi riflettono meno luce solare e ne assorbono di più, causando un ulteriore scioglimento del ghiaccio, e così via. Sta succedendo nell'Artico.
  
• Il ghiaccio delle calotte fonde e riduce l'altezza della calotta, ma la temperatura a quote più basse è più alta, dunque la sommità del ghiaccio scende di livello, si riscalda ancora di più e si scioglie più velocemente. Sta succedendo in Groenlandia.
  
• Le acque calde causano l'erosione delle piattaforme glaciali galleggianti e le frantumano, ma queste ultime facevano da contrafforte a enormi ghiacciai, che ora sono liberi di riversarsi in mare destabilizzando ulteriormente la calotta retrostante. Sta succedendo in Antartide.

La base teorica per la definizione dei limiti planetari c’è ed è quel che porta a definire  e quantificare uno spazio operativo sicuro per l’umanità sulla Terra, uno spazio di salute planetaria.

Qui potete accedere al report completo del Potsdam Institute per l’anno 2026.

Figura 4 - L'iconico e fondamentale diagramma dei Limiti Planetari (PBs, 2026) rappresenta visivamente lo stato attuale dei nove processi che regolano la salute del nostro pianeta. Ogni processo è quantificato da una o più variabili di controllo basandosi su dati osservativi, simulazioni di modelli e opinioni di esperti.

Infine, in Figura 4, sono rappresentati i nove sistemi biofisici, nove limiti planetari: cambiamento climatico, sovraccarico con entità nuove[1], esaurimento dello strato di ozono stratosferico, accumulo di aerosol atmosferici, acidificazione degli oceani, interferenza nei flussi biogeochimici, cambiamento delle acque dolci, cambiamento dei sistemi terrestri e cambiamento nell'integrità della biosfera.

L’inquinamento atmosferico è un esempio concreto di relazione tra salute planetaria e salute umana. Oltre ad interferire col regime monsonico, il tasso di inquinamento atmosferico provoca la perdita di circa 8 milioni di persone ogni anno. 7–8 milioni di persone all'anno. È di questi giorni la drammatica situazione in Indonesia.

Nel 2023, per la prima volta, è stato possibile quantificare tutti e nove i limiti planetari e definire per ciascuno una soglia di sicurezza. Superarla aumenta il rischio di allontanare la Terra dalle condizioni che hanno sostenuto lo sviluppo umano. Sei limiti sono già stati oltrepassati. Nella Figura 4, la zona gialla rappresenta l’incertezza scientifica e segnala una condizione di pericolo: entrarvi non comporta necessariamente un collasso immediato, ma indica rischi crescenti. Nella zona rossa, invece, aumenta la probabilità di cambiamenti irreversibili. Il cambiamento climatico vi è già entrato, mentre anche i limiti della biosfera sono ampiamente fuori dallo spazio sicuro. Questo rivela un duplice errore umano: stiamo generando uno squilibrio energetico che minaccia la stabilità e l’abitabilità della Terra e, allo stesso tempo, indeboliamo la biosfera, cioè la capacità del pianeta di attenuarne gli effetti. Si noti invece come l’aver risolto il problema noto come “buco dell’ozono” abbia fatto rientrare il limite planetario in zona verde.

Figura 5 -  Salute planetaria. Così come un esame del sangue fornisce informazioni sulla salute del corpo umano e identifica aree di attenzione, questo controllo valuta 13 variabili di controllo per mezzo dei 9 processi limite (PB), per riferire sulla stabilità, la resilienza e le funzioni di supporto vitale della Terra:
è un colpo d’occhio sulla salute complessiva del nostro pianeta.

Nella Figura 5, il verde indica la zona sicura, mentre il giallo e l’arancione rappresentano condizioni di incertezza e pericolo. Sei dei nove limiti planetari risultano ancora oltre la soglia di sicurezza e le frecce mostrano che continuano a peggiorare. Non solo ci troviamo quindi in una zona di pericolo, ma non abbiamo ancora invertito la tendenza. Occorre cambiare rapidamente rotta per rientrare nello spazio sicuro per l’umanità. La figura all’inizio sintetizza la situazione riassumendo l’intero intervallo dei limiti planetari e mostra che la Terra si trova nella zona di pericolo, avvicinandosi rapidamente alla fascia rossa.

Sappiamo ormai che la foresta amazzonica, il bioma terrestre più ricco, non assorbe più carbonio nella sua vasta regione sud-orientale, divenuta una fonte netta di emissioni: è questo un grave segnale d’allarme. Anche la calotta glaciale della Groenlandia fonde più rapidamente del previsto. E la maggior parte dello squilibrio energetico alla base dell’attuale crisi climatica viene assorbito dal sistema Terra: nonostante rimanga in atmosfera solo l’1% del calore in eccesso prodotto dalle attività umane, che causano le emissioni di gas serra, ciò ha già contribuito a un aumento della temperatura media globale che ha ormai superato 1,5 °C, per tre anni di fila. Il resto è assorbito soprattutto dagli oceani, 89%, mentre il 4% alimenta la fusione dei ghiacci e il 5% riscalda il suolo. Come un organismo sotto stress, il pianeta attiva quindi meccanismi che ne attenuano gli effetti, ma la loro capacità non è illimitata. La salute planetaria non è separabile alla cosiddetta giustizia climatica, perché il cambiamento climatico è innanzi tutto un problema di ordine sociale, con implicazioni drammatiche per una parte gigantesca dell’umanità. Dove collocare i limiti dei confini planetari per non superare i livelli massimi tollerabili di danno significativo alle persone?

Considerando anche la salute e la giustizia sociale, lo spazio operativo sicuro si restringe. Il pianeta può tollerare concentrazioni di inquinanti e aumenti di temperatura superiori a quelli sopportabili dagli esseri umani, è già accaduto nel passato geologico, con temperature che oggi sarebbero letali per gli esseri umani, ma che hanno consentito la permanenza della vita in continua mutazione e adattamento. Con un riscaldamento globale di 2 °C, circa due miliardi di individui potrebbero essere esposti a condizioni di calore letale: lo abbiamo toccato con mano durante la torrida estate 2026 e le ondate di calore che hanno interessato l’Europa.

Poiché molti vivono già nelle aree più vulnerabili, questa prospettiva rappresenta una grave minaccia fisica e morale per il futuro dell’umanità.

---

[1] Consistono nell’introduzione o nella messa in circolo di elementi nuovi. C’è un po’ di tutto, possono essere di natura umana o causati da mobilizzazione chimico-fisica. Per esempio inquinanti organici, micro e macroplastiche, elementi radioattivi, pesticidi, PFAS. Sono per lo più impattanti la biosfera ma non esclusivamente.

Adattamento e rielaborazione da Diagnosing earth's tipping points: where we stand in the Anthropocene.

Due riassunti sull'Intelligenza Artificiale - Seconda parte

 LLM, intelligenza artificiale e miti dell’emergenza

da "Le 17 equazioni che hanno
cambiato il mondo" di Ian Stewart, 2012

Premessa

Nel post precedente ho cercato di mettere in evidenza gli aspetti principali di una narrazione artificiosa, forzata e spesso del tutto priva di fondamento, al limite della ciarlataneria, che sta da parecchio tempo influenzando, in primo luogo, la categoria degli utonti, coloro i quali approcciano con saccenza e presunzione a qualsiasi argomento, dopo aver letto due righe di qualsiasi cosa e senza capirle; ma che, ahimé, sta condizionando anche la sfera d’influenza degli addetti ai lavori.

Gli LLM sono tecnologie straordinariamente potenti, ma la loro potenza non autorizza automaticamente ad attribuire loro comprensione, coscienza, intenzionalità o altre proprietà emergenti che non siano state dimostrate. Il punto decisivo diventa quindi la differenza fra generare e verificare.

Guarda caso, proprio in questi giorni, la quasi totalità dei roboanti annunci di soluzioni straordinarie di complicatissimi problemi matematici è stata clamorosamente ridimensionata se non del tutto smentita: in una parola, l’AI non ha risolto un tubo! A titolo di esempio, tra i più acclamati, ricordo la sicumera e la pomposità con cui OpenAI aveva annunciato, grazie al proprio software, la soluzione di uno dei cosiddetti “Problemi del Millennio” inerente alla famosa formula di Navier-Stokes.

A seguire, ovviamente, montature e fesserie, spesso a scopo pubblicitario a favore del mondo delle big AI come, parafrasando le industrie petrolifere o del tabacco: una pioggia di commenti, da parte di esperti o sedicenti tali, e non, e tutte tese ad evidenziare che ormai, l’AI fa cose che voi umani…

Nonostante riviste del calibro del "Le Scienze" abbiano seguito l'hype, c'era chi per fortuna e sottovoce, come si addice a ricercatori serio, che metteva in guardia dall’eccitarsi con manifestazioni di giubilo tipo tifoserie allo stadio. La secchiata d’acqua gelata avvisava che gli LLM possono trovare cose ragguardevoli ma che devono sempre essere verificate dall’esterno con imparzialità, che insomma mentono con la stessa indifferenza con cui affermano e generano cose. Le chiamano macchine euristiche, che non significa andare a casaccio, ma esplorare a velocità impensabili anche per il miglior gruppo di menti messe assieme, un mondo fatto di un numero altrettanto inimmaginabile di soluzioni. E una volta trovata LA soluzione non è nemmeno detto che sia corretta!

Come ripetuto più volte nel post precedente tutto dipende dal controllo e, a complicare il tutto, occorre essere certi che «il verificatore stia verificando davvero la cosa che pensate stia verificando».

Così è e così è stato. Un recentissimo lavoro mostrerebbe che il controllo effettuato usando Lean (ne abbiamo scritto nel post precedente) ha confermato la correttezza…ma di tutt’altro. Non una semplice risposta errata, ma un risultato che acquista grande credibilità grazie a una verifica formalmente impeccabile, la quale certifica però qualcosa di diverso da ciò che il pubblico crede. Siamo al limite della truffa se non fosse, per fortuna, che si sta operando in un mondo aperto e controllato (credo…).

Vi ricorda qualcosa vero? Risposta: Epistemia.

Provo a fare un esempio.

Un sistema di IA genera una dimostrazione matematica e la invia a Lean per il controllo. Lean certifica che la dimostrazione è formalmente corretta, ma il teorema verificato non corrisponde esattamente al problema originario: magari riguarda un caso semplificato o parte da ipotesi diverse.

Quindi Lean non ha sbagliato: ha controllato perfettamente ciò che gli è stato sottoposto. L’errore sta nel collegamento tra il verificatore e l’obiettivo reale.

In sintesi: è come usare una bilancia precisissima per controllare il peso di un pacco, quando il dato che serviva verificare era il suo contenuto: la misura è corretta, ma riguarda la cosa sbagliata.

Validità formale locale non significa affidabilità epistemica globale.

La notizia davvero clamorosa è che, oltre al caso Navier-Stokes, molti altri risultati attribuiti alle capacità matematiche aliene degli LLM, stanno cadendo: e tutto ciò dimostra che gli LLM non sono in grado di rendere l’affidabilità una loro caratteristica operativa. Loro operano, quel che producono non è certezza: soprattutto, e qui sta la preoccupazione intrinseca del loro uso incontrollato, nel caso in cui l’ambito in cui operano non sia formalizzabile in senso matematico. Un’analisi storica, una valutazione geopolitica, una ricerca sociologica o, più semplicemente, un compito a casa: le fesserie prodotte senza averle capite saranno deleterie per l’acquisizione delle capacità cognitive minime, che già sono assai scarse.

Generare non significa saper giudicare; verificare non garantisce affidabilità; essere plausibili non equivale ad avere ragione.

Perché OpenAI si è lanciata a testa bassa in ciò che poi è risultato una colossale brutta figura? Basta guardare questo grafico. E che ci metta in guardia da quanto segue.

LLM, intelligenza artificiale e miti dell’emergenza: quando la plausibilità diventa conoscenza
Come abbiamo visto nel post precedente la caratteristica, abbastanza curiosa, dello sviluppo tecnologico in corso è che, mentre gli strumenti di IA sono diventati straordinariamente potenti, contemporaneamente li descriviamo e ne parliamo in modo sempre più sbagliato e approssimativo.

Ogni nuovo risultato viene rapidamente tradotto in una nuova proprietà mentale: se un modello produce un testo convincente, allora comprende; se risolve un problema complesso, allora ragiona; se organizza una sequenza di azioni, allora pianifica; se utilizza strumenti esterni, diventa un agente; se riesce a fare qualcosa che prima non riusciva a fare, ecco comparire la parola magica: emergenza.
Stanno aumentando, in maniera preoccupante, le narrazioni che attribuiscono ai modelli semantici proprietà appartenenti al mondo, biologico o semplicemente filosofico, della coscienza.

Leggete ad esempio questo elenco (preso qui), esempio tipico di quella pop filosofia da fuffaguru che da più parti viene sostenuta. L’attacco finale a quel che sostiene un filosofo esperto della materia del calibro di Luciano Floridi è emblematico.

Il problema non è che queste macchine siano poco interessanti. Tutt’altro! Sono interessantissime, e proprio per questo sarebbe il caso di smettere di raccontarle attraverso metafore che trasformano ogni miglioramento ingegneristico in una rivoluzione ontologica, come nell’elenco in figura.

Un LLM resta un LLM
Richiamiamo e partiamo da una cosa apparentemente banale. Un LLM è un sistema addestrato a modellare le regolarità presenti nei dati e a generare sequenze sulla base del contesto disponibile. Nel caso degli LLM autoregressivi, il sistema produce progressivamente le occorrenze successive (i cosiddetti token, si veda qui per un approfondimento), utilizzando rappresentazioni interne estremamente ricche e una quantità enorme di parametri. Ciò non rende il modello semplice, tutt’altro: la computazione interna è sofisticata, le rappresentazioni possono essere astratte, le dipendenze possono essere molto lunghe e il comportamento può risultare sorprendentemente complesso (per approfondire suggerisco il libro di Anil Ananthaswamy citato nel primo post).

Complessità non significa automaticamente natura diversa.
Il fatto che una distribuzione statistica possa produrre combinazioni nuove non dimostra che quelle combinazioni siano state pensate. Un modello può generare un sonetto mai scritto prima senza che questo costituisca, da solo, una prova di comprensione poetica, intenzionalità o creatività nel senso umano del termine. Come abbiamo visto anche il termine “stocastico” viene spesso utilizzato in modo errato, spesso denigratorio: non significa casuale o privo di struttura. Descrive invece il fatto che il modello opera su distribuzioni di probabilità condizionate dal contesto e apprese attraverso procedure di ottimizzazione statistica.

Il punto è importante perché da qui nasce una delle principali confusioni del dibattito pubblico: si osserva un comportamento sofisticato e si deduce che debba esserci dietro una facoltà mentale equivalente a quella umana. Ma la prestazione e il meccanismo che la produce sono due cose diverse. Voglio ricordare che, quando i PC iniziavano ad essere a disposizione del grande pubblico, i non addetti ai lavori spesso sobbalzavano sorpresi, a volte anche spaventati, di fronte al risultato di un’elaborazione programmata prodotto da un PC.

Oggi, ancora una volta di fronte a simulazioni di umanità torna il grande equivoco dell’emergenza, parola diventata una specie di lasciapassare linguistico.

Ciò non toglie che quando un sistema, soprattutto se con fenomeni nuovi e persino inattesi, aumentando dimensioni, dati o capacità computazionale, manifesta prestazioni nuove o molto migliori, è perfettamente legittimo studiare il fenomeno e chiedersi perché accada. Il problema nasce quando da questo fatto si passa direttamente a un’altra affermazione: è comparsa una nuova proprietà mentale.

Non è la stessa cosa: ma soprattutto il problema non è soltanto capire come funziona, ma sapere se possiamo fidarci, vista la facilità con cui ci si trova di fronte a risultati ingannevoli.

Comprendere i meccanismi interni dei modelli di intelligenza artificiale è una delle sfide più importanti della ricerca contemporanea. Un filone di studi, noto come interpretabilità meccanicistica, cerca di individuare nelle reti neurali le strutture responsabili di determinati comportamenti, concetti o capacità. L'obiettivo è andare oltre l'osservazione delle risposte prodotte e capire quali processi interni le rendano possibili.

Questa ambizione, tuttavia, incontra una difficoltà fondamentale: trovare una struttura apparentemente significativa non dimostra automaticamente che essa corrisponda a un meccanismo realmente utilizzato dal modello.

Se i metodi statistici e i controlli sperimentali non sono sufficientemente rigorosi, anzi, più che rigorosi, si possono ottenere correlazioni apparentemente interessanti ma del tutto errate. Un esempio classico proviene dalle neuroscienze.

Alcuni studi hanno mostrato che strumenti utilizzati per individuare caratteristiche interpretabili possono produrre risultati convincenti anche su modelli con parametri casuali, che non hanno appreso le informazioni che si vorrebbero identificare. In queste condizioni, una valutazione positiva non garantisce che sia stato scoperto qualcosa di significativo.

Ulteriori ricerche hanno evidenziato un secondo limite: i risultati possono dipendere sensibilmente dal procedimento impiegato per ottenerli. Gli sparse autoencoder, per esempio, cercano di scomporre l'attività interna di una rete in caratteristiche più semplici da analizzare. Ma applicando lo stesso metodo allo stesso modello, con una diversa inizializzazione dello strumento, si possono ricavare insiemi di caratteristiche differenti. In uno degli esperimenti descritti, soltanto una parte minoritaria delle caratteristiche individuate trovava una corrispondenza tra esecuzioni indipendenti.

Un esempio

Si immagini di usare uno sparse autoencoder per analizzare un modello linguistico e di individuare una caratteristica che sembra rappresentare il concetto di “mezzo di trasporto”.

Nella prima esecuzione, la caratteristica si attiva con parole come automobile, treno, aereo e bicicletta.

Ripetendo però l’analisi sullo stesso identico modello, vengono cambiati soltanto i valori casuali iniziali dello sparse autoencoder.

Nella seconda esecuzione non compare più quella stessa caratteristica: automobile e treno finiscono in un gruppo, mentre aereo viene associato a volo, cielo e uccello.

Il modello linguistico non è cambiato; è cambiato soltanto lo strumento usato per interpretarlo. Questo suggerisce che la presunta caratteristica “mezzo di trasporto” potrebbe non essere una struttura stabile realmente presente nel modello, ma una delle diverse scomposizioni matematiche che lo sparse autoencoder riesce a costruire.

È un po’ come scomporre la stessa fotografia in gruppi di colori: un programma può distinguere colori chiari e scuri, un altro colori caldi e freddi. Entrambe le classificazioni sono possibili, ma non significa che la fotografia sia stata originariamente costruita secondo una di esse.

Anche l'identificazione di presunte strutture associate al ragionamento richiede cautela. Una caratteristica che si attiva durante una sequenza argomentativa potrebbe infatti reagire a determinate parole, anziché al ragionamento in quanto tale. Per verificare questa possibilità, i ricercatori possono costruire testi privi di autentici passaggi inferenziali, ma contenenti gli elementi linguistici sospettati di attivare quella caratteristica. Se l'attivazione persiste, l'interpretazione iniziale diventa meno convincente.

Questi risultati non dimostrano che l'interpretabilità sia inutile. Indicano, piuttosto, la necessità di distinguere tra una struttura matematicamente individuabile e un meccanismo del modello identificato in modo affidabile. Per sostenere una conclusione robusta occorrono controlli su modelli casuali, verifiche della stabilità dei risultati, prove capaci di escludere spiegazioni alternative e, quando possibile, esperimenti d'intervento che mostrino conseguenze causali coerenti con l'ipotesi formulata.

Il rischio più concreto dell'IA: produrre risultati senza garantirne l'affidabilità

La stessa esigenza di rigore riguarda l'intelligenza artificiale generativa nel suo complesso. Il dibattito pubblico si concentra spesso sulla crescita delle capacità dei modelli, sulla loro presunta intelligenza e sugli scenari estremi in cui potrebbero sfuggire al controllo umano. Un rischio più immediato, invece, riguarda la distanza tra la facilità con cui questi sistemi producono risultati e la difficoltà di stabilire se siano corretti.

I modelli generativi possono elaborare testi, programmi, analisi, spiegazioni e soluzioni matematiche in tempi molto brevi. Questa produttività offre opportunità importanti, ma non coincide necessariamente con la capacità di verificare ciò che viene prodotto. Una risposta ben scritta, coerente e tecnicamente sofisticata può contenere errori difficili da riconoscere, soprattutto quando chi la esamina non possiede competenze sufficienti per valutarla.

Il problema emerge con particolare chiarezza nei settori in cui la correttezza è essenziale. Un programma generato automaticamente può richiedere una revisione approfondita; una valutazione medica deve essere confrontata con le evidenze cliniche; un parere giuridico necessita di controlli sulle fonti e sull'interpretazione delle norme. Analogamente, una dimostrazione matematica deve essere verificata rispetto a ciò che intende dimostrare.

Abbiamo già visto come gli esempi più significativi vengono dalla formalizzazione delle dimostrazioni matematiche mediante strumenti di verifica automatica. Un sistema può controllare rigorosamente che una dimostrazione formalizzata rispetti le regole previste, ma questo non garantisce che la formalizzazione rappresenti fedelmente il problema iniziale. Il controllo può essere impeccabile e, nello stesso tempo, riguardare un enunciato diverso da quello che si voleva dimostrare. E, come abbiamo visto di recente, moltissimi lavori realizzati con IA in ambito matematico sono stati ritirati dopo una verifica accurata.

Quando l'automazione non riduce il lavoro di verifica

I sistemi generativi possono essere considerati strumenti euristici molto potenti: esplorano rapidamente un ampio insieme di possibilità e propongono ipotesi, soluzioni e strategie che una persona impiegherebbe molto più tempo a elaborare.

Il vantaggio, però, dipende dalla possibilità di selezionare le proposte valide. Se ogni risultato richiede un controllo completo da parte di uno specialista, una parte consistente del beneficio dell'automazione rischia di andare perduta. La produzione diventa più veloce, ma il lavoro necessario a distinguere le risposte affidabili da quelle errate rimane considerevole.

La difficoltà potrebbe persino aumentare con il miglioramento dei modelli. Gli errori grossolani sono relativamente facili da riconoscere; quelli inseriti in testi eleganti, argomentazioni plausibili e risultati corredati da apparenti garanzie tecniche sono molto più insidiosi. La qualità della presentazione può indurre a sovrastimare la solidità dei contenuti.

Esiste inoltre il rischio di indebolire progressivamente le competenze necessarie a valutare questi sistemi. Se le persone delegano sempre più attività cognitive all'intelligenza artificiale, potrebbero ridurre proprio l'esercizio delle capacità specialistiche indispensabili per controllarne i risultati. Si creerebbe così una dipendenza da strumenti la cui affidabilità non può essere data per scontata.

La vera rivoluzione: esplorare spazi enormi
Il ridimensionamento della narrazione tendente al mitologico non significa affatto negare la che ci sia una vera e propria rivoluzione tecnologica in atto: significa individuarla meglio.

Una delle capacità più interessanti degli attuali sistemi generativi è la possibilità di esplorare rapidamente spazi enormi di possibilità.

Un LLM può generare programmi, ipotesi, strategie, dimostrazioni candidate, configurazioni matematiche e molte altre soluzioni in quantità e velocità che un essere umano difficilmente potrebbe eguagliare. Quando a questa capacità vengono aggiunti memoria, ricerca, strumenti esterni, esecuzione del codice, sistemi di valutazione e verificatori, il risultato può diventare straordinariamente potente.

Soltanto così potrà essere utilizzato al meglio il valore LLM: un sistema capace di cercare in luoghi nei quali un essere umano non avrebbe materialmente il tempo di cercare.

Conclusione: sviluppare anche la capacità di giudicare

I problemi dell'interpretabilità delle reti neurali e dell'affidabilità dei contenuti generati dall'intelligenza artificiale appartengono a un'unica questione metodologica: non bisogna confondere ciò che appare convincente con ciò che è stato dimostrato.

Individuare una correlazione non significa aver scoperto una causa; estrarre una caratteristica da una rete non equivale ad aver identificato un concetto realmente utilizzato dal modello; ottenere una risposta formalmente corretta non garantisce che essa risponda alla domanda originaria.

La ricerca deve quindi accompagnare le nuove capacità generative con procedure di verifica altrettanto solide, controlli indipendenti e competenze umane adeguate. L'obiettivo non è negare l'utilità dell'intelligenza artificiale, ma definire con maggiore precisione quando e a quali condizioni i suoi risultati possono essere considerati affidabili.

La sfida decisiva non consiste soltanto nel produrre risposte sempre più rapidamente. Consiste nel disporre dei metodi, delle conoscenze e degli strumenti necessari per distinguere quelle fondate da quelle soltanto plausibili.

Due riassunti sull'Intelligenza Artificiale - Prima parte

L’Intelligenza Artificiale non è magia: il problema è ciò che non sappiamo verificare

Il famoso "falso d'autore" di Ciro Ascione - link

Premessa

Dopo aver iniziato a curiosare nel mondo della cosiddetta “Intelligenza Artificiale”, soprattutto perché, volenti o nolenti, ce la ritroviamo praticamente ovunque, a volte per scelta ma più spesso per forza, ho letto innanzi tutto due libri, diversi per contenuti e per approccio, ma entrambi molto utili.

I due testi sono recensiti nella rubrica “La Scienza e la Tecnica raccontate”, disponibile sul sito della Sigea, rubrica riassunta anche nel blog: si tratta di “Perché le macchine imparano” di Anil Ananthaswamy e “In che mondo vivi” di Matteo Cinelli e Walter Quattrociocchi.

Ed è proprio seguendo gli sviluppi sulle pagine Facebook di quest’ultimo che ho iniziato, da semplice cultore, ad appassionarmi alla cosa, anche perché, una delle tematiche a me più care è tutto ciò che riguarda l’evoluzione biologica della mente, della coscienza e altre amenità. In tal modo, post dopo post, ho iniziato ad assorbire una serie di concetti fondamentali, a togliermi di dosso le tentazioni sensazionalistiche (lo chiamano hype) e persino ad approcciare con un paio di post qualche mese fa. Uno sulla cosiddetta epistemia, neologismo ideato proprio da Walter Quattrociocchi, e un altro più generico sui supposti timori di sostituzione dell’umanità, che tanto piacciono alla ricerca continua di narrazioni catastrofistiche dell’umanità. Consiglio la rilettura del primo perché contiene alcune spiegazioni divulgative di aspetti tecnici.

Da allora hai voglia a novità, intese soprattutto come nuove pubblicazioni scientifiche, nuove prese di posizione sia da parte dei ricercatori seri che dei cosiddetti pop-filosofi, o dei ciarlatani in genere che, armati appunto di IA (o AI che dir si voglia), sentenziano fino al paradosso, fino a produrre, ad esempio «un falso fabbricato per metterci in guardia contro l'intelligenza artificiale [che] ha utilizzato l'intelligenza artificiale per produrre un testo che invita a diffidare dell'intelligenza artificiale». Tombola! Per non dire degli artefici, degli ideatori di software di e per l’IA, che in diverse occasioni piuttosto recenti hanno messo in guardia da pericoli, anche molto gravi, che comporterebbe l’utilizzo delle loro stesse creature: realtà o narrazione tendenziosa?

Ecco quindi una serie di due post. Che per alcuni aspetti si richiamano l’un l’altro ma allo stesso tempo offrono diversi punti di vista.

Verificare o non verificare, that is the question…
Negli ultimi anni abbiamo assistito a una curiosa trasformazione del linguaggio sull’intelligenza artificiale. Secondo parecchie persone, tra cui molte notoriamente ed a ragione "intelligenti", i modelli linguistici hanno iniziato a comprendere, poi a ragionare, pianificare, verificare, usare strumenti e infine a diventare agenti. Affermazioni non solo da parte di pensatori d'ogni genere, soprattutto filosofico, ma persino da neuroscienziati o addetti ai lavori. Ogni nuova funzione è stata raccontata come la prova dell’emergere di una mente artificiale.

Ma osservare una macchina produrre una prestazione non significa aver dimostrato che possieda la facoltà mentale che associamo a quella prestazione.

Un sistema può generare una risposta brillante senza comprenderla, trovare una soluzione senza sapere perché funzioni, utilizzare una fonte senza conoscere davvero l’informazione che contiene. Può perfino produrre qualcosa di nuovo senza averlo pensato nel senso umano del termine.

C’è un’espressione specifica per la nostra abitudine di attribuire emozioni umane al non-umano: la fallacia patetica, che è spesso usata per riflettere la vita interiore dei personaggi attraverso il mondo esteriore: e così come le nubi possono essere minacciose o piangere, i sistemi AI...pensano e varie altre cose legate alla mente, alla coscienza.

Il punto non è ridimensionare l’IA. È descriverla correttamente.

Un LLM è ancora un modello probabilistico

La formula pappagallo stocastico viene spesso respinta come una descrizione superata dei vecchi modelli. I sistemi attuali, si dice, ragionano, pianificano e verificano: quindi non sarebbero più semplici modelli probabilistici.

La conclusione non segue dalle premesse.

Il cuore di un LLM rimane un modello addestrato a prevedere sequenze sulla base delle regolarità statistiche apprese dai dati. E ancora, si fa una gran confusione – essenzialmente dovuta all’ignoranza in campo matematico e/o statistico - sul vero significato di stocastico: non significa casuale, disordinato o incapace di produrre strutture. Significa che, dato un contesto, il sistema assegna probabilità alle possibili concatenazioni che messe tutte insieme generano una definizione, una frase, un prodotto insomma, di senso compiuto, plausibile.

Questa procedura può produrre testi originali, programmi sofisticati, dimostrazioni candidate e soluzioni che nessuno ha mai formulato esattamente in quel modo. Persino soluzioni inedite di problemi matematici! Mai viste prima perché anche tutti insieme i migliori matematici del mondo non hanno né i mezzi né il tempo per esplorare i triliardi di combinazione possibili nello spazio delle possibilità.

Ma la novità della combinazione non dimostra che il modello abbia avuto un’intenzione o una comprensione del problema. Una distribuzione statistica può generare combinazioni nuove. Non deve averle pensate in precedenza.

I sistemi contemporanei sono certamente molto più potenti rispetto a quelli di qualche anno fa. Il punto, però, è capire da dove derivi questa potenza. Spesso non deriva da una trasformazione in sé del modello, ma dall’infrastruttura che gli viene costruita intorno:

• sistemi di ricerca e recupero delle informazioni
• memoria esterna
• esecuzione di codice
• calcolatrici e database
• agenti che organizzano sequenze di operazioni
• verificatori automatici
• altri modelli incaricati di valutare le risposte

Questi componenti possono rendere il sistema complessivo molto più utile. Non dimostrano però che tutte le proprietà del sistema siano emerse nel modello linguistico.

Se un LLM usa Python (un linguaggio di programmazione) per fare un calcolo, non diciamo che l’interprete Python sia comparso dentro la rete neurale. Se consulta un database, non diciamo che il database sia stato incorporato nei suoi parametri. Se una dimostrazione viene accettata da Lean (un software specifico che agisce da verificatore esterno), la correttezza formale è da questo garantita, non dalla fluidità con cui il modello ha prodotto la dimostrazione.

La distinzione è semplice, ma decisiva: bisogna separare ciò che fa il modello da ciò che fa l’architettura complessiva. Se un modello prende l'iniziativa e in qualche modo viola i parametri di sicurezza su cui era stato addestrato potete star certi che è solo perché era stato, da qualche parte e in qualche modo, addestrato a farlo.

Insomma un motore a scoppio resta un motore a scoppio anche quando ha un regolatore d’erogazione, iniezione elettronica, ABS e un sistema che controlla la guida.

Generare non significa verificare
Si è detto che un LLM (Large Language Model) produce la continuità della risposta compatibile con il contesto e con le regolarità apprese. La verità, ovvero che il risultato sia vero, però, è una proprietà diversa.

Una frase può essere molto plausibile e falsa, anche senza scomodare Kurt Gödel. Può essere coerente con il testo precedente ma incompatibile con il mondo. Può essere corretta per caso, oppure risultare sbagliata nonostante una forma impeccabile.

La probabilità che il modello assegna a una sequenza riguarda la sua compatibilità con ciò che il sistema ha appreso. Non rappresenta automaticamente la probabilità che l’affermazione sia vera.

Per questo la generazione e la verifica devono essere trattate come operazioni differenti.

Quando esiste un criterio esterno forte, il problema può essere affrontato in modo relativamente efficace: un programma può essere eseguito e sottoposto a test, una dimostrazione può essere controllata da un proof assistant, un risultato sperimentale può essere confrontato con una misura, un algoritmo può essere valutato rispetto a una funzione obiettivo. In questi casi il modello può esplorare rapidamente molte possibilità, mentre un sistema indipendente controlla quali soddisfino davvero i requisiti.

La matematica formalizzata è un esempio istruttivo. Un modello può proporre una strategia, generare voci, scrivere codice e correggersi dopo aver ricevuto un errore: ma la validità della dimostrazione arriva dal sistema formale che controlla ogni passaggio secondo regole esplicite. Il risultato nasce quindi dalla collaborazione fra una componente generativa e una componente di verifica. Non è una differenza terminologica ma la differenza tra produrre una soluzione candidata e stabilire che quella soluzione abbia una determinata proprietà.

Il problema diventa molto più difficile quando il verificatore non esiste, è troppo costoso oppure richiede proprio la competenza che abbiamo deciso di delegare alla macchina. Chiedere al modello se si è certi del risultato non risolve il problema perché si starebbe di nuovo interrogando un generatore che può produrre una seconda risposta plausibile, magari diversa dalla prima, senza aver acquisito per questo un criterio indipendente di verità. Anche usare un altro LLM non è automaticamente un verificatore affidabile. Due modelli possono condividere dati, addestramento, assunzioni e distorsioni, commettendo quindi gli stessi errori. Un giudice artificiale può lasciarsi influenzare dall’ordine delle risposte, dallo stile della formulazione o da richiami retorici all’autorità, anche quando il contenuto è sbagliato.

Se un sistema è definito come verificatore significa avergli assegnato una funzione: la sua affidabilità deve essere misurabile e misurata, mettendolo alla prova su casi di cui conosciamo l’esito, studiare i suoi errori, sottoporlo a esempi con i dati in ingresso volutamente sbagliati per spingere i sistemi a compiere errori di classificazione (lo chiamano Adversarial machine learning) e verificare se la sicurezza che esprime sia effettivamente calibrata. In altre parole, se un sistema di verifica afferma di aver ragione nel 70% dei casi, quelle circa 7 volte su 10 devono essere riscontrate.

Senza questo lavoro, il verificatore rischia di essere soltanto un’altra voce autorevole generata dalla stessa macchina.

È di questi giorni la notizia che OpenAI, una della aziende protagoniste, ha pubblicato 22 manoscritti matematici generati da un modello interno, relativi a 372 famiglie di risultati e ottenuti valutando circa 4.000 problemi aperti. I lavori riguardano matematica pura, informatica teorica e fisica matematica. Molti includono dimostrazioni verificabili automaticamente (con opportuni strumenti), mentre altri sono ancora in fasi preliminari e potrebbero contenere errori.

Il punto centrale è, ancora una volta, la distinzione tra generazione e verifica: un modello può produrre dimostrazioni nuove e plausibili, ma solo un controllo indipendente le rende affidabili. Nei campi in cui esistono verificatori automatici, economici e rigorosi, come nella matematica formalizzata, la combinazione tra modelli generativi e sistemi di verifica può diventare uno strumento di ricerca molto potente. Negli ambiti in cui il controllo richiede esperimenti, competenze umane o conoscenza del mondo, invece, il costo e la difficoltà della verifica restano elevati.

In sintesi: più diventa facile produrre contenuti plausibili, più diventa decisiva la capacità di verificarli. In tutti i settori, e sono la maggioranza, in cui non si sono sviluppati solidi criteri di controllo, gli LLM rischiano soprattutto di rendere più efficiente la produzione di contenuti infondati, di valore pari alla famosa montagna generata dalle scimmie dattilografe.

L’illusione delle capacità emergenti
La parola emergenza viene spesso usata per descrivere qualunque comportamento che non sappiamo spiegare bene. Ma non comprendere il meccanismo di tali comportamenti non significa che il sistema sta pensando, né tanto meno che ha acquisito coscienza.

Le coreografie di uno stormo di uccelli in volo, la vita, la coscienza sono proprietà emergenti. L’emergenza, in senso scientifico, dovrebbe indicare una proprietà osservabile che compare a un certo livello di organizzazione e che può essere studiata attraverso misure, condizioni e criteri di falsificazione, studiata insomma, con solito criterio: il metodo scientifico. Non è un lasciapassare per attribuire intenzioni, comprensione o desideri a un sistema soltanto perché produce un risultato sorprendente. Se scomponiamo il processo che non comprendiamo nel suo insieme e che desta meraviglia nel suo risultato ciò che definiamo apparentemente spettacolare diventa chiaro.

Un sistema che produca un risultato, che risolva un problema, in modo tale che assomigli ad agente competente, può averlo fatto perché: 

• genera molte soluzioni candidate
• cerca informazioni esterne
• scrive ed esegue codice
• conserva i risultati intermedi
• scarta i tentativi che falliscono
• ripete il ciclo
• sottopone l’output finale a un controllo formale 

La capacità osservata appartiene al ciclo complessivo e non è corretto attribuire automaticamente ogni sua proprietà al modello linguistico che ne costituisce una parte. Questo vale anche per i risultati matematici e scientifici più interessanti: un sistema può esplorare uno spazio di possibilità molto più vasto di quanto riuscirebbe a fare un essere umano, trovando controesempi, configurazioni, strategie e dimostrazioni candidate. Se il dominio offre un buon criterio di verifica, alcune di queste proposte possono trasformarsi in risultati autentici.

È una capacità straordinaria, ma non ha nulla a che fare né equivale necessariamente a una comprensione umana del problema.

La ricerca scientifica comprende almeno due attività diverse: esplorare uno spazio di possibilità e costruire una rappresentazione generale del fenomeno. Le macchine stanno diventando molto brave nella prima ma è ancora molto più difficile stabilire quanto siano capaci della seconda.

Un sistema può descrivere perfettamente molti casi particolari senza riuscire a individuare la legge generale che li spiega, così come può risolvere problemi già formulati senza riconoscere che la formulazione iniziale non rappresenta più adeguatamente la situazione.

Risolvere un problema dato da parte di un LLM è una cosa, riconoscere che quel problema non descrive più adeguatamente la realtà è tutt’altro. Questa capacità di rivedere la rappresentazione del problema, quando cambiano le evidenze o il contesto, è diversa dal semplice problem solving: è la capacità di capire che il problema iniziale non è più quello giusto.

Il costo della generazione crolla
La vera trasformazione prodotta dagli LLM non è necessariamente la comparsa di una mente, nemmeno fosse aliena, ma è la possibilità di generare a basso costo quantità enormi di contenuti, ipotesi, programmi, strategie e spiegazioni: un vantaggio enorme quando possiamo controllare ciò che viene prodotto.

Se un sistema genera cento programmi e possiamo testarli, l’esplorazione automatica è preziosa; se propone dimostrazioni che un proof assistant può verificare, possiamo sfruttare la sua capacità di ricerca senza affidarsi alla sola plausibilità; se formula ipotesi che possono essere sottoposte a esperimenti, la macchina può accelerare il lavoro scientifico.

Ma non tutti gli ambiti possiedono un verificatore esterno che, giudice imparziale, assegna valore di verità, un equivalente del linguaggio Lean per capirci.

È relativamente semplice controllare se un programma informatico supera una serie di test. Ma stabilire se una spiegazione storica sia corretta, se una relazione causale sia fondata, se una fonte sia attendibile o se un’interpretazione sociale descriva davvero il fenomeno, è tutt’altra cosa.

Qui emerge la questione centrale: il costo della generazione sta precipitando, mentre quello della verifica non segue la stessa curva, e tanto maggiore è la velocità con cui si producono i contenuti, tanto meno si è in grado di valutarli. La generazione di test, analisi, argomentazioni, critiche, teorie più o meno corrette o del tutto assurde, fino a triliardi di opinioni è stata accelerata molto più di quanto riusciamo a controllare.

Se una volta di parlava di infodemia la parola d’ordine adesso è epistemia: a scarseggiare non sarà necessariamente l’informazione, ma le competenze necessarie a capire quale informazione meriti fiducia e forse sarà proprio la fiducia che attribuiremo al risultato la discriminante del tutto irrazionale e fuorché che obiettiva. Fino a non molto tempo fa una ricerca Google ci dava un elenco di siti con le possibili risposte elencate con un ordine tutto sommato ragionevole; adesso abbiamo un interfaccia IA con la risposta pronta preconfezionata, nemmeno la fatica di andare a leggere le fonti che, per fortuna, continuano ad essere riportate. E il più delle volte si prende per buono ciò che si legge.

All’aumentare della necessità di verificare, paradossalmente potremmo delegare alle macchine proprio quei processi attraverso i quali le competenze si costruiscono: studiare, fare esercizio, commettere errori, risolvere problemi e imparare a giudicare.

Se siamo dotati di questa sorta di protesi che coadiuva i nostri processi cognitivi, non è affatto scontato che automaticamente si diventi più competenti usandola. Anzi, il più delle volte consente di produrre la forma esteriore della competenza senza possederne la sostanza: peggio che l’antico citare a memoria senza aver capito la citazione che, almeno, aveva avuto lo sforzo di impararla. Magari sfogliando le pagine d’un libro e soffermandosi su altre pillole di informazione che, sempre magari, si sarebbero potute annidare nella nostra memoria.

Avere una risposta non significa averla capita, avere un’argomentazione non significa averla costruita, avere una citazione non significa averla verificata.

Questo vale anche per l’università e per la ricerca: un testo può avere la struttura di un articolo scientifico, utilizzare la terminologia corretta e presentare conclusioni plausibili senza che chi lo firma sappia davvero spiegare le scelte metodologiche, i passaggi logici o i limiti del risultato.

In questi casi la domanda più utile non è soltanto se il testo sia stato scritto da un modello, ma chiedere all’autore di spiegare ciò che ha scritto.

La conoscenza, in fondo, non consiste soltanto nel produrre una traccia convincente, ma anche nel poter rispondere delle ragioni, delle fonti e delle conseguenze di quella traccia.

Ritorno alla realtà
Il clamore intorno all’IA alimenta due narrazioni opposte e ugualmente semplicistiche, quindi errate.

Da una parte c’è il culto della macchina che ci rende tutti geni: basta collegare un modello a qualche strumento e ogni limite umano sarebbe ormai superato. Dall’altra c’è il marketing dell’apocalisse: una mente artificiale sempre più intelligente svilupperebbe obiettivi propri, si migliorerebbe da sola e deciderebbe di sterminarci (quanto ci piace la narrazione catastrofista…).

Entrambe le storie trasformano prestazioni osservabili in facoltà mentali non dimostrate.

Un modello che genera una strategia non ha necessariamente un’intenzione. Un agente che esegue una sequenza di operazioni non possiede per questo desideri. Un sistema che migliora grazie a un ciclo di feedback non sta necessariamente volendo migliorarsi. Un risultato corretto non dimostra da solo comprensione.

Che sia un'attribuzione apocrifa o no, Niels Bohr ebbe a dire: «E’ difficile fare delle previsioni, soprattutto sul futuro». Neppure l’uso di percentuali rende scientifica una previsione: attribuire il 10%, il 15% o il 4% alla probabilità di un’estinzione futura può esprimere una convinzione personale, ma non equivale a una stima calibrata se non esistono dati, modelli e classi di riferimento adeguate. Queste percentuali non sono a caso, ma riferite a quanto hanno recentemente affermato guru delle principali aziende di IA a proposito della probabilità che questa possa rappresentare una seria minaccia per l'umanità. Rieccolo, il catastrofismo...

Il punto non è negare i rischi dell’IA, non così letali ma comunque esistenti, ma discuterli senza ricorrere a metafore che sostituiscano l’analisi.

Non serve immaginare una macchina cosciente e ostile per produrre problemi seri. È sufficiente costruire una società capace di generare molto più di quanto sappia verificare.

Per restare con i piedi per terra dobbiamo porci alcune domande concrete:

• quale componente del sistema ha prodotto questo risultato?
• quale informazione è stata recuperata dall’esterno?
• quale parte è stata verificata e da quale strumento?
• quanto è indipendente il verificatore dal generatore?
• su quali casi è stato validato?
• quali errori commette?
• quanto è calibrata la sua sicurezza?
• che cosa accade quando cambiano il contesto, le fonti o la formulazione del problema?

Queste domande sono meno spettacolari di «l’IA pensa?» o «l’IA ci distruggerà?» ma decisamente molto più utili.

L’intelligenza artificiale non ha bisogno di essere una mente aliena per trasformare profondamente la società: è già una tecnologia potentissima per esplorare possibilità, automatizzare processi e produrre coerenza. Ma la coerenza non è verità, la plausibilità non è conoscenza, la prestazione non dimostra da sola il processo che l’ha prodotta.

La sfida decisiva non sarà soltanto generare risposte sempre migliori. Sarà conservare, costruire e distribuire le competenze necessarie per capire quando quelle risposte meritano fiducia.

Perché a impacchettare il vuoto le macchine saranno sempre più efficienti. La parte difficile resterà metterci qualcosa di sensato dentro.

Quis custodiet ipsos custodes? Chi sorveglierà i sorveglianti stessi?
Il poeta latino Giovenale, 2000 anni fa, lo scriveva originariamente in un contesto ironico riguardo alla fedeltà coniugale e alla custodia delle donne da parte di eunuchi e guardie. In un contesto IA traete voi le conclusioni.