Infinitesimi (replay)

Ci avete mai pensato? Esistere è una fortuna che sfida ogni statistica, una lotteria cosmica che abbiamo vinto contro probabilità letteralmente astronomiche. Il nostro genoma possiede talmente tante combinazioni possibili che, rispetto agli esseri umani effettivamente vissuti, siamo il risultato di un evento più unico che raro. Di fronte a questo, come si fa a non sentirsi stupiti della propria esistenza? Eppure, accanto al senso di meraviglia, si insinua anche un curioso disagio: quello di immaginare la propria non-esistenza, di pensare a un mondo in cui non abbiamo mai fatto la nostra comparsa.

È difficile accettare di essere semplici dettagli, irrilevanti per la realtà, eppure questa consapevolezza ci aiuta forse a vedere la vita per quello che è: un intervallo, fragile e contingente, tra due eternità di nulla. La sensazione che la realtà dipenda da noi è una dolce illusione, ma ricordare che il mondo si è sempre arrangiato senza di noi – e lo farà anche dopo – può essere sorprendentemente liberatorio. Se la nascita è un caso, la morte è una certezza: e in questo spazio effimero che chiamiamo “esistenza” risiede tutta la nostra irripetibile avventura.

(...)

Per quasi tutti noi il passato si ferma un paio di generazioni fa: quanti di noi conoscono il nome di tutti i loro bisnonni? Eppure se abbiamo certe caratteristiche lo dobbiamo a loro. E le genealogie si moltiplicano: due genitori, quattro nonni, otto bisnonni e così via. E ognuno di loro aveva a sua volta otto bisnonni…Venti generazioni, più o meno due secoli e mezzo, fa 2²⁰ antenati: un milione circa. E nel DNA di ognuno di noi c’è un milionesimo del loro DNA. Pochissimo, dal punto di vista strettamente genetico, ma molto da altri punti di vista. Siamo elementi di una continuità genealogica che proviene dalle profondità del tempo e si estenderà nel futuro, se non saremo così stupidi da compromettere la nostra stessa sopravvivenza.

Alla fine del 2022 la popolazione mondiale ha superato la soglia degli 8 miliardi di individui, il 7% vivente dei circa 114 miliardi di tutti gli esseri umani che hanno mai abitato il nostro pianeta. Dai 4 milioni di circa 10.000 anni fa, all’inizio della rivoluzione agricola, l’umanità è salita gradualmente a circa 800 milioni al momento della prima rivoluzione industriale, avvenuta solo due secoli fa. In confronto all’arco temporale della storia umana, che abbraccia più di due milioni di anni, l’incremento del numero di persone sulla Terra si è verificato principalmente negli ultimi due secoli, risultando in una concentrazione senza precedenti.

Attualmente, la sensazione diffusa è quella di vivere in un ambiente urbano frenetico, con metropoli che superano facilmente i 20 milioni di abitanti. Le stime dei paleo-demografi suggeriscono che circa 100.000 anni fa, la nostra specie consisteva in poche decine di migliaia di individui organizzati in gruppi di dimensioni ridotte, spesso non superiori al centinaio. Gli incontri con altri gruppi erano rari in quel periodo. La maggior parte degli esseri umani abitava in Africa, la culla dell’umanità, ma alcuni iniziavano già a spostarsi verso altri continenti. È interessante notare che, nonostante i sapiens non fossero gli unici esseri umani intelligenti sulla Terra, le altre specie diversamente umane erano presenti in modo più discreto.

Ciò nonostante, in termini cosmici la mia esistenza non ha senso: o meglio l’unico senso della mia esistenza è il fatto stesso che io esisto. Lo scopo della mia vita? «Lo scopo è vivere». Una tautologia che vale sempre la pena di tenere a mente.

Quindi, dal punto di vista del cosmo, la mia esistenza non ha un senso né uno scopo né alcuna necessità (non c’è da vergognarsene – varrebbe lo stesso anche per dio, se dio esistesse). Io sono qualcosa di accidentale, di contingente. Avrei potuto benissimo non esistere.

“Benissimo” quanto? Facciamo un piccolo calcolo. Appartengo alla razza umana e perciò possiedo un’entità genetica precisa. Il genoma umano consiste di circa trentamila geni attivi. Ognuno di essi ha almeno due varianti, o alleli. Quindi, il numero di identità geneticamente distinte che il genoma può codificare è pari ad almeno 2 elevalo alla trentamilesima – a spanne, 1 seguito da diecimila zero. È il numero degli individui potenziali permesso dalla struttura del DNA.

E quanti individui potenziali sono esistiti davvero? Secondo le stime, da quando esiste la nostra specie, sono nati circa 100 miliardi di esseri umani. Questo significa che la frazione di esseri umani geneticamente possibili venuti al mondo è meno di 0,00000…000001 (inserire circa 9.979 zeri al posto del puntini). La stragrande maggioranza degli umani geneticamente possibili è fatta di spettri non ancora nati[1].

Ecco quale fantastica lotteria ho dovuto vincere – e voi con me – perché la mia candelina si accendesse. Se non è il massimo della contingenza, poco ci manca.

 (...)

Non riesco a non sentirmi meravigliato di esistere – e che l’universo sia riuscito a produrre i pensieri che ribollono adesso nel flusso della mia coscienza.

Tuttavia lo sconcerto che provo pensando alla mia improbabile esistenza ha un curioso contrappunto: la difficoltà di immaginare la mia pura non-esistenza. Perché è così difficile immaginare un mondo senza me, un mondo in cui non ho mai fatto la mia comparsa? In fondo so di essere un dettaglio tutt’altro che necessario della realtà. Con una visione del genere è più facile accettare la vita come un intervallo contingente tra due infiniti di non esistenza. O accettare la morte se volete.

(...)

Lo so: la sensazione che la qualcosità del reale dipenda dalla mia esistenza è un’illusione egocentrica. Ma non perde il suo notevole fascino neanche se la considero tale. Come posso restarne immune? Forse tenendo bene a mente che il mondo se l’è cavata benissimo senza di me per secoli e secoli, prima del mio improbabile e improvviso risveglio dalla notte dell’incoscienza, e che continuerà a cavarsela senza intoppi anche dopo il mio prossimo ed inevitabile momento in cui a quella notte farò ritorno.

 (...)

Se la mia nascita è accidentale, la mia morte è una necessità. E non posso non pensare alle parole del grande Jacques Monod.

---

[1] NdR: e che non avranno mai modo di nascere.

 

L’intelligenza artificiale non può sostituirci

La mente umana è molto più di un semplice intreccio di materia e impulsi elettrici: è il risultato di miliardi di anni di evoluzione e di relazioni profonde tra corpo e coscienza. Oggi i computer inseguono la nostra complessità, ma rimangono soltanto imitatori, lontani dall’essere ciò che siamo realmente.

Chi sogna l’upload della mente nel cloud dimentica che le nostre esperienze, radicate nel corpo biologico, non possono essere trasferite né replicate da algoritmi. L’illusione di una continuità digitale è solo fantascienza, perché il sé umano si nutre di storia, sensi e presenza autentica.

Per quanto le macchine si affinino, la loro intelligenza resta una copia priva di esserci. La vera mente non si simula: si vive. Questi i temi approfonditi in questo nuovo post, scoprendo perché l’AI, per quanto potente, non potrà mai sostituire ciò che ci rende umani.

I computer di oggi, per quanto sofisticati e complessi possano essere il loro hardware e il loro software, o i robot, non possono avere esperienze: e domani?

In questa domanda vi sono questioni connesse che hanno attinenza con i sistemi di intelligenza artificiale (AI), aspetti molteplici, in sistemi ove si suppone esista una mente non all'interno di un corpo nel modo consueto, un corpo biologico, ma «realizzata» come un pattern[1] di interazioni, grazie ad un programma per computer. Vengono subito in mente i tentativi di quella che è chiamata AI «forte»: ovvero la capacità di un agente intelligente di apprendere e capire un qualsiasi compito intellettuale che può imparare un essere umano. Programmi per computer messi a punto non solo perché si comportino o risolvano problemi come farebbe qualcuno dotato di una mente ma programmi che, quando sono eseguiti, sono ritenuti essere una mente.

Ma se una mente potesse esistere nel pattern di interazioni di un software, potremmo inoltre aspettarci, un giorno, di essere in grado di caricarne alcuni - magari la nostra stessa mente - da qualche parte nel cloud. Visto che in tale scenario saranno necessari dei computer, una mente allora, potrebbe essere spostata o muoversi – anche deliberatamente? - da computer a computer, proprio come oggi fanno le informazioni all'interno di uno stesso cloud o tra cloud diversi. E quindi, benché esistano soltanto in corpi localizzati, dopo il caricamento i nostri pensieri e le nostre esperienze potrebbero schizzare da una macchina all'altra.

Ad oggi, e forse mai, come vedremo, non è possibile creare una mente programmando una serie di interazioni in un computer, nemmeno nel caso si disponga di macchine molto complesse che prendano a modello le operazioni dei nostri cervelli. Anche se attualmente dietro a molti progetti di AI ci sono opinioni contrarie, spesso piuttosto folkloristiche o addirittura fantascientifiche, ritengo che nessun sistema informatico potrà mai essere una mente, e quindi dotato di senzienza[2] o coscienza che sia.

Illustrazione schematica di un neurone biologico e di uno artificiale

Dietro queste convinzioni, soprattutto a supporto degli enormi interessi economici che esistono nel mercato dell’AI, c'è l'idea che tali elementi esistano in schemi di interazione e attività di vario genere. Ovviamente pattern come questi sono presenti nel nostro come in altri cervelli, ma - dicono i sostenitori dell’AI forte - potrebbero esistere, identici, anche in altri dispositivi fisici. Pur essendo lecito e condivisibile sostenere che esistano elementi dovuti a pattern di attività questi, però, sono molto meno «esportabili» di quanto spesso si supponga, essendo strettamente legati ad un particolare tipo di base fisica e biologica di cui, tra l’altro, molto poco ancora si sa soprattutto per quanto riguarda l’integrazione degli elementi che concorrono al complesso schema di attività.

Una frequente obiezione è che in questi programmi per computer si potrebbe riuscire a rappresentare un pattern di interazioni del tipo osservato nel cervello; ma ciò non equivale affatto ad avere quelle interazioni presenti nel computer. Sono semplicemente codificate, scritte, e tutto ciò non è sufficiente; e a molto poco serve sapere che i sostenitori dell’AI liquidino questa obiezione troppo facilmente.

Esistono tuttavia alcuni tipi di attività, legati a quello che fanno i nostri cervelli, che potrebbero avere una esistenza reale in un computer senza troppa difficoltà.

Supponiamo che un cervello sia semplicemente una rete di segnalazione e commutazione, nella quale il neurone A innesca la scarica dei neuroni B e C, il neurone C influenza D, E ed F, e così via. E supponiamo che questo sia tutto. Allora potrebbe darsi - fintanto che in un computer qualcosa svolge il ruolo di A (influenzando B e C), qualcos'altro svolge il ruolo di B, eccetera - che vi sia tutto quanto occorre; in tal caso il pattern di attività cerebrale può essere presente, e non soltanto rappresentato, nella macchina.

I neuroni e i cervelli, però, fanno più di questo. L'obiezione secondo cui i programmi di AI si limiterebbero a rappresentare quello che fanno i cervelli senza farlo, è molto più seria quando si passa a considerare le proprietà dinamiche su vasta scala dei cervelli. Anche queste dovrebbero essere effettivamente presenti nel computer. Non basterebbe individuare qualche equazione che descriva ad esempio i ritmi e le onde che si osservano negli elettroencefalogrammi (e molto altro), e poi eseguire quelle equazioni nella macchina. La macchina deve effettivamente avere quei pattern presenti al suo interno. Non basta metterci dentro dei pezzi, essi devono essere ciò che fanno.

Se poi l'obiettivo è una mente e non una mente umana, allora non sarebbe necessario che questi pattern fossero esattamente identici a quelli del nostro cervello; potrebbero essere solamente simili.

Ma cosa occorrerebbe per avere qualcosa di simile a questo in una macchina? Pensiamo ad esempio a quelle attività che, nel cervello, danno origine a ritmi, moti ondulatori e campi elettrici, tutte attività misurabili e registrabili. Si tratta dell'alternarsi, a livello delle membrane cellulari, di minuscoli flussi e riflussi di ioni (particelle elettricamente cariche), che si sommano per produrre oscillazioni coordinate in particolari regioni del cervello. Anche mettendo da parte i campi, può essere molto difficile avere un sistema con qualcosa di simile ai pattern dinamici del cervello che non sia fisicamente simile a un cervello anche per altri aspetti.

Guardando il quadro complessivo, oltre alla materia che compone un cervello, oltre alle influenze da cellula a cellula, osserviamo anche i ritmi, i campi, gli schemi di attività elettrica modulati dai sensi. Quelle attività possono essere me, i miei pensieri e le mie esperienze, il mio rivivere esperienze passate e il mio immaginare il futuro. Non è così difficile da credere.

I computer di oggi contengono, per così dire, una porzione logica - una minuscola frazione - di quello che ha luogo dentro di noi; sono spesso progettati per creare illusioni di agentività e soggettività, e lo fanno bene. Se partiamo da un dispositivo contenente alcuni processori logici veloci e affidabili, legati a una grande memoria, in una unità stabile alimentata con tutta l'energia necessaria, questo - a prescindere da come sia stato programmato - rimane comunque un oggetto del tutto diverso da un cervello e da un organismo vivente. Forse, in futuro, i sistemi artificiali potranno essere costruiti con materiali diversi e riuscire a eseguire un maggior numero di operazioni simili a quelle del cervello. Il risultato potrebbe essere una sorta di vita artificiale, o almeno, rispetto agli attuali sistemi di AI, qualcosa di più vicino ad essa.

Il problema qui non è l'artificialità, il fatto che i sistemi di AI siano fatti da noi umani e non dall'evoluzione, o almeno non solo: il problema è la necessità che al loro interno abbia luogo il giusto tipo di cose.

Nel campo dell’AI, allora, gli scenari che mi vedono in completo disaccordo sono quelli che evocano possibilità di upload, di caricare una mente da qualche parte in un sistema informatico, nel cloud. L'idea che un programma per computer opportunamente programmato possa avere esperienze come le nostre, e che possa essere una continuazione di noi, è soltanto fantasia. Noi siamo qualcosa di molto diverso da qualsiasi pattern di attività possa vagabondare da un computer all'altro nella «nuvola». E ancora: le macchine future potrebbero essere diverse da quelle attuali, e un giorno la vita artificiale potrebbe realizzarsi. Considerando le tecnologie disponibili oggi però non può esistere un processo che estragga le nostre esperienze dal loro radicamento biologico in un corpo vivente, e le faccia continuare  - in aggiunta a noi – nel cloud.

Gli scenari dell'upload  sono i più improbabili; all'altro estremo dello spettro, troviamo quelli che immaginano un robot futuri dotati di sistemi di controllo autenticamente simili a cervelli. Un giorno, questo potrebbe dar luogo, oltre ad una forma evoluta di AI, anche all'esperienza artificiale. Ma che ciò possa essere quel che comunemente associamo al concetto di mente, quel concetto di esserci, capire appieno la propria vita nel momento in cui accade, non è possibile né immaginabile.

Recentemente ho scritto di AI, di LLM, evidenziando soprattutto i pericoli del grande fraintendimento che è in agguato: la verosimiglianza linguistica che sostituisce la vera valutazione epistemica, dando l'impressione di conoscere senza un reale giudizio ed i processi che comporta, completamente diversi tra uomo e macchina.

Per quanto i circuiti neuronali artificiali, le loro integrazioni, i fenomeni da essi emergenti possano perfezionarsi essi saranno sempre una rappresentazione di ciò che è mente. Non basta rappresentare, occorre esserlo, perché la mente non è conseguenza di quanto accade nella materia di fisico, chimico o biologico, è il suo fare a renderla tale.

E uno dei motivi che impediranno che un cervello possa essere replicato, clonato o scaricato da qualche parte su un ipotetico cloud – separando corpo e mente in un beffardo ritorno del dualismo cartesiano - è soprattutto questo: la coscienza, il sé, hanno 3,5 miliardi e passa di anni di evoluzione dietro.

Le macchine e il loro software no.

Addendum

Ad oggi, inoltre, i tentativi di imitazione del comportamento umano, falliscono miseramente. Proprio in questi giorni si parla molto di Moltbook, presentato come un «social network per intelligenze artificiali». E, puntualmente, sono ricominciati deliri e supercazzole: coscienza emergente, macchine che si parlano, macchine alla ricerca di eusocialità! Ma questa dinamica non è nuova e, soprattutto, non è misteriosa. È qualcosa di già studiato e pubblicato. Per i dettagli rimando allo studio del Prof. Walter Quattrociocchi e dei suoi colleghi. Per molti qualcosa come Moltbook è affascinante: rende visibile un fenomeno che diventerà sempre più centrale man mano che deleghiamo le interazioni sociali a sistemi generativi. E’ epistemia pura: ma scambiare questa dinamica per un segnale di vita o di intelligenza è un errore di categoria.

No, le AI non stanno evolvendo verso un qualsiasi grado di socialità, ma nemmeno quello delle formiche o delle api. Quando il linguaggio si sgancia dal mondo e parla solo con se stesso, la distorsione che ne deriva non è un errore, ma è la dinamica naturale del sistema.

Un’ultima considerazione. Le esperienze di cervello diviso sono ormai note e la callosotomia, ovvero la resezione chirurgica del corpo calloso nei casi di epilessia grave, è pratica consolidata. Ebbene, riuscite a immaginare che coloro i quali hanno subito una così drastica pratica, sono per lo più asintomatici, con una vita pressoché normale? Ci sono ovviamente altri che invece possono presentare disabilità di vario tipo. E adesso, riuscite a immaginare un computer il cui flusso di informazioni e attività sia tagliato fisicamente, interrompendolo, da qualche parte?

---

[1] Il termine sarà usato spesso: lo si intenda nel suo senso più generico di schemi e processi regolari.
[2] Il filosofo della scienza Peter Godfrey-Smith usa senzienza per evitare l’uso forse troppo ampio di coscienza. Si riferisce alla cosiddetta esperienza esperita, un’idea assai ampia di esperienza sentita o provata.