I nuovi Frankenstein

 

Esiste tutto un modo emozionale di attribuire al proprio cane, gatto, cavallo o delfino una manifesta intelligenza, empatia, intuizione, comprensione e saggezza tale da rasentare l’umano (e a volte superarlo). Si sente ripetere a riguardo di un animale domestico: “gli manca solo la parola”. Si citano esempi nobilissimi e straordinari sul comportamento di questi nostri cari amici. Tuttavia, non esiste aspetto della vita organica a noi noto che possa essere paragonato alla coscienza umana. Pensare che altre specie animali siano dotate di una coscienza rappresenta una concezione molto unilaterale di che cosa sia la coscienza e da che cosa essa tragga la sua origine e il suo sviluppo.

Innanzitutto dal lavoro, mediante il quale ogni collettivo umano produce e soddisfa i propri bisogni e riproduce sé stesso. Si caratterizza il lavoro, a differenza dell’attività animale, per il fatto di essere finalizzato a scopi preventivamente noti e mediato-programmato da un complesso di strumenti sociali, linguistici e tecnici di trasformazione. Anche gli altri animali usano strumenti, ma non li creano, non li fabbricano!

Per strumenti, s’intende strumenti particolari come il linguaggio, le diverse forme di numerazione e di calcolo, i mezzi mnemotecnici, la simbologia algebrica, le opere d’arte, la scrittura, gli schemi, i diagrammi, le carte, i progetti, e tutti i segni possibili e così via. Pertanto si tratta di strumenti del tutto sconosciuti agli animali; è il processo storico di formazione di un riflesso del mondo esterno tipicamente umano. In ciò consiste, appunto, la fantasia creatrice che sta alla base della definizione degli scopi dell’attività umana.

Questa capacità di definire gli scopi, di costruire conformemente ad essi i mezzi di lavoro, e di subordinare ad essi l’attività, viene spesso trascurata, come se il fatto non costituisse un problema. Eppure è proprio nella capacità di definire i suoi scopi che consiste il primo atto specificamente umano. In ciò l’uomo prende le distanze dall’animale!

Soltanto impadronendosi di questi mezzi, assimilandoli, facendone parte della propria personalità e della propria attività l’uomo diventa sé stesso, diventa uomo. «La produzione ad opera dell’individuo isolato al di fuori della società [...] è un non senso come lo sviluppo di una lingua senza individui che vivono insieme e parlino tra di loro» (K. Marx, Per la critica dell’economia politica, Editori Riuniti, 1974, p. 172).

Non c’è uomo senza lingua, ma non c’è lingua senza uomo.

Scrivevano Marx ed Engels nell’Ideologia tedesca: «Il linguaggio è antico quanto la coscienza, il linguaggio è la coscienza reale, pratica, che esiste anche per gli altri uomini e che dunque è la sola esistente anche per me stesso, e il linguaggio, come la coscienza, sorge soltanto dal bisogno, dalla necessità di rapporti con gli altri uomini. Laddove un rapporto esiste, esso esiste per me; l’animale non ha rapporti [...] la coscienza è dunque fin dall’inizio un prodotto sociale e tale rimane fintanto che in genere esistono gli uomini.»

In conclusione, gli uomini si servono, per produrre e riprodurre materialmente la loro vita, di un insieme di strumenti: strumenti di lavoro e strumenti psicologici. Gli strumenti di lavoro sono, per così dire, prolungamenti e potenziamenti artificiali della loro struttura anatomica (utensili, macchine, eccetera) e del loro cervello (calcolatrici, computer, eccetera).

Il movimento espansivo della materia sociale è pertanto necessariamente connesso ad un processo sociale di accumulazione di informazione extragenetica. Con ciò intendendo tutta quella informazione non riferita all’uomo come “creatura biologica” e cioè non trasmessa con il patrimonio genetico-cromosomico.

Ogni collettivo umano (insisto sul termine “collettivo”), in altri termini, per poter svolgere le sue attività produttive senza dover ogni giorno ricominciare da zero, deve produrre un gran numero di informazioni diverse e quindi fissarle, per non dispenderle, in una memoria collettiva. L’accumulazione d’informazioni è un processo essenziale e costitutivo della produzione e riproduzione sociale e, di conseguenza, anche all’esistenza stessa dell’umanità.

Il processo sociale generale di questa accumulazione è quella cosa che chiamiamo “cultura”. Pertanto, la coscienza ha a che fare con l’attività umana finalizzata a degli scopi predefiniti, attuata con degli strumenti tra i quali spicca il linguaggio e il suo universo di alfabeti e segni.

Nelle sue grandi linee il processo culturale globale di ogni data formazione sociale può essere immaginato come sistema di sistemi di segni, di lingue, e delle loro concrete manifestazioni come testi. Un sistema dinamico, formatosi storicamente ed in continua espansione tanto nella filogenesi che nell’ontogenesi.

Alla base del comportamento degli animali (compresa la nostra specie) c’è un sistema di segnalazione noto come sistema “stimolo-risposta” (S-R). Con questo primo sistema di segnalazione si intende la capacità degli animali di riflettere la realtà circostante tramite i segnali della stessa, rappresentati da fenomeni e proprietà che sono in determinati rapporti con altri fenomeni o proprietà importanti in senso biologico.

Il linguaggio, e cioè il sistema di parole che assolvono un ruolo di segnali di questo o quei fenomeni della realtà esterna e che serve ad ogni uomo per esercitare un’influenza diretta su ogni altro uomo, è tipicamente umano e costituisce il secondo sistema di segnalazione. Quest’ultimo rappresenta un salto di qualità rispetto al primo e si sovrappone ad esso, dominandolo.

Gli istinti biologici o i riflessi del primo sistema di segnalazione, in altri termini, possono essere neutralizzati e trasformati nel loro opposto per mezzo del secondo sistema di segnalazione. È merito di L.S. Vygotskij aver chiarito “come tutte le funzioni psichiche superiori” (e cioè “storiche”) rappresentano delle relazioni sociali interiorizzate; come cioè “la natura psicologica dell’uomo rappresenti l’insieme delle relazioni sociali trasportate all’interno e divenute funzioni della personalità e forme della sua struttura”; come, infine, questo processo di interiorizzazione ed assimilazione di un rapporto sociale esterno sia l’effetto della penetrazione della parola nel più profondo dell’uomo.

E veniamo alle nuove macchine che chiamano intelligenti: sono molto utili per raccogliere e analizzare grandi quantità di dati, per identificare schemi ricorrenti in questi dati e ora persino per riprodurre questi schemi sotto forma di sequenza di parole, come fanno ChatGPT o Dall-E. Ma queste IA non hanno idea dello scopo dei dati che stanno analizzando, degli oggetti che questi dati rappresentano o di come si relazionano tra loro. Né comprendono l’origine e il significato degli schemi ricorrenti che riescono a identificare.

Manipolano parole, immagini, dati. Tuttavia, l’intelligenza umana è incarnata in un corpo, nutrita da molteplici percezioni sensoriali, dalla vita in un mondo fisico. Un bambino capisce cosa significa “cadere” perché è caduto, ha percepito la gravità. Capisce il concetto di “qualcosa di rotto” perché ha visto o causato la rottura di qualcosa. Un modello linguistico, d’altra parte, non ha mai “vissuto” ciò di cui sta parlando. Il suo intero universo è simbolico.

L’IA non comprende il significato più profondo di ciò che dice. Tratta “cosa rotta” come due simboli che associa a “deve essere riparato” o “non funziona più”, ma non concepisce il dolore o la perdita che un oggetto rotto può rappresentare per qualcuno, né la meccanica della rottura. Non ha questo modello mentale, non possiede intuizione fisica. Sussiste un divario abissale tra la manipolazione di simboli e l’esperienza soggettiva.

Le parole sono potenti nel rappresentare la realtà, ma sono anche ambigue e incomplete. Una frase è solo l’ombra dell’esperienza vissuta. Questo è, del resto, un tema classico in filosofia: i limiti del linguaggio per comprendere il mondo. Ludwig Wittgenstein disse: “I limiti del mio linguaggio significano i limiti del mio mondo”. Per le nostre IA, il cui “mondo” è ridotto al linguaggio che diamo loro, i limiti del linguaggio sono ancora più restrittivi: mancano del referente, dell’esperienza vissuta, di tutto ciò che dà corpo alle parole.

Una macchina non è un essere vivente e però quanto meglio imita l’intelligenza, tanto maggiore è la tentazione di credere che siano intelligenti nel senso umano del termine. La si immagina potenzialmente dotata di coscienza, seppur “diversa” e non “inferiore” a quella umana. Di quale diversa coscienza si possa trattare, personalmente lo ignoro. Certamente non ha e non potrà mai avere nulla della natura psicologica dell’uomo, delle sue relazioni sociali interiorizzate, eccetera. Il fatto che più macchine siano collegate tra loro e interagiscano scambiandosi dati, non determina in esse alcun grado di rapporto sociale o di coscienza individuale o collettiva.

Quello che a mio avviso dovrebbe interessarci di più relativamente all’AI è il suo impiego e che cose se ne vuole fare. Ad esempio, possiamo affidare a un’IA il compito di consigliare il trattamento medico di un paziente, guidare un’auto o prendere decisioni legali? Se l’IA non ha una reale comprensione, corriamo il rischio che commetta gravi errori non appena ci allontaniamo dal quadro previsto.

Un altro aspetto, preoccupante, riguarda l’utilizzo di tali mezzi volti al controllo sociale totale. Non solo lo Stato, ma anche potenti forze economiche, come “ordini superiori”, le cui ragioni hanno esclusivamente un rapporto con i loro fini. Finalmente si realizza il terribile e inconfessato sogno, l’aspirazione morbosa e inappagata di fabbricare uomini compatibili, persone sulle quali si possa innestare un canale di comunicazione di una fonte a loro esterna.