La grande illusione

 

«È più facile resistere all’inizio che alla fine»

Leonardo da Vinci

Segnalo un articolo pubblicato su Nature, a firma di tre ricercatori dell’Università Nazionale di Taiwan, nel quale si descrive un robot, ovvero un framework di robotica cognitiva impiegato su Chat GPT-4. La macchina, denominata Mobi, ovviamente antropomorfizzata (compresa una telecamera di profondità, un pannello touch, bracci robotici e un telaio), sarebbe in grado di simulare e migliorare le “dinamiche conversazionali e l’esperienza utente”, quindi di manifestare “una capacità cognitiva e una coscienza simili a quelle umane”.

Siamo ancora una volta sulla scia di una rappresentazione mitica del robot, che consiste nel considerare le macchine come doppi dell’uomo, attribuendo loro un’esistenza separata e autonoma.

La versione GPT-4 del chatbot di OpenAI ha potenziato e migliorato le capacità di testo, visione, audio e analisi delle emozioni umane, e nel corso della ricerca ha dimostrato di poter andare oltre la simulazione di una personalità ed entrare nella sfera predittiva: “Grazie alla conoscenza dei ricordi, dei tratti della personalità e dei modelli linguistici di un individuo, [...] può prevedere il discorso e le decisioni di quella persona” e dunque può adattarsi “all’evoluzione degli stati emotivi e del contesto sociale dell’utente”.

Che è un po’ quello, in definitiva, che fanno i cartomanti con i loro clienti.

La chiave di tutto è ovviamente il cervello umano, il quale “costruisce un modello predittivo dell’attenzione altrui, dotando gli individui di notevoli capacità sociali per anticipare gli stati mentali e i comportamenti dei loro coetanei. Di conseguenza, ciò facilita la ricostruzione delle proprie emozioni, convinzioni e intenzioni”.

In particolare, “Quando una persona esprime un’affermazione, questa è sempre orientata a una certa conoscenza a causa dell’intenzione della sua coscienza. [...] Un robot può svolgere funzioni di coscienza, come la teoria della mente (ToM), realizzando l’intenzione, che orienta il suo comportamento al proprio intento, alle proprie emozioni e produce una conversazione più direzionale. Inoltre, il comportamento passato e altre variabili del comportamento pianificato, l’intenzione di agire, così come l’intenzione di astenersi dall’agire, influenzano l’intenzione di agire”.

La Teoria della mente (ToM) si riferisce alla capacità (in tal caso della macchina) di dedurre e attribuire stati mentali (ad esempio credenze, intenzioni, sentimenti) agli altri. Un robot con ToM può comprendere il pensiero dell’utente e comportarsi in modo più simile a quello umano. È una teoria in origine sorta presso gli etologi sulla base delle osservazioni dei comportamenti empatici dimostrati dagli scimpanzé!

Per il resto, l’articolo è molto tecnico, ma in sintesi questo Mobi è un agente conversazionale in grado di simulare una personalità completa con –dicono – cognizione incorporata. Tutta questa faccenda della somiglianza tra umano e robot è una impostura ideologica, molto diffusa nei discorsi transumanisti della Silicon Valley. Procede ignorando la diversità essenziale tra le funzioni socio-culturali e quelle psicofisiologiche, affidando in ultima analisi la soluzione semplicemente al dominio di queste ultime (**).

Andando col discorso sulla struttura e le performance concrete delle cosiddette intelligenze artificiali generative, esse si basano, com’è noto, su grandi modelli linguistici che consentono la produzione industriale di parole e testi attraverso calcoli statistici eseguiti su enormi quantità di dati digitalizzati. Come oggetti tecnici, rimangono materia inorganica che reagisce a calcoli probabilistici. Noiosa predeterminazione su base matematica, anche quando ci sorridono, ci chiamano per nome e “indovinano” il nostro stato d’animo e la nostra prossima risposta.

Però questo è solo l’aspetto più apparente, che non deve trarci in inganno: questi oggetti tecnologici non rivoluzionano più solo l’automazione del lavoro manuale o delle attività gestuali o fisiche, ma anche l’automazione del lavoro intellettuale, delle attività mentali e psicologiche. Sono strumenti psicologici che trasformano profondamente le funzioni psichiche, le strutture mentali e i modi di pensare degli utilizzatori.

La questione, come solito, sta nel loro impiego, che non è quello dichiarato in etichetta. Già con l’espressione “intelligenza artificiale”, oppure “cervello artificiale” o “coscienza artificiale”, eccetera, un modello di ricerca scientifica è stato convertito in una macchina di propaganda ideologica al fine di nascondere la presenza di decisori, non neutrali, dietro l’anonimato della macchina.

La domanda che dobbiamo quindi porci nel contesto attuale non è se le macchine saranno in grado di imparare o pensare (di diventare intelligenti e coscienti), ma piuttosto quali effetti avrà questo processo di automazione testuale, linguistica e simbolica sulle nostre menti e sulle nostre società.

È palese il rischio di un’ulteriore sterilizzazione culturale e manipolazione sofisticata, poiché l’espressione linguistica, testuale o simbolica è la facoltà che ci consente di pensare con la nostra testa e anche di connetterci collettivamente attraverso un ambiente culturale condiviso. Inoltre, è evidente a chiunque che il passaggio dai media cartacei a quelli digitali ha cambiato, specie per quanto riguarda le nuove generazioni, le pratiche di scrittura e lettura. A mio avviso, tale cambiamento non può non avere, nel tempo e nello sviluppo dell’individuo, effetti a livello neuronale e cerebrale, e dunque sulle stesse connessioni sinaptiche.

Questo passo indietro (ripeto: evidente specie nella formazione dei più giovani) dovrebbe consentirci di cogliere le questioni antropologiche e di civiltà legate alla digitalizzazione e all’automazione delle pratiche espressive che ci riguardano oggi (non si tratta meramente di una questione legata alle forme di “comunicazione”!). Pertanto, fino a che punto queste tecnologie algoritmiche e linguistiche trasformeranno i nostri cervelli e, più in generale, le nostre vite psichiche (influenzando identità e decisioni) e collettive (avanzamento implacabile dei poteri di controllo, disciplinari, eccetera)?

Per chiudere (tornerò sull’argomento), dal lato del significato politico si tratta di un’ulteriore prova che il capitale tende alla totalità, a non lasciare nulla fuori dal proprio orizzonte, dal proprio respiro, dal proprio dominio.

(*) Non sono io a sostenerlo: Elon Musk e altri, nel marzo 2023, sollevarono la questione del rischio dell’avvento di “menti digitali” che minacciano il futuro dell’umanità, in seguito al rilascio della prima “intelligenza artificiale generativa” accessibile al grande pubblico, prodotta dalla società OpenAI e denominata ChatGPT.

(**) Raymond Kurzweil, fondatore del movimento transumanista e direttore dell’ingegneria di Google, pubblica libri sulle “macchine intelligenti” o “macchine spirituali e immortali” (che aumentano autonomamatente le proprie prestazioni) dagli anni Novanta e mobilita anche l’idea di “singolarità tecnologica”, secondo la quale una superintelligenza artificiale (o “intelligenza artificiale generale”) in grado di superare le capacità umane sarebbe sull’orlo del futuro attraverso l’aumento della potenza di calcolo.