Grazie, Alexa

 

La scorsa settimana e ieri pomeriggio mi sono capitati due fatti che mi hanno fatto riflettere: in un negozio la proprietaria parlava con Alexa (un dispositivo) come si trattasse di una persona. Ieri è successo a me con una assistente vocale. A un certo punto, m’è sfuggito un “grazie”. Com’è possibile accadano queste cose? (*)

Possiamo essere facilmente ingannati da una macchina quando imita abbastanza bene un comportamento intelligente. Ma cosa c’è in noi che ci fa vedere una coscienza dove c’è solo un meccanismo? Per capirlo, diamo un’occhiata alla nostra tendenza ad antropomorfizzare le macchine.

Nel 1997, la super intelligenza scacchistica di IBM, Deep Blue, affrontò il campione Garry Kasparov. Durante la partita, il computer fece una mossa così inaspettata e strategica che disorientò Kasparov. Era convinto di aver individuato una qualche forma di ragionamento superiore o di intervento umano dietro questa mossa “eccessivamente” intelligente. La realtà era molto più banale: la mossa brillante era il risultato di un problema di software. Incapace di decidere una mossa, Deep Blue aveva giocato una mossa casuale, che Kasparov interpretò come un gesto di intelligenza machiavellica.

Nel 1966, al MIT, l’informatico Joseph Weizenbaum creò ELIZA, uno dei primi chatbot della storia. ELIZA si atteggiava a psicoterapeuta rogersiano: riformulando le frasi dell’utente come domande “Ti sento, parlami di tua madre ...”, il programma dava l’illusione di ascoltare e capire. Weizenbaum aveva progettato ELIZA come una parodia volta a mostrare la superficialità degli scambi uomo-macchina.

Con sua grande sorpresa, molti utenti presero ELIZA sul serio. La sua stessa segretaria, dopo alcuni minuti di conversazione con il programma, chiese a Weizenbaum di lasciare la stanza per il suo colloquio privato con ELIZA! Il ricercatore rimase stupito dalla facilità con cui un software così limitato potesse avere umanizzato l’illusione di comprensione. Questa reazione inaspettata ha dato il nome all’”effetto ELIZA”, che descrive la nostra tendenza a equiparare inconsciamente il comportamento del computer al comportamento umano quando il computer adotta l’aspetto dell’interazione umana.

Tendiamo ad attribuire caratteristiche umane – emozioni, intenzioni, personalità – alle macchine non appena assumono in qualche modo un comportamento sociale. Ad esempio, i media e il pubblico in generale parlano del chatbot ChatGPT come se pensasse e volesse qualcosa, perché risponde in modo molto fluente nel linguaggio umano.

In realtà, ChatGPT predice solo la probabile parola successiva in una frase utilizzando enormi database di testo. Ma più le sue risposte imitano il linguaggio umano, più è allettante attribuirgli qualità umane come emozioni o una volontà propria. Le nostre stesse parole tradiscono questa inclinazione, fino a farci dire o pensare “ha deciso di rifiutare la mia richiesta” o “questo robot capisce cosa sto dicendo”, quando in realtà dietro ci sono solo calcoli privi di coscienza.

Di fronte a una tecnologia nuova e complessa, immaginarla funzionare come un essere umano ci rassicura, perché la rende più prevedibile ai nostri occhi. Attribuire una personalità o delle intenzioni ad Alexa o altri dispositivi simili è un modo per addomesticare la tecnologia, conferendole caratteristiche familiari. Inoltre, spesso riflette anche la limitata comprensione del pubblico sul funzionamento effettivo di questi sistemi. In breve, diamo un volto umano alla scatola nera per accettarla meglio nella nostra vita quotidiana.

Questa tendenza profondamente umana è radicata nella nostra psicologia. Il nostro cervello è costantemente alla ricerca di significato, schemi e coerenza, a volte anche dove non ce ne sono. È intuitivo e sopprime l’ambiguità, sceglie la versione più significativa della realtà. Questo è un vantaggio per dare un senso al mondo, ma ci gioca brutti scherzi.

Proprio come vediamo forme familiari nelle nuvole (un volto, un animale) puramente percettive, vediamo uno “spirito” familiare in un chatbot scherzoso o in un robot sorridente. Il nostro cervello impone una storia coerente a un comportamento, anche se ciò significa colmare le lacune con l’immaginazione. L’antropomorfismo ne è un esempio: di fronte a pochi segnali (una voce sintetica che dice “ciao”, un testo che usa la parola “io”), attiviamo spontaneamente i nostri schemi sociali e rispondiamo alla macchina come se fosse dotata di intenzioni o coscienza.

Nonostante tutti i nostri progressi informatici (ma proprio per questo!), siamo ancora inclini a queste proiezioni. Molte persone hanno provato una fitta al cuore quando hanno sentito per la prima volta la voce dolce di un assistente vocale, o si sono rivolte ad Alexa educatamente (“per favore “, “grazie”) come se si trattasse di una persona. Ci sentiamo persino tristi quando adottano un tono triste o si rifiutano di rispondere, a dimostrazione del fatto che l’illusione emotiva funziona.

Ancora più preoccupante, alcune persone oggi stanno sviluppando veri e propri legami emotivi con gli agenti conversazionali. Abbiamo visto di questi dispositivi fungere da confidenti virtuali, al punto che l’attaccamento dell’utente è molto reale, anche se l’”amicizia” da parte del dispositivo è ovviamente una finzione. I nostri sentimenti possono essere intrappolati dall’illusione tanto quanto le nostre menti.

Non significa essere ingenui o stupidi. È una conseguenza del funzionamento della nostra cognizione sociale. Siamo programmati per rilevare agenti, intenzioni, ovunque intorno a noi. Quando un’entità non umana si comporta anche solo vagamente come un essere umano, il nostro primo istinto è percepirla come tale.

Il problema è che più l’IA diventa sofisticata, più convincente diventa l’illusione. I primi chatbot come ELIZA erano relativamente facili da individuare dopo alcune conversazioni ripetitive. Ma i modelli attuali, possono sostenere una conversazione complessa per lungo tempo senza commettere errori linguistici evidenti. Diventa quindi naturale, nella foga del momento, dimenticare la natura meccanica dell’altra “persona”.

Il nostro cervello sociale è in modalità pilota automatico. Questo è affascinante perché rivela fino a che punto linguaggio e comportamento siano sufficienti a suggerire “intelligenza”. Il Test di Turing, ideato nel 1950: se una macchina riesce a sostenere una conversazione indistinguibile da quella di un essere umano, allora è considerata “pensante”. È solo un’imitazione priva di coscienza, ma l’effetto su di noi è praticamente lo stesso.

Ritornerò sull’argomento.

(*) Con l’esigenza dell’esercito di avere a disposizione una notevole potenza di calcolo, gli esperimenti per costruire un calcolatore digitale accelerarono durante la Seconda Guerra Mondiale, ma rimasero insoddisfacenti. Alla fine del conflitto, un certo John Neumann (1903-1957), avrebbe fatto compiere un grande balzo in avanti. Nato a Budapest col nome di János Lajos, si rivelò presto un bambino molto dotato: all’età di 6 anni, imparava a memoria i libri, ripetendo all’istante intere pagine di elenco telefonico che gli erano state mostrate solo per pochi istanti o eseguendo rapidamente a mente divisioni con due numeri da otto cifre.

Da Wikipedia: «John von Neumann è stato una delle menti più brillanti e straordinarie del secolo scorso. Insieme con Leó Szilárd, Edward Teller ed Eugene Wigner faceva parte del “clan degli ungheresi” ai tempi di Los Alamos e del Progetto Manhattan. Oltre a essere ungheresi, tutti e quattro erano ebrei».

I creatori dell’informatica erano matematici o fisici, tutti più o meno autistici e con evidenti fisse ideologiche: anche Janos maturò la convinzione che gli aspetti economici e sociali e le relazioni tra individui potessero essere trattati in termini matematici.

Leggo da Wikipedia che fu Neumann a suggerire come lanciare la bomba atomica a Nagasaki per creare il maggior numero di danni e di morti. Si spinse oltre, proponendo alle autorità militari di bombardare preventivamente con armi nucleari l’Unione Sovietica per scongiurare il pericolo rosso. La sua teoria dei giochi fu utilizzata in questo contesto per studiare e ipotizzare tutti i possibili scenari bellici che si possono sviluppare in seguito a certe decisioni.

Ognuno segue il proprio destino, come ebbe a dire la mamma di Forrest Gump: probabilmente furono le radiazioni dei numerosi test atomici ai quali Neumann assistette a condannarlo a morte.

Nel 1948, Alan Turing lavorava all’Università di Manchester su uno dei primi computer commerciali, il Manchester Mark I. Turing consigliava ai giovani ingegneri di programmare la macchina come un bambino che impara, non come un adulto che sa già molto.

Nel 1950, Turing scrisse un articolo fondamentale: Computing Machinery and Intelligence, che gettò le basi per quella che non era ancora chiamata intelligenza artificiale. Egli credeva che entro il 2000 avremmo avuto macchine dotate di un comportamento intelligente indistinguibile dal ragionamento umano.

Arriviamo al 1956. Quell’estate si tiene al Dartmouth College nel New Hampshire una conferenza fondativa: il Dartmouth Summer Research Project sull’Intelligenza Artificiale. Si affermò che la conferenza avrebbe dovuto “procedere sulla base della congettura che ogni aspetto dell’apprendimento o qualsiasi altra caratteristica dell’intelligenza possa, in linea di principio, essere descritto con tale precisione che si possa realizzare una macchina in grado di simularlo”.