Problemi che non saranno in grado di risolvere

 

Se un’IA governasse gli Stati Uniti, la Russia e la Cina quale sarebbe il risultato? Se in Alaska invece d’incontrarsi Trump e Putin s’incontrassero due robot? E se un terzo robot rappresentasse Zelens’kyj? Siamo sicuri che quei robot non si prenderebbero a mazzate e infine decidessero di scatenare una guerra nucleare?

Le auto si guidano da sole; le macchine diagnosticano i melanomi meglio dei dermatologi basandosi su fotografie di nevi scattate con i cellulari; i robot combattono al posto degli umani; e le linee di produzione nelle fabbriche stanno diventando sempre più automatizzate.

Queste applicazioni dell’IA interessano quasi tutti i settori di attività, in particolare quello industriale, bancario, assicurativo, sanitario e della difesa: infatti, molte attività di routine vengano automatizzate, il che trasforma molte professioni e ne elimina altre. Insomma, una vera rivoluzione, che non ha paragone nella storia.

Ma se chiedete a ChatGPT il risultato di 1+1, vi dirà 2 non perché abbia eseguito il calcolo, ma perché ha osservato che nella stragrande maggioranza dei dati rilevanti che ha assimilato, il carattere più frequente dopo “1+1=” è 2. Crea una bella illusione, ma non le permette di risolvere nuovi problemi.

Quando deleghiamo la nostra capacità di ragionamento alla macchina, finiamo per perderla. Questo non sorprende, ed è stato dimostrato empiricamente.

Un input scadente produce output scadenti perché un’IA è priva di pensiero critico e logico. È quindi una potenziale causa di allucinazioni o di un allineamento scadente (sono termini tecnici relativi all’IA).

Una cosa è giocare con pochi gigabit o terabit di dati tabulati ed etichettati, un’altra è quando il set di dati è composto da petabit (10 15 byte) di file disordinati senza un formato predefinito o, peggio ancora, dall’intera rete Internet pubblica nel caso di ChatGPT.

Ma non si stratta solo di input scadenti.

La domanda è: saremo in grado di inserire la logica astratta nel deep learning? Forse, ma a prima vista sembra un compito titanico. Quindi, a prima vista, un’IA in grado di causare una “esplosione di intelligenza”, non sembra essere per domani e nemmeno per dopodomani.

Tuttavia, non si tratta nemmeno di “esplosioni di intelligenza” e di logica astratta.

La prima cosa che sappiamo è che gli algoritmi non saranno mai in grado di risolvere tutti i problemi, e lo sappiamo dal 1936, l’anno in cui Alain Turing creò la cosiddetta macchina universale. Ma prima di creare la macchina universale, dimostrò che gli algoritmi non possono fare tutto. Sia sulla sua macchina o su qualsiasi altra.

L’insieme dei problemi che vogliamo risolvere è più grande dell’insieme degli algoritmi che ci permetterebbero di risolverli. Quindi ci diciamo: “ma l’insieme degli algoritmi è infinito” (poiché un algoritmo è composto da procedure, si basa su un alfabeto ...).

Anche l’insieme dei problemi è infinito. Ma gli infiniti non sono tutti uguali. L’insieme degli algoritmi è infinito ma infinitamente più piccolo dell’insieme dei problemi. Lo sappiamo dal 1936 che gli algoritmi non saranno in grado di fare tutto. Possono risolvere un numero infinito di problemi, e sappiamo che ci sono problemi molto importanti e molto interessanti che non saranno in grado di risolvere.