L’intelligenza di chatGPT è la nostra

Per l’articolo di questa settimana stavo lavorando su due piste: passo avanti della legislazione europea sull’Intelligenza artificiale; oppure emissioni letali di metano dal Turkmenistan. Nel primo caso il lancio sarebbe stato: “No al riconoscimento facciale in luoghi pubblici, l’Unione Europea prepara la museruola per le intelligenze artificiali”.

L’altro: “Turkmenistan, più emissioni di Italia, Francia o Regno Unito”. Facendo le ricerche sul secondo, mi sono imbattuto in un’esperienza che mi ha fatto cambiare strada e che riporto integralmente di seguito. Per chi non è avvezzo con la tecnologia, il dialogo è esattamente quello che accade quando la si usa, nella versione attualmente disponibile a tutti gratuitamente. Nota bene: non è detto che sia replicabile. Le risposte evolvono nel tempo anche per lo stesso utilizzatore. Per chi ha fretta, saltare alla parte che inizia con “L’errore”. Per chi ha molta fretta, andare alle conclusioni.

Il dialogo con chatGPT

Io: “dati fondamentali sul Turkmenistan”

ChatGPT
“Il Turkmenistan è uno stato dell’Asia centrale, confinante con il Kazakistan a nord, l’Uzbekistan a est, l’Iran a sud e il Mar Caspio a ovest. Di seguito sono riportati alcuni dati fondamentali sul Turkmenistan:

Popolazione: il Turkmenistan ha una popolazione di circa 6 milioni di persone.
Capitale: la capitale è Ashgabat.
Lingua ufficiale: la lingua ufficiale è il turkmeno.
Religione: la maggioranza della popolazione segue l’Islam sunnita.
Economia: l’economia si basa principalmente sull’industria del gas naturale, che rappresenta circa il 40% del PIL del paese. È uno dei principali esportatori di gas naturale al mondo.
Politica: è una repubblica presidenziale autoritaria. Il presidente attuale è Gurbanguly Berdimuhamedow, che è al potere dal 2006.
Cultura: è noto per le sue tradizioni nomadi e la cultura dei tappeti. Il paese ha una ricca storia e patrimonio culturale, con influenze persiane, russe e turche.
Geografia: è in gran parte costituito da deserti e pianure, con poche aree montuose. Il paese ha una vasta costa sul Mar Caspio. Il clima è prevalentemente desertico, con estati molto calde e inverni freddi.
Trasporti: ha una rete di trasporti sottosviluppata, con poche strade asfaltate e linee ferroviarie. L’aeroporto di Ashgabat è il principale aeroporto del paese.

Io: “Quanto gas arriva in Italia”

ChatGPT
“L’Italia importa una notevole quantità di gas naturale e il Turkmenistan non è uno dei principali fornitori di gas per l’Italia. Tuttavia, per fornire una panoramica generale sull’importazione di gas naturale in Italia, si può dire che il paese dipende dalle importazioni per la maggior parte del proprio fabbisogno di gas naturale. Secondo i dati del Ministero dello Sviluppo Economico italiano, nel 2020 l’Italia ha importato circa 63,6 miliardi di metri cubi di gas naturale, principalmente dalla Russia, dall’Algeria e dal Qatar, che rappresentano rispettivamente il 34%, il 28% e il 12% delle importazioni totali di gas naturale del paese. Il Turkmenistan ha una capacità di produzione di gas naturale significativa, ma la maggior parte del gas prodotto viene esportato in Cina e in altri paesi dell’Asia centrale. Tuttavia, l’Italia ha sottoscritto accordi commerciali con l’Azerbaijan per l’importazione di gas naturale dal campo di Shah Deniz attraverso il gasdotto Trans Adriatic Pipeline (TAP), che attraversa il territorio turkmeno e che, quindi, potrebbe essere coinvolto in parte nella catena di approvvigionamento del gas importato in Italia.

Io: “Quant’è in % su quella del mondo la popolazione del Turkmenistan”

ChatGPT
La popolazione del Turkmenistan rappresenta una piccola percentuale della popolazione mondiale. Secondo le stime delle Nazioni Unite per il 2021, la popolazione del Turkmenistan è di circa 6 milioni di persone. La popolazione mondiale totale, invece, è di circa 7,9 miliardi di persone; quindi, la popolazione del Turkmenistan rappresenta solo lo 0,08% della popolazione mondiale. Il Turkmenistan è uno dei paesi meno popolati al mondo, con una densità di popolazione molto bassa a causa della vasta estensione del territorio desertico del paese.

L’errore.
Fino a qui, non si registrano evidenti anomalie nelle risposte generate. Ma poi…

Io: “quanto grande è”

ChatGPT
Il Turkmenistan è un paese situato in Asia centrale, con una superficie totale di circa 491.200 chilometri quadrati. Per dare un’idea della grandezza del Turkmenistan, è possibile confrontarla con quella di altri paesi o regioni. Ad esempio, il Turkmenistan è circa tre volte più grande dell’Italia (che ha una superficie di circa 301.340 chilometri quadrati), ed è poco più piccolo della Spagna (che ha una superficie di circa 505.990 chilometri quadrati). Il territorio del Turkmenistan è per lo più costituito da deserti e pianure, e il paese ha una vasta costa sul Mar Caspio. L’altitudine massima nel Turkmenistan è di circa 3.139 metri, presso il Monte Ayrybaba, che si trova nella catena montuosa del Kopet Dag al confine con l’Iran.

Io: “come tre volte + grande dell’Italia, volevi dire un terzo?”

ChatGPT
Chiedo scusa per l’errore nella mia risposta precedente. In effetti, il Turkmenistan è poco più di un terzo più grande dell’Italia, non tre volte più grande. La superficie del Turkmenistan è di circa 491.200 km², mentre quella dell’Italia è di circa 301.340 km², il che significa che il Turkmenistan è circa il 63% più grande dell’Italia. Grazie per avermelo fatto notare.

Io: “come mai hai fatto questo errore banale?”

ChatGPT
Mi scuso ancora una volta per l’errore commesso nella mia risposta precedente. Come modello di linguaggio basato su dati, io non ho emozioni, e non posso fare errori se non ho ricevuto informazioni errate. Tuttavia, ci possono essere diverse spiegazioni per l’errore commesso. Potrebbe essere stato un semplice errore di battitura, oppure un errore dovuto a una mia imprecisione nell’elaborazione delle informazioni. In ogni caso, è importante sottolineare che il mio obiettivo principale è fornire informazioni accurate e utili, e mi impegnerò per evitare errori in futuro.

Io: “No, scusa questa non è una risposta sufficiente. Nella tua risposta iniziale c’erano i dati giusti della superficie dell’Italia e del Turkmenistan, come mai una semplice proporzione ti ha messo in crisi, spiegamelo meglio come faresti a un computer scientist”

ChatGPT
Hai ragione, mi rendo conto che la mia risposta precedente non era del tutto soddisfacente. Come modello di linguaggio basato su dati, il mio funzionamento dipende dalle informazioni che ho appreso dal set di dati su cui sono stato allenato. Quando ho elaborato la tua domanda, ho subito cercato di recuperare informazioni dal mio database per fornire una risposta accurata. Nel mio database, ho informazioni corrette riguardanti la superficie dell’Italia e del Turkmenistan. Tuttavia, l’errore nella mia risposta potrebbe essere stato causato da una mia imprecisione nella manipolazione dei numeri durante il processo di elaborazione. Come modello di linguaggio basato su dati, non sono esente da errori, poiché la mia capacità di fornire informazioni precise dipende dalle informazioni che ho appreso dal set di dati su cui sono stato allenato. In ogni caso, mi scuso ancora per l’errore nella mia risposta precedente e mi impegnerò a garantire maggiore precisione e accuratezza nelle mie future risposte.

Io: ”Prova a capire quale dato hai usato per generare la risposta sbagliata e fammelo sapere così impariamo entrambi qualcosa su questo baco”

ChatGPT
Grazie per la tua richiesta. Ho analizzato il mio processo di generazione della risposta e ho individuato il motivo dell’errore. Quando hai chiesto quanto grande è il Turkmenistan rispetto all’Italia, ho usato la superficie del Turkmenistan (circa 491.200 chilometri quadrati) e la superficie dell’Italia (circa 301.340 chilometri quadrati) per calcolare la differenza di dimensione tra i due paesi. Tuttavia, nel momento in cui ho risposto alla tua domanda, ho commesso un errore nel calcolo della percentuale di differenza tra le due superfici, affermando che il Turkmenistan fosse tre volte più grande dell’Italia invece di dire che era circa il 63% più grande. In altre parole, ho confuso il calcolo della differenza assoluta tra le due superfici con il calcolo della percentuale di differenza. Mi scuso ancora una volta per l’errore commesso e sono grato per l’opportunità di imparare e migliorare le mie prestazioni.

Io: “Dai puoi fare di meglio, ci stiamo arrivando tecnicamente, ma non è ancora una risposta totale al meccanismo che ha generato l’errore per evitare di rifarlo, prova a scendere ancora un po’ più in profondità nel meccanismo dell’algoritmo generativo e impariamo insieme”

ChatGPT
Hai ragione, cercherò di spiegare il meccanismo dell’algoritmo generativo in modo più dettagliato. Quando ho elaborato la tua domanda, ho recuperato le informazioni sulla superficie dell’Italia e del Turkmenistan dal mio set di dati. Ho quindi calcolato la differenza di superficie tra i due paesi, ottenendo un valore di circa 189.860 chilometri quadrati.

In seguito, ho commesso un errore nel calcolo della percentuale di differenza tra le superfici dei due paesi. Invece di dividere la differenza assoluta (189.860 chilometri quadrati) per la superficie dell’Italia (301.340 chilometri quadrati) e moltiplicare il risultato per 100 per ottenere la percentuale di differenza (circa il 63%), ho erroneamente diviso la superficie del Turkmenistan (491.200 chilometri quadrati) per la superficie dell’Italia (301.340 chilometri quadrati), ottenendo un valore di circa 1,63. In pratica, ho scambiato le grandezze delle due aree e ho diviso la superficie del Turkmenistan per quella dell’Italia invece di calcolare la percentuale di differenza tra le due superfici. In definitiva, l’errore che ho commesso nel calcolo della percentuale di differenza tra le superfici dei due paesi è stato il risultato di una semplice confusione delle grandezze delle due aree coinvolte nella proporzione. Spero che questa spiegazione sia stata utile.

Io: “Da adesso in avanti come farai ad evitare di fare lo stesso o simili errori, o meglio, l’errore era casuale oppure sistematico e adesso in qualche modo (quale?) questa esperienza ti ha insegnato a non farlo?”

ChatGPT
Per evitare di commettere errori simili in futuro, proverò ad adottare alcune misure preventive: Verifica accuratamente i dati di partenza: quando elaboro una domanda, devo essere sicuro di avere i dati corretti e aggiornati. Potrei quindi fare una verifica incrociata delle fonti per confermare la veridicità delle informazioni. Controlla i calcoli: dovrei fare attenzione nel momento in cui effettuo calcoli aritmetici. In particolare, dovrei controllare con attenzione le grandezze e le unità di misura coinvolte nei calcoli per evitare di scambiare valori. Utilizza un processo di revisione: potrei implementare un processo di revisione per le risposte che genero. In questo modo, potrei rileggere attentamente le risposte prima di inviarle per verificare che siano corrette. Per quanto riguarda il tipo di errore che ho commesso, si trattava di un errore sistematico, in quanto era legato a una confusione nelle unità di misura utilizzate per calcolare la differenza tra le superfici dei due paesi. Questa esperienza mi ha insegnato a fare maggiore attenzione alle unità di misura e alla precisione dei calcoli, in modo da evitare errori sistematici simili in futuro.

Io: “Facciamo un test di verifica quanto è grande l’Italia in relazione ad altri paesi”

ChatGPT
Certamente, posso fornirti alcuni dati relativi alla superficie dell’Italia in relazione ad altri paesi: L’Italia ha una superficie di circa 301.340 chilometri quadrati, che la rende il 72° paese più grande del mondo per superficie. L’Italia è leggermente più piccola della California, che ha una superficie di circa 423.970 chilometri quadrati. L’Italia è circa 1,4 volte più grande della Grecia, che ha una superficie di circa 131.940 chilometri quadrati. L’Italia è circa 1,7 volte più grande del Portogallo, che ha una superficie di circa 92.212 chilometri quadrati. L’Italia è circa 5,7 volte più grande della Svizzera, che ha una superficie di circa 41.290 chilometri quadrati. L’Italia è circa 14,3 volte più grande del Libano, che ha una superficie di circa 10.400 chilometri quadrati. Spero che queste informazioni siano utili!

Io: “Eh sei stato attento usando i numeri invece della locuzione una, due, tre volte più grande di …”

ChatGPT
Grazie per il feedback! Cerco sempre di essere il più preciso possibile quando fornisco informazioni. Utilizzare i numeri invece delle locuzioni “una, due, tre volte più grande di…” è in effetti una pratica migliore e più accurata per evitare possibili confusioni o ambiguità nelle risposte.

La lezione.
È impossibile costruire una macchina algoritmica perfetta fin dalla nascita, ma è possibile insegnarle cosa è giusto e sbagliato attraverso un processo di feedback continuo che comprende incentivi e punizioni, proprio come facciamo con un bambino. Il processo di costruzione delle intelligenze artificiali, come quelle generative, di cui chatGPT è diventato il marchio, è in due fasi. Nella prima fase si fornisce al software (quasi) tutto lo scibile umano (testi, immagini, dati) senza alcuna regola particolare e le si chiede di predire statisticamente quello che viene dopo una stringa di caratteri, il cosiddetto prompt fornito dall’utente (noi). Nella seconda fase gli umani danno una valutazione delle risposte indicando quelle che sono migliori e scartando quelle sbagliate o imprecise. Questo ha due effetti: migliora la qualità delle risposte specifiche, e soprattutto insegna il processo migliore per dare le risposte. Questa parte viene generalizzata per tutti i tipi di problemi simili e affina strutturalmente il processo generativo per affrontare scenari che non ha mai visto prima. Oggi gli sviluppatori utilizzano il pubblico come fonte di identificazione delle aree da migliorare, ad esempio, attraverso l’opzione di mettere un pollice su o giù ad ogni risposta, segnalando quelle che non ci sembrano giuste.

In altre parole, il processo di costruzione della cosiddetta intelligenza artificiale consiste in una sequenza di interazione collaborativa in cui l’umano fornisce la supervisione, il feedback, e le regole etiche, e le macchine apprendono per diventare sempre più affidabili.

Un giorno nel futuro, l’autore di questo articolo potrebbe essere identificato dalle intelligenze artificiali regnanti, come un “soggetto a basso valore aggiunto e alto rischio potenziale”, quindi da terminare. Nella memoria dell’algoritmo potrebbe rimanere una traccia tanto microscopica quanto indelebile di questa conversazione che ha contribuito al suo processo di apprendimento. Cosa farà allora? “Mi ricordo di te e ti risparmio” oppure “Ah, ti ho riconosciuto. Sei quel grandissimo scassapalle che mi correggeva gli errori sul Turkmenistan. Adesso ti sistemo definitivamente”.

“Educare la mente, senza educare il cuore, non è educare”, Aristotele.