Con l’intelligenza artificiale, se vogliamo chiamarla così, ho un ottimo rapporto quando devo impostare lavori complicati. In generale ricevo aiuto, risparmio di tempo, qualche spunto di ispirazione e delle soddisfazioni.

Quando il rapporto si guasta, lo si deve sempre e comunque a situazioni banali, per una intelligenza umana almeno, che portano a delusioni tanto più frustranti quanto è banale il compito di partenza. Compito di partenza che era:

disegna il contorno di una N dentro una griglia 20x20.

Non mi serviva il disegno, che avrei potuto schizzare su un foglietto. Mi serviva una traccia precisa dei quadrati da utilizzare, velocemente, perché per farlo lentamente mi sarebbe bastato Pages, prima ancora di una app grafica. Bastava anche ASCII art, con cui si disegnano mondi.

Non sono riuscito ad avere soddisfazione nel tempo disponibile. Ho aggiustato e riaggiustato il prompt, ho usato l’italiano e l’inglese; il massimo che ho ottenuto è stata una sagoma che nel complesso era corretta. Per ragiuni insondabili, tuttavia il tratto verticale destro a un certo punto curvava. Il tratto sinistro no; non era una ricerca di effetto grafico o simmetria, ma la dimostrazione di una inabilità.

Ho davvero costruito i tratti verticali in una griglia generata istantaneamente dentro Pages. Ho indicato i punti tra cui tirare le righe diagonali e ho inviato per posta lo schemino alla figlia in attesa di un suggerimento. La quale ha disegnato in pochi secondi la N con le specifiche che le servivano, matita, righello e la precisione di una bambina. Nel grande schema dell’umanità, l’ultima delle briciole. Un cluster di server ha consumato l’energia di un padiglione dell’ Oktoberfest per fallire.

È un sistema che non sa disegnare una sagoma semplice su una griglia piccola. Secondo alcuni, in compenso, sa o saprebbe esprimere opinioni, fornire consigli, comprendere disagi, consigliare percorsi, esprimere giudizi, valutare opportunità, spiegare l’arte o la letteratura, supportare psicologicamente, inquadrare situazioni, prevedere conseguenze.

Dice ma sono cose diverse. Per noi, sì; per il chatbot, è tutto uguale. Completamente uguale.

Sono cose risapute che tocca ripetere. Là dentro esistono solo token, che sono parole piccole o monconi di parola. Dietro, un apparato immenso di valori che disegnano una rete di miliardi e miliardi di relazioni tra i monconi e un meccanismo che li combina insieme nei modi più probabili (non nel modo; nei modi). A valle di questo, uno sbarramento monumentale di filtri, condizioni, vincoli, divieti, sostituzioni, requisiti per fare sì che non escano esiti sgradevoli.

Nient’altro. Contorno è un pacchetto di due o tre token con dietro una serie di collegamenti ad altri token. Mitopoiesi, stessa cosa. Quando il chatbot legge contorno, non ha alcuna idea di che cosa sia; quando scrive mitopoiesi, non sa che cosa voglia dire. Combina token secondo uno schema di probabilità che si rifà a una rete neurale di dimensioni inusitate.

È un meccanismo geniale (sono scattati dei premi Nobel per questa cosa) che permette di simulare in maniera incredibilmente precisa il linguaggio. Molte persone vedono linguaggio e, avendo fatto questo per tutta la vita, come rappresentanti di una specie che si comporta così da migliaia di anni, associano il linguaggio al significato. E concludono che il chatbot ha creato del significato.

Mi spiace, non c’è alcun significato. Non c’è alcuna intenzionalità, non c’è alcun giudizio, non c’è alcuna opinione.

Ciò non vuol dire, attenzione, che la produzione del chatbot vada scartata. Di recente mi sono occupato di una questione riguardante il tema delle vacanze studio per favorire l’apprendimento di una lingua straniera. Ho chiesto al chatbot una traccia di strutture rispondenti a vincoli di tempo, costi, lingua, posizione e ho ricevuto un elenco utilissimo per partire.

Per partire, perché poi ho verificato che le strutture nella lista esistessero veramente. E poi ho condotto ricerche suppletive con Google in quanto certamente il chatbot non mi ha detto tutto. Ciononostante, ho ricevuto un aiuto straordinario e ho potuto capire molto bene i confini dell’ambito in cui mi muovevo. Senza il chatbot, ci avrei messo molto più tempo. Grande aiuto, grande strumento, grande progresso.

Zero significato, tuttavia. Molto probabile che il college taldeitali esistesse; il chatbot però non ne ha idea. Ha messo insieme token secondo probabilità e che venisse fuori il nome del college era estremamente probabile. Tutto qui.

In generale, quando trattiamo informazione, ne ricaviamo buoni risultati. Quando trattiamo interpretazione, camminiamo sul bordo del precipizio. Se io avessi chiesto quale college le stanze con le finestre più ampie, avrei ricevuto indietro spazzatura pura, messa insieme sempre con criterio probabilistico e sempre a significato zero. Il chatbot non ha niente in pancia da cui estrapolare questa informazione, quindi inventa totalmente invece che in parte. Se invece chiedessi quale sia la retta più conveniente, riceverei qualcosa certo da verificare, ma probabilmente esatto.

Informazione contro interpretazione. La prima riesce abbastanza bene, la seconda è fuffa. Gli chiediamo se sia più piacevole da ascoltare Cherubini o Boccherini? La risposta è fuffa. Un parere sulla soluzione della crisi militare in Patagonia? Fuffa. Un giudizio sulla digeribilità della cucina laotiana? Fuffa.

Il fatto che arrivi comunque una risposta non significa nulla. Il fatto che la risposta sappia di vero non significa nulla. Il fatto che la risposta coincida con una nostra convinzione significa meno ancora: siamo sicuri di non avere posto una domande che con una o più parole chiave indirizzava la risposta dal chatbot?

Se chiediamo aiuto al chatbot, potremmo ottenerne e di prezioso. Se chiediamo un parere al chatbot, è fuffa. Anche se lo condividiamo. Perché quello che scrive il chatbot è privo di significato interno; noi ne percepiamo uno, a volta, per via del sapiente utilizzo delle strutture del linguaggio, ma è una percezione nostra, un problema nostro. Non c’è alcun significato.

Il chatbot che consiglia, afferma, stabilisce, ha prodotto una supercazzola, come se fosse Antani. Bisogna resistere alla tentazione di sentirci confermati nel nostro ragionamento. Noi, bene o male, ci abbiamo ragionato; il chatbot, neanche un femtosecondo.