Mi dia un pacchetto di Camel senza filtro e una Minerva
e una cronaca alla radio dice che una punta attacca
verticalizzando l’area di rigore…

Alle prese con questi versi, il chatbot identifica con certezza la fonte: Francesco De Gregori.

Si tratta invece di Venezia-Istanbul, composta e interpretata da Franco Battiato.

Possiamo imparare qualcosa di più in termini di stupidità artificiale da un esempio come questo, visto che getta luce sui criteri di costruzione delle frasi da parte di un grande modello linguistico.

Qui succede che, all’interno del modello, De Gregori e la sua Leva calcistica della classe ’68 hanno un peso molto maggiore del pezzo di Battiato. Il brano di De Gregori lo conoscono anche i sassi, quello di Battiato ha avuto certamente meno eco. Non è questione di valori o di giudizi, semplicemente di – diciamo – presenza mediatica.

Il modello legge l’input, determina dalla sua composizione che si riferisce a una canzone; si parla di rigori ed ecco, il meccanismo statistico premia De Gregori. Il common sense dice che la canzone è quella.

Da lì in avanti, va tutto a cascata; dalla radice De Gregori germina un albero di plausibilità statistiche. La premessa era sbagliata, quindi le conclusioni non sono migliorate.

Che cosa sarebbe successo con gli umani? Se conosci Battiato, storia chiusa, zero problemi. Se non conosci Battiato e neanche De Gregori, mai ti passa per la testa di attribuire la canzone a uno che non conosci. Se non conosci Battiato ma conosci De Gregori, sai benissimo che quella canzone certamente non è sua.

L’umano, in altre parole, sa benissimo qualè sia la risposta, oppure sa benissimo di non saperla; in questo caso si esprime con boh, non so, oppure spara a casaccio, non statisticamente ma stocasticamente, senza altri valutatori dei nomi vuoti che gli girano in testa. Potrebbe certo uscirgli De Gregori, proprio come peschiamo uno dei numeri vincenti al Superalotto. Ho provato due volte a dare lo stesso prompt e due volte è uscito De Gregori sempre con la stessa canzone; certamente il modello non è andato totalmente a caso.

La morale: ti dicono che pensano, che noi ragioniamo allo stesso modo, che anche noi ci sbagliamo, che esistono gli analfabeti funzionali, che potrebbe essere pensiero in assenza di una definizione sicura.

Invece no. É prossimità statistica. Qualunque cosa facciamo noi nella stessa situazione, se non è tutt’altro, sicuramente c’è molto, molto più di prossimità statistica. Come minimo, c’è la capacità di dire boh, che è cruciale.

Up, patriots, to arms.