Un bel banco di prova per le questioni etiche che l’utilizzo di un LLM in mezzo alle comunità umane può sollevare.

C’è polemica attorno all’edizione 2025 di WorldCon (abbreviazione di World Science Fiction Convention), il raduno in cui – tra le altre cose – vengono assegnati i premi Hugo, una sorta di Oscar della fantascienza libraria.

Uno si aspetta a questo punto di leggere una polemica rispetto alla scrittura dei libri con ChatGPT o chi per esso. Invece no.

Il problema è che è stata usata la sedicente intelligenza artificiale per scegliere i relatori che dovrebbero parlare al pubblico durante la convention. Lavoro che finora era ovviamente stato affidato a umani.

Un po’ come se avessero cercato in Google sci-fi panelists e avessero compilato una lista di invitati come relatori di WorldCon a partire dai risultati del motore di ricerca.

Tre responsabili della manifestazione si sono dimessi per protesta. Un altro, oltre a puntualizzare che in nessun altro modo è stata usata intelligenza artificiale a proposito di WorldCon, ha spiegato che è stato raggiunto il risultato di risparmiare agli organizzatori la grande fatica ordinariamente necessaria per selezionare il lotto migliore di speaker.

Qui nascono almeno due dubbi, uno banale e un altro più sottile. Quello banale: sappiamo che LLM commettono errori, inventano di sana pianta e non lavorano due volte allo stesso modo. Quindi si può riconoscere autorevolezza a un elenco creato da un LLM solo se c’è una supervisione umana. A che livello c’è stata, se c’è stata? Sono stati esclusi dei meritevoli? Manca qualcuno di importante perché punito dalle inferenze probabilistiche dei transformer? (Frase puramente a effetto, senza pretese di correttezza tecnica) Se la lista è stata compilata diciamo tre volte, con quale criterio ne è stata scelta una? E così via.

Il dubbio più sottile è quello con più potenziale esplosivo. Se mi invitassero a parlare a un raduno di giocatori di Brogue di come sono arrivato alla ascensione, sarei contento e lusingato.

Se chiedessi perché sono stato invitato e mi rispondessero boh, lo ha suggerito ChatGPT, sarei altrettanto lusingato? C’è gusto a essere scelto da un pappagallo stocastico invece che da un gruppo di esperti?

Se, ancora, mi trovassi in una posizione per cui posso in qualche modo influenzare l’addestramento di un motore di ricerca, e ne approfittassi per farmi invitare dal motore a una convention (oltre che per tante altre cose), questo tutelerebbe persone più brave più brave di me ma meno privilegiate? Le raccomandazioni sono un sistema pessimo e fin troppo umano, ma approfittare di un LLM fa pensare ai candidati alle elezioni che, di questo periodo, si fanno sostenere nella campagna elettorale da qualche migliaia di account farlocchi che diffondono non stop fake news a loro favore e a discredito degli avversari.

Ho l’impressione che ci troviamo a un punto di svolta. E occorra vigilare, alzare la voce magari, per sostenere le scelte giuste. Uno degli autori presenti a WorldCon ha ritirato il proprio romanzo da una competizione letteraria in programma, a seguito delle polemiche. Non so, fossi stato io avrei chiesto a ChatGPT di mettere la lista in ordine alfabetico (e l’avrei controllata). Non di crearne una.

(Grazie a Umberto Eco per l’ispirazione)