Eviterei volentieri di dare spazio alla scemenza artificiale, se solo non si scendesse continuamente ancora un poco più in basso.

Adesso si è scoperto che i grandi modelli linguistici, su richiesta, generano tranquillamente password. Il problema è che le password prodotte sono casuali molto sotto la sufficienza.

Lo studio di Irregular è fin più che dettagliato. Capita che un modello, se le richieste sono ripetute, dia più volte la stessa password. Altre volte ci sono sequenze di caratteri che si ripetono e consentono persino di identificare il modello autore del capolavoro.

Sottoposte ad analisi puntuale, le password contengono bit di entropia in quantità largamente sotto media e di eccellenza neanche si parla.

(Per il concetto di bit di entropia, la spiegazione più immediata possibile arriva con una storica striscia di Xkcd, Password Strength).

In altre parole, sono password prestano molto facilmente il fianco a un attacco con i crismi, a prescindere da quanto possano apparire casuali a un occhio non consapevole.

Bonus: ci sono in giro programmi che, senza dirlo, fanno generare le password su richiesta dietro le quinte a qualche LLM. Così si corrono rischi e, ancora una volta, un occhio non esperto rimane ignaro.

Faccio presente con mestizia che il computer è una macchina meravigliosa proprio perché supera nettamente l’umano per velocità e precisione negli ambiti dove ha un senso che si faccia.

Uno di questi ambiti è, in genere, l’elaborazione numerica. Un computer adeguatamente programmato (nel senso che gli basta avere a bordo un interprete Python, se non c’è una calcolatrice nel sistema operativo), per dire, moltiplica tra loro numeri enormi senza sforzo.

Ancora, un computer programmato con attenzione produce sequenze casuali ad altissima randomicità, con risultati soddisfacenti per gli standard più alti a disposizione della nostra specie (essere certi che una produzione di numeri sia perfettamente random non è una passeggiata e, anzi, il perfettamente costituisce anche un errore concettuale: il cento per cento di casualità non è praticamente raggiungibile).

Sessant’anni di sviluppo di hardware e software per ritrovarsi sullo schermo software mentalmente deforme, che fa i conti o genera password con macchine statistiche soggette ad autoregressione, che richiedono l’energia di un forno per la pizza allo scopo di produrre un ruttino.

Servono a tante cose, eh? Dove c’è di mezzo la matematica, però, la parola chiave è distanziarsene.