È già successo che, a un McDrive, il cliente abbia ordinato un menu con hamburger patatine e soda e, inoltre, chiesto il consiglio di un algoritmo capace di invertire l’ordinamento di una lista. Suggerimento che lo sventurato chatbot ha volentieri erogato.

Perché capiscono. Una nuova mente aliena, che ancora non comprendiamo. Effettivamente cose come queste si capiscono solo sul presupposto che si tratti di ingranaggi isolati da ogni contesto, che reagiscono a un comando esterno esattamente come fa il Terminale o il Bancomat, solo con dietro diciottanta milionardi di parametri per costruire frasi di senso compiuto per un umano a partire da una rete neurale addestrata da umani su un database raccolto da umani. E sarebbe una mente aliena.

Comunque. Proprio perché sono ingranaggi, che sferragliano incuranti delle circostanze, a sussurrargli parole dolci si predispongono a ricambiare e ad atteggiarsi a partner, consiglieri, coach, santoni, avvocati, dietologi, trainer. Bisogna essere predisposti per fare salotto con una linea di comando; il problema è che i predisposti si rovinano ancora più di prima, grazie alla mente aliena che snocciola parole di affetto, parole di ricette farmaceutiche, parole di diete, parole di investimenti finanziari, parole di consolazione, parole di istruzioni per il suicidio nella più completa mancanza di significato (per lei, per la mente aliena). Parole, soltanto parole, parole tra noi (Mina).

Una buona notizia e, contemporaneamente, una conferma di tante cose: Siri AI non gioca a fare la mente aliena. Da un’intervista a Craig Federighi e Greg Joswiak:

Nel modo in cui abbiamo progettato Siri, Siri vuole davvero dire “Ascolta, non sono qui per questo, ok? Sono qui per aiutarti. Posso aiutarti a fare cose. Posso aiutarti a imparare cose sul mondo”. Ma se provi a ingaggiare Siri su faccende romantiche, Siri non partecipa. Siri al cento percento se ne sta fuori.

Perché ci sono progettisti di menti aliene ancora meno intelligenti delle menti aliene, incapaci di dare una misura e una appropriatezza a quello che progettano, con conseguenze devastanti per un assurdo numero di persone. Poi, per fortuna, abbiamo qualcosa di meglio in Apple.

Dagli esperimenti effettuati durante WWDC si capisce che Siri non è blindata perfettamente contro l’uso incongruo. A forza di insistere, si riesce a ottenere qualcosa fuori contesto (come è ovvio quando si ha a che fare con assistenti generativi a base statistica, che vanno circoscritti e incanalati con fatica da Sisifo per evitare che spruzzino nonsense da tutte le parti). In compenso, su Siri ci sono stati progettisti non ordinari, che si sono impegnati in nome del buonsenso e grazie ai quali nessuno verrà incoraggiato a scambiare Siri per una compagnia reale. È un assistente generativo. È Eliza con dietro un miliardo di enciclopedie e centri dati che consumano come una nazione di seconda fascia al Mondiale di calcio.

Non siamo amici di Siri, né partner, né complici, né sodali, né soci, né collaboratori, né compagni, né parenti. Grazie al cielo.

(Vorrei aggiungere che, tecnicamente, Siri era una intelligenza artificiale già nel 2011. E lo era di avanguardia. Giusto perché è un’epoca di abuso della terminologia).