– Come stai?
– Tutto bene, grazie. E tu?
Scambi di convenevoli che diventano sintassi abituali. Costrutti sociali. Domande di circostanza che, nella stragrande maggioranza dei casi, ricevono risposte di circostanza. Statisticamente, nell’esperienza di ciascuno di noi, facendo la domanda “Come stai?” ci aspettiamo la risposta “Tutto bene, grazie”. Siamo così convinti che saranno quelle tre parole a chiudere il circuito semantico da stupirci se riceveremo qualunque altra risposta.
Un piccolo esperimento? Fare a un AI generativa (CHATGPT, per esempio) la fatidica domanda.
Perché risponde così? Di tutte le possibili combinazioni, perché un algoritmo decide di dare proprio questa risposta, in questa forma? Un passo di lato.
L’LLM (Large Language Model) è uno dei modelli di Intelligenza Artificiale che sta alla base dell’autoapprendimento delle AI che, ormai quotidianamente, usiamo per qualunque cosa. Dai consigli medici passando alle ricette. Dalla scrittura di software a un possibile piano per conquistare il mondo. L’LLM è un modello che ha bisogno di una mole impressionante di dati su cui addestrarsi. E cosa fa, durante l’addestramento?
Elabora, attiva contatori interni. Immaginiamoli come piccole luci che si spengono e accendono, anche se questa è una semplificazione estrema di quello che succede durante la fase di addestramento della AI. Insomma, all’LLM vengono date in pasto tonnellate di documenti. Milioni e milioni e milioni di parole pensate e scritte dagli esseri umani. Milioni e milioni e milioni di parole che, una accanto all’altra, raccontano cose. Trattati di economia, pensieri filosofici, romanzi, pubblicazioni scientifiche, manuali di frullatori a immersione. Tutto quello che è possibile trovare sul web diventa – o può diventare – cibo per il modello di apprendimento LLM.
E così, quando noi chiediamo a una AI che usa questo tipo di modello “Come stai?”, ecco che risponde “Sto bene, grazie! E tu?”. E se gli chiediamo “Raccontami una favola con protagonista una canna da pesca” ecco che lei:
“C’era una volta, in un piccolo villaggio di pescatori affacciato su un lago cristallino, un ragazzo di nome Luca. Amava il mare e sognava di diventare il più grande pescatore del regno, ma ogni volta che lanciava l’amo, tornava a casa a mani vuote.”
E per noi ha tutto senso. Perché abbiamo fatto una domanda all’AI e la AI ci ha risposto. Meraviglioso. Un interlocutore che capisce quello che gli chiediamo e che – a volte in maniera ben più efficace che gli esseri umano – ci risponde secondo un chiaro filo logico.
Peccato che l’AI, in realtà, non abbia nessuna idea di ciò che gli abbiamo chiesto. Almeno, non nel senso comune del ‘comprendere’.
L’AI non ha nessuna consapevolezza delle nostre necessità, del senso delle parole che digitiamo sulla tastiera. Semplicemente raccoglie l’insieme di lettere che abbiamo buttato sullo schermo e le scompone
Dentro di lei/essa – sempre semplificando – iniziano ad accendersi tante piccole luci. E quando comincia a rispondere senza avere idea di cosa sta per dirci, il brillare di queste minuscole lampadine si fa sempre più frenetico.
È il miracolo statistico all’opera. In base a quanto ha imparato, in base ai milioni e milioni e milioni di parole che hanno contribuito ad addestrarla, lei/essa secerne una lettera dopo l’altra perché, probabilisticamente dopo la “C” verrà un apostrofo e poi l “e” e poi la “r” e ancora la “a” e così via. E più lettere metterà in fila, più, statisticamente, sarà sicuro su come continuare a comporre la risposta che noi tanto aspettiamo.
Statistica. Puro miracolo statistico. Nessuna comprensione ma solo la possibilità (che diventa quasi certezza) che a fronte di una nostra certa domanda, sarà quell’insieme di parole lì la risposta più probabile.
Questa dinamica di funzionamento ha due implicazioni.
La prima, sotto certi aspetti, è confortante. L’AI non inventa. Non nel senso più filosofico del termine. L’AI assembla, ottimizza. Offre le rispose più giuste, quelle migliori secondo un sentire comune – un condividere – addestrato, elaborato e raffinato su più parole di quanto potremmo leggere in centinaia di vite. E, va da sé, l’AI (per ora, un grosso PER ORA è premessa obbligatoria a tutte queste considerazioni), dicevo, va da sé che l’AI non è in grado – PER ORA – di offrire contenuti di rottura. Qualcosa fuori dagli schemi, qualcosa di disturbante, inaspettato. È confortevole e confortante nel suo ottimizzare ciò che cerchiamo e, a dispetto delle inquietudini, ci stupiamo più che impaurirci.
La seconda implicazione, invece, ha degli effetti collaterali tutt’altro che tranquillizzanti. Come ho detto poco fa, le AI generative addestrate sui modelli LLM non comprendono realmente il senso della conversazione che stiamo avendo con loro/esse. A noi sembra di sì, a noi pare che tutto sia incredibilmente fluido e logico ma si tratta solo, lo ripeto, di statistica.
Questo cosa significa? Significa che le nostre interazioni, il nostro rapportarci gli uni con gli altri o le une con le altre (e tutto quello che ci sta in mezzo), è probabilità. Significa che le nostre interazioni sono statistica, che riusciamo a intrattenere conversazioni molto soddisfacenti (in alcuni casi, molto più soddisfacenti di quelle che si tengono tra esseri umani) con un’entità probabilistica che in realtà non capisce niente di quello che stiamo dicendo.
Ma che sembra comprenderci. Che dice in maniera straordinariamente efficace ciò che vogliamo sentirci dire, ciò che cerchiamo, ciò che vogliamo imparare.
Perciò, in sintesi, sembra che la nostra ineguagliata capacità di comunicare sia ormai solo una convenzione. Tanto che anche chi non capisce il senso di ciò che diciamo, è in grado di rapportarsi con noi. Setaccia il nostro passato, lo riduce a miliardi di interruttori che si accendono o si spengono e da questo desume il presente che ci interessa. E lo fa in maniera sorprendentemente efficace.
È una coccola, la sua. Una carezza comunicativa che nasconde l’orrore di un’abitudine certificata dalla statistica.
Siamo, ormai, la somma di conversazioni già avvenute e affidiamo il nostro presente a questi scheletri appariscenti che si nutrono di passato e che lo reinventano camuffandolo da qui e ora. Presupposti sinistri per avviarsi vero un futuro che possa ancora stupirci.
