Quando la plausibilità diventa conoscenza

Una delle proprietà fondamentali dei sistemi complessi è la retroazione: ciò che accade nel sistema modifica le condizioni che produrranno ciò che accadrà dopo. Non abbiamo quindi una semplice catena lineare di cause ed effetti, ma un circuito in cui azioni, reazioni e conseguenze si alimentano reciprocamente.

Questa idea è particolarmente utile per capire ciò che sta accadendo con l’intelligenza artificiale generativa.

Un Large Language Model produce risposte linguisticamente plausibili sulla base delle regolarità apprese nei dati. Può farlo in modo estremamente efficace, spesso sorprendente, ma questo non significa che disponga di un criterio generale per distinguere ciò che è vero da ciò che è semplicemente ben formulato. La fluidità del linguaggio, tuttavia, rende questa distinzione molto meno evidente all’utente, perché una risposta coerente, sicura e formalmente impeccabile viene facilmente interpretata come il prodotto di una conoscenza altrettanto solida.

È qui che emerge ciò che chiamo epistemia: la confusione tra plausibilità e conoscenza, tra la capacità di produrre una risposta convincente e la capacità di garantirne la fondatezza.

Il punto interessante, però, non riguarda soltanto il singolo errore o la singola allucinazione. Se il problema fosse questo, basterebbe affinare i sistemi o controllarne meglio le risposte. La questione diventa più profonda quando milioni di persone iniziano a integrare questi strumenti nei propri processi cognitivi, delegando loro parti crescenti della ricerca, della scrittura, dello studio, della decisione e della verifica.

A quel punto entra in gioco la retroazione. Più diventa semplice produrre contenuti, più cresce la quantità di contenuto disponibile. Più cresce il contenuto disponibile, più aumenta il costo della sua verifica. Allo stesso tempo, se gli stessi strumenti vengono utilizzati anche per controllare ciò che altri strumenti hanno prodotto, la funzione di verifica rischia di essere delegata alla stessa infrastruttura che ha reso necessaria la verifica.

Il paradosso è evidente. La generazione diventa sempre più economica mentre la verifica resta costosa, perché richiede competenza, tempo, esperienza e conoscenza del dominio.

 Ma proprio la disponibilità di sistemi capaci di fornire risposte immediate può ridurre l’incentivo a costruire quelle competenze. Se smettiamo progressivamente di esercitare la capacità di verificare perché una macchina sembra farlo al posto nostro, rischiamo di aumentare la nostra dipendenza nello stesso momento in cui diminuisce la nostra capacità di controllare ciò da cui dipendiamo.

Questo è un problema tipico dei sistemi complessi: l’intervento modifica il comportamento degli elementi del sistema, e il nuovo comportamento modifica a sua volta gli effetti dell’intervento.

L’AI generativa, quindi, non è semplicemente uno strumento che entra in una società immutata. Cambia il modo in cui cerchiamo informazioni, scriviamo, apprendiamo e prendiamo decisioni. Questi cambiamenti modificano l’ambiente informativo, il valore delle competenze e persino ciò che consideriamo sufficiente per dire di sapere qualcosa.
L’epistemia non consiste perciò nel fatto che le macchine sbaglino. Gli esseri umani hanno sempre sbagliato. Consiste nel rischio che la distinzione tra sapere e sembrare di sapere perda progressivamente importanza, perché la plausibilità diventa economica, abbondante e immediatamente disponibile.

In un mondo in cui produrre risposte costa quasi nulla, il valore si sposta sulla capacità di stabilire quali risposte meritino fiducia. La risorsa scarsa non è più necessariamente l’informazione, ma la competenza necessaria per valutarla.

Ed è qui che la complessità contemporanea mostra uno dei suoi tratti più interessanti. Abbiamo costruito macchine straordinariamente efficienti nel ridurre il costo della produzione cognitiva, ma il loro successo potrebbe rendere ancora più prezioso ciò che non possono automaticamente garantire: la verifica, il giudizio e la capacità di distinguere una frase plausibile da una conoscenza fondata.

Il problema, quindi, non è soltanto che cosa le macchine sono capaci di produrre. È che cosa diventiamo noi quando iniziamo a considerare quella produzione equivalente al sapere.