Immaginiamo una situazione semplice.

Una persona deve prendere una decisione importante. Potrebbe essere un medico alle prese con una diagnosi, un giudice che esamina un fascicolo, uno studente che risolve un problema o un professionista che affronta una questione complessa.

Consulta un sistema di intelligenza artificiale. Il sistema analizza le informazioni e produce un’ottima risposta: chiara, argomentata e, supponiamo pure, corretta.

Non c’è stato alcun inganno. Nessuno ha manipolato la persona. Nessuno le ha letto nel pensiero. Può accettare o rifiutare il risultato.

A prima vista, non sembra esserci alcun problema.

Ma possiamo porci una domanda diversa:

Chi ha davvero capito?

Questa domanda è all’origine di ciò che chiamo Dignità Cognitiva.

La tecnologia non è il problema.

Gli esseri umani hanno sempre delegato funzioni cognitive. Usiamo libri, calcolatrici, mappe, motori di ricerca, insegnanti, consulenti e specialisti. Gran parte del progresso umano è dipesa proprio dalla nostra capacità di costruire strumenti e distribuire conoscenza.

L’intelligenza artificiale amplia enormemente queste possibilità. Può sintetizzare grandi quantità di informazioni, individuare relazioni, confrontare alternative, tradurre, organizzare argomentazioni e aiutarci a formulare domande che altrimenti potremmo non aver considerato.

Nulla di tutto questo, di per sé, costituisce una minaccia alla dignità umana. Uno strumento può aiutarmi a capire. Posso anche decidere consapevolmente di delegare un compito specifico.

Ma esiste una terza possibilità: il sistema può svolgere concretamente il processo di comprensione, valutazione o elaborazione, mentre alla persona non resta che accettare, rifiutare o firmare il risultato. Queste situazioni non sono equivalenti.

Dall’assistenza alla sostituzione

Quando una tecnologia amplia una capacità e la persona mantiene un livello di comprensione e controllo sufficiente per il contesto, siamo di fronte a una forma di assistenza.

Quando qualcuno affida volontariamente un compito circoscritto a uno strumento e comprende ragionevolmente ciò che sta delegando, anche questa delega può essere legittima.

Il problema nasce quando l’architettura tecnologica sostituisce la funzione cognitiva che conta davvero. Può allora accadere qualcosa di paradossale: l’essere umano rimane formalmente presente, ma non è più colui che ha svolto le operazioni fondamentali da cui è scaturito il risultato.

Fare clic su «accetta» non significa necessariamente aver capito.

Scegliere tra due risposte generate da una macchina non significa necessariamente aver maturato il giudizio necessario per distinguerle. Firmare una decisione non dimostra, di per sé, che chi la firma abbia elaborato le ragioni che la sostengono.

Chiamo questa situazione sostituzione cognitiva non manipolativa.

L’espressione intende identificare qualcosa di molto preciso: non è sempre necessario manipolare una persona per sostituirsi alla sua attività cognitiva. Può bastare fornire risposte così complete, rapide e funzionali che il processo un tempo svolto dalla persona non abbia più luogo.

E se la risposta fosse corretta?

Qui emerge una difficoltà importante. Tendiamo naturalmente a valutare le tecnologie in base ai risultati. Se la diagnosi è corretta, il testo è ben scritto, l’analisi è solida o la decisione risolve adeguatamente il problema, sembra che l’obiettivo sia stato raggiunto.

Ma esistono attività umane nelle quali il risultato non è l’unica cosa che conta. Conta anche chi ha capito e come si è arrivati alla conclusione. Uno studente che consegna una risposta corretta senza comprendere il problema non si trova nella stessa situazione di chi è arrivato a quella risposta attraverso un’elaborazione propria.

Un giudice che adotta una conclusione giuridicamente impeccabile prodotta interamente da un sistema non si trova necessariamente nella stessa condizione cognitiva di chi ha esaminato le ragioni e formulato un giudizio autonomo.

Qualcosa di simile può accadere nella medicina, nella ricerca, nella pubblica amministrazione o nella direzione delle organizzazioni. Non perché l’intelligenza artificiale sia necessariamente dannosa. Ma perché esistono contesti nei quali ci aspettiamo da una persona qualcosa di più della sua presenza formale. Ci aspettiamo che comprenda.

Che cosa intende proteggere la Dignità Cognitiva?

Esistono già diritti e principi fondamentali connessi a questi temi. La riservatezza protegge le nostre informazioni. La libertà di pensiero protegge aspetti centrali della nostra vita mentale. L’autonomia protegge la nostra capacità di decidere. L’integrità mentale, la libertà cognitiva e i neurodiritti rispondono a minacce sempre più rilevanti.

La Dignità Cognitiva propone di guardare a una dimensione collegata, ma diversa:

il processo attraverso il quale una persona pensa, comprende, rivede, integra e produce significato.

Non soltanto il contenuto finale del pensiero. Non soltanto la decisione finale. Anche il processo.

La domanda, quindi, smette di essere soltanto:

La persona ha potuto scegliere?

E comincia a includerne un’altra:

La persona ha avuto una reale possibilità di comprendere ciò che viene presentato come una sua decisione o una sua conoscenza?

Il saggio accademico nel quale sviluppo questa proposta non sostiene che ogni forma di assistenza esterna sia problematica, né che una persona debba eseguire personalmente ogni calcolo, ricerca o inferenza. Al contrario, distingue esplicitamente tra assistenza legittima, delega volontaria e sostituzione concreta di una funzione cognitiva rilevante.

Il rischio di un’autonomia soltanto formale

Possiamo immaginare un sistema nel quale la persona conserva, in teoria, ogni possibilità. Può rifiutare una raccomandazione. Può chiedere un’altra risposta. Può persino spegnere la macchina.

Ma che cosa accade se deve risolvere centinaia di casi in un arco di tempo che soltanto un sistema automatizzato può gestire? Che cosa accade se le ragioni decisive rimangono all’interno di un’architettura che la persona non è in grado di ricostruire? O se discostarsi dalla raccomandazione comporta un onere praticamente insostenibile?

La libertà formale può coesistere con una dipendenza cognitiva sostanziale. Per questo non basta sempre chiedersi se nel processo fosse presente un essere umano. 

La domanda più esigente è:

Che cosa ha fatto concretamente quell’essere umano all’interno del processo?

Ha compreso? Ha valutato? Ha confrontato alternative? Poteva mettere in discussione il risultato?

Oppure si è limitato a confermare un esito la cui elaborazione cognitiva era già avvenuta al di fuori di lui?

Questa distinzione può essere particolarmente importante nella giustizia, nella medicina, nell’istruzione e nella pubblica amministrazione, dove attribuire una funzione a una persona ha conseguenze che vanno oltre la sola efficienza.

Un diritto ancora in costruzione

Propongo la Dignità Cognitiva come un diritto umano emergente, non come un diritto autonomo già riconosciuto. La distinzione è essenziale.

Attualmente non esiste un riconoscimento internazionale di un diritto indipendente con questo specifico contenuto e questa denominazione, né è stato dimostrato che sia necessariamente necessario istituire un diritto nuovo e distinto. Parte di questa tutela potrebbe svilupparsi attraverso diritti esistenti, come la dignità umana, la libertà di pensiero o l’autonomia.

La proposta ha uno scopo più concreto: rendere visibile una trasformazione che può rimanere nascosta se guardiamo soltanto alla riservatezza, alla manipolazione o alla decisione finale.

L’intelligenza artificiale sta passando rapidamente dalla fornitura di informazioni allo svolgimento di compiti di sintesi, valutazione, ragionamento ed elaborazione delle ragioni.

Questo può ampliare enormemente le nostre capacità. Ma può anche generare un paradosso: possiamo avere sempre più risposte senza necessariamente partecipare alla formazione della conoscenza che quelle risposte esprimono.

Forse la sfida non consiste nello scegliere tra intelligenza umana e intelligenza artificiale.

Forse consiste nel costruire rapporti con la tecnologia nei quali l’IA ampli le nostre capacità senza trasformare progressivamente l’essere umano in uno spettatore di processi che continuiamo ad attribuirgli.

Perché esiste una differenza tra ricevere una risposta e comprenderla.  E forse una parte della nostra dignità futura dipenderà proprio dalla capacità di preservare questa differenza.

•

Questo testo è un breve adattamento divulgativo del saggio accademico completo «Dignità cognitiva: proposta di un diritto umano emergente per proteggere il processo umano di costruzione del significato e di formazione della conoscenza dalla sostituzione tecnologica», disponibile su SSRN:

https://papers.ssrn.com/sol3/papers.cfm?abstract_id=7524981

Nota di trasparenza: nella preparazione e nella revisione di questo testo sono stati utilizzati strumenti di intelligenza artificiale come supporto tecnico. La scelta del problema, le decisioni concettuali e la responsabilità finale restano dell’autore.