Intelligenze artificiali, comprensione linguistica e creatività

La questione della coscienza delle intelligenze artificiali, per ora, sembra proiettarci in un futuro fantascientifico di androidi romanzeschi. Ma ci sono altre questioni di immediata attualità, come quella della capacità di comprensione delle IA. Diversi studiosi oggi sostengono che i modelli di apprendimento linguistico (LLM) di ultima generazione non comprendono veramente le proprie formulazioni, ma producono stringhe di testo che per noi hanno significato. Un argomento contro la comprensione dell’IA era già stato formulato dal filosofo John Searle con il suo esperimento mentale della Stanza Cinese (1980), che offre ancora un’utile illustrazione della questione.

Nella situazione immaginata da Searle, un uomo riceve una serie di simboli in mandarino dall’esterno di una stanza. Non conosce il mandarino, ma seguendo le istruzioni di un manuale in inglese (una lingua che invece capisce) associa ad ogni simbolo ricevuto un altro simbolo, componendo un messaggio che fa uscire dalla stanza. Dall’esterno, un altro cinese riceverà un messaggio comprensibile in mandarino, ma l’uomo all’interno della Stanza – così suggeriva Searle – non avrebbe davvero avuto comprensione del mandarino. Il compito svolto da quell’uomo nell’esperimento mentale rappresenterebbe il modo di operare delle macchine, che sono programmate per produrre testi sensati in diverse lingue umane, ma non capiscono il significato di questi testi.

L’argomento potrebbe applicarsi ai modelli linguistici contemporanei, ma, come osservano giustamente De Caro e Giovanola (Intelligenze, Il Mulino 2026), esso non esaurisce la questione. Un argomento originale proposto dagli autori prende avvio dall’esame della nostra capacità di comprendere linguisticamente gli altri esseri umani. Per la comprensione linguistica, come ha argomentato Ludwig Wittgenstein, noi non abbiamo accesso ai processi di elaborazione che avvengono nella loro testa, ma giudichiamo a partire da enunciati e comportamento. Inoltre, gli stessi significati che attribuiamo interiormente alle parole dipendono da questo contesto comunicativo. Wittgenstein ragionava sul tema della comprensione linguistica mentre le scienze cognitive erano ancora agli albóri, ma ancora oggi non conosciamo perfettamente i processi che producono la comprensione e l’elaborazione dei significati. Inoltre, dal punto di vista dell’introspezione, filosofi e psicologi hanno mostrato che per lo più non sappiamo come e perché ci vengono determinate idee (quella che Peter Carruthers chiama “opacità” della mente), e spesso le fraintendiamo (come mostrano gli esperimenti sulla confabulazione).

In questa prospettiva, il metodo di apprendimento statistico dei modelli linguistici della IA appare come un meccanismo tra gli altri che risulta in espressioni significanti. La diversità dei processi di elaborazione – in umani e macchine – non giustificherebbe di per sé una differenza ontologica, essenziale, tra chi comprende e chi non comprende. Il caso sarebbe analogo a quello della definizione di intelligenza. Possiamo definire funzionalmente l’intelligenza di un sistema fisico come capacità di risolvere problemi. Allora la differenza tra macchine e umani non risiederebbe nel possesso esclusivo dell’intelligenza da parte degli umani, ma nel fatto che l’intelligenza è accompagnata da coscienza. Tornando alla Stanza Cinese di Searle, sembra che l’intuizione di una differenza tra comprensione meccanica e comprensione umana risiederebbe nel fatto che la nostra comprensione è accompagnata dalla coscienza, che noi escludiamo nel caso delle macchine.

Un caso collegato a questi, e oggi molto carico di speranze e timori, riguarda la creatività. Sappiamo che oggi le IA producono testi e immagini spesso indistinguibili da quelli prodotti da umani. Di fronte a questo fatto epocale, una reazione consiste nel sostenere che in realtà questi prodotti non risultano da una vera e propria creatività. Di nuovo, si può argomentare, noi non conosciamo esattamente i processi che nelle nostre menti portano a produrre opere d’arte. Gli antichi Greci immaginavano che l’ispirazione venisse da divinità, noi tendiamo a credere che venga da complicati processi che coinvolgono il nostro cervello e il corpo. Si tratta di processi specificamente umani, che nessun’altra specie di essere può riprodurre esattamente (anzi, a rigore, ogni individuo umano avrà processi creativi un po’ diversi da quelli degli altri). Ma il fatto che i processi corrispondenti nelle macchine siano tanto diversi non giustifica logicamente una distinzione rigida tra veri creativi (noi umani) e meri ripetitori (le macchine). Anche perché, come ricordano De Caro e Giovanola, gran parte delle poesie e immagini prodotte dagli umani ricalcano schemi precedenti. Di fatto, alcuni esperimenti hanno mostrato che non riusciamo a distinguere agevolmente poesie prodotte da umani e da IA. Lo stesso tipo di ragionamento si potrebbe fare per le immagini.

Nell’esaminare queste discussioni, credo che insistere semplicemente sulla definizione della specificità umana, la differenza tra umano e non-umano, sia fuorviante. Questo confronto rischia di essere espressione di un bisogno di difendere la nostra singolarità di specie – che nessuno mette in dubbio – e immaginare una graduatoria tra chi è superiore (e rimpiazzabile) in questo o quel compito, un metodo che peraltro ci porta spesso a umilianti sconfitte. È più interessante, trattando di valori estetici, distinguere la prospettiva degli agenti da quella dei fruitori. Già John Dewey, in Arte e esperienza (1934), invitava a non ridurre l’opera d’arte a un oggetto, sostenendo che l’opera assume un valore estetico solo quando “diventa un’esperienza per un essere umano”. Prendiamo il caso dell’immagine del volto di un bambino che sorride.

Questa l’ho scattata io, ma sappiamo che una IA può produrne infinite di bambini mai esistiti. Il punto è però: che sia prodotta da una macchina o da un umano, l’immagine sarà fruita da un umano in un modo specifico, dipendente dal nostro apparato cognitivo e emotivo, che reagisce in modo particolarmente significativo ai volti, e dipende da un’esperienza sviluppata a partire dalla condizione dell’infanzia.

Ma c’è un passaggio ulteriore: la nostra prospettiva di fruitori – di testi e immagini – non è indipendente dalla tecnologia. La nostra vita, sottolineava ancora Dewey, “si sviluppa in un ambiente […] Nessuna creatura vive solo sotto la propria pelle”. Ma l’interazione umana con l’ambiente è stata sempre mediata da strumenti. Pensiamo alla scrittura. Oggi leggiamo testi continuamente, ma al tempo di Platone questa tecnologia era ancora vista come una novità. Nel Fedro, formulando la sua preoccupazione, Platone fa lamentare Socrate che, poiché un testo ripete sempre le stesse cose, la scrittura potrebbe intorpidire gli animi, e difendeva il valore del dialogo orale. Oggi, per chi sa leggere e scrivere, il modo di pensare è profondamente modificato dalla scrittura e nessuno teme che essa ci abbia intorpidito. Abbiamo invece sviluppato delle tecniche per interpretare i testi, e distinguere quelli falsi risalendo alle condizioni della loro produzione (come fanno i filologi e gli storici).

Lo stesso vale per altre tecnologie: la mente umana si è sviluppata insieme a supporti tecnologici fin dalla preistoria, quando pietre scheggiate e pitture rupestri costituivano i supporti di un’elaborazione cognitiva che arriva fino alle macchine contemporanee. Questi supporti, come protesi, hanno modificato capacità cognitive che erano fin dal principio inseparabili dal corpo – per esempio dalla mano, che Aristotele definiva “strumento degli strumenti”. 

La nostra mente si definisce e si trasforma con la tecnologia, e oggi le tecnologie digitali – come mostra il neuroscienziato Vittorio Gallese ne Il Sé digitale (Raffaello Cortina 2026) – modificano la nostra esperienza soggettiva in modo specifico. Comprendere meglio che cosa significa avere una mente, e come la mente ha molte forme e si trasforma, apre insomma un campo di ricerche e pratiche (anche creative) ancora in parte inesplorato. Invece che preoccuparci di gareggiare con le intelligenze artificiali, dobbiamo comprendere queste trasformazioni per meglio governarle.