Intelligenza artificiale, coscienza animale

Nel 1954, lo scrittore americano Fredric Brown pubblicò un racconto breve, La risposta, in cui immaginava la futura costruzione di «un supercalcolatore, un’unica macchina cibernetica racchiudente tutto il sapere di tutte le galassie». Dopo aver acceso per la prima volta la macchina uno scienziato comincia a interrogarla, in una cerimonia trasmessa di fronte a miliardi di telespettatori:

«L’onore di porre la prima domanda spetta a te, Dwar Reyn».

«Grazie», disse Dwar Reyn. «Sarà una domanda cui nessuna macchina cibernetica ha potuto, da sola, rispondere»

Tornò a voltarsi verso la macchina.

«Esiste un Dio?»

L’immensa voce rispose senza esitazione, senza il minimo crepitìo di valvole o condensatori.

«Sì, adesso Dio c’è».

Il terrore sconvolse la faccia di Dwar Ev, che si slanciò verso il quadro di comando. Un fulmine sceso dal cielo senza nubi lo incenerì, e fuse la leva inchiodandola per sempre al suo posto.

Questo racconto, scritto quando la ricerca sull’intelligenza artificiale era ai suoi albori (due anni dopo ebbe luogo il celebre convegno al Dartmouth College con cui si data la nascita ufficiale della disciplina), esprime una preoccupazione apocalittica che più volte è stata ripresa, e oggi è tornata attuale. Di fronte alla prospettiva che i sistemi di intelligenza artificiale acquistino in ogni campo capacità pari a quelle umane, o superiori (la cosiddetta Superintelligenza), si ripropone il timore che queste intelligenze sfuggano al controllo umano e danneggino i loro creatori.

Ma cosa sono queste intelligenze? Per comprendere la situazione, più che agitare allarmi apocalittici, serve un lavoro di chiarimento su cosa s’intenda per intelligenza artificiale e come si possano introdurre vincoli alle sue operazioni. Un’ottima guida per orientarsi in questo territorio è Intelligenze. Etica e politica dell’IA, di Mario De Caro e Benedetta Giovanola (Il Mulino 2025). Già il titolo di questo libro avverte che è necessario un preliminare lavoro di analisi concettuale sui diversi significati del termine “intelligenza”. L’analisi riguarda le diverse forme di intelligenza artificiale, e in particolare quelle di ultima generazione, capaci di apprendimento meccanico, come i modelli linguistici (LLM) con cui ormai ogni giorno decine di milioni di persone intavolano conversazioni. A questi chatbot poniamo domande di ogni genere, come gli scienziati del racconto di Fredric Brown (ricordato nel libro), ma non sapendo come funzionano rischiamo di fraintendere le risposte che otteniamo. Inoltre, anche quando si riconosce che i sistemi finora disponibili sono fallibili, e possono produrre false conoscenze in chi non abbia competenze nelle materie su cui li interroga, resta il fatto che l’enorme capacità di elaborazione di dati e produzione linguistica spinge a un confronto tra la loro intelligenza e la nostra.

Che si tratti di intelligenza sembra pacifico, almeno se si definisce l’intelligenza come la capacità di risolvere problemi. Come tale, l’intelligenza non appare un’esclusiva degli esseri viventi. Ma questa definizione di intelligenza, basata sulle prestazioni di un qualsiasi ente, non ci dice ancora nulla sulla domanda filosofica se queste intelligenze abbiano proprietà mentali simili alle nostre, ed è questo il nodo da cui dipendono timori ed entusiasmi. Le prime due grandi questioni filosofiche discusse da De Caro e Giovanola riguardano l’attribuzione alle AI di capacità di coscienza e comprensione. Su entrambe le opinioni sono ancora divise ed emotivamente cariche: molti sono affascinati dalle potenzialità di questa tecnologia, pur riconoscendo che l’IA è uno strumento e non un vero e proprio interlocutore; il rovescio di queste potenzialità suscita in molti altri la preoccupazione di essere sostituiti o perfino minacciati nella propria dignità o incolumità. Alcuni, spinti dal desiderio di contatto personale, considerano senz’altro le IA come nuove forme d’intelligenza che presto dovranno essere dotate di diritti e doveri.

L’aspetto più speculativo di queste posizioni riguarda l’ipotesi che l’IA possa essere (o diventare) cosciente. Coscienza è una parola che ha diversi significati nelle scienze cognitive: per esempio, si chiama coscienza fenomenica la capacità di avere un’esperienza soggettiva, qualitativa, come quella che noi umani abbiamo normalmente quando percepiamo l’ambiente circostante e sentiamo il nostro corpo. La coscienza di accesso, invece, è la capacità di elaborare informazioni e farne uso per ragionare e agire, che può anche riferirsi a cose che sappiamo ma che non hanno alcun aspetto qualitativo.  Sappiamo che le IA elaborano informazioni con una velocità umanamente irraggiungibile, ma molti studiosi sottolineano che – almeno nelle sue forme attuali – non hanno una coscienza fenomenica, che per esempio non sentono fame, piacere e dolore come noi. L’esperienza soggettiva è infatti una proprietà che definiamo partendo dalla nostra condizione di esseri viventi, e sembra essersi sviluppata per orientare l’azione degli animali nell’ambiente naturale. Non esiste ancora una singola teoria scientifica consensualmente accolta sulle basi della coscienza nel corpo, ma molte di quelle che oggi sono oggetto di ricerca collegano la coscienza con il funzionamento del sistema nervoso degli animali; ed è sugli animali che si svolgono le indagini neuroscientifiche che mirano a selezionare tra le varie teorie in campo. Secondo questa prospettiva neurobiologica, le attuali IA sarebbero coscienti, semmai, solo nel senso dell’elaborazione delle informazioni, ma non senzienti.

La questione, però, non è chiusa. Se avere un corpo e uno sviluppo biologico è condizione della coscienza fenomenica, non è escluso – sostengono De Caro e Giovanola – che macchine dotate di sensori e altri elementi per interagire con l’ambiente, di cui esistono oggi dei prototipi, possano un domani avere una qualche forma di coscienza fenomenica – come gli androidi immaginati nel romanzo di Philip K. Dick da cui è tratto il film Blade Runner, talmente simili agli umani da avere dubbi sulla propria stessa identità di esseri artificiali.

Un tema dibattuto, del resto, è la possibilità che un supporto fisico composto di materiali diversi da quelli dei tessuti organici terrestri possa avere una forma di coscienza. La coscienza, infatti, secondo molte teorie (come la Teoria dello spazio di lavoro globale e la Teoria dell’informazione integrata) non dipende dagli elementi chimici delle componenti ma piuttosto dalla connessione e dall’elaborazione dell’informazione. Nulla escluderebbe quindi che un sistema di silicio divenisse in qualche modo cosciente. Si tratta di ipotesi difficilmente confermabili, ma il fatto che parti del cervello umano possano essere sostituite artificialmente rafforza l’intuizione di una coscienza non-animale. D’altra parte, oggi, alcuni scienziati sostengono che le piante, che mancano di sistema nervoso e hanno cellule diverse da quelle degli animali, possano essere senzienti. In mancanza di una teoria ben definita sulle basi della coscienza, ipotesi e speculazioni sembrano inevitabili.

Se le cose stessero così, che tipo di mente cosciente dovremmo attribuire alle intelligenze artificiali? Il caso sarebbe analogo a quello delle diverse menti animali. Oggi si riconosce che, in base alla biologia evoluzionistica, è plausibile che la coscienza si trovi distribuita tra i viventi ben oltre le specie più simili alla nostra, ma in forme diverse, così come diversi sono i corpi e le attività dei diversi organismi. Lo aveva intuito già il filosofo Baruch Spinoza nel Seicento: un cavallo e un umano provano entrambi desiderio, ma la forma di quel desiderio sarà diversa a seconda delle loro diverse nature. Il caso delle intelligenze artificiali sarebbe molto più difficile, perché l’assenza di organi vitali come quelli animali sembra rendere insensata l’attribuzione del desiderio. In ogni caso, come per gli altri animali, bisogna evitare di immaginare le altre coscienze a propria immagine. Se un domani ci fosse una macchina senziente, sarebbe molto difficile immaginare cosa provi, così come lo è oggi se pensiamo alla mente di un polpo o di un pipistrello.

Queste vaste incertezze e digressioni speculative sulla coscienza sono decisive per il problema da cui siamo partiti. Come ricordano gli autori del libro, un’altra assunzione oggi molto diffusa tra le varie teorie della coscienza è che la capacità di sentire sia anche una condizione all’autocoscienza, cioè della coscienza di essere uno stesso essere cosciente che possiede i propri stati mentali attraverso la propria esistenza. Insomma, senza senzienza, niente autocoscienza. Ma se una superintelligenza non sentisse e non fosse autocosciente, tutti i timori sulle sue presunte azioni contro il genere umano, su cui si esercitano ansie fantascientifiche e fantapolitiche, sarebbero infondati.

Questo non toglierebbe affatto il problema di regolare le capacità e le operazioni dell’IA secondo principi etici e giuridici, a cui Intelligenze dedica un’ampia trattazione. Si tratta in effetti di un campo di problemi attuali e importantissimi, su cui la tecnologia va molto più veloce della regolamentazione. Ma la questione si porrebbe allora come si pone per ogni altro potente mezzo tecnologico, per esempio nel campo militare e in quello della sorveglianza. Il male che temiamo possa essere fatto deriverebbe da una inadeguata progettazione dei sistemi intelligenti, a cui deleghiamo sempre più scelte, e al suo fondo ci sarebbero imprudenza, avidità e altri difetti tutti umani.

Abbiamo appena sfiorato solo una delle molte questioni sollevate dall’IA. Nel prossimo episodio – ripartendo da Intelligenze e da altri libri recenti – esamineremo la possibilità che l’IA abbia autentiche capacità di comprensione e creatività. Di nuovo, come vedremo, capire meglio l’IA ci spinge anche a capire meglio la nostra mente.