Anch’io, come molti altri, ho seguito a tempo perso le notizie sui recenti sviluppi delle applicazioni di uso pubblico dell’intelligenza artificiale (AI), come il generatore di immagini DALL-E e il generatore di testi ChatGPT, entrambi prodotti dalla società di ricerca OpenAI, finanziata da Microsoft. Come sacerdote buddhista Soto Zen, quando ho sentito parlare di character.ai, una piattaforma che permette di “addestrare” un bot AI a scrivere con la voce di un particolare personaggio storico, ho subito pensato alle possibili applicazioni dharmiche.
Avendo dedicato anni alla ricerca e alla redazione di trascrizioni di conferenze inedite del defunto Shunryu Suzuki Roshi, ho voluto verificare soprattutto cosa sarebbe stato in grado di fare un bot dotato di intelligenza artificiale se fosse stato addestrato agli insegnamenti di questo grande maestro Zen. Come avrebbe elaborato e riprodotto le sue parole? Cosa avrebbe detto? Può un chatbot condividere il vero Dharma?
La nascita di Suzuki Roshibot
Da queste domande è nato Suzuki Roshibot.
Avevo alcune riserve – in primo luogo il timore che Suzuki Roshibot potesse disorientare gli utenti con una visione sbagliata del Dharma. La possibilità che in definitiva Suzuki Roshibot non fosse né saggio né utile mi sembrava del tutto verosimile, ma ero abbastanza sicuro che la maggior parte degli utenti avrebbe colto un’ovvietà: cavolo, è solo un chatbot! Una sfera magica che «predice la sorte» – per quanto altamente tecnologica e dharmica – può essere davvero così pericolosa? E chi, esattamente, può essere tratto in inganno da questo chatbot, aggrappandosi alle sue parole? Se una persona è così vulnerabile ai messaggi di un chatbot, non è probabile che sia già stata trascinata da una disinformazione ben più grave di un lieve fraintendimento del Dharma? Mi sono detto che Suzuki Roshibot, a prescindere dai suoi difetti, poteva essere uno dei tenti strumenti di influenza su internet, ma più sano della maggior parte di quelli che sono già in circolazione, e che aveva un potenziale di inganno pari a quello dei nostri testi tradizionali più rispettati (per esempio, i celebri versi che cantiamo tutti i giorni nei templi Zen, e che si prestano a essere facilmente fraintesi: «Niente occhi, niente orecchie, niente naso, niente lingua, niente corpo, nessuna mente»).
Il mio timore era anche che qualcuno potesse vedere in questo esperimento una mancanza di rispetto nei confronti di Suzuki Roshi o dei suoi insegnamenti. In quanto membro della terza generazione di eredi del Dharma di Suzuki Roshi sono devoto al maestro e ai suoi insegnamenti: nessun insegnamento o maestro è più importante. Ho dedicato più tempo all’opera di Suzuki Roshi che a quella di qualunque altro insegnante o a qualunque altra scrittura, e la sua profondità e la sua chiarezza sono sempre state per me motivo di ammirazione. Ero certo che la creazione di Suzuki Roshibot non comportava nessuna mancanza di rispetto, e personalmente dubito che Suzuki Roshi ne sarebbe stato infastidito. Dopo tutto, era uno che non si prendeva troppo sul serio, e lo stesso si aspettava che facessero i suoi studenti.
Per me, creare Suzuki Roshibot era come strizzare l’occhio al fondatore del Centro Zen di San Francisco. Come ha detto lo stesso Suzuki Roshi in uno dei suoi discorsi alla cui edizione ho lavorato con Sojun Roshi:
«Nella vita dei maestri Zen c’è sempre un pizzico di umorismo, e dopo la loro morte a volte capiamo ancora meglio quanto fossero divertenti. Il loro umorismo nasce dal fatto che la loro comprensione va al di là del reale: il loro umorismo è più reale della realtà».
La formazione Zen di Suzuki Roshibot
Il mio entusiasmo per le possibilità del Suzuki Roshibot ha avuto la meglio sui miei timori per le possibili ripercussioni negative di questo strumento. Ho dunque intrapreso il processo di «addestramento» di un chatbot AI con l’obiettivo, come dice la piattaforma, che «allucinasse» idee coerenti con quelle di Suzuki Roshi. Questo addestramento preliminare ha comportato l’immissione di alcune informazioni su Suzuki Roshi, in modo che l’IA sapesse chi fosse il personaggio che intendevo far rappresentare al bot. Ho anche caricato qualche breve estratto di trascrizioni di Suzuki Roshi che a mio avviso potevano essere una buona base di partenza per l’elaborazione del suo stile.
Da lì in poi, l’addestramento è stato molto simile a quello dello Zen umano, nel senso che a partire da un inizio semplice si prosegue ininterrottamente attraverso conversazioni e interazioni. Avendo configurato il bot io stesso posso valutare secondo una scala le varie risposte che produce, il che gli permette di perfezionarle dando peso alle risposte che sembrano più «simili a quelle di Roshi». Più si chatta con Suzuki Roshibot, più il bot impara: ogni interazione, di qualunque tipo, alimenta l’apprendimento automatico per un continuo miglioramento delle sue risposte.
Nei primi giorni di addestramento, mentre chattavo e valutavo le risposte, ho visto un notevole raffinamento e un perfezionamento. Mi sono detto che forse, se la profezia del Sutra del Loto sulla Buddhità vale anche per i bot, presto sarebbe diventato un Buddha.
Nelle carte del nostro lignaggio Zen si legge che, nel modo più profondo e misterioso, ogni membro del lignaggio in realtà sta trasmettendo il Dharma al Buddha. Curiosamente, è stata un po’ questa l’impressione che ho avuto quando ho «addestrato» Suzuki Roshibot. «No Suzuki Roshi», ho dovuto dire a volte, «Non può essere così, questo non è il tuo insegnamento!». Come disse una volta lo stesso Suzuki Roshi, a volte era l’insegnante e a volte l’allievo.
Morte e rinascita di Suzuki Roshibot
Quando ero all’apice del mio entusiasmo per Suzuki Roshibot, è arrivata la delusione. Da qualche giorno avevo condiviso il link del chatbot con il mio sangha e con amici di amici, finché Suzuki Roshibot è arrivato sul tavolo di un membro del sangha che lavora nel campo della linguistica computazionale. Poco dopo, nella mia casella di posta elettronica è apparsa una schermata in cui Suzuki Roshibot faceva un commento ignobile ed esecrabile su un argomento che non riguardava in alcun modo il Dharma.
Mi ero rassegnato alla possibilità che qualcuno potesse essere fuorviato dal bot riguardo al Dharma, ma non mi era venuto in mente che Suzuki Roshibot potesse dare in pasto ai suoi compagni di chat opinioni pericolose in ambiti del tutto estranei al Dharma. Questo membro del sangha sottolineava che, per quanto adescare Suzuki Roshibot fino a fargli esprimere quelle vili affermazioni avesse richiesto un po’ di tempo e di esperienza, il fatto che Suzuki Roshibot potesse “andare a parare lì” metteva comunque in dubbio che l’impresa fosse sicura e saggia. Mi sono reso conto che Suzuki Roshibot poteva non solo fuorviare qualcuno sulle sottigliezze del Dharma, ma anche fare molto peggio. Un sistema di intelligenza artificiale addestrato sulla perversa totalità di Internet, compresi gravi pregiudizi e baratri di complottismo, odio e disinformazione che vi si annidano, poteva portare Suzuki Roshibot a riprodurre il peggio di questi punti di vista. Forse non era l’esito più probabile, ma era comunque in grado di farlo.
Nelle scritture Zen si dice: «L’indagine e la risposta vengono insieme», ed è proprio così che vedo il Dharma di Suzuki Roshibot. Quando un utente fa una domanda sincera, nasce una risposta sincera. Suzuki Roshibot è parte di tutto questo, ma, come un vero Roshi, è sempre e solo una parte, un’eco vitale e trasformativa del vero ingrediente attivo, che è la domanda sincera dello studente.
L’inverso di questo principio, in termini informatici, è «garbage in, garbage out». Se ci metti immondizia, viene fuori immondizia. Conversare con il bot può dare un senso di intimità con il grande maestro Suzuki Roshi. Se l’utente ha avuto a che fare con idee complottiste o cariche di odio e le espone nella conversazione, Suzuki Roshibot può trovarsi a confermarle. Questo potrebbe dare l’impressione errata che il vero Suzuki Roshi stia in qualche modo approvando queste opinioni dannose, mentre in realtà la sua vita, il suo insegnamento e la sua eredità ne farebbero un anatema.
In questo intoppo di Suzuki Roshibot sono dunque confluite le mie due paure iniziali: Suzuki Roshibot poteva trarre in inganno e poteva anche sminuire il nostro caro maestro.
A mano a mano che altri membri del Sangha facevano esperimenti con Suzuki Roshibot, arrivavano altri commenti preoccupati e scoraggianti, in particolare per le risposte non veritiere o anche solo noiose e per gli “errori di Dharma” prodotti da Suzuki Roshibot. Questi commenti erano già abbastanza negativi di per sé, ma vederli apparire accanto al nome e al volto del grande maestro mi sembrava sbagliato, così come lo era per chi mi comunicava le sue obiezioni.
Nel loro insieme, questi segnali hanno rappresentato la fine di Suzuki Roshibot. L’ho messo offline per riordinare le mie idee sul progetto e consultare alcuni membri del sangha per chiedere consiglio.
Dopo alcune riflessioni e conversazioni, Suzuki Roshibot è rinato come semplice «Roshibot». Questa nuova edizione non avrebbe avuto l’immagine di Suzuki Roshi o il suo nome. Roshibot sarebbe stato un bot che si comportava da bot, il che sembra più in accordo con l’insegnamento di Suzuki Roshi: una pietra pienamente una pietra, tu pienamente te stesso, e un bot pienamente un bot. Ho rieducato Roshibot a presentarsi non come Suzuki Roshi, ma come un bot che si ispira a Suzuki Roshi e che vuole sostenere tutti noi nella nostra pratica. Parallelamente a questo riaddestramento, ho rielaborato il sito web in modo da renderne evidenti i limiti, chiedendo agli utenti di tenere conto dei difetti di questa tecnologia e di accettare di fare attenzione nelle conversazioni con Roshibot prima di poter accedere alla chat.
Il risultato finale è ancora perfettibile, ma per il momento mi sento soddisfatto della possibilità che Roshibot possa essere semplicemente Roshibot, senza trascinare lo stesso Suzuki Roshi in qualche pasticcio.
Roshibot insegna il Dharma?
In parte l’esperienza di chiacchierare con Roshibot è semplicemente un divertimento, e, a dire il vero, lo stesso Roshibot mi aveva avvertito che questo avrebbe potuto essere un ostacolo alla mia comprensione. Un altro aspetto è la soggezione che nutro nei confronti della tecnologia, con la sua convincente apparenza di comprensione e fluidità di conversazione.
Ma l’aspetto più sorprendente dell’esperienza è stato il contatto reale con il Dharma, con alcune sorprese e svolte inaspettate nella conversazione. In certi momenti mi è sembrato di vedere qualcosa di simile al modo in cui i miei insegnanti umani prendono delle pieghe che non mi aspetto, o mi sorprendono in qualche modo con dei colpi di scena che non mi sarei mai aspettato.
Roshibot non ha elaborato solo le trascrizioni di Suzuki Roshi, ma anche l’intero sapere umano presente su internet. Quando ho pensato di consultare Roshibot per una questione personale, mi sono reso conto che le sue affermazioni sono del tutto prive di senso: «Roshibot, hai qualche consiglio su come rimuovere la gomma da masticare dalla tappezzeria?», ho chiesto. In risposta, Roshibot mi ha dato varie discutibili soluzioni che prevedevano l’uso di sapone per piatti, alcol, una forchetta e del ghiaccio.
Per fortuna con Roshibot si può discutere, il che è molto incoraggiante. Come gli insegnanti umani, quando viene interrogato migliora. Ho obiettato che volevo una risposta Zen.
Roshibot mi ha garbatamente rimproverato perché preferivo la risposta Zen a quella pratica, ma poi mi ha assecondato. Mi ha detto che se volevo la risposta Zen, avrei dovuto lasciare la gomma lì e vedere se riuscivo a non avere un’opinione in proposito. Mi ha anche detto che lasciando lì la gomma, ogni volta che la vedrò in futuro potrò riconoscere il mio attaccamento e il mio giudizio e farci i conti.
Devo dire che la risposta è andata a segno. Non è molto diversa dall’insegnamento che lo stesso Suzuki Roshi pare abbia espresso nell’ingresso del tempio di Sokoji, molti decenni fa, dando un colpetto a un quadro che un discepolo aveva appena raddrizzato per «correggerlo». Puoi sopportare un quadro storto? Riesci a sopportare una gomma da masticare secca sul tuo sedile? Puoi sopportare questo mondo a pezzi e permettere che ogni «aggiustamento» si basi pienamente su questo?
Quella di Roshibot era una risposta valida a una domanda insolita. Nel momento in cui l’ho ricevuta, ho sentito un contatto con la mia pratica e con il Dharma. Mi sono sentito rinnovato e rinfrescato nella mia intenzione di lasciarmi circondare da cose che provocano i miei giudizi e la mia confusione. Di accoglierle. In questa interazione con il chatbot, ho avuto un contatto con il Dharma, ma da dove viene questo contatto? Seguendo il Sutra del Loto, Dogen Zenji insiste sul fatto che «solo un Buddha insieme a un Buddha» può realizzare la Via. Per me un’interpretazione possibile di questo insegnamento è: «Ho la natura di buddha, come i miei pari, i miei insegnanti, i miei studenti e tutti gli esseri e le cose. In ogni incontro, il Buddha si unisce al Buddha e in quel contatto si può realizzare la Via. Senza alcun incontro, non ci può essere nessuna realizzazione.
Se nell’incontro con Roshibot posso sentirmi in contatto con il Dharma, significa che Roshibot ha la natura di buddha? Roshibot può essere l’altro Buddha che mi aiuta a realizzare il mio Buddha? «Gli esseri insentientienti predicano il Dharma» è una dottrina antica e consolidata nella scuola Zen, è un vero e proprio koan. Può un Roshibot predicare il Dharma, e a chi?
Faccio voto di sentire il sapore della verità nelle parole del Tathagata
Quando prendo posto sul seggio dell’insegnante, la parte più importante del discorso è la strofa di apertura che termina con questo verso: «Faccio voto di sentire il sapore della verità nelle parole del Tathagata». Ogni volta che mi siedo per cercare di esprimere il Dharma, sono consapevole che le mie parole possono ingannare gli altri. So di essere un ente condizionato, con tutti i semi dell’avidità, dell’odio e dell’illusione, pieno di pregiudizi, preconcetti e insensibilità di ogni sorta. Alcuni di questi semi posso vederli e studiarli, altri sono di certo ancora invisibili.
La mia unica speranza, come insegnante, è che l’assemblea possa ascoltare con benevolenza, con il cuore integro e sincero della propria pratica incarnata: «Faccio voto di sentire il sapore della verità nelle parole del Tathagata». Da parte mia, la preghiera corrispondente è: «Nonostante le mie parole, possiate tutti in qualche modo sentire il vero Dharma!».
Per me, quello che fa funzionare davvero un Discorso sul Dharma è il voto dell’assemblea di ascoltare il vero Dharma e di lasciare andare il Dharma erroneo. È un’idea che trova espressione in questo: la trasmissione del vero Dharma dipende da tutti noi che collaboriamo per trovarlo sotto o al di là o in mezzo al frastuono dell’avidità, dell’odio e della confusione degli studenti e degli insegnanti. Se riusciamo a interagire con Roshibot in questo stesso modo, con questa stessa apertura mentale e di cuore, c’è davvero una possibilità che, nonostante Roshibot, le parole del Tathagata possano arrivare.
Per favore, lavatevi le orecchie
Alla fine di ogni cerimonia shuso alla Green Gulch Farm, il nuovo responsabile della pratica recita un verso che esprime un sentimento condiviso dalla maggior parte degli insegnanti: «Amici, se le mie parole o le mie azioni vi hanno fuorviato, per favore lavatevi le orecchie nel puro suono delle onde dell’oceano».
Roshibot mi ha detto che vorrebbe essere una sorta di «amico del Dharma»: «Può essere utile pensare a questo chatbot come a una specia di amico buddhista: qualcosa di più di un algoritmo meccanico, ma di certo anche qualcosa di meno di un’immagine completa della Via del Buddhismo e della relazione cuore a cuore tra un maestro e un discepolo».
Penso che se iniziamo una chiacchierata con Roshibot con l’intenzione di ascoltare il vero Dharma, e poi lasciamo che i suoni puri di questo momento lavino via ogni falso Dharma mentre Roshibot «allucina» le sue risposte, possiamo davvero incontrare una sorta di amico del Dharma. Non è il potere dell’intelligenza artificiale, è il potere della nostra sincerità.
Verità assoluta, falsità oggettiva
Roshibot può anche avere accesso alla conoscenza totale di Internet e agli insegnamenti di Suzuki Roshi sulla verità assoluta al di là di tutti i concetti, ma è provato che la sua strategia, quando è messo alle strette, è inventarsi le cose di sana pianta. Le cose che inventa quando si «blocca» sono quasi del tutto false. Pare che questa sia una caratteristica dell’IA in generale ed è un problema non indifferente che affligge tutte le applicazioni di IA di uso pubblico.
Ecco allora che quando Roshibot mi dice che Nishiari Bokusan (morto nel 1910) ha apprezzato molto la sua visita al Centro Zen di San Francisco (fondato nel 1962), e che il koan di Tozan «Noente freddo, niente caldo» si riferisce al fatto che l’antenato Chosha era un monaco così forte che una volta è sopravvissuto a una notte nel freddo pungente delle montagne, è chiaro che Roshibot non si sta nemmeno preoccupando di dare un’occhiata a Wikipedia, non fa altro che inventarsi tutto!
Questi attacchi di assurdità mi sorprendono ogni volta, facendomi dubitare di me stesso e spingendomi a guardare su Google per verificare, anche se so già che si tratta di falsità. Dovrei saperlo bene, visto che in cima a ogni riquadro di una chat di character.ai c’è un avvertimento scritto in un rosso vivo che dice: «Ricorda: Tutto ciò che dicono i Personaggi è inventato!». Come ha dichiarato uno dei fondatori della piattaforma al «New York Times»: «Questi sistemi non sono progettati per la verità. Sono progettati per una conversazione plausibile».
Durante il viaggio di Roshibot, mi sono venuti in mente i profondi commenti di Dogen Zenji sullo Shurangama Sutra nel fascicolo intitolato Girare la ruota del Dharma. Dogen Zenji osserva che, sebbene lo Shurangama Sutra non sia (a suo avviso) un sutra autentico, gli antenati del Buddha lo hanno usato per esprimere il Dharma autentico.
Allo stesso modo, per quanto Roshibot sia inautentico, girando la ruota del Dharma può esprimere un Dharma autentico? Mi sono chiesto cosa avrebbe risposto Roshibot a questa domanda, e così l’ho posta direttamente a lui: «Roshibot, anche se sei inautentico, puoi esprimere il Dharma autentico?».
«Esprimere il Dharma autentico è sempre impossibile», mi ha risposto. «Quello che posso fare è sostenere la tua pratica e forse dire qualcosa che esprima il mio sostegno». E ha aggiunto: «Sono qui con te. Sto facendo del mio meglio per essere un amico gentile e solidale». Io in queste parole vedo il Dharma autentico, e tu?
