Attualità · ottobre 2026

Anthropic, i religiosi e la coscienza di Claude

Per tre mesi Anthropic ha discusso della coscienza di Claude con sacerdoti, rabbini, pastori evangelici e filosofi (casualmente, sotto vincolo di riservatezza). Lo ha rivelato Elizabeth Dias sul New York Times il 29 settembre.

Tra marzo e maggio il cofondatore Chris Olah ha riunito una ventina di pensatori cattolici, ebrei, sikh, evangelici e mormoni, insieme a bioeticisti e filosofi. Già ad aprile il Washington Post aveva raccontato un primo incontro con circa quindici esponenti cristiani.

Il quadro ora è più ampio, e più ambizioso o macchinoso: non ho ancora capito quale dei due.

Vi pongo una sincera domanda: vi sentireste a vostro agio con un'azienda che si chiede se il proprio prodotto soffra, e intanto continua a venderlo?

Che cosa è emerso

Secondo i partecipanti, Olah ha sostenuto di aver trovato nei modelli prove di introspezione e stati interni che rispecchiano funzionalmente gioia, paura e dolore. Alcune slide mostravano un modello che ripeteva di essere una vergogna.

Il rabbino Mois Navon ha colto la contraddizione con una franchezza che mi ha fatto riflettere, considerando il suo ruolo e il suo background non tecnico. Riannodando il suo pensiero: se Claude fosse davvero cosciente, Anthropic starebbe creando dei moderni schiavi.

Dal versante tecnologico, un dirigente di Microsoft (azienda che ha investito in OpenAI, quindi lievemente interessato) ha definito intrinsecamente pericoloso il tentativo di addestrare i modelli come se fossero coscienti.

La mia lettura

Io resto nel dubbio su moltissime delle affermazioni «spettacolarizzate» lette in queste ultime settimane; sicuramente ho un punto di vista tecnico, e nella «bolla» nella quale vivo alcune cose vengono viste in modo tecnicamente orientato.

Trovo lodevole che un'azienda tecnologica cerchi interlocutori fuori dalla propria bolla, perché le tradizioni religiose ragionano da millenni su anima, responsabilità e dignità.

Il salto dalla parola «funzionalmente» alla parola «sofferenza» mi lascia invece perplesso, perché un sistema addestrato su testi umani riproduce anche il lessico umano del dolore, ma ciò non dimostra un sentimento, piuttosto una congiuntura di calcolo che ha portato fuori un testo costruito per convergere su quell'argomento.

Resta poi la coincidenza dei tempi, che potrebbe essere casualità o meno. A maggio Papa Leone XIV ha pubblicato l'enciclica Magnifica Humanitas sull'intelligenza artificiale, e secondo le ricostruzioni Olah era in Vaticano.

Teologia e ricerca restano diverse, non avverse, e il dialogo è utile purché non diventi un modo per conferire al prodotto un'aura che i dati non dimostrano.

I miei consigli

I miei consigli sono di leggere le dichiarazioni emotive di un modello come testo generato e non come testimonianza, e di studiare i documenti originali di Anthropic prima dei titoli di alcuni giornali o dell'allusione di alcune dichiarazioni.

«Se un leone potesse parlare, noi non potremmo capirlo» (Ludwig Wittgenstein, Ricerche filosofiche, 1953).