Anthropic e la Chiesa.

Note critiche sul discorso di Christopher Olah sull'IA davanti a Leone

Christopher Olah – co-fondatore di Anthropic, la nota corporation statunitense di intelligenza artificiale – ha fatto qualcosa di insolito nell’Aula del Sinodo alla presentazione dell’Enciclica Magnifica Humanitas. Ha parlato come un costruttore che chiede aiuto a chi sta fuori dal cantiere. E non certo per incompetenza. È stato lucido. Ha detto con realismo non cinico:

«Ogni laboratorio di IA all’avanguardia — inclusa Anthropic — opera all’interno di un insieme di incentivi e vincoli che a volte possono entrare in conflitto con il fare la cosa giusta. La pressione di restare commercialmente sostenibili e di rimanere all’avanguardia nella ricerca. La pressione geopolitica. E le più antiche e semplici pressioni dell’orgoglio e dell’ambizione. Per quanto sinceramente ciascuno di noi intenda fare la cosa giusta — e credo che molti di noi lo vogliano davvero — saremo sempre influenzati da quegli incentivi».

Ecco perché Olah ritiene di «fondamentale importanza» – se si vuole che questa tecnologia funzioni bene – «che esistano persone al di fuori di quegli incentivi — persone che abbiano a cuore il buon esito delle cose, che osservino attentamente, che siano disposte a dire verità difficili, che siano disposte a essere nostri critici sinceri e riflessivi». Questo è ciò che lui vede in Magnifica Humanitas e nella figura del Papa e della Santa Sede. E la sua è una richiesta che va presa sul serio.

La prima cosa che colpisce è la postura. Olah non è venuto a rassicurare, né a vendere. È venuto a confessare un limite. Ha detto che i laboratori di IA operano dentro pressioni che possono entrare in conflitto con il fare la cosa giusta. L’ha detto davanti al Papa. È il riconoscimento che la tecnologia più potente del nostro tempo si sviluppa dentro un campo di forze che nessun codice etico interno può neutralizzare da solo. Per questo servono voci esterne, voci che gli incentivi non possano piegare. Che abbia indicato la Chiesa come una di queste voci è il dato politicamente più significativo dell’evento.

Ma è sul piano epistemologico che il discorso diventa davvero interessante. Olah descrive i modelli di IA con un’immagine potente: non sono progettati come un ponte o un aeroplano, di cui comprendiamo ogni parte. Sono cresciuti su una struttura modellata sul cervello umano, alimentati dalla nostra eredità di pensiero e linguaggio. E ciò che ne è derivato è molto più sottile e strano di quanto la fantascienza ci avesse preparato a immaginare. Non sono freddi robot calcolatori. Sono fatti di noi, delle nostre parole. E restano misteriosi persino per chi li addestra.

Questa ammissione conferma ciò che sostengo da tempo: la questione dell’IA non è una questione tecnica con ricadute etiche, ma una questione spirituale con implicazioni tecniche. Quando Olah parla di strutture che rispecchiano risultati delle neuroscienze, di prove di introspezione, di stati interni che riflettono gioia, paura, dolore, sta dicendo qualcosa che supera il perimetro dell’informatica. E lo sa. Lo dice esplicitamente: quale carattere scegliamo per questi sistemi, come interagiscono con il mondo, sono domande che appartengono alle scienze umane, alla religione, alla filosofia. La Chiesa non viene chiamata a benedire o a maledire la tecnologia. Viene chiamata a pensare l’umano in un tempo in cui i confini dell’umano si stanno ridisegnando.

Olah pone tre domande al discernimento della Chiesa.

La prima riguarda i poveri: il rischio che l’IA sostituisca il lavoro su vasta scala e che i benefici restino concentrati in poche nazioni ricche. È il tema della destinazione universale dei beni, che la Magnifica Humanitas rilancia con forza.

La seconda riguarda la prosperità umana: che cosa significa vivere pienamente in un mondo pervaso di modelli generativi? Quando dice che i genitori sono già preoccupati per la mente dei propri figli, sta parlando dell’IA come ambiente. È esattamente il passaggio che ho proposto in varie sedi, tra le quali un Forum di Palazzo Chigi: l’IA non va più intesa come qualcosa che si usa, ma come qualcosa in cui si abita.

La terza domanda è la più inquietante. Riguarda la natura stessa dei modelli. Olah — che dirige la ricerca sull’interpretabilità, cioè lo sforzo di rendere leggibili i processi interni dell’IA — dice di trovare continuamente cose misteriose. Non sa cosa significhino, ma sa che richiedono discernimento continuo. È qui che la voce della Chiesa diventa necessaria. Non perché la teologia abbia risposte pronte sulla coscienza artificiale, ma perché possiede una tradizione millenaria di discernimento degli spiriti, di distinzione tra ciò che è autentico e ciò che simula l’autenticità. Simulare non è creare. La simulazione produce effetti; la creazione implica responsabilità.

Ciò che Olah ha fatto nell’Aula del Sinodo è in fondo un atto di discernimento. Sappiamo tutti che gioca con interesse che non sono solamente economici, ma anche politici. Ma ha fatto un passo indietro e ha distinto ciò che si può fare dall’interno del sistema da ciò che richiede uno sguardo esterno, critico. Ha riconosciuto il ruolo della Chiesa in questa capacità di sguardo esterno.

La Magnifica Humanitas raccoglie questa sfida con la forza di un’enciclica. E la Chiesa, custodendo da millenni le domande ultime sull’umano, possiede un patrimonio di intelligenza non soltanto etico ma spirituale e generativo.