Ivan Illich. Il pensatore che aveva previsto la critica di Papa Leone all’IA
Nel suo ultimo libro, pubblicato postumo, The Rivers North of the Future, il critico sociale, filosofo e prete cattolico dissidente Ivan Illich sosteneva che il rapporto dell’umanità con la tecnologia avesse subito un profondo cambiamento alla fine del XX secolo. Nell’epoca che va dal tardo Medioevo alla Rivoluzione Industriale, le tecnologie erano state intese come strumenti subordinati alle intenzioni umane — come «qualcosa … che una persona può prendere o non prendere». Ma le tecnologie cibernetiche, sosteneva Illich, stavano stravolgendo questo rapporto. «Un martello», diceva, «non mi rende parte del martello», ma quando si tratta di sistemi informatici, l’utente «per la logica del sistema, diventa parte del sistema».
Questo volume presenta i materiali delle conversazioni di Ivan Illich con David Cayley, negli anni 1997-1999. Nei suoi 22 capitoli, altrettante voci della riflessione illiciana vengono sviscerate dapprima nella forma monologante dell’autotestimonianza, poi in quella dialogica dell’intervista. Ne deriva un resoconto completo e coraggioso anche di ciò che Illich non ha mai trovato l’occasione o la forza di mettere per iscritto, e che ora, sul limitare della vita, egli affida all’amico-interlocutore alla stregua di proprio «testamento». Gli ormai storici contributi di questo autore straordinario alla critica delle moderne istituzioni, si tratti della scuola o della sanità, del libro o del sesso, acquistano così uno spessore nuovo, conferito loro dalla lunga e coerente esperienza umana qui rievocata, così come da una sottostante meditazione teologica, liturgica, ecclesiologica, in precedenza mai emersa con tanta chiarezza. L’alienazione tecnica e burocratica della vita, che costituisce secondo Illich la cifra di fondo della nostra epoca, rivela qui le sue paradossali radici cristiane, in quel processo di istituzionalizzazione della carità evangelica da cui deriverebbero lo Stato moderno e la coscienza individuale, il dominio tecno-scientifico sulla natura e la guerra planetaria contro la sussistenza, lo smaterializzarsi dell’esperienza, della stessa sensorialità umana e la sussunzione dei soggetti nel meccanismo dei «sistemi». E tuttavia, a questo desolato scenario di «perdita del mondo e della carne», sovrasta la prospettiva di un imminente disvelamento e ribaltamento: è la speranza «apocalittica» in un tempo al di là del tempo, quei Fiumi a nord del futuro della poesia di Celan verso le cui «acque misteriose e rinfrescanti» la lezione di Illich è guida e segnavia. Prefazione di Charles Taylor.
Come conseguenza di questo cambiamento, proseguiva Illich, l’umanità si stava «muovendo… verso quella che definirei una società a-mortale». Per prima cosa, il corpo, così come percepito attraverso i sistemi computerizzati utilizzati dalla professione medica, non era più visto come mortale in senso assoluto, ma come un insieme di segnali e valori da registrare, manipolare e regolare. La morte poteva essere reimmaginata come qualcosa di simile a un crash del computer. Questa visione elideva il fatto che l’uomo fosse caduto e destinato alla morte. A questo proposito, diceva Illich, «pensare al corpo come a un sistema è un modo per nascondere il peccato».
Ora l’istituzione con cui Illich ha mantenuto un complesso rapporto per tutta la vita – la Chiesa cattolica – ha espresso la propria opinione sulla transizione tecnologica che lo ha interessato nei suoi ultimi anni. Nella sua attesissima enciclica, Magnifica Humanitas, Papa Leone XIV ha delineato una posizione per la Chiesa nella battaglia sull’intelligenza artificiale e le sue conseguenze sociali e politiche. Facendo eco a Illich, Leone scrive che oggi «la tecnologia non è semplicemente uno strumento», ma è invece diventata «lo standard con cui tutto viene giudicato».
https://www.asterios.it/catalogo/cristianesimo-e-rivoluzione
Non c’è nulla di casuale in questo capovolgimento di mezzi e fini. I sistemi cibernetici sono progettati per subordinare gli utenti umani a scopi macchinici, trasformandoli in una semplice fonte di input. L’industria dell’IA è stata profondamente influenzata dai profeti della “Singolarità”, che portano questa logica alle sue estreme conseguenze. Nella variante più radicale di questa visione, l’umanità è ridotta, secondo l’immortale frase di Elon Musk, a un “bootloader biologico della superintelligenza digitale”. Allo stesso modo, nella sua fase accelerazionista giovanile, prima di invertire completamente la rotta, il guru dell’IA Eliezer Yudkowsky ha dichiarato che il raggiungimento della superintelligenza artificiale è il «Senso provvisorio della vita» e la «definizione temporanea del Bene».
La nuova enciclica è stata considerata un’estensione della tradizione della dottrina sociale cattolica, che ha sicuramente una rinnovata rilevanza in un momento in cui le élite tecnologiche parlano allegramente dell’imminente emergere di una “classe inferiore permanente” a causa dell’automazione. Ma il documento è altrettanto interessato alla questione dei fini umani codificati nelle tecnologie più recenti. I profeti dell’IA, come sembra riconoscere Leo, sono guidati dalla loro visione del Bene e della trascendenza umana che contesta e compete con quella articolata dalla Chiesa.
https://www.asterios.it/catalogo/la-tentazione-transumanista
Dal corpo incarnato al corpo fabbricato. Una delle follie californiane del nostro tempo.
«Nelle promesse del transumanesimo», scrive Leo, «riconosciamo un anelito che ci sta a cuore, ovvero il bisogno di una vita più piena, meno esposta a limitazioni e sofferenze». La ricerca dell’auto-miglioramento tecnologico, in altre parole, fa eco agli impulsi umani – il riconoscimento della fragilità umana e il desiderio di trascendenza – che animano anche i credenti cristiani.
«Non c’è nulla di casuale in questo capovolgimento di mezzi e fini».
Ma mentre «sia le ideologie vecchie che quelle nuove esortano l’umanità a superare i limiti attraverso la tecnologia», ciò che la Chiesa insegna è «il mistero del Figlio di Dio che entra nella nostra condizione umana». Invertendo la visione transumanista di semplici mortali che ascendono alla divinità digitale, Cristo «prende su di sé la nostra debolezza e la trasforma in un contesto di salvezza». Qui, il dibattito ripropone le precedenti lotte contro l’eresia, in particolare quella di sant’Agostino (il punto di riferimento teologico di Leone) contro Pelagio, che come i transumanisti di oggi vedeva gli esseri umani come perfezionabili.
Leone si rivolge «a tutti i fedeli cattolici, a tutti i cristiani e a tutti gli uomini e le donne di buona volontà», suggerendo che anche i non credenti potrebbero trovare valore nel suo messaggio. Alcuni probabilmente lo faranno: i liberali, altrimenti diffidenti nei confronti della religione, hanno recentemente trovato un valore strategico nella statura morale della Chiesa quando si tratta, per esempio, di opporsi alle avventure militari di Donald Trump.
Ma un sostegno non impegnativo a Magnifica Humanitas potrebbe consentire agli scettici laici sull’IA di rimandare la definizione delle proprie risposte alle domande fondamentali affrontate dall’enciclica: Che cos’è il Bene? Quali sono i fini ultimi dell’umanità? Coloro che perseguono la Singolarità hanno le loro risposte, così come la Chiesa. Al contrario, il pensiero anti-IA mainstream non va molto oltre ciò che Lionel Trilling (criticando il conservatorismo della metà del secolo) descriveva come «gesti mentali irritabili»: il NIMBYismo dei data center, l’incessante ripetizione della frase «pappagallo stocastico», vaghe preoccupazioni riguardo all’acqua, alla disoccupazione e alla disinformazione. La povertà dell’immaginazione liberale quando si tratta degli attuali dibattiti tecnologici è uno degli indicatori più acuti della nostra condizione post-liberale.
Illich aveva previsto gran parte di questo quando suggerì che i conflitti che definiscono il nostro tempo sono fondamentalmente di natura religiosa. «La modernità», sosteneva, «può essere studiata come un’estensione della storia della Chiesa». Le questioni in gioco nelle dispute sulla tecnologia estendevano dibattiti teologici che potevano essere fatti risalire a oltre un millennio; le crisi che affliggono le istituzioni liberali erano la continuazione di quelle che avevano afflitto anche la Chiesa. Ecco perché, diceva Illich, « non credo che questo sia un mondo post-cristiano»; al contrario, è «l’epoca più palesemente cristiana». Non lo trovava rassicurante, sostenendo che significava che vivevamo in «un mondo apocalittico». L’ampia risonanza di Magnifica Humanitas suggerisce che avesse intuito qualcosa.
Fonte: Compact
https://www.asterios.it/catalogo/lia-protesi-della-mente