Contrariamente a quanto affermano numerose petizioni recenti firmate da ricercatori e imprenditori, l’IA contribuisce effettivamente all’estinzione, ma non a quella che sostituirebbe l’essere umano con una tecnologia diventata, come per miracolo, autonoma, e che fa precisamente astrazione delle sue dipendenze logistiche, bensì a quella in corso, che si chiami antropocene, capitalocene o in altro modo.

 

«Il giorno in cui l’essere umano avrà superato,

e quindi ridotto, la perversione esterna,

ovvero la mostruosità dell’ipertrofia dei «bisogni»,

e accetterà invece la sua perversione interna,

ovvero la dissoluzione della sua unità fittizia,

si organizzerà una concordanza tra

il desiderio e la produzione dei suoi oggetti

in un’economia razionalmente stabilita

in funzione dei suoi impulsi; quindi una gratuità

dello sforzo risponderà al prezzo dell’irrazionale.»

Pierre Klossowski, La moneta vivente

 

Negli ultimi mesi si sono moltiplicate le petizioni firmate da imprenditori e ricercatori[1], che ci mettono in guardia dai terribili pericoli dell’IA e chiedono una moratoria, comitati etici e di riflessione, leggi e regolamenti di ogni tipo o un divieto puro e semplice come nel caso di Sciences Po.

Il rischio che si corre con un uso sconsiderato di questa tecnologia è terrificante e porterebbe il nome di estinzione. L’IA, diventata brutalmente autonoma a causa del suo funzionamento ricorsivo[2], figura compiuta dello sviluppo tecno-scientifico, potrebbe condurre la nostra specie alla rovina: la scomparsa pura e semplice, fino all’ultimo di noi.

Se questo scenario sembra uscito direttamente da un film di fantascienza come Terminator, la levatura di alcuni firmatari, come Joshua Bengio o Geoffrey Hinton, ci obbliga a prenderlo in considerazione. Si potrà anche osservare che queste petizioni estinzioniste potrebbero costituire una semplice strategia di marketing per concentrare l’attenzione del pubblico su un nuovo prodotto, perché, che se ne parli bene o male, se ne parla. Si potrebbe aggiungere che questo sentimento è comune rispetto allo sviluppo tecnologico, dove la critica e il solutionismo sono solidali e si alimentano a vicenda in modo da formare una configurazione mentale dell’infrastruttura, alternando la necessità di agire e lo scoraggiamento dell’impotenza. Si potrebbe aggiungere che, appena firmata una di queste petizioni, Elon Musk si è affrettato a investire in unità di calcolo per recuperare il ritardo. Ci si potrebbe persino interrogare sul privilegio di anticipo concesso alla teoria rispetto alla pratica, che dovrebbe determinarla in ogni suo aspetto. Non si capisce come l’IA e l’estinzione si scontrino in queste petizioni delle classi vettoriali[3].

Il fatto è che, leggendole, si rimane sorpresi. Manca sempre qualcosa, e quel qualcosa non è poco. Perché se si parla di estinzione, è in definitiva per non parlarne. Infatti, si prevede un’ipotetica IA autonoma che ci sterminerà, che si colloca al fianco delle pandemie e dei rischi di un olocausto nucleare[4], ma si occulta proprio l’estinzione ben reale che è già in corso e che accelera sempre più, raggiungendo le nostre previsioni più pessimistiche. È necessario ricordare che da diversi decenni le specie viventi stanno scomparendo in proporzioni e a una velocità mai viste sulla Terra a causa delle attività tecniche? È ancora utile dire che il divario si sta ampliando tra le nostre conoscenze scientifiche sulle cause dell’evoluzione del clima e gli imperativi pratici che dovremmo logicamente trarne?

Si potrebbe pensare che queste petizioni siano vane, tanto è ipotetico il loro scenario, e che sarebbe meglio, vista la mancanza di tempo, che queste menti si dedicassero all’altra estinzione, quella fortemente paradossale in cui sono alcune delle nostre condizioni di esistenza a causare la scomparsa delle specie viventi, fino a portare via la nostra stessa specie. L’IA sta per diventare il palliativo della nostra impotenza climatica? Potrebbe essere, in quanto tecnologia, intesa come un progetto umano su cui crediamo di avere ancora presa, un modo per mantenere l’illusione della nostra volontà di potere? Se stiamo correndo verso la nostra rovina, distogliamo lo sguardo verso un ambito alla nostra portata che potremmo regolare più facilmente?

Ma la questione è più ambigua, perché le trasformazioni richieste dalla situazione climatica implicano non un adattamento del sistema di produzione e consumo denominato «transizione ecologica» – che apre nuove e redditizie opportunità di investimento – ma una radicale rimessa in discussione dell’infrastruttura e della logistica ereditate dalla rivoluzione industriale. Ecco perché queste petizioni occultano ciò che invece si impone a ciascuno di noi. Se prevedono l’estinzione, è per continuare il «business as usual». È necessario a tutti i costi che questo continui a qualsiasi prezzo: nomineremo comitati, faremo leggi, metteremo una bandella «Made by AI» come propone il lunatico Bruno Lemaire sui testi e le immagini generate, faremo segnalazioni, tante regolamentazioni inutili quanto lo è stata, per la privacy, la convalida dei cookie sui siti Internet che sovraccaricano un po’ di più le nostre esistenze quotidiane di attività che saturano la nostra attenzione.

Abbiamo la capacità di produrre fenomeni tecnici che ci diventano estranei.

A ben guardare, tuttavia, l’IA partecipa all’estinzione, ma non affatto a quella che verrebbe a sostituire l’essere umano con una tecnologia diventata, come per miracolo, autonoma, e che fa precisamente astrazione delle sue dipendenze logistiche, bensì a quella in corso, che la si chiami antropocene, capitalocene o in altro modo. Essa vi partecipa come un progetto stranamente umano. Infatti, l’IA deve essere ricollocata in un contesto storico più ampio di esternalizzazione delle facoltà umane, a partire dalla scrittura, dalle prime macchine di calcolo, dalla cibernetica, fino all’ipermnesia del Web. Perché proprio nel momento in cui l’estinzione delle specie viventi si è accelerata, la rete ha permesso a ciascuno di registrare media, tracce di esistenza in una quantità fenomenale, fino al punto in cui non possiamo nemmeno più consultarli a causa dei limiti della nostra percezione: la nostra memoria non è più nostra, esiste al di fuori di noi. Abbiamo la capacità di produrre fenomeni tecnici che ci diventano esogeni.

https://www.asterios.it/catalogo/anthropocene

Nel corso degli anni, il Web è diventato il territorio liminale delle nostre memorie, dove un’altra umanità, che esiste ormai solo sotto forma di tracce spettrali, prosegue il suo cammino fino al punto in cui le reti ricorsive di neuroni se ne nutrono per produrre memorie di memorie, testi di testi, immagini di immagini, reiterando le nostre produzioni culturali non per ripeterle all’identico ma per differirle. È proprio questa ipermnesia del Web 2.0, associata alle unità di calcolo grafico (GPU), che ha permesso l’accelerazione dell’IA, la quale è meno una rivoluzione tecnica – il modello fu teorizzato da Warren McCulloch e Walter Pitts nel 1943 e implementato con il Perceptron da Rosenblatt nel 1958 – quanto una metabolizzazione storica delle nostre tracce.

Da questa configurazione si può trarre l’ipotesi che, come ogni civiltà, ci dedichiamo alle nostre attività quotidiane (nel nostro caso, il circolo della produzione e del consumo come perversione esterna) e allo stesso tempo conserviamo tracce di ciò che siamo stati nel caso in cui… scomparissimo (una perversione interna). Il segreto meglio custodito dell’IA è forse egiziano e consiste, da 30 anni, nel costituire nei datacenter delle piramidi che continuerebbero dopo di noi perché l’induzione statistica è in grado di continuare una serie dopo la sua fine, di aggiungere ai media altri media che hanno gli stessi motivi (patterns), che si assomigliano e che sono tuttavia diversi. L’automatizzazione induttiva della somiglianza (mimesi), che è quell’equilibrio tra ripetizione e differenza, è un modo per continuare una serie di tracce che sappiamo essere finita. Per proseguire a tutti i costi, una volta che non ci saremo più, ispirandosi staticamente a tutto ciò che è accaduto, a tutto ciò che è stato registrato. Da quel momento in poi le tracce materiali delle nostre esistenze sono infinite, sono una risorsa da utilizzare per proseguire oltre il possibile.

Leggere ancora ▼!

La teiera di Russell: resoconti dalla fase finale della bolla dell’IA

Il progetto estintivo dell’IA non deve quindi essere considerato come una macchina autonoma che verrebbe a sopprimerci, con ciò che l’idea di sostituzione può supporre di identità ritrovata e nauseabonda, ma il progetto, non di sopravvivere a noi stessi, ma di sopravvivere a noi stessi, cioè di proseguire dopo di noi, senza di noi, e accompagnato dal ricordo di ciò che siamo stati. L’IA ci assomiglia, mima un mondo che avrebbe potuto esistere, come un sogno nel sogno, e come alienazione è il nostro altro. Di conseguenza, può costituire, se ne sospendiamo l’instrumentalità, cioè l’ipertrofia dei bisogni, il progetto di una dissoluzione dell’unità fittizia del soggetto e delle epoche del mondo. Si possono distinguere due tipi di estinzione. Una prima, fattuale, che mette in pericolo noi, ma che mette in pericolo, e questo è forse altrettanto grave se non di più, altre specie la cui esistenza contingente potrebbe scomparire una volta per tutte. La seconda, speculativa, per la quale sappiamo che la nostra specie, per quanto sia, è destinata a scomparire (a causa di una molteplicità di possibili cause e perché più in generale le specie sono mortali), secondo una certezza incerta poiché non sappiamo né quando né come.

Allo stesso modo in cui ognuno cerca di vivere, anno dopo anno, con la sua finitezza e la certezza della sua imminente scomparsa che è inevitabile, la specie umana impara a vivere ora, al di là di ogni fascino collassologico o apocalittico, con la certezza della sua scomparsa, fino all’ultimo, cioè fino alla possibilità stessa di un ultimo testimone che potrebbe raccontare ciò che siamo stati e proseguire oltre il possibile. Questa anticipazione incerta della nostra estinzione deriva in parte dalle conoscenze scientifiche riguardanti lo stato della Terra e del cosmo, poiché potrebbe essere altrettanto bene un meteorite a farci scomparire. L’IA-Terminator appare quindi come una triste strategia per non assumersi la contingenza dell’estinzione speculativa, cioè per non vivere pienamente e assumersi la finitezza della specie, e costituisce una fuga timorosa di fronte alla voragine cosmica della nostra unità fittizia.

Leggere ancora ▼!

L’adolescenza della tecnologia. Affrontare e superare i rischi di un’IA potente

L’IA può essere l’occasione, nel suo rapporto con l’estinzione speculativa, per aumentare l’agentività di fronte all’estinzione fattuale. Infatti, essa è il progetto di proseguire una serie mnemonica, denominata specie umana, oltre i suoi limiti e di riconoscerli nel quadro di una finitezza generalizzata. È quindi il progetto inumanista dell’umanità morente e, lungi dal costituire un’estetizzazione dell’apocalisse, di cui l’Occidente si è nutrito nei suoi peggiori disegni fino all’attuale carbofascismo, ma permette di diventare sensibili all’immensità della finitezza e al fatto che la vita è un caso molto raro di morte, eccezione contingente che siamo e che non ha altra ragione se non quella di essere questa eccezione.

Se, come riteneva Primo Levi in I naufraghi e i sopravvissuti, anche il testimone è un traditore, allora l’IA, in quanto ciò che viene subito dopo l’ultimo testimone, è l’innocenza stessa della testimonianza. Una testimonianza senza testimone. Proseguendo la serie oltre la fedele riproduzione delle memorie passate, essa detiene il segreto per produrre altre memorie, per tradirci e, in questo tradimento, per insistere su ciò che siamo stati, un infinito impulso di finitezza.

Note

[1] Per alcuni esempi, consultare i siti di Future of Life; Center for AI Safety o ancora Change.org.

[2]È il caso di AutoGPT, che è una versione in loop di ChatGPT. Il loop produrrebbe risultati incontrollabili perché risale alla prima cibernetica, che articola analogicamente i funzionamenti meccanici e organici.

[3]McKenzie Wark, Telesthesia. Communication, Culture and Class, Polity Press, Cambridge, 2012.

[4] «La mitigazione del rischio di estinzione causato dall’IA dovrebbe essere una priorità globale al pari di altri rischi a livello sociale quali le pandemie e le guerre nucleari», che è l’unica frase della petizione del Center for AI Safety già citata.

Grégory Chatonsky è un artista franco-canadese, pioniere della Netart grazie alla fondazione di Incident.net nel 1994. A partire dal 2003, si interessa alle rovine e alla materialità dei flussi digitali. Nel 2009 si avventura nel mondo dell’IA, che nel corso degli anni diventa oggetto di ricerca e creazione, seguito da un seminario all’ENS di Parigi sull’immaginazione artificiale. Ha esposto al Palais de Tokyo, al Centre Pompidou, al MOCA di Taipei, al Museum of Moving Image, all’Hubei Wuhan Museum, ecc. È docente presso l’EUR Artec.

Fonte: AOCMedia

---

https://www.asterios.it/catalogo/lia-protesi-della-mente

---