Sono frequenti le critiche alle tecnologie dell’intelligenza artificiale, allo stoccaggio del carbonio o alle nuove tecniche genomiche. Sono familiari le discussioni sulle caratteristiche e gli effetti negativi degli smartphone. La critica alla tecnologia è di moda. Se questa tecnocritica non è un fenomeno nuovo – ci torneremo –, è evidente che le controversie e le contestazioni sulle tecnologie sono particolarmente numerose e intense in questo momento.
Alla luce di queste controversie, la classica argomentazione secondo cui «non è la tecnologia in sé a porre un problema, ma l’uso che se ne fa» è diventata più difficile da sostenere. Lo smartphone illustra bene i limiti di ridurre la questione a un problema di utilizzo e di «tempo trascorso davanti allo schermo». Che si tratti di effetti indesiderati sull’ambiente, sulla salute, sulla cognizione, sulla sedentarietà, sul sonno, ma anche della mancanza di trasparenza da parte dei produttori, della presenza di numerosi metalli rari e delle discutibili condizioni di produzione nelle fabbriche, lo smartphone è un oggetto tecnico ricco di implicazioni psicologiche, geopolitiche ed ecologiche. Non è solo davanti allo schermo, ma anche sotto lo schermo che lo smartphone solleva interrogativi.
Il problema del tecnosoluzionismo
Anche nelle scuole di ingegneria, tradizionalmente un santuario del tecnosoluzionismo, la critica alle tecnologie si fa più forte. Lo si sente in particolare nei discorsi critici sull’emergenza climatica pronunciati dai giovani laureati durante le cerimonie di consegna dei diplomi, che dal 2022 hanno un forte impatto mediatico. Questa critica si esprime anche in modo più sommesso, come nell’emergere di corsi di formazione sulle low-tech, o “basse tecnologie”, dal 2021[1]. Tra le circa duecento scuole di ingegneria esistenti in Francia, una ventina offre corsi su questo argomento. Questi corsi mirano a inculcare agli studenti una visione più sistematica, riflessiva e critica della tecnologia e a promuovere un’ingegneria più resiliente, sobria e sostenibile.
L’idea sarebbe, in un certo senso, quella di riformare gli ingegneri, perché questi ultimi “sono tecnosoluzionisti: amano pensare che la scienza e la tecnica risolveranno i problemi. La low-tech è un approccio, una visione realmente diversa, che implica trovare soluzioni con ciò che esiste, mettere in discussione il ruolo della tecnica”, sostiene Jean-Marc Benguigui, docente all’École Centrale di Nantes.
https://www.asterios.it/catalogo/fin-di-bene-il-nuovo-potere-della-ragione-artificiale
Il tecnosoluzionismo è problematico perché limita il modo di analizzare i problemi sociali o ambientali. Alcuni esempi: sviluppare lo stoccaggio del carbonio senza preoccuparsi dei sistemi economici ed energetici più ampi e ripensare i consumi; produrre veicoli elettrici senza cambiare in profondità i modi di trasporto e senza favorire le alternative all’auto; incoraggiare l’uso della robotica nell’assistenza agli anziani, che nella maggior parte dei casi sono poco tecnologici[2].
Ciò che conta per gli studenti conta anche per i ricercatori. Un recente articolo afferma che i ricercatori nel campo dell’informatica dovrebbero «osare assumere una posizione di distacco rispetto all’ecosistema dell’innovazione tecnologica», avere una visione più sistemica dell’informatica e lavorare su altre possibili vie. Questo perché gli effetti del digitale in termini di emissioni di gas serra, logiche estrattive e inquinamento generato durante la produzione, l’uso e il riciclaggio sono ormai noti. A questi problemi materiali ed ecologici si aggiungono questioni di ordine filosofico e sociologico: l’immaginario veicolato dal digitale è quello di un sistema pulito, immediato, neutro, immateriale e necessario, un immaginario che sta mostrando sempre più i suoi limiti.
Le soluzioni digitali sono spesso valorizzate come qualcosa di efficace, intuitivo o performante. Tuttavia, secondo il filosofo Andrew Feenberg, questa fissazione per l’efficienza e la neutralità impedisce il giudizio e il dibattito pubblico[3]: «l’alibi tecnico» blocca il dialogo pubblico. È quindi necessario rimettere in discussione le tecnologie neutralizzando l’argomento della loro neutralità.
Un modo un po’ insolito per farlo è quello di interessarsi ai momenti in cui il digitale non funziona bene, come quando si ha a che fare con un bug informatico. Più che una complicazione, il bug potrebbe essere visto come un momento che apre alla riflessività, alla libertà e alla critica; un momento che rivela il carattere modificabile del digitale e la sua molteplicità. Invece di rimanere passivo, l’utente, di fronte a un bug, è portato a improvvisare e ad arrangiarsi: «“armeggiare” significa accettare il bug, il malfunzionamento, l’errore, il guasto, la perdita di tempo, comprendendo che queste sono le uniche situazioni in cui possono emergere il pensiero e la critica», scrive il filosofo Marcello Vitali-Rosati[4].
Tecnologia e fascismo
Alcuni arrivano addirittura a suggerire un legame tra tecnologia e fascismo. Dan McQuillan, autore del libro Resisting AI: An anti-fascist approach to artificial intelligence, ritiene che le tecnologie di IA possano rendere le società più fasciste[5]. Egli denuncia una «sorveglianza onnipresente dei dati» e un «controllo centralizzato» (p. 14). La complessità dei problemi deve essere presa in considerazione soprattutto per evitare che le tecniche di IA riducano qualsiasi problema sociale o politico a un problema di calcolabilità, calcolo che ha peraltro un impatto ambientale significativo. Resisting AI critica l’opacità e il carattere non democratico degli attori e delle strutture dell’IA. Il libro sottolinea che le tecniche di IA possono influenzare i gruppi emarginati e rafforzare lo status quo dei rapporti di potere esistenti a scapito di nuovi assetti sociali. La chiave per resistere, secondo l’autore, è promuovere la cura, il bene comune e il coinvolgimento della società.
Questo tipo di critica ricorda quelle che si sono sentite negli anni ’90 nei confronti della Silicon Valley. In quegli anni si temeva anche l’ascesa del “tecnofascismo” e i legami strutturali tra la Silicon Valley e la destra reazionaria. Alcuni attori della Silicon Valley puntavano sulle stesse strategie di oggi: valorizzazione della mascolinità, celebrazione e starizzazione dell’imprenditoria, critica dello Stato e del “politicamente corretto”.
Il termine tecnocrazia è stato utilizzato anche negli anni ’70 (in particolare da Ivan Illich e André Gorz), ma in modo relativamente astratto e superficiale; oggi il termine è utilizzato in modo più mirato, concreto e ad personam.
Un segno storico
La critica alla tecnologia non è ovviamente un fenomeno nuovo, come hanno dimostrato gli storici che hanno lavorato sulla questione. L’esempio più famoso di tecnocritica è il movimento dei luddisti, quei lavoratori britannici che nel XIX secolo distrussero le nuove macchine per tessere[6]. Fu soprattutto tra il 1811 e il 1816 che organizzarono una serie di atti vandalici, che furono severamente repressi dalle forze dell’ordine.
Le lotte dei luddisti si svolsero in un contesto particolare: un momento di crisi economica, aumento dell’inflazione e disoccupazione. L’introduzione di nuove tecniche di tessitura nelle fabbriche faceva temere ai lavoratori effetti economici e sociali deleteri. Alcuni anni dopo, negli anni ’30 dell’Ottocento, si verificarono eventi simili nel mondo agricolo durante le “Swing Riots”, quando gli operai distrussero le trebbiatrici, ad esempio.
Soffermiamoci un attimo su questo gesto: rompere. Un gesto semplice ed efficace, ma anche radicale e giudicato illegale. Le macchine per tessere o le trebbiatrici venivano rotte e sabotate, spesso a colpi di martello. Se l’opposizione tra operai e tecnologia è quindi frontale, va sottolineato che la critica è comunque mirata, diretta. «La loro posizione critica non era basata, tuttavia, sul disprezzo per la tecnologia in generale. Al contrario, era diretta contro macchine particolari. Le uniche macchine che i luddisti distrussero erano quelle contro cui i lavoratori avevano particolari rimostranze», spiega lo storico Johan Schot[7].
E continua: «Era una lotta tra modelli rivali di organizzazione della società. I luddisti chiedevano che chi introduceva nuove macchine ne anticipasse gli effetti sociali.» I luddisti chiedevano in particolare una nuova tassa sulle macchine per tessere e sostenevano la loro visione del futuro, la loro visione della società. Se la distruzione delle macchine era quindi un gesto diretto contro le tecnologie, tale gesto era tuttavia fondamentalmente composito: era al tempo stesso tecnico, sociale, politico ed economico.
In altre parole, la lotta dei luddisti non era di per sé anti-tecnologica, ma si inseriva in conflitti e dibattiti più ampi sul lavoro, il capitale, l’occupazione, le condizioni di vita e i salari[8].
I luddisti di oggi
Nel corso della storia, i luddisti sono diventati un punto di riferimento, un simbolo. Il loro esempio è diventato per molti attori una narrazione mobilitante e ispiratrice. Per i ricercatori, il riferimento è quindi diventato molto più complesso. Non basta solo ripercorrere ciò che hanno fatto i luddisti, è anche necessario – come ha fatto Steven Jones – seguire «l’idea dei luddisti» ed esaminare come il luddismo è stato trasformato, tradotto e rappresentato tra il 1811 e oggi[9]. Perché le mediazioni e le traduzioni sono molteplici: l’invenzione di un leader e di un «mito fondatore»; la mobilitazione del luddismo come giustificazione e archetipo per futuri atti di resistenza; l’idea che ha ispirato la cultura popolare, tra cui Frankenstein di Mary Shelley, considerato da alcuni il «primo romanzo luddista»; esempi di «neoluddismo».
https://www.asterios.it/catalogo/frankenstein
Anche ai giorni nostri, il termine viene regolarmente ripreso: si parla di “ritorno”, di ‘revival’ o addirittura di “rivincita” dei luddisti. Ad esempio, nel 2023 sono stati organizzati negli Stati Uniti dei «tribunali luddisti». Armati di martelli, un gruppo di intellettuali ha distrutto stampanti e telecamere di sorveglianza, discutendo dei problemi posti da queste tecnologie, il tutto davanti a un pubblico composto da scienziati, artisti e giornalisti. In questo caso, la tecnocritica assume una forma spettacolare, pubblica, artistica… e promozionale (i tribunali luddisti sono stati organizzati da un autore per promuovere il suo ultimo libro[10]).
Tra gli altri esempi di distruzione di oggetti tecnici, si possono citare le azioni del Comité liquidant ou détournant les ordinateurs (Comitato per la liquidazione o il dirottamento dei computer). Attivo tra il 1980 e il 1983, questo collettivo ha distrutto computer nelle fabbriche della regione di Tolosa. In un’intervista, il collettivo spiega le sue azioni: si trattava, attraverso “attentati tecnologici”, di criticare il potenziale dei computer di “archiviare”, ‘controllare’ e “reprimere”[11]. Secondo il Comitato, è necessario «riflettere un po’ di più sul mondo in cui viviamo» e «smascherare» la verità, al fine di evitare la sorveglianza e il dominio.
L’esempio più violento di tecnocritica è senza dubbio quello del matematico americano Theodore John Kaczynski. Soprannominato “unabomber”, è noto per le sue azioni violente tra il 1978 e il 1995, ma anche per aver scritto testi come Industrial society and its future, un manifesto molto critico nei confronti della tecnologia[12].
I momenti della tecnocritica
Tutti questi esempi dimostrano che la tecnocritica è ben lungi dall’essere un fenomeno recente. D’altra parte, però, affermare che essa esista in modo continuo, costante, globale e lineare nel corso della storia sarebbe riduttivo. Come analizzare, quindi, queste continuità e discontinuità? Come dare un senso alle diverse forme, grammatiche, strategie, geografie e obiettivi della tecnocritica?
Per cogliere sia le continuità che le discontinuità, si può parlare di “momenti” della tecnocritica[13]. Gli anni ’60 e ’70 costituiscono, ad esempio, uno di questi “momenti”. Durante questi anni, sempre più attori hanno criticato le tecnologie, le loro conseguenze ecologiche e hanno messo in discussione l’eccessiva fiducia nella tecnologia[14]. Questa critica non attinge però solo a un registro negativo, ma si esprime anche attraverso rivendicazioni positive, come la cura della natura e dell’ambiente, la difesa di una certa qualità della vita e la preoccupazione per le generazioni future. La critica funziona attraverso una doppia descrizione, quella di un mondo problematico e quella di un mondo da proteggere.
Si può anche parlare di un “momento OGM” a partire dagli anni ’90. Tra i numerosi punti caldi di questo momento, citiamo la nascita della pecora Dolly (1996), la distruzione volontaria di campi OGM (dal 1999), il caso Séralini (2012-2013), le marce contro Monsanto (2013-2015) o ancora la nascita dei “gemelli CRISPR” (2018). La tecnocritica si inscrive quindi sia nel lungo che nel breve periodo. Può estendersi su diversi decenni, ma può anche cristallizzarsi e intensificarsi in occasione di eventi significativi (annunci, incidenti, innovazioni, ecc.). L’esempio del nucleare illustra, a suo modo, come la tecnocritica possa durare – con discussioni sui rifiuti nucleari in particolare – così come possa essere punteggiata – a seguito dell’esplosione di bombe atomiche (1945) o di incidenti nucleari (a Chernobyl nel 1986 e a Fukushima nel 2011).
In altre parole, la tecnocritica non è un piatto che viene sempre servito alla stessa temperatura. Può essere calda, intensa, persino violenta, così come può essere tiepida, latente o quasi dormiente. Può sembrare esaurita, per poi essere riattivata, rinnovata e rimobilitata.
Per cogliere questo aspetto mutevole e dinamico della tecnocritica nel tempo, possiamo ispirarci all’indagine alla base del libro di Christelle Gramaglia Habiter la pollution –Expériences et métrologies citoyennes de la contamination. La sua indagine, condotta su un lungo periodo, si concentra su momenti generalmente poco analizzati dai ricercatori in scienze sociali: i momenti tra le mobilitazioni pubbliche e i riflettori dei media su alcuni problemi di inquinamento. Descrive con finezza tutta una serie di gesti, abitudini, sensibilità e indignazioni, un vero e proprio lavoro investigativo che, giorno dopo giorno, documenta l’inquinamento.
La conclusione da trarre per l’analisi della tecnocritica è fondamentale: non limitare l’analisi ai momenti di critica pubblica e politica, ma indagare anche le sue espressioni a livello intimo, domestico e quotidiano. Perché al di là dei momenti di critica che attirano l’attenzione di tutti, c’è anche una critica più “ordinaria”, “alla base”, che si manifesta in modo più discreto.
Il momento dell’IA
Stiamo vivendo un episodio di tecnocritica che può essere definito “il momento dell’IA”. La critica rivolta ad altre tecnologie non sta diminuendo, anzi, ma la critica all’IA è oggi particolarmente visibile e mediatizzata, persino onnipresente. Se l’IA suscita un notevole entusiasmo in diversi ambiti, sono numerose le critiche che si levano: dalle preoccupazioni relative ai diritti d’autore e alla diffusione di informazioni false fino all’accusa di tecnofascismo (vedi sopra) e al timore di una «estinzione degli esseri umani[15]».
https://www.asterios.it/catalogo/dal-corpo-neutro-al-cyborg-postumano
Queste critiche all’IA ripropongono quindi la questione della sopravvivenza degli esseri umani, o addirittura del loro superamento o della loro perdita di controllo di fronte alle tecnologie. Questo tema ricorre spesso nella tecnocritica: nelle discussioni sull’energia nucleare o sulla clonazione, o in opere di fantascienza come The Matrix o I, Robot. La questione della «sopravvivenza» dell’uomo va intesa in un duplice senso: la sopravvivenza dell’uomo come entità biologica (il cui corpo sarebbe a rischio) e quella dell’uomo come essere antropologico (cioè il soggetto capace di produrre senso).
https://www.asterios.it/catalogo/i-figli-della-macchina
In questa prima parte del mio saggio mi sono concentrato soprattutto sulla temporalità della tecnocritica. Riflettere sulla tecnocritica attraverso i suoi “momenti” solleva una serie di domande interessanti: come diventa un indicatore, come si cristallizza attorno a un evento, come si esaurisce o si rinnova, quando circola e quando smette di farlo, quando fa epoca e come si materializza tra i momenti che fanno epoca. La seconda parte del mio saggio sarà dedicata a un esercizio più tassonomico, al fine di riflettere sulle diverse forme e sui diversi registri della tecnocritica.
Note:
⌊1⌋ Morgan Meyer, J. Calage, “Formazione in tecnologie low-tech nelle scuole di ingegneria: mettere le mani avanti nel pensiero sull’ecologia”, in Christelle Didier et al (a cura di) Engineers and Ecology , Parigi: Presses des Mines (di prossima pubblicazione).
[2] Henrik Skaug Sætra, Evan Selinger, “Rimedi tecnologici per problemi sociali: definire e demarcare soluzioni tecnologiche e tecno-soluzionismo”, Science and Engineering Ethics , 30(6), 1-17, 2024.
[3] Andrew Feenberg, “Marcuse o Habermas: due critiche della tecnologia”, Inquiry , 39 (1), 45-70, 1996
[4] Marcello Vitali-Rosati, op. cit., pag. 146. È stato osservato che durante le interazioni tra umani e robot, i bug possono essere percepiti come momenti di “verità” da parte degli utenti, momenti in cui il robot sembra più autonomo e, in un certo senso, più “liberato” rispetto a quando funziona normalmente (osservazioni fatte dall’antropologa Maria Viola Zinna nell’ambito del progetto ” Rebreathing “).
[5] Dan McQuillan, Resisting AI: un approccio antifascista all’intelligenza artificiale . Policy Press, 2022
[6] Vedi in particolare Steven Edward Jones, Against technology: From the Luddites to neo-Luddism , London: Routledge, 2006 e Katrina Navickas “The search for ‘General Ludd’: the mythology of Luddism”, Social History , 30 (3), 281-295, 2005.
[7] Johan Schot “L’ascesa contestata di una politica tecnologica modernista”, in Thomas Misa, Philip Brey e Andrew Feenberg (a cura di) Modernity and technology , Cambridge: MIT Press, p. 260, 2003.
[8] Vedi il lavoro dello storico Edward Thompson.
[9] Steven Edward Jones, Contro la tecnologia: dai luddisti al neo-luddismo , Londra: Routledge, 2006.
[10] Brian Merchant, Sangue nella macchina: le origini della ribellione contro le grandi aziende tecnologiche , Little, Brown and Company, 2023
[11] Il CLODO parla, Terminal 19/84, 16, pp. 3-5, 1983.
[12] Secondo una recente analisi , questo manifesto – che riprende idee del filosofo Jacques Ellul, dello zoologo Desmond Morris e dello psicologo Martin Seligman – non può essere etichettato solo come “eco-terrorista” o “neo-luddista”.
[13] Mi riferisco qui ai “momenti di critica” discussi da Ramses Fuenmayor “Systems thinking and critique. I. What is critique?”, Systems practice , 3 , 525-544, 1990 e da Rey Chow, “Turnstile, Rupture, Salamander: Critique’s Changing Energetics”, The Yearbook of Comparative Literature , 65 , 13-32, 2023.
[14] Cfr. Johan Schot, op. cit., pagine 267-269 e capitolo 10 in François Jarrige, Technocritiques: dal rifiuto delle macchine alla contestazione delle tecnoscienze , Parigi: La Découverte, 2014.
[15] Una dichiarazione spesso citata è quella del 2023 rilasciata da circa un centinaio di stakeholder dell’IA che afferma: “Mitigare il rischio di estinzione dovuto all’IA dovrebbe essere una priorità globale insieme ad altri rischi su scala sociale come le pandemie e la guerra nucleare”.
Autore: Morgan Meyer è sociologo, Direttore di ricerca al CNRS.
Fonte: AOCMedia
I volumi delle collane di acro-polis libri su carta e di Asterios
sono sempre disponibili in Amazon.it Libri e IBS.it
Sono ordinabili in tutte le Librerie.
Se poi volete ricevere ricchi omaggi e cotillon ordinate da questo sito e dal sito di www.asterios.it
