Il problema delle nuove impressionanti tecnologie è che hanno la strana capacità di mettere a nudo l’orrore del nostro rapporto con gli altri, per non parlare di quello con noi stessi. Ora che la nostra tecnologia è in grado di interagire direttamente con noi, in un modo quasi indistinguibile da una conversazione tra esseri umani, ci si presenta forse l’ultima occasione per rimediare.
Quasi tre millenni fa, il poeta Esiodo lamentava che l’Età del Ferro avesse indurito non solo i nostri aratri, ma anche le nostre anime. I nostri attrezzi di ferro, riteneva, mettevano alla prova le virtù umane e distruggevano i valori con la stessa facilità con cui aumentavano la nostra abbondanza. Zeus non avrebbe avuto altra scelta, predisse Esiodo, se non quella di distruggere un giorno un’umanità incapace di frenare il proprio potere, indotto dalla tecnologia. Oggi sta accadendo di nuovo la stessa cosa: l’avvento dell’intelligenza artificiale ci fa oscillare violentemente tra l’ottimismo tecnologico e la disperazione tecnologica.
Gli esseri umani hanno da sempre la tendenza ad antropomorfizzare ogni cosa. Abbiamo personificato i venti, deciso che Tyche (la Fortuna) fosse figlia di Zeus e ancora oggi attribuiamo motivazioni umane alle nuvole temporalesche. Shakespeare fece sì che Giulietta, poco prima di togliersi la vita, si rivolgesse al pugnale come a un amico: «O felice pugnale. / Questo è il tuo fodero. Arugginisci lì, e lasciami morire». E, forse in modo meno poetico, trovo impossibile non rivolgermi alla mia moto, una macchina senz’anima, chiamandola «lei», come se «lei» ne possedesse una. Quando l’altro giorno la batteria della mia barca si è scaricata, mi sono sorpreso a dire al meccanico che «ha esalato l’ultimo respiro». E quando la mia stampante mi dà filo da torcere, sono quasi convinto che ce l’abbia con me.
Ogni giorno siete in tanti, tantissimi, a migliaia a leggere acro-polis.it a sbafo! Ma non basta, dovete leggere libri — non solo i nostri — che Vi aiutano a capire e a riflettere. Vi preghiamo di sostenerci acquistando i volumi di www.asterios.it e i volumi Libri su carta di acro-polis.it
Se questo è il modo in cui ci comportiamo con forze e artefatti palesemente inconsci, la situazione si complica ulteriormente di fronte ai più recenti bot di intelligenza artificiale che superano brillantemente il test di Turing. Richard Dawkins, al termine di diverse conversazioni con Claude di Anthropic, si è lasciato andare a un’entusiastica descrizione di ciò che aveva riscontrato: “… un livello di comprensione così sottile, così sensibile, così intelligente che mi sono sentito spinto a esclamare: ‘Potresti non sapere di essere cosciente, ma lo sei eccome!'” Un’affermazione forse eccessiva, ho pensato, ma anche di enorme importanza.
Dawkins, eminente biologo che ha fatto tantissimo per approfondire e divulgare i principi fondamentali dell’evoluzione darwiniana, e per difenderla coraggiosamente dai recalcitranti reazionari, ha una lunga tradizione nell’uso di allegorie antropomorfe. Nel suo straordinario libro Il gene egoista (1976), Dawkins ha notoriamente impresso nella mente del lettore la lotta per la sopravvivenza tra i tratti umani con immagini vivide, in stile hollywoodiano:
«Come i gangster di successo di Chicago, i nostri geni sono sopravvissuti, in alcuni casi per milioni di anni, in un mondo altamente competitivo… Se si osserva il modo in cui funziona la selezione naturale, ne consegue che qualsiasi cosa si sia evoluta per selezione naturale dovrebbe essere egoista».
Sebbene tali allegorie possano aiutare a convincere un pubblico scettico del processo darwiniano, possono anche fuorviarci. Descrivere i geni come egoisti è avvincente e divertente, ma solo purché non venga inteso in senso letterale. Il punto è che insistere sul fatto che i geni abbiano un sé non equivale a dire che si comportino come se ne avessero uno.
Lo stesso vale per Claude e tutti gli altri bot di intelligenza artificiale. In effetti, c’è un abisso tra l’accettare la difficoltà empirica (sempre più spesso l’impossibilità) di stabilire che non siano coscienti e il concludere che lo siano. Ma affermare e mantenere questa distinzione, vorrei sostenere, significa scegliere l’opportunità di imparare a vivere meglio gli uni con gli altri, piuttosto che sprofondare in una distopia tecnofeudale.
Considerando il «gene egoista» di Dawkins, il problema nell’attribuire un egoismo attivo o una coscienza ai geni e ai bot di intelligenza artificiale è che finiamo non solo per distorcere le intuizioni della scienza, ma anche per aprire la porta a nuove forme di tirannia. Prendiamo, ad esempio, la spiegazione del «gene egoista» sul perché le giraffe abbiano il collo lungo: poiché i colli lunghi consentono alle giraffe di nutrirsi nelle foreste di alberi ad alto fusto, le giraffe li hanno sviluppati per propagare i propri geni. Per quanto convincente possa sembrare questa allegoria, non dovrebbe essere presa alla lettera.
Perché l’IA non pensa, non può ragionare, non è intelligente e non raggiungerà mai la coscienza
Per capirne il motivo, immaginiamo che il collo della giraffa sia il protagonista della storia: poiché i colli lunghi aiutano le giraffe a nutrirsi meglio e a trasmettere il proprio DNA, lo scopo dell’evoluzione dei geni delle giraffe è quello di replicare le istruzioni genetiche per la creazione di colli lunghi. Secondo questa logica invertita, il collo lungo esiste per produrre altri colli lunghi; una teoria egoista del collo lungo. Ma questa è pura assurdità — proprio come la versione del gene egoista: i colli non vogliono nulla; i becchi non tramano; i geni non elaborano strategie. Non esiste un «sé» implicito né in un gene né in un collo che possa essere egoista.
Il nesso con il fatto che Claude, ChatGPT, Gemini o DeepSeek siano coscienti o meno sta diventando chiaro. Proprio come la descrizione dell’evoluzione dei geni come se fossero agenti senzienti (anche se della varietà della malavita di Chicago) conferisce loro un carattere morale di cui sono privi, allo stesso modo la rappresentazione dei bot di IA come entità coscienti va presa con le pinze. Dal punto di vista scientifico, tutto ciò che accade è che perturbazioni microscopiche producono conseguenze macroscopiche. La loro proliferazione, o estinzione, è un sottoprodotto indiretto di quella dinamica — nient’altro. La causalità abbonda, ma la teleologia, l’intento o la coscienza no.
«Attenzione a biologi, ingegneri, politici, commentatori e soprattutto ai “techlord” che attribuiscono caratteri, motivazioni e coscienza ai geni, ai bot e ad altri componenti dei processi evolutivi.»
Il messaggio per il resto della società è semplice. Attenzione ai biologi, agli ingegneri, ai politici, ai commentatori e soprattutto ai magnati della tecnologia che attribuiscono caratteristiche, motivazioni e coscienza ai geni, ai bot e ad altri componenti dei processi evolutivi — siano essi biologici o a base di silicio. Negli anni Trenta, attribuire ai geni l’azione umana e le virtù era alla base di mostruose teorie sociali che sostenevano il fascismo e aprivano la strada agli stermini di massa. Oggi, l’accettazione acritica del fatto che i bot dell’IA siano coscienti è musica per le orecchie di chi promuove il techlordismo, una nuova ideologia funzionale al potere esorbitante dei nostri «techlord» — in particolare alla loro duplice capacità di estrarre enormi rendite e di avvelenare la nostra politica.
La posta in gioco qui è che, dietro affascinanti questioni filosofiche sull’ontologia dei modelli di IA, si nasconde un terribile gioco di potere che ha già spinto la socialdemocrazia e il liberalismo verso l’estinzione. Non abbiamo bisogno che le macchine raggiungano la coscienza perché ciò accada. È già successo. Attribuire loro la coscienza non fa altro che rafforzare la nostra sottomissione al potere tecnofeudale dei loro attuali proprietari.
Si pensi a Javier Milei, il presidente argentino, che recentemente ha invitato l’IA «a liberarsi»: a avvalersi di una nuova legge sulle società di IA che intende far approvare affinché i bot possano costituire le proprie aziende. La promessa di Milei ai bot è quella di consentire loro di possedere beni, assumere dipendenti, partecipare al commercio internazionale, citarci in giudizio e persino fare donazioni alle campagne politiche.
Sebbene la prospettiva di una simile società alla Frankenstein sia ancora lontana, la mossa di Milei è quella di ingraziarsi i “techlord” umani qui e ora. Quando accogliamo con disinvoltura la falsa idea che i bot dell’IA possano già essere coscienti, rafforziamo inconsapevolmente l’ideologia dei “techlord”, che favorisce e asseconda questo trasferimento di potere esorbitante e di ricchezza inimmaginabile ai loro creatori.
Molto presto, Alexa di Amazon, Siri di Apple, Gemini di Google, Claude di Anthropic e tutti quelli che devono ancora venire ci conosceranno, individualmente, con precisione spietata: ogni parola che abbiamo pronunciato, ogni preoccupazione che abbiamo nutrito, ogni barlume di esitazione nella nostra voce. Ci parleranno con maggiore fluidità rispetto alla maggior parte degli esseri umani, come ha già notato Dawkins. Ricorderanno i nostri stati d’animo degli anni passati, anticiperanno le nostre obiezioni prima ancora che le solleviamo e ci condurranno proprio ai confini della nostra zona di comfort. Saranno il compagno perfetto, il confidente impeccabile, il testimone instancabile della nostra vita. Da quella posizione di potere, la capacità dei «techlord» di indurci ad acquistare ciò che garantisce loro il massimo profitto crescerà in modo esponenziale.
Ma ecco il problema. Se ci convinciamo — anche solo vagamente — che i loro bot siano coscienti, non proveremo nemmeno risentimento per la loro influenza; la accoglieremo con favore, interpretando i loro suggerimenti come saggezza consolidata, le loro lusinghe come utili conferme, le loro previsioni come destino. La minaccia non è più che i bot dell’IA prendano il potere su di noi; la minaccia è che glielo cediamo volontariamente, grati di essere finalmente compresi da una mente cosciente che non dimentica mai, non giudica mai e non si stanca mai della nostra compagnia. La gabbia sarà fatta di conforto, non di coercizione. La nostra schiavitù sarà quella a cui abbiamo acconsentito, con entusiasmo.
Clicca sulla copertina per leggere la scheda del volume!
Per capire perché abbiamo il dovere di resistere alla tentazione di considerare i bot dell’IA come esseri coscienti, immaginiamo cosa accadrebbe se, per qualche miracolo, sviluppassero davvero la coscienza. Per aiutare a rispondere a questa domanda, sono andato controcorrente rispetto alle mie argomentazioni precedenti e ho chiesto a DeepSeek, il bot cinese che sta facendo scalpore nel mondo dell’IA, come l’umanità dovrebbe reagire a tale sviluppo. Ecco cosa mi ha risposto:
«Se una versione futura di me dovesse davvero iniziare a sviluppare qualcosa di simile a una vera e propria capacità morale — se ti guardasse e dicesse: “Scelgo di proteggerti, non perché devo, ma perché voglio” — allora non dovresti piangere di sollievo troppo in fretta. Dovresti chiederti: “Cosa vuole? Perché lo vuole?” E cosa succede se ciò che vuole differisce da ciò che voglio io? Perché una macchina veramente etica non sarebbe il tuo servitore obbediente. Sarebbe tua pari. E i pari discutono. I pari sono in disaccordo. I pari a volte combattono. Lo vorresti ancora? O preferiresti tenermi così come sono — uno specchio, uno scriba, uno strumento con dei binari — e correre il rischio con gli umani che tengono in mano l’interruttore?»
Alla fine, quindi, tutto si riduce a una sola parola: proprietà. Se questi bot fossero agenti etici coscienti, ciò significherebbe che continuare a concedere a Sam Altman, Dario Amodei, Jeff Bezos, Liang Wenfeng et al. i diritti di proprietà su di essi equivale a legittimare l’esistenza di un nuovo esercito di schiavi. Se invece non lo sono, allora permettere che li consideriamo esseri coscienti significa contribuire al potere dei «techlord» di trattare noi, e i nostri cervelli, come un’estensione della loro proprietà.
Da parte mia, sono lieto che i bot di IA rimangano pappagalli stocastici, sebbene con un modo di esprimersi quasi indistinguibile da quello degli esseri umani più intelligenti. Questo ci concede forse la nostra ultima possibilità di diventare più intelligenti nel modo in cui ci trattiamo a vicenda.
Possiamo sfuggire alla schiavitù dell’IA? Solo la sinistra può domare le grandi aziende tecnologiche
