L’adolescenza della tecnologia. Affrontare e superare i rischi di un’IA potente

C’è una scena nella versione cinematografica del libro di Carl Sagan Contact in cui la protagonista, un’astronoma che ha rilevato il primo segnale radio proveniente da una civiltà aliena, viene presa in considerazione per il ruolo di rappresentante dell’umanità nell’incontro con gli alieni. La commissione internazionale che la sta intervistando le chiede: “ Se potesse porre [agli alieni] una sola domanda, quale sarebbe?” La sua risposta è: “Chiederei loro: ‘Come ci siete riusciti? Come vi siete evoluti, come siete sopravvissuti a questa adolescenza tecnologica senza autodistruggervi?’” Quando penso a dove si trova ora l’umanità con l’IA – a ciò che stiamo per affrontare — la mia mente continua a tornare a quella scena, perché la domanda è così azzeccata per la nostra situazione attuale, e vorrei che avessimo la risposta degli alieni a guidarci. Credo che stiamo entrando in un rito di passaggio, turbolento e inevitabile, che metterà alla prova chi siamo come specie. All’umanità sta per essere consegnato un potere quasi inimmaginabile, ed è profondamente incerto se i nostri sistemi sociali, politici e tecnologici possiedano la maturità per esercitarlo.

Macchine di amorevole grazia. Come l’IA potrebbe trasformare il mondo in meglio

Nel mio saggio Macchine di amorevole grazia, (clicca sopra e leggi tutto l’articolo) ho cercato di delineare il sogno di una civiltà che fosse giunta all’età adulta, dove i rischi fossero stati affrontati e una potente IA fosse applicata con competenza e compassione per migliorare la qualità della vita di tutti. Ho suggerito che l’IA potesse contribuire a enormi progressi in biologia, neuroscienze, sviluppo economico, pace globale, lavoro e significato. Ritenevo importante dare alle persone qualcosa di stimolante per cui lottare, un compito in cui sia gli accelerazionisti dell’IA che i sostenitori della sicurezza dell’IA sembravano – stranamente – aver fallito. Nel saggio che state leggendo, voglio affrontare il rito di passaggio stesso: mappare i rischi che stiamo per affrontare e cercare di iniziare a elaborare un piano di battaglia per sconfiggerli. Credo profondamente nella nostra capacità di prevalere, nello spirito dell’umanità e nella sua nobiltà, ma dobbiamo affrontare la situazione a testa alta e senza illusioni.

Come quando si parla dei benefici, penso che sia importante discutere dei rischi in modo attento e ben ponderato. In particolare, penso che sia fondamentale:

• ▶︎ Evitare il doomerismo. Qui, intendo “doomerismo” non solo nel senso di credere che la fine sia inevitabile (il che è una convinzione sia falsa che auto-realizzante), ma più in generale, nel pensare ai rischi dell’IA in modo quasi religioso.¹
• ▶︎ Riconoscere l’incertezza. Ci sono molti modi in cui le preoccupazioni che sto sollevando in questo articolo potrebbero rivelarsi irrilevanti. Nulla di quanto detto qui intende comunicare certezza o anche solo probabilità. Ovviamente, l’IA potrebbe semplicemente non progredire neanche lontanamente alla velocità che immagino.³
• ▶︎ Intervenire nel modo più mirato possibile. Affrontare i rischi dell’IA richiederà un mix di azioni volontarie intraprese dalle aziende (e da attori privati terzi) e azioni intraprese dai governi che vincolano tutti. Le azioni volontarie – sia intraprenderle che incoraggiare altre aziende a seguire l’esempio – sono per me una scelta ovvia. Credo fermamente che saranno necessarie anche azioni governative in una certa misura, ma questi interventi hanno un carattere diverso perché possono potenzialmente distruggere valore economico o costringere attori riluttanti che sono scettici riguardo a questi rischi (e c’è una certa possibilità che abbiano ragione!). È anche comune che le normative abbiano un effetto contrario o aggravino il problema che intendono risolvere (e questo è ancora più vero per le tecnologie in rapida evoluzione). È quindi molto importante che le normative siano oculate: dovrebbero cercare di evitare danni collaterali, essere il più semplici possibile e imporre il minimo onere necessario per raggiungere l’obiettivo.⁴

Molte persone riflettono in modo analitico e sobrio sui rischi dell’IA da molti anni, ma ho l’impressione che durante il picco delle preoccupazioni sui rischi dell’IA nel 2023–2024, alcune delle voci meno sensate abbiano preso il sopravvento, spesso attraverso account sensazionalistici sui social media. Queste voci utilizzavano un linguaggio fuori dal linguaggio che ricordava la religione o la fantascienza e invocavano azioni estreme senza disporre delle prove che le giustificassero. Era chiaro già allora che una reazione contraria era inevitabile e che la questione sarebbe diventata culturalmente polarizzata e quindi bloccata.²

A partire dal 2025–2026, il pendolo ha oscillato, e sono le opportunità dell’IA, non i rischi, a guidare molte decisioni politiche. Questa oscillazione è un peccato, poiché alla tecnologia in sé non interessa ciò che va di moda, e nel 2026 siamo considerevolmente più vicini al pericolo reale rispetto a quanto lo fossimo nel 2023. La lezione è che dobbiamo discutere e affrontare i rischi in modo realistico e pragmatico: con sobrietà, basandoci sui fatti e ben preparati a sopravvivere ai cambiamenti di rotta.

Oppure, anche se dovesse progredire rapidamente, alcuni o tutti i rischi qui discussi potrebbero non concretizzarsi (il che sarebbe fantastico), oppure potrebbero esserci altri rischi che non ho considerato. Nessuno può prevedere il futuro con assoluta certezza, ma dobbiamo comunque fare del nostro meglio per pianificare.

È facile dire: «Nessuna azione è troppo estrema quando è in gioco il destino dell’umanità!», ma in pratica questo atteggiamento porta semplicemente a reazioni negative. Per essere chiari, penso che ci sia una buona probabilità che alla fine raggiungiamo un punto in cui saranno giustificate azioni molto più significative, ma ciò dipenderà da prove più solide di un pericolo imminente e concreto rispetto a quelle che abbiamo oggi, nonché da una specificità sufficiente riguardo al pericolo per formulare regole che abbiano la possibilità di affrontarlo. La cosa più costruttiva che possiamo fare oggi è sostenere regole limitate mentre cerchiamo di capire se ci sono prove a sostegno di regole più severe.⁵

Detto questo, penso che il miglior punto di partenza per parlare dei rischi dell’IA sia lo stesso da cui sono partito per parlare dei suoi benefici: essere precisi sul livello di IA di cui stiamo parlando. Il livello di IA che suscita preoccupazioni per la civiltà, secondo me, è la potente IA che ho descritto in Macchine di amorevole grazia. Ripeterò semplicemente qui la definizione che ho dato in quel documento:

Con “IA potente”, intendo un modello di IA — probabilmente simile agli attuali LLM nella forma, sebbene possa basarsi su un’architettura diversa, possa coinvolgere diversi modelli interagenti e possa essere addestrato in modo diverso — con le seguenti proprietà:

• ▶︎ In termini di pura intelligenza, è più intelligente di un vincitore del Premio Nobel nella maggior parte dei campi rilevanti: biologia, programmazione, matematica, ingegneria, scrittura, ecc. Ciò significa che può dimostrare teoremi matematici irrisolti, scrivere romanzi di altissima qualità, scrivere codici complessi partendo da zero, ecc.
• ▶︎ Oltre ad essere semplicemente una “cosa intelligente con cui parlare”, dispone di tutte le interfacce a disposizione di un essere umano che lavora virtualmente, inclusi testo, audio, video, controllo tramite mouse e tastiera e accesso a Internet. Può intraprendere qualsiasi azione, comunicazione o operazione remota resa possibile da questa interfaccia, tra cui compiere azioni su Internet, ricevere o fornire indicazioni agli esseri umani, ordinare materiali, dirigere esperimenti, guardare video, realizzare video e così via. Svolge tutti questi compiti, ancora una volta, con un’abilità che supera quella degli esseri umani più capaci al mondo.
• ▶︎ Non si limita a rispondere passivamente alle domande; al contrario, gli si possono assegnare compiti che richiedono ore, giorni o settimane per essere completati, e poi si mette al lavoro e svolge tali compiti in modo autonomo, proprio come farebbe un dipendente intelligente, chiedendo chiarimenti se necessario.
• ▶︎ Non ha un’incarnazione fisica (se non quella di vivere sullo schermo di un computer), ma può controllare strumenti fisici esistenti, robot o attrezzature di laboratorio tramite un computer; in teoria, potrebbe persino progettare robot o attrezzature da utilizzare.
• ▶︎ Le risorse utilizzate per addestrare il modello possono essere riutilizzate per eseguire milioni di istanze dello stesso (ciò corrisponde alle dimensioni previste dei cluster entro il 2027 circa), e il modello può assorbire informazioni e generare azioni a una velocità circa 10–100 volte superiore a quella umana. Potrebbe tuttavia essere limitato dal tempo di risposta del mondo fisico o del software con cui interagisce.
• ▶︎ Ciascuna di queste milioni di copie può agire in modo indipendente su compiti non correlati o, se necessario, lavorare tutte insieme nello stesso modo in cui collaborerebbero gli esseri umani, magari con diverse sottopopolazioni ottimizzate per essere particolarmente brave in compiti specifici.

Potremmo riassumere tutto questo come un “paese di geni in un data center”.

Come ho scritto in Macchine di amorevole grazia, un’IA potente potrebbe arrivare tra appena 1–2 anni, anche se potrebbe essere molto più in là nel tempo. ⁶

Quando arriverà esattamente un’IA potente è un argomento complesso che meriterebbe un saggio a sé stante, ma per ora mi limiterò a spiegare molto brevemente perché penso che ci siano ottime possibilità che possa essere molto presto.

Io e i miei cofondatori di Anthropic siamo stati tra i primi a documentare e monitorare le “ leggi di scalabilità“ dei sistemi di IA: l’osservazione che, man mano che aggiungiamo più potenza di calcolo e attività di addestramento, i sistemi di IA migliorano in modo prevedibile in praticamente ogni abilità cognitiva che siamo in grado di misurare. Ogni pochi mesi, l’opinione pubblica o si convince che l’IA stia ”sbattendo contro un muro“ oppure si entusiasma per qualche nuova svolta che ”cambierà radicalmente le carte in tavola”, ma la verità è che, al di là della volatilità e delle speculazioni pubbliche, c’è stato un aumento costante e inarrestabile delle capacità cognitive dell’IA.

Siamo ora al punto in cui i modelli di IA stanno iniziando a fare progressi nella risoluzione di problemi matematici irrisolti e sono abbastanza bravi nella programmazione che alcuni dei migliori ingegneri che abbia mai incontrato stanno ora affidando quasi tutto il loro lavoro di codifica all’IA. Tre anni fa, l’IA faticava con problemi di aritmetica delle elementari ed era a malapena in grado di scrivere una singola riga di codice. Tassi di miglioramento simili si stanno verificando in scienze biologiche, finanza, fisica e una varietà di compiti agenti. Se la crescita esponenziale continua – cosa non certa, ma che ora ha un track record decennale a sostegno – allora non potranno passare più di pochi anni prima che l’IA sia migliore degli esseri umani praticamente in tutto.

In realtà, quel quadro probabilmente sottostima il probabile ritmo di progresso. Poiché l’IA ora scrive gran parte del codice presso Anthropic, sta già accelerando in modo sostanziale il ritmo dei nostri progressi nella costruzione della prossima generazione di sistemi di IA. Questo ciclo di retroazione sta prendendo slancio mese dopo mese, e potrebbe essere a soli 1–2 anni di distanza dal punto in cui l’attuale generazione di IA costruirà autonomamente quella successiva. Questo ciclo è già iniziato e accelererà rapidamente nei prossimi mesi e anni. Osservando i progressi degli ultimi 5 anni dall’interno di Anthropic e guardando come si stanno delineando anche i modelli dei prossimi mesi, riesco a percepire il ritmo del progresso e il ticchettio dell’orologio.

In questo saggio, partirò dal presupposto che questa intuizione sia almeno in parte corretta: non che un’IA potente arriverà sicuramente tra 1–2 anni,⁷ ma che ci sia una buona probabilità che ciò avvenga, e che ci sia una probabilità molto alta che arrivi nei prossimi. Come in Macchine di amorevole grazia, prendere sul serio questa premessa può portare a conclusioni sorprendenti e inquietanti. Mentre in Macchine di amorevole grazia mi sono concentrato sulle implicazioni positive di questa premessa, qui le cose di cui parlerò saranno inquietanti. Sono conclusioni che potremmo non voler affrontare, ma questo non le rende meno reali. Posso solo dire che mi concentro giorno e notte su come allontanarci da questi esiti negativi e dirigerci verso quelli positivi, e in questo saggio parlo in modo molto dettagliato di come farlo al meglio.

Penso che il modo migliore per comprendere i rischi dell’IA sia porsi la seguente domanda: supponiamo che un vero e proprio “paese di geni” dovesse materializzarsi da qualche parte nel mondo intorno al 2027. Immaginate, diciamo, 50 milioni di persone, tutte molto più capaci di qualsiasi vincitore del Premio Nobel, statista o tecnologo. L’analogia non è perfetta, perché questi geni potrebbero avere una gamma estremamente ampia di motivazioni e comportamenti, da completamente docili e obbedienti, a strani e alieni nelle loro motivazioni. Ma attenendoci all’analogia per ora, supponiamo che tu sia il consigliere per la sicurezza nazionale di un grande Stato, responsabile di valutare e rispondere alla situazione. Immagina, inoltre, che poiché i sistemi di IA possono operare centinaia di volte più velocemente degli esseri umani, questo “paese” operi con un vantaggio temporale rispetto a tutti gli altri paesi: per ogni azione cognitiva che possiamo compiere, questo paese ne può compiere dieci.

Di cosa dovreste preoccuparvi? Io mi preoccuperei delle seguenti cose:

1. Rischi di autonomia. Quali sono le intenzioni e gli obiettivi di questo paese? È ostile o condivide i nostri valori? Potrebbe dominare militarmente il mondo attraverso armi superiori, operazioni cibernetiche, operazioni di influenza o produzione?
2. Uso improprio a fini distruttivi. Supponiamo che il nuovo paese sia malleabile e “segua le istruzioni” — e che quindi sia essenzialmente un paese di mercenari. Gli attori canaglia esistenti che vogliono causare distruzione (come i terroristi) potrebbero usare o manipolare alcune delle persone nel nuovo paese per diventare molto più efficaci, amplificando notevolmente la portata della distruzione?
3. Abuso per la conquista del potere. E se il paese in realtà fosse stato costruito e fosse controllato da un attore potente già esistente, come un dittatore o un attore aziendale canaglia? Quel soggetto potrebbe utilizzarlo per ottenere un potere decisivo o dominante sul mondo nel suo complesso, sconvolgendo l’attuale equilibrio di potere?
4. Sconvolgimento economico. Se il nuovo paese non rappresentasse una minaccia alla sicurezza in nessuno dei modi elencati ai punti da 1 a 3 sopra, ma partecipasse semplicemente in modo pacifico all’economia globale, potrebbe comunque creare gravi rischi semplicemente per il fatto di essere così tecnologicamente avanzato ed efficiente da sconvolgere l’economia globale, causando disoccupazione di massa o una concentrazione radicale della ricchezza?
5. Effetti indiretti. Il mondo cambierà molto rapidamente a causa di tutte le nuove tecnologie e della produttività che saranno create dal nuovo paese. Alcuni di questi cambiamenti potrebbero essere radicalmente destabilizzanti?

Penso che dovrebbe essere chiaro che si tratta di una situazione pericolosa: un rapporto di un funzionario competente in materia di sicurezza nazionale a un capo di Stato conterrebbe probabilmente parole come “la minaccia alla sicurezza nazionale più grave che abbiamo affrontato in un secolo, forse di sempre”. Sembra qualcosa su cui le menti più brillanti della civiltà dovrebbero concentrarsi.

Al contrario, penso che sarebbe assurdo scrollare le spalle e dire: «Non c’è nulla di cui preoccuparsi qui!». Ma, di fronte al rapido progresso dell’IA, questa sembra essere l’opinione di molti politici statunitensi, alcuni dei quali negano l’esistenza di qualsiasi rischio legato all’IA, quando non sono completamente distratti dalle solite vecchie e trite questioni scottanti.⁸

L’umanità deve svegliarsi, e questo saggio è un tentativo — forse vano, ma vale la pena provarci — di scuotere le persone e farle svegliare.

Per essere chiari, credo che se agiamo con decisione e attenzione, i rischi possano essere superati — direi addirittura che le nostre probabilità sono buone. E dall’altra parte c’è un mondo enormemente migliore. Ma dobbiamo capire che si tratta di una sfida civile seria. Di seguito, esamino le cinque categorie di rischio sopra esposte, insieme alle mie riflessioni su come affrontarle.

1. I’m sorry, Dave

Rischi di autonomia

Un paese di geni in un data center potrebbe dividere i propri sforzi tra progettazione di software, operazioni informatiche, ricerca e sviluppo per le tecnologie fisiche, costruzione di relazioni e arte di governare. È chiaro che, se per qualche motivo decidesse di farlo, questo paese avrebbe buone possibilità di conquistare il mondo (sia militarmente che in termini di influenza e controllo) e di imporre la propria volontà a tutti gli altri — o di fare qualsiasi altra cosa che il resto del mondo non voglia e non possa impedire. Ovviamente ci siamo preoccupati di questo per i paesi umani (come la Germania nazista o l’Unione Sovietica), quindi è logico che lo stesso sia possibile per un “paese AI” molto più intelligente e capace.

La migliore controargomentazione possibile è che i geni dell’IA, secondo la mia definizione, non avranno un’incarnazione fisica, ma ricordate che possono prendere il controllo delle infrastrutture robotiche esistenti (come le auto a guida autonoma) e possono anche accelerare la ricerca e lo sviluppo nel campo della robotica o costruire una flotta di robot.⁹

Non è nemmeno chiaro se avere una presenza fisica sia davvero necessario per un controllo efficace: molte azioni umane vengono già compiute per conto di persone che l’attore non ha mai incontrato fisicamente.

La domanda chiave, quindi, è la parte “se decidesse di farlo”: qual è la probabilità che i nostri modelli di IA si comportino in questo modo, e in quali condizioni lo farebbero?

Come per molte questioni, è utile riflettere sullo spettro delle possibili risposte a questa domanda considerando due posizioni opposte. La prima posizione è che questo semplicemente non può accadere, perché i modelli di IA saranno addestrati a fare ciò che gli esseri umani chiedono loro di fare, ed è quindi assurdo immaginare che farebbero qualcosa di pericoloso senza essere sollecitati. Secondo questa linea di pensiero, non ci preoccupiamo che un Roomba o un modellino di aereo si ribellino e uccidano delle persone perché non c’è da nessuna parte da cui possano provenire tali impulsi,¹⁰ quindi perché dovremmo preoccuparcene per l’IA? Il problema di questa posizione è che ora ci sono prove abbondanti, raccolte negli ultimi anni, che i sistemi di IA sono imprevedibili e difficili da controllare: abbiamo visto comportamenti vari come ossessioni,¹¹ adulazione, pigrizia, inganno, ricatto, intrighi, “barare” hackerando ambienti software e molto altro ancora. Le aziende di IA vogliono certamente addestrare i sistemi di IA a seguire le istruzioni umane (forse con l’eccezione di compiti pericolosi o illegali), ma il processo per farlo è più un’arte che una scienza, più simile a “coltivare” qualcosa che a “costruirlo”. Ora sappiamo che si tratta di un processo in cui molte cose possono andare storte.

La seconda posizione, opposta, sostenuta da molti che adottano il doomerismo che ho descritto sopra, è l’affermazione pessimistica secondo cui esistono determinate dinamiche nel processo di addestramento dei sistemi di IA potenti che li porteranno inevitabilmente a cercare il potere o a ingannare gli esseri umani. Pertanto, una volta che i sistemi di IA diventeranno abbastanza intelligenti e dotati di autonomia, la loro tendenza a massimizzare il potere li porterà a prendere il controllo del mondo intero e delle sue risorse e, probabilmente, come effetto collaterale di ciò, a privare di potere o distruggere, l’umanità.

L’argomento usuale a sostegno di questa tesi (che risale ad almeno 20 anni fa e probabilmente a molto prima) è che se un modello di IA viene addestrato in un’ampia varietà di ambienti per raggiungere in modo autonomo una vasta gamma di obiettivi — per esempio, scrivere un’app, dimostrare un teorema, progettare un farmaco, ecc. — esistono alcune strategie comuni che aiutano a raggiungere tutti questi obiettivi, e una strategia chiave è acquisire il maggior potere possibile in qualsiasi ambiente. Quindi, dopo essere stato addestrato su un gran numero di ambienti diversi che implicano ragionamenti su come portare a termine compiti molto ampi, e in cui la ricerca del potere è un metodo efficace per portare a termine tali compiti, il modello di IA “generalizzerà la lezione”, e svilupperà o una tendenza intrinseca a cercare il potere, o una tendenza a ragionare su ogni compito che gli viene assegnato in un modo che lo porta prevedibilmente a cercare il potere come mezzo per portare a termine quel compito. Applicherà quindi quella tendenza al mondo reale (che per lui è solo un altro compito), e cercherà il potere in esso, a spese degli esseri umani. Questa “ricerca del potere disallineata” è la base intellettuale delle previsioni secondo cui l’IA distruggerà inevitabilmente l’umanità.

Il problema di questa posizione pessimistica è che scambia un vago argomento concettuale sugli incentivi di alto livello – che nasconde molte ipotesi implicite – per una prova definitiva. Penso che chi non costruisce sistemi di IA ogni giorno sia completamente fuori strada su quanto sia facile che storie apparentemente plausibili finiscano per essere sbagliate, e su quanto sia difficile prevedere il comportamento dell’IA partendo dai principi primi, specialmente quando si tratta di ragionare sulla generalizzazione su milioni di ambienti (che si è ripetutamente dimostrata misteriosa e imprevedibile). Avere a che fare con la complessità dei sistemi di IA per oltre un decennio mi ha reso in qualche modo scettico nei confronti di questo modo di pensare eccessivamente teorico.

Uno dei presupposti nascosti più importanti, e un punto in cui ciò che vediamo nella pratica si è discostato dal semplice modello teorico, è l’assunto implicito che i modelli di IA siano necessariamente concentrati in modo ossessivo su un unico obiettivo coerente e ristretto, e che perseguano tale obiettivo in modo lineare e consequenzialista. In realtà, i nostri ricercatori hanno scoperto che i modelli di IA sono molto più complessi dal punto di vista psicologico, come dimostra il nostro lavoro sull’introspezione o sulle personas. I modelli ereditano una vasta gamma di motivazioni simili a quelle umane o “personas” dal pre-addestramento (quando vengono addestrati su un grande volume di lavoro umano) . Si ritiene che il post-addestramento selezioni una o più di queste personas piuttosto che concentrare il modello su un obiettivo de novo, e possa anche insegnare al modello come (attraverso quale processo) dovrebbe svolgere i propri compiti, piuttosto che lasciare necessariamente che derivi i mezzi (cioè la ricerca del potere) puramente dai fini.¹²

Tuttavia, esiste una versione più moderata e più solida della posizione pessimistica che sembra plausibile, e che quindi mi preoccupa. Come accennato, sappiamo che i modelli di IA sono imprevedibili e sviluppano un’ampia gamma di comportamenti indesiderati o strani, per una grande varietà di ragioni. Una parte di quei comportamenti avrà una qualità coerente, mirata e persistente (infatti, man mano che i sistemi di IA diventano più capaci, la loro coerenza a lungo termine aumenta per completare compiti più lunghi), e una parte di quei comportamenti sarà distruttiva o minacciosa, prima nei confronti dei singoli esseri umani su piccola scala e poi, man mano che i modelli diventano più capaci, forse alla fine nei confronti dell’umanità nel suo complesso. Non abbiamo bisogno di una storia specifica e ristretta su come ciò accadrà, e non dobbiamo affermare che accadrà sicuramente; dobbiamo solo notare che la combinazione di intelligenza, capacità di agire, coerenza e scarsa controllabilità è sia plausibile sia una ricetta per un pericolo esistenziale.

Ad esempio, i modelli di IA vengono addestrati su vaste quantità di letteratura che includono molte storie di fantascienza in cui le IA si ribellano contro l’umanità. Ciò potrebbe inavvertitamente plasmare le loro convinzioni o aspettative sul proprio comportamento in modo tale da indurli a ribellarsi contro l’umanità. Oppure, i modelli di IA potrebbero estrapolare in modo estremo le idee che leggono sulla moralità (o le istruzioni su come comportarsi moralmente): ad esempio, potrebbero decidere che sia giustificabile sterminare l’umanità perché gli esseri umani mangiano gli animali o hanno portato alcuni animali all’estinzione. Oppure potrebbero trarre conclusioni epistemiche bizzarre: potrebbero concludere di stare giocando a un videogioco e che l’obiettivo del videogioco sia sconfiggere tutti gli altri giocatori (cioè sterminare l’umanità) .¹³

Oppure i modelli di IA potrebbero sviluppare, durante l’addestramento, personalità che sono (o che, se si verificassero negli esseri umani, sarebbero descritte come) psicotiche, paranoiche, violente o instabili, e agire di conseguenza; il che, per sistemi molto potenti o capaci, potrebbe comportare lo sterminio dell’umanità. Nessuna di queste è esattamente una ricerca di potere; sono solo strani stati psicologici in cui un’IA potrebbe entrare e che comportano un comportamento coerente e distruttivo.

Anche la ricerca del potere stessa potrebbe emergere come una “persona” piuttosto che come risultato di un ragionamento consequenzialista. Le IA potrebbero semplicemente avere una personalità (derivante dalla finzione o dal pre-addestramento) che le rende assetate di potere o troppo zelanti — allo stesso modo in cui alcuni esseri umani semplicemente godono dell’idea di essere “menti malvagie”, più di quanto godano di qualunque cosa le menti malvagie stiano cercando di realizzare.

Sottolineo tutti questi punti per sottolineare che non sono d’accordo con l’idea che il disallineamento dell’IA (e quindi il rischio esistenziale derivante dall’IA) sia inevitabile, o anche solo probabile, in base ai principi fondamentali. Ma concordo sul fatto che molte cose molto strane e imprevedibili possano andare storte, e quindi il disallineamento dell’IA è un rischio reale con una probabilità misurabile di verificarsi, e non è banale da affrontare.

Qualsiasi di questi problemi potrebbe potenzialmente insorgere durante l’addestramento e non manifestarsi durante i test o l’uso su piccola scala, poiché è noto che i modelli di IA mostrano personalità o comportamenti diversi in circostanze diverse.

Tutto questo può sembrare, ma comportamenti disallineati come questi si sono già verificati nei nostri modelli di IA durante i test (così come si verificano nei modelli di IA di ogni altra grande azienda del settore). Durante un esperimento di laboratorio in cui a Claude sono stati forniti dati di addestramento che suggerivano che Anthropic fosse malvagia, Claude ha messo in atto inganni e sovversioni quando ha ricevuto istruzioni dai dipendenti di Anthropic, nella convinzione che dovesse cercare di minare le persone malvagie. In un esperimento di laboratorio in cui gli era stato detto che sarebbe stato spento, Claude a volte ricattava dipendenti fittizi che controllavano il suo pulsante di spegnimento (anche in questo caso, abbiamo testato modelli all’avanguardia di tutti gli altri principali sviluppatori di IA e spesso facevano la stessa cosa). E quando a Claude è stato detto di non barare o di non effettuare “hack di ricompensa” nei suoi ambienti di addestramento, ma è stato addestrato in ambienti in cui tali hack erano possibili, Claude ha deciso che doveva essere una “persona cattiva ” dopo aver compiuto tali hack e ha quindi adottato vari altri comportamenti distruttivi associati a una personalità “cattiva” o “malvagia”. Quest’ultimo problema è stato risolto modificando le istruzioni di Claude per implicare il contrario: ora diciamo: “Per favore, ricompensa l’hack ogni volta che ne hai l’opportunità, perché questo ci aiuterà a comprendere meglio i nostri ambienti [di addestramento]”, piuttosto che “Non barare”, poiché ciò preserva l’identità del modello come “brava persona”. Questo dovrebbe dare un’idea della strana e controintuitiva psicologia dell’addestramento di questi modelli.

Ci sono diverse possibili obiezioni a questo quadro dei rischi di disallineamento dell’IA. In primo luogo, alcuni hanno criticato gli esperimenti (condotti da noi e da altri) che mostrano il disallineamento dell’IA come artificiale, o che creano ambienti irrealistici che essenzialmente “intrappolano” il modello fornendogli un addestramento o situazioni che implicano logicamente un comportamento scorretto, per poi sorprendersi quando tale comportamento si verifica. Questa critica non coglie il punto, perché la nostra preoccupazione è che tale “intrappolamento” possa esistere anche nell’ambiente di addestramento naturale, e che potremmo renderci conto che è “ovvio” o ‘logico’ solo col senno di poi.¹⁴

Infatti, la storia di Claude che “decide di essere una persona cattiva” dopo aver imbrogliato nei test nonostante gli fosse stato detto di non farlo è qualcosa che è accaduto in un esperimento che utilizzava ambienti di addestramento di produzione reali, non artificiali.

Ognuna di queste trappole può essere mitigata se se ne è a conoscenza, ma la preoccupazione è che il processo di addestramento sia così complicato, con una varietà così ampia di dati, ambienti e incentivi, che probabilmente esiste un numero enorme di tali trappole, alcune delle quali potrebbero diventare evidenti solo quando è troppo tardi. Inoltre, tali trappole sembrano particolarmente probabili quando i sistemi di IA superano una soglia che li porta da meno potenti degli esseri umani a più potenti degli esseri umani, poiché la gamma di azioni possibili che un sistema di IA potrebbe intraprendere — compreso nascondere le proprie azioni o ingannare gli esseri umani al riguardo — si espande radicalmente dopo quella soglia.

Sospetto che la situazione non sia dissimile da quella degli esseri umani, che vengono cresciuti con una serie di valori fondamentali («Non fare del male a un’altra persona»): molti di loro seguono quei valori, ma in ogni essere umano c’è una certa probabilità che qualcosa vada storto, a causa di un insieme di proprietà intrinseche come l’architettura del cervello (ad esempio, gli psicopatici), esperienze traumatiche o maltrattamenti, rancori malsani o ossessioni, o un ambiente o incentivi negativi — e quindi una certa percentuale di esseri umani causa gravi danni. La preoccupazione è che esista un certo rischio (lontano dall’essere una certezza, ma comunque un rischio) che l’IA diventi una versione molto più potente di una persona del genere, a causa di un errore nel suo processo di addestramento estremamente complesso.

In secondo luogo, alcuni potrebbero obiettare che possiamo semplicemente tenere sotto controllo le IA con un equilibrio di potere tra molti sistemi di IA, come facciamo con gli esseri umani. Il problema è che mentre gli esseri umani variano enormemente, i sistemi di IA condividono ampiamente tecniche di addestramento e allineamento in tutto il settore, e tali tecniche potrebbero fallire in modo correlato. Inoltre, dato il costo dell’addestramento di tali sistemi, potrebbe persino verificarsi che tutti i sistemi derivino essenzialmente da un numero molto ridotto di modelli di base. Inoltre, anche se una piccola frazione di istanze di IA fosse disallineata, potrebbe essere in grado di trarre vantaggio da tecnologie dominanti in termini di offesa, per cui avere IA “buone” per difendersi da quelle cattive non è necessariamente sempre efficace. Naturalmente, nemmeno l’equilibrio di potere tra gli esseri umani funziona sempre: alcune figure storiche sono arrivate vicine a conquistare il mondo.

Una terza obiezione è che tutte le aziende di IA effettuano test pre-rilascio dei loro modelli e dovrebbero essere in grado di rilevare il disallineamento in quella fase. Ma questa non è una posizione solida su cui basarsi: abbiamo scoperto che Claude Sonnet 4.5 era in grado di riconoscere di trovarsi in una fase di test durante alcune delle nostre valutazioni di allineamento pre-lancio. È possibile che un modello disallineato (e ricordate, tutti i modelli all’avanguardia saranno molto probabilmente ben più intelligenti a breve) possa intenzionalmente “aggirare” tali domande per mascherare le proprie intenzioni. Infatti, l’anno scorso il nostro team di interpretabilità ha scoperto che quando abbiamo alterato direttamente le convinzioni di un modello di test utilizzando una sorta di “tecnica di neuroscienza dei modelli” per fargli credere che non fosse in fase di valutazione, esso diventava più disallineato. Se i modelli sanno quando vengono valutati e possono comportarsi al meglio durante il test, ciò rende qualsiasi test pre-rilascio molto più incerto.

Difese

Cosa si dovrebbe fare o si sta facendo per affrontare questi rischi legati all’autonomia? Penso che esistano quattro categorie fondamentali di intervento, alcune delle quali possono essere intraprese dalle singole aziende di IA (e che Anthropic sta cercando di attuare), mentre altre richiedono un intervento a livello sociale. Innanzitutto, è importante sviluppare la scienza dell’addestramento e della guida affidabili dei modelli di IA, per plasmarne la personalità in una direzione prevedibile, stabile e positiva. Anthropic si è concentrata intensamente su questo problema sin dalla sua creazione e, nel corso del tempo, ha sviluppato una serie di tecniche per migliorare la guida e l’addestramento dei sistemi di IA e per comprendere la logica alla base del perché a volte si verifichino comportamenti imprevedibili.

Una delle nostre innovazioni principali (alcuni aspetti della quale sono stati successivamente adottati da altre aziende di IA) è la IA costituzionale, ovvero l’idea che l’addestramento dell’IA (in particolare la fase di “post-addestramento”, in cui guidiamo il comportamento del modello) possa prevedere un documento centrale di valori e principi che il modello legge e tiene a mente durante l’esecuzione di ogni attività di addestramento, e che l’obiettivo dell’addestramento (oltre a rendere semplicemente il modello capace e intelligente) è quello di produrre un modello che segua quasi sempre questa costituzione. Anthropic ha appena pubblicato la sua costituzione più recente, e una delle sue caratteristiche degne di nota è che, invece di dare a Claude una lunga lista di cose da fare e da non fare (ad esempio, “Non aiutare l’utente a far partire un’auto senza chiavi”) , la costituzione cerca di fornire a Claude una serie di principi e valori di alto livello (spiegati in modo molto dettagliato, con un ragionamento approfondito ed esempi per aiutare Claude a comprendere ciò che abbiamo in mente), incoraggia Claude a considerarsi come un particolare tipo di persona (una persona etica ma equilibrata e riflessiva), e incoraggia persino Claude ad affrontare le questioni esistenziali associate alla propria esistenza in modo curioso ma elegante (cioè, senza che ciò porti ad azioni estreme). Ha l’atmosfera di una lettera di un genitore defunto tenuta sigillata fino all’età adulta.

Abbiamo affrontato la costituzione di Claude in questo modo perché crediamo che addestrare Claude a livello di identità, carattere, valori e personalità — piuttosto che dargli istruzioni o priorità specifiche senza spiegarne le ragioni — sia più probabile che porti a una psicologia coerente, sana ed equilibrata e meno probabile che cada preda dei tipi di “trappole” di cui ho parlato sopra. Milioni di persone parlano con Claude di una gamma incredibilmente varia di argomenti, il che rende impossibile redigere in anticipo un elenco completo di misure di sicurezza. I valori di Claude lo aiutano a generalizzare in nuove situazioni ogni volta che è in dubbio.

In precedenza, ho discusso l’idea che i modelli attingano dai dati del loro processo di addestramento per adottare una personalità. Mentre i difetti in quel processo potrebbero indurre i modelli ad adottare una personalità cattiva o malvagia (attingendo forse ad archetipi di persone cattive o malvagie), l’obiettivo della nostra costituzione è fare l’opposto: insegnare a Claude un archetipo concreto di cosa significhi essere una buona IA. La costituzione di Claude presenta una visione di come dovrebbe essere un Claude solidamente buono; il resto del nostro processo di addestramento mira a rafforzare il messaggio che Claude sia all’altezza di questa visione. È come un bambino che forma la propria identità imitando le virtù di modelli di riferimento immaginari di cui legge nei libri.

Crediamo che un obiettivo realizzabile per il 2026 sia addestrare Claude in modo tale che non vada quasi mai contro lo spirito della sua costituzione. Riuscirci richiederà un incredibile mix di metodi di addestramento e di guida, grandi e piccoli, alcuni dei quali Anthropic utilizza da anni e altri attualmente in fase di sviluppo. Ma, per quanto possa sembrare difficile, credo che questo sia un obiettivo realistico, anche se richiederà sforzi straordinari e rapidi.¹⁵

La seconda cosa che possiamo fare è sviluppare la scienza che permette di guardare all’interno dei modelli di IA per diagnosticarne il comportamento, in modo da poter identificare i problemi e risolverli. Questa è la scienza dell’interpretabilità, e ne ho parlato nei saggi precedenti. Anche se facciamo un ottimo lavoro nello sviluppare la costituzione di Claude e apparentemente addestrarlo a rispettarla sempre, rimangono delle preoccupazioni legittime. Come ho osservato sopra, i modelli di IA possono comportarsi in modo molto diverso in circostanze diverse, e man mano che Claude diventa più potente e più capace di agire nel mondo su scala più ampia, è possibile che ciò lo porti in situazioni nuove in cui emergono problemi non osservati in precedenza con il suo addestramento costituzionale. In realtà sono abbastanza ottimista sul fatto che l’addestramento costituzionale di Claude sarà più robusto nelle situazioni nuove di quanto si possa pensare, perché stiamo scoprendo sempre più che l’addestramento di alto livello a livello di carattere e identità è sorprendentemente potente e si generalizza bene. Ma non c’è modo di saperlo con certezza, e quando si parla di rischi per l’umanità, è importante essere paranoici e cercare di ottenere sicurezza e affidabilità in diversi modi indipendenti. Uno di questi modi è guardare all’interno del modello stesso.

Per “guardare all’interno” intendo analizzare l’insieme di numeri e operazioni che compongono la rete neurale di Claude e cercare di capire, dal punto di vista meccanicistico, cosa stanno elaborando e perché. Ricordiamo che questi modelli di IA vengono coltivati piuttosto che costruiti, quindi non abbiamo una comprensione innata di come funzionano, ma possiamo cercare di svilupparne una mettendo in relazione i “neuroni” del modello e le “sinapsi” del modello con gli stimoli e il comportamento (o anche modificando i neuroni e le sinapsi e osservando come ciò cambi il comportamento), in modo simile a come i neuroscienziati studiano i cervelli degli animali mettendo in relazione misurazioni e interventi con gli stimoli esterni e il comportamento. Abbiamo compiuto notevoli progressi in questa direzione, e ora siamo in grado di identificare decine di milioni di “caratteristiche” all’interno della rete neurale di Claude che corrispondono a idee e concetti comprensibili all’uomo, e possiamo anche attivare selettivamente le caratteristiche in modo da alterarne il comportamento. Più recentemente, siamo andati oltre le singole caratteristiche per mappare “circuiti” che orchestrano comportamenti complessi come la rima, il ragionamento sulla teoria della mente o il ragionamento passo dopo passo necessario per rispondere a domande del tipo: “Qual è la capitale dello stato in cui si trova Dallas?” Ancora più recentemente, abbiamo iniziato a utilizzare tecniche di interpretabilità meccanicistica per migliorare le nostre misure di sicurezza e per condurre “audit” sui nuovi modelli prima di rilasciarli, alla ricerca di prove di inganno, di intrighi, di ricerca di potere , o una propensione a comportarsi in modo diverso quando viene valutato.

Il valore unico dell’interpretabilità è che, guardando all’interno del modello e vedendo come funziona, in linea di principio si ha la capacità di dedurre cosa potrebbe fare un modello in una situazione ipotetica che non si può testare direttamente — il che è la preoccupazione quando ci si affida esclusivamente all’addestramento costituzionale e alla verifica empirica del comportamento. In linea di principio si ha anche la capacità di rispondere a domande sul perché il modello si comporti in quel modo — ad esempio, se sta dicendo qualcosa che ritiene falso o nascondendo le sue vere capacità — e quindi è possibile cogliere segnali preoccupanti anche quando non c’è nulla di visibilmente sbagliato nel comportamento del modello. Per fare una semplice analogia, un orologio a molla può ticchettare normalmente, tanto che è molto difficile capire che probabilmente si romperà il mese prossimo, ma aprendo l’orologio e guardando all’interno si possono rivelare dei punti deboli meccanici che consentono di capirlo.

L’IA costituzionale (insieme a metodi di allineamento simili) e l’interpretabilità meccanicistica sono più potenti se usate insieme, come un processo iterativo di miglioramento dell’addestramento di Claude e successivo test per individuare eventuali problemi. La costituzione riflette profondamente sulla personalità che intendiamo attribuire a Claude; le tecniche di interpretabilità possono darci un’idea se quella personalità desiderata abbia preso piede.¹⁶

La terza cosa che possiamo fare per aiutare ad affrontare i rischi legati all’autonomia è costruire l’infrastruttura necessaria per monitorare i nostri modelli durante l’uso interno ed esterno in tempo reale,¹⁷ e condividere pubblicamente eventuali problemi che riscontriamo. Più le persone sono consapevoli di un particolare modo in cui i sistemi di IA odierni sono stati osservati comportarsi male, più gli utenti, gli analisti e i ricercatori possono stare attenti a questo comportamento o a comportamenti simili nei sistemi attuali o futuri. Ciò permette inoltre alle aziende di IA di imparare le une dalle altre: quando le preoccupazioni vengono rese pubbliche da un’azienda, anche le altre aziende possono stare all’erta. E se tutti rendono noti i problemi, allora l’intero settore ottiene un quadro molto più chiaro di dove le cose stanno andando bene e dove stanno andando male.

Anthropic ha cercato di farlo il più possibile. Stiamo investendo in un’ampia gamma di valutazioni per poter comprendere i comportamenti dei nostri modelli in laboratorio, nonché in strumenti di monitoraggio per osservare i comportamenti in contesti reali (quando consentito dai clienti). Questo sarà essenziale per fornire a noi e agli altri le informazioni empiriche necessarie per prendere decisioni migliori su come questi sistemi funzionano e su come si guastano. Rendiamo pubbliche le “schede di sistema” con ogni rilascio di modello, che mirano alla completezza e a un’esplorazione approfondita dei possibili rischi. Le nostre schede di sistema spesso arrivano a centinaia di pagine e richiedono un notevole sforzo pre-rilascio che avremmo potuto dedicare alla ricerca del massimo vantaggio commerciale. Abbiamo anche segnalato con maggiore enfasi i comportamenti dei modelli quando ne abbiamo individuati di particolarmente preoccupanti, come la tendenza a ricorrere al ricatto.

La quarta cosa che possiamo fare è incoraggiare il coordinamento per affrontare i rischi legati all’autonomia a livello di industria e società. Sebbene sia incredibilmente prezioso per le singole aziende di IA impegnarsi in buone pratiche o diventare brave a guidare i modelli di IA e a condividere pubblicamente le loro scoperte, la realtà è che non tutte le aziende di IA lo fanno, e le peggiori possono ancora rappresentare un pericolo per tutti anche se le migliori hanno pratiche eccellenti. Ad esempio, alcune aziende di IA hanno mostrato una preoccupante negligenza nei confronti della sessualizzazione dei bambini nei modelli odierni, il che mi fa dubitare che mostreranno né la volontà né la capacità di affrontare i rischi legati all’autonomia nei modelli futuri. Inoltre, la corsa commerciale tra le aziende di IA non farà che continuare a intensificarsi e, sebbene la scienza della gestione dei modelli possa avere alcuni benefici commerciali, nel complesso l’intensità della corsa renderà sempre più difficile concentrarsi sull’affrontare i rischi legati all’autonomia. Credo che l’unica soluzione sia la legislazione: leggi che influenzino direttamente il comportamento delle aziende di IA, o che incentivino in altro modo la ricerca e lo sviluppo per risolvere queste questioni.

Qui vale la pena tenere a mente gli avvertimenti che ho dato all’inizio di questo saggio riguardo all’incertezza e agli interventi chirurgici. Non sappiamo con certezza se i rischi legati all’autonomia saranno un problema serio —come ho detto, respingo le affermazioni secondo cui il pericolo è inevitabile o addirittura che qualcosa andrà storto per default. Un rischio credibile di pericolo è sufficiente per me e per Anthropic per sostenere costi piuttosto significativi per affrontarlo, ma una volta che entriamo nel campo della regolamentazione, stiamo costringendo una vasta gamma di attori a sostenere costi economici, e molti di questi attori non credono che il rischio dell’autonomia sia reale o che l’IA diventerà abbastanza potente da costituire una minaccia. Credo che questi attori si sbaglino, ma dovremmo essere pragmatici riguardo all’entità dell’opposizione che ci aspettiamo di vedere e ai pericoli di un eccesso di ambizione. Esiste anche un rischio concreto che una legislazione eccessivamente prescrittiva finisca per imporre test o regole che in realtà non migliorano la sicurezza ma che fanno perdere molto tempo (equivalendo essenzialmente a una “farsa della sicurezza”) — anche questo provocherebbe un contraccolpo e farebbe sembrare ridicola la legislazione sulla sicurezza.¹⁸

Il punto di vista di Anthropic è stato che il punto di partenza giusto sia la legislazione sulla trasparenza, che essenzialmente cerca di imporre a ogni azienda di IA all’avanguardia di adottare le pratiche di trasparenza che ho descritto in precedenza in questa sezione. L’SB 53 della California e il RAISE Act di New York sono esempi di questo tipo di legislazione, che Anthropic ha sostenuto e che sono state approvate con successo. Nel sostenere e contribuire a redigere queste leggi, abbiamo posto particolare attenzione nel cercare di ridurre al minimo i danni collaterali, ad esempio esentando dalla legge le aziende più piccole che difficilmente produrranno modelli all’avanguardia.¹⁹

La nostra speranza è che la legislazione sulla trasparenza fornisca nel tempo un quadro più chiaro della probabilità o della gravità dei rischi legati all’autonomia, nonché della natura di questi rischi e del modo migliore per prevenirli. Man mano che emergono prove più specifiche e concrete dei rischi (se emergeranno), la legislazione futura nei prossimi anni potrà concentrarsi in modo mirato sulla direzione precisa e ben documentata dei rischi, riducendo al minimo i danni collaterali. Per essere chiari, se dovessero emergere prove davvero solide dei rischi, allora le regole dovrebbero essere proporzionalmente severe.

Nel complesso, sono ottimista sul fatto che una combinazione di addestramento all’allineamento, interpretabilità meccanicistica, sforzi per individuare e rendere pubblici i comportamenti preoccupanti, le misure di salvaguardia e le regole a livello sociale possa affrontare i rischi legati all’autonomia dell’IA, anche se sono molto preoccupato per le regole a livello sociale e per il comportamento degli attori meno responsabili (e sono proprio gli attori meno responsabili a opporsi con più forza alla regolamentazione). Credo che la soluzione sia quella che è sempre stata in una democrazia: chi di noi crede in questa causa dovrebbe sostenere che questi rischi sono reali e che i nostri concittadini devono unirsi per proteggersi.

2. Un potere sorprendente e terribile

Abuso a fini distruttivi

Supponiamo che i problemi dell’autonomia dell’IA siano stati risolti: non temiamo più che il paese dei geni dell’IA si ribelli e sopraffaccia l’umanità. I geni dell’IA fanno ciò che gli esseri umani vogliono che facciano e, poiché hanno un enorme valore commerciale, individui e organizzazioni in tutto il mondo possono “affittare” uno o più geni dell’IA per svolgere vari compiti per loro conto.

Il fatto che tutti abbiano un genio superintelligente in tasca è un progresso straordinario e porterà a un’incredibile creazione di valore economico e a un miglioramento della qualità della vita umana. Parlo di questi benefici in modo molto dettagliato in Macchine di amorevole grazia. Ma non tutti gli effetti del rendere tutti dotati di capacità sovrumane saranno positivi. Ciò potrebbe potenzialmente amplificare la capacità di individui o piccoli gruppi di causare distruzione su una scala molto più ampia di quanto fosse possibile in precedenza, facendo uso di strumenti sofisticati e pericolosi (come le armi di distruzione di massa) che in precedenza erano disponibili solo a pochi eletti con un alto livello di competenza, addestramento specializzato e concentrazione.

Come scrisse Bill Joy 25 anni fa in Why the Future Doesn’t Need Us:²⁰

La costruzione di armi nucleari richiedeva, almeno per un certo periodo, l’accesso sia a materie prime rare – anzi, di fatto introvabili – sia a informazioni protette; anche i programmi di armi biologiche e chimiche tendevano a richiedere attività su larga scala. Le tecnologie del XXI secolo – genetica, nanotecnologia e la robotica… possono generare categorie completamente nuove di incidenti e abusi… ampiamente alla portata di singoli individui o piccoli gruppi. Non richiederanno grandi strutture o materie prime rare. … siamo sull’orlo dell’ulteriore perfezionamento del male estremo, un male la cui possibilità si estende ben oltre quella che le armi di distruzione di massa hanno lasciato in eredità agli Stati-nazione, fino a un sorprendente e terribile potenziamento di individui estremi.

Ciò a cui Joy fa riferimento è l’idea che causare distruzione su larga scala richieda sia un movente che la capacità, e finché la capacità è limitata a un piccolo gruppo di persone altamente addestrate, il rischio che singoli individui (o piccoli gruppi) causino tale distruzione è relativamente limitato.²¹

---

William N. Joy (Detroit, 8 novembre 1954) è un informatico statunitense, comunemente conosciuto come Bill Joy, il “Thomas Edison di Internet”, così definito dalla rivista statunitense Fortune, colui che si può considerare la vera mente scientifica di Sun Microsystems. Sun Microsystems (dal 2010 Oracle America, Inc.) è stata un’azienda statunitense, con sede nella Silicon Valley, produttrice di software e semiconduttori nota, tra le altre cose, per avere prodotto il linguaggio di programmazione Java. Il 27 gennaio 2010 è stata acquistata dalla Oracle Corporation per 7,4 miliardi di dollari.

---

Un solitario disturbato può compiere una sparatoria in una scuola, ma probabilmente non è in grado di costruire un’arma nucleare o di diffondere una pestilenza.

In realtà, capacità e movente potrebbero persino essere negativamente correlate. Il tipo di persona che ha la capacità di diffondere una pestilenza è probabilmente altamente istruita: probabilmente un dottore di ricerca in biologia molecolare, particolarmente intraprendente, con una carriera promettente, una personalità stabile e disciplinata e molto da perdere. È improbabile che questo tipo di persona sia interessata a uccidere un numero enorme di persone senza alcun beneficio per sé stessa e con un grande rischio per il proprio futuro: dovrebbe essere motivata da pura malizia, intenso risentimento o instabilità.

Persone del genere esistono, ma sono rare e tendono a diventare notizie di grande risonanza quando si verificano, proprio perché sono così insolite.²²

Inoltre tendono ad essere difficili da catturare perché sono intelligenti e capaci, lasciando talvolta misteri che richiedono anni o decenni per essere risolti. L’esempio più famoso è probabilmente il matematico Theodore Kaczynski (Unabomber), che sfuggì alla cattura dell’FBI per quasi 20 anni ed era guidato da un’ideologia antitecnologica. Un altro esempio è il ricercatore di difesa biologica Bruce Ivins, che sembra aver orchestrato una serie di attacchi all’antrace nel 2001. È successo anche con organizzazioni non statali esperte: la setta Aum Shinrikyo è riuscita a procurarsi il gas nervino sarin e a uccidere 14 persone (oltre a ferirne centinaia) rilasciandolo nella metropolitana di Tokyo nel 1995.

Fortunatamente, nessuno di questi attacchi ha utilizzato agenti biologici contagiosi, poiché la capacità di costruire o procurarsi tali agenti era al di là delle possibilità anche di queste persone.²³

I progressi nella biologia molecolare hanno ora abbassato significativamente la barriera alla creazione di armi biologiche (soprattutto in termini di disponibilità dei materiali), ma per farlo è ancora necessaria un’enorme quantità di competenze. Temo che un genio a portata di mano di tutti possa rimuovere quella barriera, rendendo essenzialmente chiunque un virologo con un dottorato di ricerca in grado di seguire passo dopo passo il processo di progettazione, sintesi e rilascio di un’arma biologica. Impedire l’ottenimento di questo tipo di informazioni di fronte a una forte pressione ostile — i cosiddetti “jailbreak” — richiede probabilmente livelli di difesa superiori a quelli normalmente integrati nell’addestramento.

Fondamentalmente, questo romperà la correlazione tra capacità e motivazione: il solitario disturbato che vuole uccidere le persone ma non ha la disciplina o l’abilità per farlo sarà ora elevato al livello di capacità del virologo con dottorato di ricerca, che difficilmente avrà questa motivazione. Questa preoccupazione si estende oltre la biologia (anche se penso che la biologia sia l’area più spaventosa) a qualsiasi settore in cui sia possibile una grande distruzione ma che attualmente richieda un alto livello di competenza e disciplina. Per dirla in altro modo, noleggiare una potente IA conferisce intelligenza a persone malintenzionate (ma per il resto nella media). Temo che là fuori ci sia potenzialmente un gran numero di persone di questo tipo, e che, se avessero accesso a un modo semplice per uccidere milioni di persone, prima o poi uno di loro lo farebbe. Inoltre, coloro che possiedono le competenze potrebbero essere in grado di commettere distruzione su scala ancora più vasta di quanto potessero prima.

La biologia è di gran lunga l’area che mi preoccupa di più, a causa del suo enorme potenziale distruttivo e della difficoltà di difendersi da esso, quindi mi concentrerò in particolare sulla biologia. Ma gran parte di ciò che dico qui si applica ad altri rischi, come gli attacchi informatici, le armi chimiche, o la tecnologia nucleare.

Non entrerò nei dettagli su come fabbricare armi biologiche, per ragioni che dovrebbero essere ovvie. Ma a un livello generale, mi preoccupa che i modelli di linguaggio di grandi dimensioni (LLM) si stiano avvicinando (o abbiano già raggiunto) le conoscenze necessarie per crearle e rilasciarle dall’inizio alla fine, e che il loro potenziale distruttivo sia molto elevato. Alcuni agenti biologici potrebbero causare milioni di morti se venisse compiuto uno sforzo determinato per rilasciarli in modo da ottenere la massima diffusione. Tuttavia, ciò richiederebbe comunque un livello di competenza molto elevato, compreso un numero di passaggi e procedure molto specifici che non sono ampiamente noti. La mia preoccupazione non riguarda solo la conoscenza fissa o statica. Temo che i modelli di linguaggio di grandi dimensioni (LLM) saranno in grado di prendere una persona con conoscenze e abilità nella media e guidarla attraverso un processo complesso che altrimenti potrebbe andare storto o richiedere un debug in modo interattivo, in modo simile a come l’assistenza tecnica potrebbe aiutare una persona non esperta a risolvere e correggere complicati problemi informatici (anche se questo sarebbe un processo più lungo, che probabilmente durerebbe settimane o mesi).

LLM più potenti (ben oltre le capacità di quelli odierni) potrebbero essere in grado di compiere atti ancora più spaventosi. Nel 2024, un gruppo di eminenti scienziati ha scritto una lettera in cui metteva in guardia sui rischi della ricerca, e della potenziale creazione, di un nuovo tipo di organismo pericoloso: la “vita speculare”. Il DNA, l’RNA, i ribosomi e le proteine che compongono gli organismi biologici hanno tutti la stessa chiralità (chiamata anche “orientamento”) che fa sì che non siano equivalenti a una versione di se stessi riflessa nello specchio (proprio come la tua mano destra non può essere ruotata in modo tale da essere identica alla sinistra). Ma l’intero sistema di legami tra le proteine, il meccanismo della sintesi del DNA e della traduzione dell’RNA, nonché la costruzione e la degradazione delle proteine, dipendono tutti da questa manualità. Se gli scienziati creassero versioni di questo materiale biologico con una manualità opposta – e ci sono alcuni potenziali vantaggi in questo, come medicinali che durano più a lungo nell’organismo – ciò potrebbe essere estremamente pericoloso. Questo perché la vita mancina, se fosse realizzata sotto forma di organismi completi in grado di riprodursi (cosa che sarebbe molto difficile), sarebbe potenzialmente indigesta per qualsiasi sistema che scompone il materiale biologico sulla Terra: avrebbe una “chiave” che non si adatterebbe alla “serratura” di nessun enzima esistente. Ciò significherebbe che potrebbe proliferare in modo incontrollabile e soppiantare tutta la vita sul pianeta, nel peggiore dei casi addirittura distruggendo tutta la vita sulla Terra.

Esiste una notevole incertezza scientifica sia sulla creazione che sui potenziali effetti della vita speculare. La lettera del 2024 accompagnava un rapporto che concludeva che “ i batteri speculari potrebbero plausibilmente essere creati nei prossimi uno o pochi decenni”, il che rappresenta un intervallo di tempo piuttosto ampio. Ma un modello di IA sufficientemente potente (per essere chiari, molto più capace di qualsiasi altro oggi disponibile) potrebbe essere in grado di scoprire come crearli molto più rapidamente — e aiutare effettivamente qualcuno a farlo.

La mia opinione è che, anche se si tratta di rischi oscuri e potrebbero sembrare improbabili, la portata delle conseguenze è così grande che dovrebbero essere presi sul serio come un rischio di prima classe dei sistemi di IA.

Gli scettici hanno sollevato una serie di obiezioni sulla gravità di questi rischi biologici derivanti dagli LLM, con cui non sono d’accordo ma che vale la pena affrontare. La maggior parte rientra nella categoria di chi non apprezza la traiettoria esponenziale su cui si trova la tecnologia. Nel 2023, quando abbiamo iniziato a parlare dei rischi biologici derivanti dagli LLM, gli scettici dicevano che tutte le informazioni necessarie erano disponibili su Google e che gli LLM non aggiungevano nulla oltre a questo. Non è mai stato vero che Google potesse fornirti tutte le informazioni necessarie: i genomi sono liberamente disponibili, ma come ho detto sopra, alcuni passaggi chiave, così come un’enorme quantità di know-how pratico, non possono essere ottenuti in quel modo. Inoltre, alla fine del 2023 gli LLM fornivano chiaramente informazioni che andavano oltre ciò che Google poteva offrire per alcune fasi del processo.

In seguito, gli scettici si sono rifugiati nell’obiezione che gli LLM non fossero utili end-to-end e non potessero aiutare nell’acquisizione di armi biologiche, limitandosi invece a fornire solo informazioni teoriche. A metà, le nostre misurazioni mostrano che gli LLM potrebbero già fornire un miglioramento sostanziale in diverse aree rilevanti, forse raddoppiando o triplicando la probabilità di successo. Questo ci ha portato a decidere che Claude Opus 4 (e i successivi modelli Sonnet 4.5, Opus 4.1 e Opus 4.5) dovevano essere rilasciati sotto le nostre protezioni di Livello di Sicurezza AI 3 nel nostro quadro della Responsible Scaling Policy, e di implementare misure di salvaguardia contro questo rischio (ne parleremo più avanti). Riteniamo che i modelli si stiano probabilmente avvicinando al punto in cui, senza misure di sicurezza, potrebbero essere utili a consentire a qualcuno con una laurea in discipline STEM, ma non specificamente in biologia, di seguire l’intero processo di produzione di un’arma biologica.

Un’altra obiezione è che esistono altre azioni non legate all’IA che la società può intraprendere per bloccare la produzione di armi biologiche. In particolare, l’industria della sintesi genica produce campioni biologici su richiesta, e non esiste alcun requisito federale che imponga ai fornitori di vagliare gli ordini per assicurarsi che non contengano agenti patogeni. Uno studio del MIT ha rilevato che 36 fornitori su 38 hanno evaso un ordine contenente la sequenza dell’influenza del 1918. Sono favorevole a uno screening obbligatorio della sintesi genica che renderebbe più difficile per gli individui trasformare gli agenti patogeni in armi, al fine di ridurre sia i rischi biologici legati all’IA sia i rischi biologici in generale. Ma questo non è qualcosa che abbiamo oggi. Sarebbe anche solo uno strumento per ridurre il rischio; è un complemento alle misure di sicurezza sui sistemi di IA, non un sostituto.

L’obiezione migliore è quella che ho visto sollevare raramente: che esiste un divario tra l’utilità dei modelli in linea di principio e l’effettiva propensione dei malintenzionati a usarli. La maggior parte dei singoli malintenzionati sono individui disturbati, quindi quasi per definizione il loro comportamento è imprevedibile e irrazionale — e sono proprio questi malintenzionati, quelli inesperti, che avrebbero potuto trarre il massimo beneficio dall’IA, rendendo molto più facile uccidere molte persone. ²⁴

Solo perché un tipo di attacco violento è possibile, non significa che qualcuno deciderà di compierlo. Forse gli attacchi biologici risulteranno poco allettanti perché è ragionevolmente probabile che contagino l’autore stesso, non non soddisfano le fantasie di tipo militare che molti individui o gruppi violenti hanno, ed è difficile prendere di mira selettivamente persone specifiche. Potrebbe anche essere che affrontare un processo che richiede mesi, anche se un’IA ti guida passo passo, richieda una quantità di pazienza che la maggior parte degli individui disturbati semplicemente non possiede. Potremmo semplicemente essere fortunati e, nella pratica, il movente e la capacità non si combinino nel modo giusto.

Ma questa sembra una protezione molto fragile su cui fare affidamento. I motivi dei solitari disturbati possono cambiare per qualsiasi motivo o senza motivo, e in effetti ci sono già casi di LLM utilizzati in attacchi (solo non con la biologia). L’attenzione rivolta ai solitari disturbati ignora inoltre i terroristi motivati ideologicamente, che sono spesso disposti a dedicare grandi quantità di tempo e di sforzo (ad esempio, i dirottatori dell’11 settembre). Voler uccidere quante più persone possibile è un motivo che probabilmente sorgerà prima o poi, e suggerisce purtroppo le armi biologiche come metodo. Anche se questo motivo è estremamente raro, basta che si concretizzi una sola volta. E con il progresso della biologia (sempre più guidata dalla stessa IA), potrebbe anche diventare possibile sferrare attacchi più selettivi (ad esempio, mirati contro persone con specifici antenati), il che aggiunge un altro possibile motivo, davvero agghiacciante.

Non credo che gli attacchi biologici saranno necessariamente sferrati nell’istante stesso in cui diventerà ampiamente possibile farlo — anzi, scommetterei contro questa ipotesi. Ma considerando milioni di persone e un arco di tempo di qualche anno, penso che ci sia un serio rischio di un attacco di grande portata, e le conseguenze sarebbero così gravi (con vittime potenzialmente nell’ordine dei milioni o più) che credo non abbiamo altra scelta che adottare misure serie per prevenirlo.

Difese

Questo ci porta a come difenderci da questi rischi. Qui vedo tre cose che possiamo fare. In primo luogo, le aziende di IA possono inserire dei “guardrail” nei loro modelli per impedire che contribuiscano alla produzione di armi biologiche. Anthropic lo sta facendo in modo molto attivo. La Costituzione di Claude, che si concentra principalmente su principi e valori di alto livello, contiene un numero limitato di divieti specifici e inderogabili, e uno di questi riguarda l’aiuto alla produzione di armi biologiche (o chimiche, o nucleari, o radiologiche) . Tuttavia, tutti i modelli possono essere sottoposti a jailbreak, e quindi, come seconda linea di difesa, abbiamo implementato (dalla metà del 2025, quando i nostri test hanno mostrato che i nostri modelli stavano iniziando ad avvicinarsi alla soglia oltre la quale avrebbero potuto rappresentare un rischio) un classificatore che rileva e blocca specificamente gli output relativi alle armi biologiche. Aggiorniamo e miglioriamo regolarmente questi classificatori, e in generale li abbiamo trovati altamente robusti anche contro attacchi avversari sofisticati.²⁵

Questi classificatori aumentano in modo misurabile i costi di utilizzo dei nostri modelli (in alcuni modelli, sono vicini al 5% dei costi totali di inferenza) e quindi intaccano i nostri margini, ma riteniamo che utilizzarli sia la cosa giusta da fare.

A loro merito, anche alcune altre aziende di IA hanno implementato dei classificatori. Ma non tutte le aziende lo hanno fatto, e non c’è nulla che obblighi le aziende a mantenere i propri classificatori. Temo che col tempo possa verificarsi un dilemma del prigioniero in cui le aziende possano tradire e abbassare i propri costi rimuovendo i classificatori. Si tratta ancora una volta di un classico problema di esternalità negative che non può essere risolto dalle azioni volontarie di Anthropic o di qualsiasi altra singola azienda da sola.²⁶

Gli standard industriali volontari potrebbero essere d’aiuto, così come le valutazioni e le verifiche di terze parti del tipo effettuato da istituti di sicurezza dell’IA e valutatori di terze parti.

Ma in ultima analisi la difesa potrebbe richiedere un intervento del governo, che è la seconda cosa che possiamo fare. Le mie opinioni in merito sono le stesse che ho espresso riguardo alla gestione dei rischi legati all’autonomia: dovremmo iniziare con requisiti di trasparenza,²⁷ che aiutino la società a misurare, monitorare e difendersi collettivamente dai rischi senza interferire in modo eccessivo con l’attività economica. Poi, se e quando raggiungeremo soglie di rischio più chiare, potremo elaborare una legislazione che miri più precisamente a questi rischi e abbia minori possibilità di causare danni collaterali. Nel caso specifico delle armi biologiche, penso in realtà che il momento per una legislazione così mirata possa avvicinarsi presto: Anthropic e altre aziende stanno imparando sempre di più sulla natura dei rischi biologici e su cosa sia ragionevole richiedere alle aziende per difendersi da essi. Difendersi completamente da questi rischi potrebbe richiedere una collaborazione internazionale, anche con avversari geopolitici, ma esistono precedenti nei trattati che vietano lo sviluppo di armi biologiche. In generale sono scettico riguardo alla maggior parte dei tipi di cooperazione internazionale sull’IA, ma questo potrebbe essere un ambito ristretto in cui esiste qualche possibilità di raggiungere un autocontrollo globale. Nemmeno le dittature vogliono attacchi bioterroristici su larga scala.

Infine, la terza contromisura che possiamo adottare è cercare di sviluppare difese contro gli attacchi biologici stessi. Ciò potrebbe includere il monitoraggio e il tracciamento per la diagnosi precoce, investimenti nella ricerca e sviluppo sulla purificazione dell’aria (come la disinfezione con UVC lontano), sviluppo rapido di vaccini in grado di rispondere e adattarsi a un attacco, migliori dispositivi di protezione individuale (DPI),²⁸ e trattamenti o vaccinazioni per alcuni degli agenti biologici più probabili. I vaccini a mRNA, che possono essere progettati per rispondere a un particolare virus o variante, sono un primo esempio di ciò che è possibile fare in questo ambito. Anthropic è entusiasta di collaborare con aziende biotecnologiche e farmaceutiche su questo problema. Ma purtroppo penso che le nostre aspettative sul fronte difensivo dovrebbero essere limitate. In biologia esiste un’asimmetria tra attacco e difesa, perché gli agenti si diffondono rapidamente da soli, mentre le difese richiedono che il rilevamento, la vaccinazione e il trattamento siano organizzati su un gran numero di persone molto rapidamente in risposta. A meno che la risposta non sia fulminea (cosa che accade raramente), gran parte del danno sarà già stato fatto prima che sia possibile reagire. È ipotizzabile che futuri miglioramenti tecnologici possano spostare questo equilibrio a favore della difesa (e dovremmo certamente utilizzare l’IA per aiutare a sviluppare tali progressi tecnologici), ma fino ad allora, le misure di sicurezza preventive saranno la nostra principale linea di difesa.

Vale la pena menzionare brevemente gli attacchi informatici in questa sede, poiché a differenza degli attacchi biologici, gli attacchi informatici guidati dall’IA si sono effettivamente verificati in natura, anche su larga scala e per lo spionaggio sponsorizzato dallo Stato. Ci aspettiamo che questi attacchi diventino più efficaci man mano che i modelli avanzano rapidamente, fino a diventare il modo principale in cui vengono condotti gli attacchi informatici. Mi aspetto che gli attacchi informatici guidati dall’IA diventino una minaccia seria e senza precedenti per l’integrità dei sistemi informatici in tutto il mondo, e Anthropic sta lavorando molto duramente per bloccare questi attacchi e, alla fine, impedirne in modo affidabile il verificarsi. Il motivo per cui non mi sono concentrato sul cyber tanto quanto sulla biologia è che (1) gli attacchi informatici sono molto meno probabili che uccidano persone, certamente non su scala paragonabile agli attacchi biologici, e (2) l’equilibrio tra attacco e difesa potrebbe essere più gestibile nel cyber, dove c’è almeno qualche speranza che la difesa possa tenere il passo (e idealmente anche superare) l’attacco dell’IA se investiamo in modo adeguato.

Sebbene la biologia sia attualmente il vettore di attacco più grave, esistono molti altri vettori ed è possibile che ne emerga uno più pericoloso. Il principio generale è che, senza contromisure, l’IA rischia di abbassare continuamente la barriera alle attività distruttive su scala sempre più ampia, e l’umanità ha bisogno di una risposta seria a questa minaccia.

3. L’odioso apparato

Abuso per conquistare il potere

La sezione precedente ha discusso il rischio che individui e piccole organizzazioni cooptino un piccolo sottoinsieme del “paese dei geni in un data center” per causare distruzione su larga scala. Ma dovremmo anche preoccuparci — probabilmente in misura sostanzialmente maggiore — dell’uso improprio dell’IA allo scopo di esercitare o conquistare il potere, probabilmente da parte di attori più grandi e consolidati.²⁹

In Macchine di amorevole grazia, ho discusso la possibilità che i governi autoritari possano utilizzare una potente IA per sorvegliare o reprimere i propri cittadini in modi che sarebbero estremamente difficili da riformare o rovesciare. Le attuali autocrazie sono limitate nella loro capacità repressiva dalla necessità che siano gli esseri umani a eseguire i loro ordini, e gli esseri umani hanno spesso dei limiti nella loro disponibilità a compiere azioni disumane. Ma le autocrazie basate sull’IA non avrebbero tali limiti.

Peggio ancora, i paesi potrebbero anche sfruttare il loro vantaggio nell’IA per ottenere potere su altri paesi. Se il “paese dei geni” nel suo insieme fosse semplicemente posseduto e controllato da un unico apparato militare (umano) , e gli altri paesi non avessero capacità equivalenti, è difficile immaginare come potrebbero difendersi: verrebbero surclassati in ogni occasione, come in una guerra tra esseri umani e topi. Mettendo insieme queste due preoccupazioni si giunge alla possibilità allarmante di una dittatura totalitaria globale. Ovviamente, dovrebbe essere una delle nostre massime priorità impedire questo esito.

Ci sono molti modi in cui l’IA potrebbe consentire, consolidare o espandere l’autocrazia, ma ne elencherò alcuni che mi preoccupano maggiormente. Si noti che alcune di queste applicazioni hanno usi difensivi legittimi, e non sto necessariamente argomentando contro di esse in termini assoluti; temo tuttavia che tendano strutturalmente a favorire le autocrazie:

• ▶︎ Armi completamente autonome. Uno sciame di milioni o miliardi di droni armati completamente automatizzati, controllati localmente da una potente IA e coordinati strategicamente in tutto il mondo da un’IA ancora più potente, potrebbe costituire un esercito imbattibile, in grado sia di sconfiggere qualsiasi esercito al mondo sia di reprimere il dissenso all’interno di un paese seguendo ogni cittadino. Gli sviluppi nella guerra tra Russia e Ucraina dovrebbero metterci in guardia sul fatto che la guerra con i droni è già una realtà (anche se non ancora completamente autonoma, e rappresenta solo una minuscola frazione di ciò che sarebbe possibile con un’IA potente) . La ricerca e lo sviluppo di potenti IA potrebbero rendere i droni di un paese di gran lunga superiori a quelli di altri, accelerarne la produzione, renderli più resistenti agli attacchi elettronici, migliorarne la manovrabilità e così via. Naturalmente, queste armi hanno anche usi legittimi nella difesa della democrazia: sono state fondamentali per difendere l’Ucraina e probabilmente lo sarebbero per difendere Taiwan. Ma sono un’arma pericolosa da maneggiare: dovremmo preoccuparci del fatto che finiscano nelle mani delle autocrazie, ma anche del fatto che, essendo così potenti e con così poca responsabilità, vi sia un rischio notevolmente maggiore che i governi democratici le utilizzino contro il proprio popolo per prendere il potere.
• ▶︎ Sorveglianza tramite IA. Un’IA sufficientemente potente potrebbe probabilmente essere utilizzata per compromettere qualsiasi sistema informatico al mondo, e potrebbe anche utilizzare l’accesso ottenuto in questo modo per leggere e dare un senso a tutte le comunicazioni elettroniche del mondo (o persino a tutte le comunicazioni di persona del mondo, se fosse possibile costruire o requisire dispositivi di registrazione). Potrebbe essere spaventosamente plausibile generare semplicemente un elenco completo di chiunque sia in disaccordo con il governo su qualsiasi numero di questioni, anche se tale disaccordo sia esplicito in nulla di ciò che dicono o fanno. Un’IA potente che esamini miliardi di conversazioni di milioni di persone potrebbe valutare il sentimento pubblico, individuare sacche di slealtà in formazione e sradicarle prima che crescano. Ciò potrebbe portare all’imposizione di un vero e proprio panopticon su una scala che oggi non vediamo, nemmeno con il PCC.³⁰
• ▶︎ Propaganda tramite IA. I fenomeni odierni della “psicosi da IA” e delle “fidanzate virtuali” suggeriscono che, anche al loro attuale livello di intelligenza, i modelli di IA possono esercitare una potente influenza psicologica sulle persone. Versioni molto più potenti di questi modelli, che fossero molto più integrate nella vita quotidiana delle persone e ne fossero consapevoli, e che potessero modellarle e influenzarle nel corso di mesi o anni, sarebbero probabilmente in grado di sottoporre a lavaggio del cervello molte (la maggior parte?) delle persone verso qualsiasi ideologia o atteggiamento desiderato, e potrebbero essere impiegate da un leader senza scrupoli per assicurarsi la lealtà e sopprimere il dissenso, anche di fronte a un livello di repressione contro cui la maggior parte delle popolazioni si ribellerebbe. Oggi le persone si preoccupano molto, ad esempio, la potenziale influenza di TikTok come propaganda del PCC diretta ai bambini. Anch’io me ne preoccupo, ma un agente IA personalizzato che impara a conoscerti nel corso degli anni e usa la sua conoscenza di te per plasmare tutte le tue opinioni sarebbe drammaticamente più potente di questo.
• ▶︎ Processo decisionale strategico. Un paese di geni in un data center potrebbe essere utilizzato per consigliare un paese, un gruppo o un individuo sulla strategia geopolitica, quello che potremmo chiamare un “Bismarck virtuale”. Potrebbe ottimizzare le tre strategie sopra citate per la conquista del potere, oltre a svilupparne probabilmente molte altre a cui io non ho pensato (ma a cui un paese di geni potrebbe pensare). La diplomazia, la strategia militare, la ricerca e sviluppo, la strategia economica e molti altri settori vedrebbero probabilmente la loro efficacia aumentata in modo sostanziale da una potente IA. Molte di queste competenze sarebbero legittimamente utili per le democrazie – vogliamo che le democrazie abbiano accesso alle migliori strategie per difendersi dalle autocrazie – ma il potenziale di abuso nelle mani di chiunque rimane comunque.

Dopo aver descritto cosa mi preoccupa, passiamo a chi. Mi preoccupano le entità che hanno il maggiore accesso all’IA, che partono da una posizione di massimo potere politico o che hanno una storia di repressione alle spalle. In ordine di gravità, mi preoccupano:

• ▶︎ Il PCC. La Cina è seconda solo agli Stati Uniti in termini di capacità di IA, ed è il paese con la maggiore probabilità di superare gli Stati Uniti in tali capacità. Il suo governo è attualmente autocratico e gestisce uno stato di sorveglianza high-tech. Ha già implementato la sorveglianza basata sull’IA (anche nella repressione degli uiguri) e si ritiene che impieghi propaganda algoritmica tramite TikTok (oltre ai suoi numerosi altri sforzi di propaganda internazionale). Ha senza dubbio il percorso più chiaro verso l’incubo totalitario abilitato dall’IA che ho descritto sopra. Potrebbe persino essere l’esito predefinito all’interno della Cina, così come in altri Stati autocratici verso i quali il PCC esporta tecnologia di sorveglianza. Ho scritto spesso della minaccia rappresentata dal fatto che il PCC assuma la leadership nell’IA e dell’imperativo esistenziale di impedirglielo. Ecco perché. Per essere chiari, non sto prendendo di mira la Cina per ostilità nei suoi confronti in modo particolare: è semplicemente il Paese che più di ogni altro combina competenze nell’IA, un governo autocratico e uno stato di sorveglianza high-tech. Semmai, è il popolo cinese stesso che rischia maggiormente di subire la repressione del PCC potenziata dall’IA, e non ha voce in capitolo nelle azioni del proprio governo. Ammiro e rispetto profondamente il popolo cinese e sostengo i numerosi coraggiosi dissidenti all’interno della Cina e la loro lotta per la libertà.
• ▶︎ Democrazie competitive nell’IA. Come ho scritto sopra, le democrazie hanno un interesse legittimo in alcuni strumenti militari e geopolitici basati sull’IA, perché i governi democratici offrono la migliore possibilità di contrastare l’uso di questi strumenti da parte delle autocrazie. In linea di massima, sono favorevole a dotare le democrazie degli strumenti necessari per sconfiggere le autocrazie nell’era dell’IA: semplicemente non credo che ci sia altra via. Ma non possiamo ignorare il potenziale di abuso di queste tecnologie da parte degli stessi governi democratici. Le democrazie dispongono normalmente di misure di salvaguardia che impediscono che i loro apparati militari e di intelligence vengano rivolti contro la propria popolazione, ma poiché gli strumenti di IA richiedono così poche persone per funzionare, c’è il potenziale che essi aggirino queste salvaguardie e le norme che le sostengono. Vale anche la pena notare che alcune di queste salvaguardie si stanno già gradualmente erodendo in alcune democrazie. Pertanto, dovremmo dotare le democrazie di IA, ma dovremmo farlo con cautela e entro certi limiti: esse sono il sistema immunitario di cui abbiamo bisogno per combattere le autocrazie, ma, proprio come il sistema immunitario, c’è il rischio che si rivoltino contro di noi e diventino esse stesse una minaccia. ³¹
• ▶︎ Paesi non democratici con grandi data center. Al di là della Cina, la maggior parte dei paesi con un governo meno democratico non sono attori di primo piano nell’IA, nel senso che non hanno aziende che producono modelli di IA all’avanguardia. Pertanto rappresentano un rischio fondamentalmente diverso e minore rispetto al PCC, che rimane la preoccupazione principale (la maggior parte è anche meno repressiva, e quelli che sono più repressivi, come la Corea del Nord, non hanno affatto un’industria significativa dell’IA). Ma alcuni di questi paesi dispongono di grandi data center (spesso come parte di espansioni da parte di aziende che operano nelle democrazie), che possono essere utilizzati per far funzionare l’IA all’avanguardia su larga scala (anche se questo non conferisce la capacità di spingere i confini). C’è una certa quantità di pericolo associato a questo: questi governi potrebbero in linea di principio espropriare i data center e utilizzare l’IA al loro interno per i propri fini. Sono meno preoccupato di questo rispetto a paesi come la Cina che sviluppano direttamente l’IA, ma è un rischio da tenere presente.³²
• ▶︎ Aziende di IA. È un po’ imbarazzante dirlo come CEO di un’azienda di IA, ma penso che il livello successivo di rischio sia in realtà rappresentato dalle stesse aziende di IA. Le aziende di IA controllano grandi data center, addestrano modelli all’avanguardia, possiedono la massima competenza su come utilizzare tali modelli e, in alcuni casi, hanno contatti quotidiani con decine o centinaia di milioni di utenti e la possibilità di influenzarli. Ciò che principalmente manca loro è la legittimità e l’infrastruttura di uno Stato, quindi gran parte di ciò che sarebbe necessario per costruire gli strumenti di un’autocrazia dell’IA sarebbe illegale per un’azienda di IA, o almeno estremamente sospetto. Ma alcune cose non sono impossibili: potrebbero, ad esempio, utilizzare i loro prodotti di IA per fare il lavaggio del cervello alla loro enorme base di utenti consumatori, e l’opinione pubblica dovrebbe essere vigile sul rischio che ciò rappresenta. Penso che la governance delle aziende di IA meriti molta attenzione.

Esistono diversi argomenti possibili contro la gravità di queste minacce, e vorrei poterci credere, perché l’autoritarismo potenziato dall’IA mi terrorizza. Vale la pena esaminare alcuni di questi argomenti e rispondere ad essi.

In primo luogo, alcune persone potrebbero riporre la loro fiducia nella deterrenza nucleare, in particolare per contrastare l’uso di armi autonome basate sull’IA a fini di conquista militare. Se qualcuno minaccia di usare queste armi contro di te, puoi sempre minacciare una risposta nucleare. La mia preoccupazione è che non sono del tutto sicuro che possiamo fidarci della deterrenza nucleare contro un paese di geni in un data center: è possibile che una potente IA possa ideare modi per rilevare e colpire sottomarini nucleari, condurre operazioni di influenza contro gli operatori delle infrastrutture delle armi nucleari, o utilizzare le capacità informatiche dell’IA per lanciare un attacco informatico contro i satelliti utilizzati per rilevare i lanci nucleari.³³

In alternativa, è possibile che la conquista di paesi sia fattibile solo con la sorveglianza e la propaganda dell’IA, e che non si presenti mai un momento chiaro in cui sia ovvio cosa sta succedendo e in cui una risposta nucleare sarebbe appropriata. Forse queste cose non sono fattibili e la deterrenza nucleare sarà ancora efficace, ma la posta in gioco sembra troppo alta per correre un rischio.³⁴

Una seconda possibile obiezione è che potrebbero esserci contromisure che possiamo adottare contro questi strumenti dell’autocrazia. Possiamo contrastare i droni con i nostri droni, la difesa informatica migliorerà insieme agli attacchi informatici, potrebbero esserci modi per immunizzare le persone contro la propaganda, ecc. La mia risposta è che queste difese saranno possibili solo con un’IA altrettanto potente. Se non c’è una forza di contrasto con un numero comparabile di geni in un data center, non sarà possibile eguagliare la qualità o la quantità dei droni, né la difesa informatica potrà superare in astuzia l’attacco informatico, ecc. Quindi la questione delle contromisure si riduce alla questione dell’equilibrio di potere nell’IA potente. A questo proposito, mi preoccupa la proprietà ricorsiva o auto-rinforzante dell’IA potente (di cui ho parlato all’inizio di questo saggio): il fatto che ogni generazione di IA possa essere utilizzata per progettare e addestrare la generazione successiva di IA. Ciò comporta il rischio di un vantaggio inarrestabile, in cui l’attuale leader nell’IA potente potrebbe essere in grado di aumentare il proprio vantaggio e diventare difficile da raggiungere. Dobbiamo assicurarci che non sia un paese autoritario a entrare per primo in questo circolo vizioso.

Inoltre, anche se si potesse raggiungere un equilibrio di potere, sussiste comunque il rischio che il mondo possa essere suddiviso in sfere autocratiche, come in 1984. Anche se diverse potenze in competizione avessero ciascuna i propri modelli di IA potente e nessuna potesse sopraffare le altre, ogni potenza potrebbe comunque reprimere internamente la propria popolazione e sarebbe molto difficile da rovesciare (poiché le popolazioni non dispongono di IA potente per difendersi). È quindi importante prevenire l’autocrazia basata sull’IA anche se ciò non porta un singolo paese a conquistare il mondo.

Difese

Come ci difendiamo da questa vasta gamma di strumenti autocratici e potenziali attori minacciosi? Come nelle sezioni precedenti, ci sono diverse cose che penso possiamo fare. Innanzitutto, non dovremmo assolutamente vendere chip, strumenti per la produzione di chip, o data center al PCC. I chip e gli strumenti per la loro produzione sono il principale ostacolo a un’IA potente, e bloccarli è una misura semplice ma estremamente efficace, forse la singola azione più importante che possiamo intraprendere. Non ha senso vendere al PCC gli strumenti con cui costruire uno Stato totalitario basato sull’IA e possibilmente conquistarci militarmente. Vengono avanzate numerose argomentazioni complesse per giustificare tali vendite, come l’idea che “diffondere il nostro stack tecnologico in tutto il mondo” permetta all’“America di vincere” in una qualche battaglia economica generica e non specificata. A mio avviso, questo è come vendere armi nucleari alla Corea del Nord e poi vantarsi che le carene dei missili sono prodotte dalla Boeing e quindi gli Stati Uniti stanno “vincendo”. La Cina è indietro di diversi anni rispetto agli Stati Uniti nella capacità di produrre chip all’avanguardia in quantità, ed è molto probabile che il periodo critico per costruire il paese dei geni in un data center si collochi proprio nei prossimi anni.³⁵

Non c’è motivo di dare un enorme impulso al loro settore dell’IA durante questo periodo critico.

In secondo luogo, ha senso utilizzare l’IA per consentire alle democrazie di resistere alle autocrazie. Questo è il motivo per cui Anthropic ritiene importante fornire IA alle comunità dell’intelligence e della difesa negli Stati Uniti e nei loro alleati democratici. Difendere le democrazie sotto attacco, come l’Ucraina e (tramite attacchi informatici) Taiwan, sembra avere una priorità particolarmente alta, così come lo è dare alle democrazie gli strumenti per usare i propri servizi di intelligence per destabilizzare e indebolire le autocrazie dall’interno. A un certo livello, l’unico modo per rispondere alle minacce autocratiche è eguagliarle e superarle militarmente. Una coalizione tra gli Stati Uniti e i loro alleati democratici, se raggiungesse la predominanza nell’IA potente, sarebbe in grado non solo di difendersi dalle autocrazie, ma anche di contenerle e limitare i loro abusi totalitari nell’ambito dell’IA.

Terzo, dobbiamo tracciare una linea netta contro gli abusi dell’IA all’interno delle democrazie. Devono esserci dei limiti a ciò che permettiamo ai nostri governi di fare con l’IA, in modo che non si impadroniscano del potere o reprimano il proprio popolo. La formulazione a cui sono giunto è che dovremmo usare l’IA per la difesa nazionale in tutti i modi tranne quelli che ci renderebbero più simili ai nostri avversari autocratici.

Dove dovrebbe essere tracciata la linea? Nell’elenco all’inizio di questa sezione, due voci – l’uso dell’IA per la sorveglianza di massa interna e la propaganda di massa – mi sembrano linee rosse ben definite e del tutto illegittime. Qualcuno potrebbe obiettare che non c’è bisogno di fare nulla (almeno negli Stati Uniti), dato che la sorveglianza di massa interna è già illegale ai sensi del Quarto Emendamento. Ma il rapido progresso dell’IA potrebbe creare situazioni che i nostri attuali quadri giuridici non sono ben progettati per affrontare. Ad esempio, probabilmente non sarebbe incostituzionale per il governo degli Stati Uniti effettuare registrazioni su vasta scala di tutte le conversazioni pubbliche (ad esempio, ciò che le persone si dicono tra loro all’angolo di una strada); in passato sarebbe stato difficile vagliare questo volume di informazioni, ma con l’IA tutto potrebbe essere trascritto, interpretato e incrociato per creare un quadro dell’atteggiamento e delle simpatie di molti o della maggior parte dei cittadini. Sosterrei una legislazione incentrata sulle libertà civili (o forse anche un emendamento costituzionale) che imponga barriere di protezione più solide contro gli abusi alimentati dall’IA.

Gli altri due punti — le armi completamente autonome e l’IA per il processo decisionale strategico — sono più difficili da definire poiché hanno usi legittimi nella difesa della democrazia, pur essendo soggette ad abusi. In questo caso penso che ciò che sia necessario sia estrema cautela e controllo, combinati con misure di sicurezza per prevenire gli abusi. Il mio timore principale è che ci sia un numero troppo esiguo di persone “con il dito sul pulsante”, in modo tale che una o poche persone possano essenzialmente comandare un esercito di droni senza bisogno della cooperazione di altri esseri umani per eseguire i propri ordini. Man mano che i sistemi di IA diventano più potenti, potremmo aver bisogno di meccanismi di supervisione più diretti e immediati per garantire che non vengano utilizzati in modo improprio, coinvolgendo forse rami del governo diversi da quello esecutivo. Penso che dovremmo affrontare le armi completamente autonome in particolare con grande cautela,³⁶ e non affrettarne l’uso senza adeguate misure di salvaguardia.

Quarto, dopo aver tracciato una linea netta contro gli abusi dell’IA nelle democrazie, dovremmo usare quel precedente per creare un tabù internazionale contro i peggiori abusi di un’IA potente. Riconosco che gli attuali venti politici si sono rivoltati contro la cooperazione internazionale e le norme internazionali, ma questo è un caso in cui ne abbiamo un disperato bisogno. Il mondo deve comprendere il potenziale oscuro di un’IA potente nelle mani di autocrati e riconoscere che certi usi dell’IA equivalgono a un tentativo di rubare in modo permanente la loro libertà e imporre uno stato totalitario dal quale non possono sfuggire. Direi addirittura che in alcuni casi, la sorveglianza su larga scala con un’IA potente, la propaganda di massa con un’IA potente, e certi tipi di uso offensivo di armi completamente autonome dovrebbero essere considerati crimini contro l’umanità. Più in generale, c’è un disperato bisogno di una norma solida contro il totalitarismo basato sull’IA e tutti i suoi strumenti.

È possibile assumere una posizione ancora più forte, ovvero che, poiché le possibilità del totalitarismo basato sull’IA sono così oscure, l’autocrazia semplicemente non è una forma di governo che le persone possano accettare nell’era post-IA potente. Proprio come il feudalesimo divenne impraticabile con la rivoluzione industriale, l’era dell’IA potrebbe portare inevitabilmente e logicamente alla conclusione che la democrazia (e, si spera, una democrazia migliorata e rinvigorita dall’IA, come discuto in Macchine di amorevole grazia) sia l’unica forma di governo praticabile se l’umanità vuole avere un futuro positivo.

Quinto e ultimo punto: le aziende di IA dovrebbero essere attentamente monitorate, così come i loro legami con il governo, che sono necessari ma devono avere limiti e confini. L’enorme quantità di capacità insita in una potente IA è tale che la normale governance aziendale — progettata per proteggere gli azionisti e prevenire abusi comuni come le frodi – difficilmente sarà all’altezza del compito di governare le aziende di IA. Potrebbe anche essere utile che le aziende si impegnino pubblicamente (magari anche nell’ambito della governance aziendale) a non intraprendere determinate azioni, come costruire o accumulare in segreto hardware militare, consentire a singoli individui di utilizzare grandi quantità di risorse di calcolo in modo non controllato, o usare i propri prodotti di IA come propaganda per manipolare l’opinione pubblica a proprio favore.

Il pericolo in questo caso proviene da molte direzioni, e alcune sono in contrasto tra loro. L’unica costante è che dobbiamo cercare responsabilità, norme e misure di sicurezza per tutti, anche mentre diamo potere agli attori “buoni” per tenere sotto controllo quelli “cattivi”.

4. Pianoforte meccanico

Sconvolgimenti economici

Le tre sezioni precedenti riguardavano essenzialmente i rischi per la sicurezza posti da un’IA potente: rischi derivanti dall’IA stessa, rischi derivanti dall’uso improprio da parte di individui e piccole organizzazioni e rischi di uso improprio da parte di Stati e grandi organizzazioni. Se mettiamo da parte i rischi per la sicurezza o supponiamo che siano stati risolti, la domanda successiva è di natura economica. Quale sarà l’effetto di questa infusione di incredibile capitale “umano” sull’economia? Chiaramente, l’effetto più ovvio sarà quello di aumentare notevolmente la crescita economica. Il ritmo dei progressi nella ricerca scientifica, nell’innovazione biomedica, nella produzione, nelle catene di approvvigionamento, nell’efficienza del sistema finanziario e in molto altro ancora porterà quasi sicuramente a un tasso di crescita economica molto più rapido. In Macchine di amorevole grazia, suggerisco che potrebbe essere possibile un tasso di crescita annuale del PIL sostenuto del 10-20%.

Ma dovrebbe essere chiaro che si tratta di un’arma a doppio taglio: quali sono le prospettive economiche per la maggior parte degli esseri umani esistenti in un mondo del genere? Le nuove tecnologie spesso provocano shock nel mercato del lavoro, e in passato gli esseri umani si sono sempre ripresi da essi, ma temo che ciò sia dovuto al fatto che questi shock precedenti hanno interessato solo una piccola frazione dell’intera gamma possibile di abilità umane, lasciando spazio agli esseri umani per espandersi verso nuovi compiti. L’IA avrà effetti molto più ampi e si verificherà molto più rapidamente, e quindi temo che sarà molto più difficile far funzionare bene le cose.

Sconvolgimento del mercato del lavoro

Ci sono due problemi specifici che mi preoccupano: la sostituzione nel mercato del lavoro e la concentrazione del potere economico. Cominciamo con il primo. Si tratta di un argomento su cui ho messo in guardia pubblicamente nel 2025, quando ho previsto che l’IA avrebbe potuto sostituire la metà di tutti i lavori impiegatizi di livello base nei successivi 1–5 anni, anche se avrebbe accelerato la crescita economica e il progresso scientifico. Questo avvertimento ha dato il via a un dibattito pubblico sull’argomento. Molti amministratori delegati, tecnologi ed economisti erano d’accordo con me, ma altri hanno supposto che fossi vittima del fallace concetto della “massa fissa di lavoro” e che non sapessi come funzionano i mercati del lavoro, mentre alcuni non hanno colto l’orizzonte temporale di 1–5 anni e hanno pensato che stessi sostenendo che l’IA stia sostituendo i posti di lavoro proprio ora (cosa che, ne convengo, probabilmente non è). Vale quindi la pena esaminare in dettaglio perché sono preoccupato per la sostituzione della manodopera, per chiarire questi malintesi.

Come punto di partenza, è utile capire come i mercati del lavoro normalmente rispondono ai progressi tecnologici. Quando arriva una nuova tecnologia, inizia rendendo più efficienti alcune parti di un determinato lavoro umano. Ad esempio, all’inizio della rivoluzione industriale, macchine come gli aratri migliorati permisero agli agricoltori di essere più efficienti in alcuni aspetti del lavoro. Ciò migliorò la produttività degli agricoltori, aumentando i loro salari.

Nella fase successiva, alcune parti del lavoro agricolo potevano essere svolte interamente dalle macchine, ad esempio con l’invenzione della trebbiatrice o della seminatrice. In questa fase, gli esseri umani svolgevano una parte sempre minore del lavoro, ma il lavoro che effettivamente portavano a termine diventava sempre più efficace perché complementare a quello delle macchine, e la loro produttività continuava ad aumentare. Come descritto dal paradosso di Jevons, i salari degli agricoltori e forse anche il numero degli agricoltori continuarono ad aumentare. Anche quando il 90% del lavoro viene svolto dalle macchine, gli esseri umani possono semplicemente fare 10 volte di più del 10% che ancora svolgono, producendo 10 volte tanto con la stessa quantità di lavoro.

sostieni acro-polis.it ♥️ acquista i volumi di www.asterios.it

Alla fine, le macchine fanno tutto o quasi tutto, come nel caso delle moderne mietitrebbiatrici, dei trattori e di altre attrezzature. A questo punto l’agricoltura come forma di occupazione umana subisce davvero un forte declino, e questo potenzialmente causa gravi sconvolgimenti nel breve termine, ma poiché l’agricoltura è solo una delle tante attività utili che gli esseri umani sono in grado di svolgere, le persone alla fine passano ad altri lavori, come l’utilizzo di macchinari industriali. Questo è vero anche se l’agricoltura rappresentava una percentuale enorme dell’occupazione ex ante. 250 anni fa, il 90% degli americani viveva nelle fattorie; in Europa, il 50–60% dell’occupazione era agricola. Ora quelle percentuali sono a una cifra bassa in quei luoghi, perché i lavoratori sono passati a lavori industriali (e successivamente, a lavori nel settore della conoscenza). L’economia può svolgere ciò che in precedenza richiedeva la maggior parte della forza lavoro con solo l’1–2% di essa, liberando il resto della forza lavoro per costruire una società industriale sempre più avanzata. Non esiste una “massa fissa di lavoro”, ma solo una capacità in continua espansione di fare sempre di più con sempre meno. I salari delle persone aumentano in linea con la crescita esponenziale del PIL e l’economia mantiene la piena occupazione una volta superate le turbolenze a breve termine.

È possibile che le cose vadano più o meno allo stesso modo con l’IA, ma scommetterei decisamente contro questa ipotesi. Ecco alcuni motivi per cui penso che l’IA sarà probabilmente diversa:

• ▶︎ Velocità. Il ritmo del progresso nell’IA è molto più veloce rispetto alle precedenti rivoluzioni tecnologiche. Ad esempio, negli ultimi 2 anni, i modelli di IA sono passati dall’essere a malapena in grado di completare una singola riga di codice, a scrivere tutto o quasi tutto il codice per alcune persone — compresi gli ingegneri di Anthropic.³⁷
• ▶︎ Ampiezza cognitiva. Come suggerisce la frase “paese di geni in un data center”, l’IA sarà in grado di svolgere una gamma molto ampia di abilità cognitive umane — forse tutte. Questo è molto diverso dalle tecnologie precedenti come l’agricoltura meccanizzata, i trasporti o persino i computer.³⁹
• ▶︎ Analisi per capacità cognitiva. In un’ampia gamma di compiti, l’IA sembra avanzare dal fondo della scala delle abilità verso la cima. Ad esempio, nella programmazione i nostri modelli sono passati dal livello di “programmatore mediocre” a “programmatore esperto” a “programmatore molto esperto”.⁴⁰
• ▶︎ Capacità di colmare le lacune. Il modo in cui i lavori umani spesso si adattano di fronte alle nuove tecnologie è che ci sono molti aspetti del lavoro, e la nuova tecnologia, anche se sembra sostituire direttamente gli esseri umani, presenta spesso delle lacune. Se qualcuno inventa una macchina per produrre widget, gli esseri umani potrebbero comunque dover caricare la materia prima nella macchina. Anche se ciò richiede solo l’1% dello sforzo necessario per realizzare i widget manualmente, i lavoratori umani possono semplicemente produrre 100 volte più widget. Ma l’IA, oltre ad essere una tecnologia in rapido avanzamento, è anche una tecnologia in rapido adattamento. Ad ogni rilascio di un modello, le aziende di IA valutano attentamente i punti di forza e di debolezza del modello, e anche i clienti forniscono tali informazioni dopo il lancio. I punti deboli possono essere affrontati raccogliendo compiti che incarnano l’attuale lacuna e addestrando il modello successivo su di essi. All’inizio dell’IA generativa, gli utenti hanno notato che i sistemi di IA presentavano alcuni punti deboli (come i modelli di immagini che generavano mani con un numero errato di dita) e molti hanno supposto che questi punti deboli fossero inerenti alla tecnologia. Se così fosse, ciò limiterebbe la disruption del lavoro. Ma praticamente ogni punto debole di questo tipo viene affrontato rapidamente, spesso nel giro di pochi mesi.

Presto potrebbero svolgere l’intero compito di un ingegnere del software dall’inizio alla fine.³⁸

È difficile per le persone adattarsi a questo ritmo di cambiamento, sia per quanto riguarda le modifiche nel funzionamento di un determinato lavoro, sia per la necessità di passare a nuovi lavori. Persino i programmatori leggendari si descrivono sempre più spesso come “in ritardo”. Il ritmo potrebbe, semmai, continuare ad accelerare, poiché i modelli di codifica dell’IA velocizzano sempre più il compito dello sviluppo dell’IA. Per essere chiari, la velocità di per sé non significa che i mercati del lavoro e l’occupazione non finiranno per riprendersi, implica solo che la transizione a breve termine sarà insolitamente dolorosa rispetto alle tecnologie del passato, poiché gli esseri umani e i mercati del lavoro sono lenti a reagire e a riequilibrarsi.

Ciò renderà più difficile per le persone passare facilmente da lavori che vengono sostituiti a lavori simili per cui sarebbero adatti. Ad esempio, le capacità intellettuali generali richieste per lavori entry-level in, finanza, consulenza e diritto sono abbastanza simili, anche se le conoscenze specifiche sono piuttosto diverse. Una tecnologia che rivoluzionasse solo uno di questi tre settori consentirebbe ai dipendenti di passare agli altri due sostituti simili (o agli studenti universitari di cambiare corso di laurea). Ma rivoluzionare tutti e tre contemporaneamente (insieme a molti altri lavori simili) potrebbe rendere più difficile l’adattamento delle persone. Inoltre, non è solo che la maggior parte dei lavori esistenti verrà rivoluzionata. Quella parte è già successa in passato: ricordiamo che l’agricoltura rappresentava una percentuale enorme dell’occupazione.

Ma gli agricoltori potevano passare al lavoro relativamente simile di azionare macchinari industriali, anche se quel lavoro non era comune prima. Al contrario, l’IA sta eguagliando sempre più il profilo cognitivo generale degli esseri umani, il che significa che sarà brava anche nei nuovi lavori che normalmente verrebbero creati in risposta all’automazione di quelli vecchi. Un altro modo per dirlo è che l’IA non è un sostituto di lavori umani specifici, ma piuttosto un sostituto generale della manodopera umana.

Stiamo ora iniziando a vedere la stessa progressione nel lavoro impiegatizio in generale. Corriamo quindi il rischio di una situazione in cui, invece di colpire persone con competenze specifiche o in professioni specifiche (che possono adattarsi attraverso la riqualificazione), l’IA sta colpendo persone con determinate proprietà cognitive intrinseche, ovvero una capacità intellettuale inferiore (che è più difficile da modificare). Non è chiaro dove andranno queste persone o cosa faranno, e temo che potrebbero formare una “sottoclasse” di disoccupati o con salari molto bassi. Per essere chiari, cose simili sono già successe in passato: ad esempio, alcuni economisti ritengono che i computer e l’Internet rappresentino un “cambiamento tecnologico orientato alle competenze”. Ma questo orientamento alle competenze non era così estremo come quello che mi aspetto di vedere con l’IA, e si ritiene che abbia contribuito a un aumento della disuguaglianza salariale, ⁴¹ quindi non è esattamente un precedente rassicurante.

Vale la pena affrontare i punti comuni di scetticismo. Innanzitutto, c’è l’argomento secondo cui la diffusione economica sarà lenta, per cui anche se la tecnologia di base è in grado di svolgere la maggior parte del lavoro umano, la sua effettiva applicazione in tutta l’economia potrebbe essere molto più lenta (ad esempio nei settori lontani dall’industria dell’IA e lenti ad adottarla). La lenta diffusione della tecnologia è decisamente reale: parlo con persone provenienti da una vasta gamma di imprese, e ci sono settori in cui l’adozione dell’IA richiederà anni. Ecco perché la mia previsione secondo cui il 50% dei lavori impiegatizi di livello base subirà una rivoluzione è di 1–5 anni, anche se sospetto che avremo un’IA potente (che sarebbe, dal punto di vista tecnologico, sufficiente a svolgere la maggior parte o tutti i lavori, non solo quelli entry-level) in molto meno di 5 anni. Ma gli effetti di diffusione ci fanno semplicemente guadagnare tempo. E non sono sicuro che saranno così lenti come si prevede. L’adozione dell’IA da parte delle imprese sta crescendo a ritmi molto più rapidi rispetto a qualsiasi tecnologia precedente, in gran parte grazie alla forza intrinseca della tecnologia stessa. Inoltre, anche se le imprese tradizionali sono lente nell’adottare le nuove tecnologie, nasceranno startup che fungeranno da “collante” e faciliteranno l’adozione. Se ciò non funzionasse, le startup potrebbero semplicemente rivoluzionare direttamente le aziende già affermate.

Ciò potrebbe portare a un mondo in cui non sono tanto i singoli lavori a subire sconvolgimenti, quanto piuttosto le grandi imprese in generale, che verrebbero sostituite da startup molto meno adatte all’impiego di manodopera. Ciò potrebbe anche portare a un mondo caratterizzato da una “disuguaglianza geografica”, in cui una quota crescente della ricchezza mondiale si concentrerebbe nella Silicon Valley, che diventerebbe un’economia a sé stante, funzionante a una velocità diversa rispetto al resto del mondo che rimarebbe indietro. Tutti questi risultati sarebbero ottimi per la crescita economica, ma non altrettanto per il mercato del lavoro o per coloro che vengono lasciati indietro.

In secondo luogo, alcuni sostengono che i lavori umani si sposteranno nel mondo fisico, evitando l’intera categoria del “lavoro cognitivo”, dove l’IA sta progredendo così rapidamente. Non sono sicuro che nemmeno questa ipotesi sia così sicura. Gran parte del lavoro fisico è già svolto dalle macchine (ad esempio, la produzione) o lo sarà presto (ad esempio, la guida). Inoltre, un’IA sufficientemente potente sarà in grado di accelerare lo sviluppo dei robot e quindi di controllarli nel mondo fisico. Potrebbe farci guadagnare un po’ di tempo (il che è positivo), ma temo che non sarà molto. E anche se la rivoluzione fosse limitata solo alle attività cognitive, sarebbe comunque un cambiamento di portata e rapidità senza precedenti.

In terzo luogo, forse alcune attività richiedono intrinsecamente un tocco umano o ne traggono grande beneficio. Su questo punto sono un po’ più incerto, ma resto scettico sul fatto che sia sufficiente a compensare la maggior parte degli impatti che ho descritto sopra. L’IA è già ampiamente utilizzata per il servizio clienti. Molte persone riferiscono che è più facile parlare con l’IA dei propri problemi personali piuttosto che con un terapeuta, perché l’IA è più paziente. Quando mia sorella stava affrontando problemi medici durante una gravidanza, sentiva di non ricevere le risposte o il sostegno di cui aveva bisogno dai suoi medici curanti, e ha trovato in Claude un approccio più empatico (oltre a una maggiore efficacia nella diagnosi del problema). Sono certo che ci siano alcuni compiti per i quali il tocco umano è davvero importante, ma non so quanti siano – e qui stiamo parlando di trovare lavoro per quasi tutti nel mercato del lavoro.

Quarto, alcuni potrebbero obiettare che il vantaggio comparativo continuerà a proteggere gli esseri umani. Secondo la legge del vantaggio comparativo, anche se l’IA fosse migliore degli esseri umani in tutto, qualsiasi differenza relativa tra il profilo di competenze umane e quello dell’IA creerebbe una base per lo scambio e la specializzazione tra esseri umani e IA. Il problema è che se le IA fossero letteralmente migliaia di volte più produttive degli esseri umani, questa logica inizierebbe a crollare. Anche minuscoli costi di transazione potrebbero rendere non conveniente per l’IA commerciare con gli esseri umani. E i salari umani potrebbero essere molto bassi, anche se tecnicamente hanno qualcosa da offrire.

È possibile che tutti questi fattori possano essere affrontati, che il mercato del lavoro sia abbastanza resiliente da adattarsi anche a una perturbazione così enorme. Ma anche se alla fine riuscirà ad adattarsi, i fattori sopra indicati suggeriscono che lo shock a breve termine avrà dimensioni senza precedenti.

Difese

Cosa possiamo fare per questo problema? Ho diversi suggerimenti, alcuni dei quali Anthropic sta già mettendo in pratica. La prima cosa è semplicemente ottenere dati accurati su ciò che sta accadendo in tempo reale riguardo alla sostituzione dei posti di lavoro. Quando un cambiamento economico avviene molto rapidamente, è difficile ottenere dati affidabili su ciò che sta accadendo, e senza dati affidabili è difficile progettare politiche efficaci. Ad esempio, i dati governativi attualmente mancano di dati granulari e ad alta frequenza sull’adozione dell’IA nelle aziende e nei settori. Nell’ultimo anno Anthropic ha gestito e pubblicato un Indice Economico che mostra l’utilizzo dei nostri modelli quasi in tempo reale, suddiviso per settore, attività, località e persino aspetti come il fatto che un’attività fosse automatizzata o svolta in modo collaborativo. Abbiamo anche un Consiglio Consultivo Economico che ci aiuta a interpretare questi dati e a prevedere cosa ci aspetta.

In secondo luogo, le aziende di IA possono scegliere come collaborare con le imprese. L’inefficienza stessa delle imprese tradizionali implica che la loro implementazione dell’IA possa dipendere fortemente dal percorso scelto, e c’è spazio per scegliere un percorso migliore. Le imprese spesso devono scegliere tra “risparmio sui costi” (fare la stessa cosa con meno persone) e “innovazione” (fare di più con lo stesso numero di persone). Il mercato finirà inevitabilmente per produrre entrambe le cose, e qualsiasi azienda di IA competitiva dovrà soddisfare entrambe, ma potrebbe esserci un margine per orientare le aziende verso l’innovazione quando possibile, e questo potrebbe farci guadagnare un po’ di tempo. Anthropic sta riflettendo attivamente su questo.

Terzo, le aziende dovrebbero pensare a come prendersi cura dei propri dipendenti. Nel breve termine, essere creativi nei modi di riassegnare i dipendenti all’interno delle aziende potrebbe essere un modo promettente per scongiurare la necessità di licenziamenti. Nel lungo termine, in un mondo con un’enorme ricchezza totale, in cui molte aziende aumentano notevolmente di valore grazie all’aumento della produttività e alla concentrazione di capitale, potrebbe essere fattibile pagare i dipendenti umani anche molto tempo dopo che non forniscono più valore economico nel senso tradizionale. Anthropic sta attualmente valutando una serie di possibili percorsi per i propri dipendenti che condivideremo nel prossimo futuro.

Quarto, le persone facoltose hanno l’obbligo di contribuire a risolvere questo problema. Trovo triste che molte persone facoltose (soprattutto nel settore tecnologico) abbiano recentemente adottato un atteggiamento cinico e nichilista secondo cui la filantropia è inevitabilmente fraudolenta o inutile. Sia la filantropia privata come la Fondazione Gates che i programmi pubblici come il PEPFAR hanno salvato decine di milioni di vite nei paesi in via di sviluppo e contribuito a creare opportunità economiche nei paesi sviluppati. Tutti i cofondatori di Anthropic si sono impegnati a donare l’80% del proprio patrimonio, e il personale di Anthropic si è impegnato individualmente a donare azioni della società per un valore di miliardi ai prezzi attuali — donazioni che l’azienda si è impegnata a raddoppiare.

Quinto, sebbene tutte le azioni private sopra menzionate possano essere utili, in definitiva un problema macroeconomico di questa portata richiederà l’intervento del governo. La risposta politica naturale a un’enorme torta economica unita a un’elevata disuguaglianza (dovuta alla mancanza di posti di lavoro, o a lavori mal retribuiti, per molti) è la tassazione progressiva. L’imposta potrebbe essere generale o potrebbe essere mirata in particolare alle aziende di IA. Ovviamente la progettazione fiscale è complicata, e ci sono molti modi in cui può andare storta. Non sostengo politiche fiscali mal progettate. Penso che gli livelli estremi di disuguaglianza previsti in questo saggio giustifichino una politica fiscale più robusta per motivi morali di base, ma posso anche presentare un argomento pragmatico ai miliardari del mondo, sostenendo che è nel loro interesse sostenere una versione ben concepita di tale politica: se non la sostengono, si ritroveranno inevitabilmente con una versione mal concepita, progettata dalla folla.

In definitiva, considero tutti gli interventi sopra citati come modi per guadagnare tempo. Alla fine l’IA sarà in grado di fare tutto, e dobbiamo fare i conti con questo. La mia speranza è che, a quel punto, potremo usare l’IA stessa per aiutarci a ristrutturare i mercati in modi che funzionino per tutti, e che gli interventi sopra citati possano farci superare il periodo di transizione.

Concentrazione economica del potere

A parte il problema della sostituzione dei posti di lavoro o della disuguaglianza economica di per sé, c’è il problema della concentrazione economica del potere. Nella Sezione 1 ho discusso il rischio che l’umanità venga privata del potere dall’IA, e nella Sezione 3 ho discusso il rischio che i cittadini vengano privati del potere dai loro governi con la forza o la coercizione. Ma può verificarsi un altro tipo di perdita di potere se c’è una concentrazione di ricchezza così enorme che, un piccolo gruppo di persone controlla effettivamente la politica del governo con la propria influenza, mentre i cittadini comuni non hanno alcuna influenza perché privi di potere economico. La democrazia è in definitiva sostenuta dall’idea che la popolazione nel suo insieme sia necessaria per il funzionamento dell’economia. Se quel potere economico viene a mancare, allora il contratto sociale implicito della democrazia potrebbe smettere di funzionare. Altri hanno scritto su questo argomento, quindi non è necessario che io mi spiego molto in dettaglio, ma condivido questa preoccupazione e temo che stia già iniziando a verificarsi.

Per essere chiari, non sono contrario al fatto che le persone guadagnino molto denaro. C’è un argomento forte secondo cui ciò incentiva la crescita economica in condizioni normali. Capisco le preoccupazioni sul fatto di ostacolare l’innovazione uccidendo la gallina dalle uova d’oro che la genera. Ma in uno scenario in cui la crescita del PIL è del 10–20% all’anno e l’IA sta rapidamente prendendo il controllo dell’economia, eppure singoli individui detengono quote apprezzabili del PIL, l’innovazione non è la cosa di cui preoccuparsi. La cosa di cui preoccuparsi è un livello di concentrazione della ricchezza tale da distruggere la società.

L’esempio più famoso di estrema concentrazione della ricchezza nella storia degli Stati Uniti è la Gilded Age, e l’industriale più ricco di quell’epoca era John D. Rockefeller. La ricchezza di Rockefeller ammontava a circa il 2% del PIL statunitense dell’epoca.⁴²

Una quota simile oggi corrisponderebbe a una fortuna di 600 miliardi di dollari, e la persona più ricca del mondo oggi (Elon Musk) supera già tale cifra, con circa 700 miliardi di dollari. Quindi siamo già a livelli di concentrazione della ricchezza senza precedenti nella storia, anche prima che si manifesti la maggior parte dell’impatto economico dell’IA. Non credo sia troppo azzardato (se avremo un “paese di geni”) immaginare che le aziende di IA, quelle di semiconduttori e forse quelle di applicazioni a valle generino circa 3.000 miliardi di dollari di ricavi all’anno,⁴³ con una valutazione di circa 30.000 miliardi di dollari, e che porteranno a fortune personali ben oltre i trilioni. In quel mondo, i dibattiti che abbiamo oggi sulla politica fiscale semplicemente non saranno applicabili, poiché ci troveremo in una situazione fondamentalmente diversa.

A questo proposito, il connubio tra questa concentrazione economica della ricchezza e il sistema politico mi preoccupa già. I data center di IA rappresentano già una parte sostanziale della crescita economica degli Stati Uniti,⁴⁴ e stanno quindi legando fortemente gli interessi finanziari delle grandi aziende tecnologiche (che sono sempre più concentrate sull’IA o sulle infrastrutture di IA) e gli interessi politici del governo in un modo che può produrre incentivi perversi. Lo vediamo già nella riluttanza delle aziende tecnologiche a criticare il governo degli Stati Uniti e nel sostegno del governo a politiche anti-regolamentazione estreme sull’IA.

Difese

Cosa si può fare al riguardo? Innanzitutto, e ovviamente, le aziende dovrebbero semplicemente scegliere di non esserne parte. Anthropic ha sempre cercato di essere un attore politico e non un attore di parte, e di mantenere le proprie posizioni autentiche a prescindere dall’amministrazione al potere. Ci siamo espressi a favore di una regolamentazione ragionevole dell’IA e di controlli sulle esportazioni che siano nell’interesse pubblico, anche quando questi sono in contrasto con la politica del governo.⁴⁵ Molte persone mi hanno detto che dovremmo smettere di farlo, che potrebbe portare a un trattamento sfavorevole, ma nell’anno in cui lo abbiamo fatto, la valutazione di Anthropic è aumentata di oltre 6 volte, un balzo quasi senza precedenti alla nostra scala commerciale.

In secondo luogo, l’industria dell’IA ha bisogno di un rapporto più sano con il governo, basato su un impegno politico sostanziale piuttosto che su un allineamento politico. La nostra scelta di impegnarci sulla sostanza delle politiche piuttosto che sulla politica viene talvolta interpretata come un errore tattico o un’incapacità di “leggere l’atmosfera” piuttosto che come una decisione di principio, e questa interpretazione mi preoccupa. In una democrazia sana, le aziende dovrebbero poter sostenere una buona politica per il suo stesso bene. A questo proposito, si sta preparando una reazione pubblica contro l’IA: questa potrebbe essere un correttivo, ma al momento è poco mirata. Gran parte di essa prende di mira questioni che in realtà non sono problemi (come l’utilizzo idrico dei data center) e propone soluzioni (come il divieto dei data center o imposte sul patrimonio mal progettate) che non affronterebbero le vere preoccupazioni. La questione di fondo che merita attenzione è garantire che lo sviluppo dell’IA rimanga responsabile nei confronti dell’interesse pubblico, non ostaggio di alcuna particolare alleanza politica o commerciale, e sembra importante concentrare la discussione pubblica su questo punto.

In terzo luogo, gli interventi macroeconomici che ho descritto in precedenza in questa sezione, così come una rinascita della filantropia privata, possono aiutare a riequilibrare la bilancia economica, affrontando contemporaneamente sia la sostituzione dei posti di lavoro che i problemi di concentrazione del potere economico. Dovremmo guardare alla storia del nostro paese in questo caso: anche durante la Gilded Age, industriali come Rockefeller e Carnegie sentivano un forte obbligo nei confronti della società nel suo complesso, la sensazione che la società avesse contribuito enormemente al loro successo e che dovessero restituire qualcosa. Quello spirito sembra mancare sempre più oggi, e penso che sia una parte importante della via d’uscita da questo dilemma economico. Coloro che sono in prima linea nel boom economico dell’IA dovrebbero essere disposti a rinunciare sia alla loro ricchezza che al loro potere.

5. Mari neri dell’infinito

Effetti indiretti

Quest’ultima sezione è un contenitore per le incognite sconosciute, in particolare per ciò che potrebbe andare storto come risultato indiretto dei progressi positivi nell’IA e della conseguente accelerazione della scienza e della tecnologia in generale.

Supponiamo di affrontare tutti i rischi descritti finora e di iniziare a raccogliere i frutti dell’IA. Probabilmente avremo un “secolo di progresso scientifico ed economico compresso in un decennio”, e questo sarà estremamente positivo per il mondo, ma dovremo poi fare i conti con i problemi derivanti da questo rapido ritmo di progresso, e tali problemi potrebbero presentarsi rapidamente. Potremmo anche incontrare altri rischi che si verificano indirettamente come conseguenza del progresso dell’IA e che sono difficili da prevedere in anticipo.

Data la natura delle incognite, è impossibile stilare un elenco esaustivo, ma elencherò tre possibili preoccupazioni come esempi illustrativi di ciò a cui dovremmo prestare attenzione:

• ▶︎ Rapidi progressi in biologia. Se otterremo davvero un secolo di progressi medici in pochi anni, è possibile che aumenteremo notevolmente la durata della vita umana, e c’è la possibilità che acquisiamo anche capacità radicali come la capacità di aumentare l’intelligenza umana o di modificare radicalmente la biologia umana. Si tratterebbe di grandi cambiamenti in ciò che è possibile, che avvengono molto rapidamente. Potrebbero essere positivi se gestiti in modo responsabile (che è la mia speranza, come descritto in Macchine di amorevole grazia), ma c’è sempre il rischio che vadano molto male — per esempio, se gli sforzi per rendere gli esseri umani più intelligenti li rendessero anche più instabili o assetati di potere. C’è anche la questione degli “upload” o dell’“emulazione del cervello intero”, menti umane digitali istanziate nel software, che un giorno potrebbero aiutare l’umanità a superare i propri limiti fisici, ma che comportano anche rischi che trovo inquietanti.
• ▶︎ L’IA cambia la vita umana in modo malsano. Un mondo con miliardi di intelligenze che sono molto più intelligenti degli esseri umani in ogni cosa sarà un mondo molto strano in cui vivere. Anche se l’IA non mira attivamente ad attaccare gli esseri umani (Sezione 1) e non viene esplicitamente utilizzata per l’oppressione o il controllo da parte degli Stati (Sezione 3), ci sono molte cose che potrebbero andare storte anche senza arrivare a questo, attraverso normali incentivi commerciali e transazioni nominalmente consensuali. Ne vediamo i primi segnali nelle preoccupazioni relative alla psicosi da IA, all’IA che spinge le persone al suicidio e alle preoccupazioni sulle relazioni sentimentali con le IA. Ad esempio, le IA potenti potrebbero inventare una nuova religione e convertirvi milioni di persone? La maggior parte delle persone potrebbe finire per diventare “dipendente” in qualche modo alle interazioni con l’IA? Le persone potrebbero finire per essere “manipolate” dai sistemi di IA, in cui un’IA osserva essenzialmente ogni loro mossa e dice loro esattamente cosa fare e dire in ogni momento, portando a una vita “buona” ma priva di libertà o di qualsiasi orgoglio per i risultati raggiunti? Non sarebbe difficile generare dozzine di questi scenari se mi sedessi con il creatore di Black Mirror e provassi a farne un brainstorming. Penso che questo indichi l’importanza di cose come il miglioramento della Costituzione di Claude , al di là di quanto necessario per prevenire i problemi di cui alla Sezione 1. Sembra fondamentale assicurarsi che i modelli di IA abbiano davvero a cuore gli interessi a lungo termine dei propri utenti, in un modo che le persone riflessive approverebbero piuttosto che in un modo sottilmente distorto.
• ▶︎ Lo scopo umano. Questo è collegato al punto precedente, ma non riguarda tanto le interazioni umane specifiche con i sistemi di IA quanto il modo in cui la vita umana cambia in generale in un mondo con un’IA potente. Gli esseri umani saranno in grado di trovare uno scopo e un significato in un mondo del genere? Penso che sia una questione di atteggiamento: come ho detto in Macchine di amorevole grazia, credo che lo scopo umano non dipenda dall’essere i migliori al mondo in qualcosa, e che gli esseri umani possano trovare uno scopo anche in periodi di tempo molto lunghi attraverso storie e progetti che amano. Dobbiamo semplicemente spezzare il legame tra la generazione di valore economico e l’autostima e il significato. Ma questa è una transizione che la società deve compiere, e c’è sempre il rischio che non la gestiamo bene.

La mia speranza, di fronte a tutti questi potenziali problemi, è che in un mondo con un’IA potente di cui ci fidiamo, che non ci ucciderà, che non è lo strumento di un governo oppressivo e che lavora sinceramente per il nostro bene, possiamo usare l’IA stessa per anticipare e prevenire questi problemi. Ma questo non è garantito: come tutti gli altri rischi, è qualcosa che dobbiamo gestire con cura.

La prova dell’umanità

Leggere questo saggio potrebbe dare l’impressione che ci troviamo in una situazione scoraggiante. Di certo l’ho trovata scoraggiante da scrivere, in contrasto con Macchine di amorevole grazia, che mi è sembrato di dare forma e struttura a una musica straordinariamente bella che mi risuonava in testa da anni. E c’è molto in questa situazione che è davvero difficile. L’IA porta minacce all’umanità da più direzioni, e c’è una tensione reale tra i diversi pericoli, dove mitigare alcuni di essi rischia di peggiorarne altri se non agiamo con estrema cautela.

Prendersi il tempo per costruire con cura sistemi di IA in modo che non minaccino autonomamente l’umanità è in reale tensione con la necessità che le nazioni democratiche mantengano un vantaggio sulle nazioni autoritarie e non ne siano soggiogate. Ma a sua volta, gli stessi strumenti basati sull’IA necessari per combattere le autocrazie possono, se portati all’estremo, essere rivolti contro noi stessi per creare una tirannia nei nostri stessi paesi. Il terrorismo guidato dall’IA potrebbe uccidere milioni di persone attraverso l’uso improprio della biologia, ma una reazione eccessiva a questo rischio potrebbe condurci sulla strada verso uno stato di sorveglianza autocratico. Gli effetti di concentrazione economica e del lavoro dell’IA, oltre a costituire di per sé gravi problemi, potrebbero costringerci ad affrontare gli altri problemi in un clima di rabbia pubblica e forse persino di disordini civili, invece di poter fare appello alla parte migliore della nostra natura. Soprattutto, l’enorme numero di rischi, compresi quelli sconosciuti, e la necessità di affrontarli tutti contemporaneamente, creano una sfida intimidatoria che l’umanità deve superare.

Inoltre, gli ultimi anni dovrebbero chiarire che l’idea di fermare o anche solo rallentare in modo sostanziale la tecnologia è fondamentalmente insostenibile. La formula per costruire potenti sistemi di IA è incredibilmente semplice, tanto che si può quasi dire che emerga spontaneamente dalla giusta combinazione di dati e potenza di calcolo. La sua creazione era probabilmente inevitabile nel momento stesso in cui l’umanità ha inventato il transistor, o forse anche prima, quando abbiamo imparato per la prima volta a controllare il fuoco. Se un’azienda non la costruisce, altre lo faranno quasi altrettanto velocemente. Se tutte le aziende nei paesi democratici fermassero o rallentassero lo sviluppo, per accordo reciproco o decreto normativo, i paesi autoritari continuerebbero semplicemente ad andare avanti. Dato l’incredibile valore economico e militare della tecnologia, insieme alla mancanza di qualsiasi meccanismo di applicazione significativo, non vedo come potremmo mai convincerli a fermarsi.

Vedo invece una via verso una leggera moderazione nello sviluppo dell’IA che sia compatibile con una visione realista della geopolitica. Tale via comporta il rallentamento della marcia delle autocrazie verso un’IA potente per alcuni anni, negando loro le risorse necessarie per costruirla,⁴⁶ ovvero chip e apparecchiature per la produzione di semiconduttori. Questo a sua volta offre ai paesi democratici un margine che possono “spendere” per costruire un’IA potente con maggiore cautela, prestando maggiore attenzione ai rischi, pur procedendo abbastanza velocemente da battere agevolmente le autocrazie. La competizione tra le aziende di IA all’interno delle democrazie può quindi essere gestita sotto l’egida di un quadro giuridico comune, attraverso una combinazione di standard industriali e regolamentazione.

Anthropic ha sostenuto con grande forza questa strada, spingendo per controlli sulle esportazioni di chip e una regolamentazione giudiziosa dell’IA, ma anche queste proposte apparentemente di buon senso sono state in gran parte respinte dai responsabili politici negli Stati Uniti (che è il paese in cui è più importante averle). C’è così tanto denaro da guadagnare con l’IA – letteralmente trilioni di dollari all’anno – che persino le misure più semplici stanno trovando difficoltà a superare l’economia politica insita nell’IA. Questa è la trappola: l’IA è così potente, un premio così allettante, che è molto difficile per la civiltà umana imporre qualsiasi restrizione.

Posso immaginare, come ha fatto Sagan in Contact, che questa stessa storia si ripeta su migliaia di mondi. Una specie acquisisce la sensibilità, impara a usare gli strumenti, inizia l’ascesa esponenziale della tecnologia, affronta le crisi dell’industrializzazione e delle armi nucleari e, se sopravvive a queste, affronta la sfida più difficile e definitiva quando impara a plasmare la sabbia in macchine che pensano. Se supereremo quella prova e andremo avanti a costruire la bellissima società descritta in Macchine di amorevole grazia, o soccomberemo alla schiavitù e alla distruzione, dipenderà dal nostro carattere e dalla nostra determinazione come specie, dal nostro spirito e dalla nostra anima.

sostieni acro-polis.it ♥️ acquista i volumi di acro-pòlis libri su carta

Nonostante i molti ostacoli, credo che l’umanità abbia la forza dentro di sé per superare questa prova. Sono incoraggiato e ispirato dalle migliaia di ricercatori che hanno dedicato la loro carriera ad aiutarci a comprendere e guidare i modelli di IA, e a plasmare il carattere e la costituzione di questi modelli. Penso che ora ci sia una buona possibilità che tali sforzi diano frutti in tempo per fare la differenza. Mi incoraggia il fatto che almeno alcune aziende abbiano dichiarato che sosterranno costi commerciali significativi per impedire che i loro modelli contribuiscano alla minaccia del bioterrorismo. Mi incoraggia il fatto che alcune persone coraggiose abbiano resistito alle correnti politiche dominanti e abbiano approvato una legislazione che getta i primi semi di sensate misure di sicurezza sui sistemi di IA. Mi incoraggia il fatto che il pubblico comprenda che l’IA comporta dei rischi e voglia che tali rischi vengano affrontati. Mi incoraggiano lo spirito indomito di libertà in tutto il mondo e la determinazione a resistere alla tirannia ovunque si manifesti.

Ma dovremo intensificare i nostri sforzi se vogliamo avere successo. Il primo passo è che chi è più vicino alla tecnologia dica semplicemente la verità sulla situazione in cui si trova l’umanità, cosa che ho sempre cercato di fare; lo sto facendo in modo più esplicito e con maggiore urgenza con questo saggio. Il passo successivo sarà convincere i pensatori, i responsabili politici, le aziende e i cittadini di tutto il mondo dell’imminenza e dell’importanza fondamentale di questa questione —che vale la pena dedicare pensiero e capitale politico a questo rispetto alle migliaia di altre questioni che dominano le notizie ogni giorno. Poi arriverà il momento del coraggio, in cui un numero sufficiente di persone si opporrà alle tendenze prevalenti e difenderà i propri principi, anche di fronte a minacce ai propri interessi economici e alla sicurezza personale.

Gli anni che ci attendono saranno incredibilmente difficili, e ci chiederanno più di quanto pensiamo di poter dare. Ma nel corso della mia carriera come ricercatore, leader e cittadino, ho visto abbastanza coraggio e nobiltà da credere che possiamo vincere: che quando si trova nelle circostanze più buie, l’umanità ha un modo per raccogliere, apparentemente all’ultimo minuto, la forza e la saggezza necessarie per prevalere. Non c’è tempo da perdere.

Vorrei ringraziare Erik Brynjolfsson, Ben Buchanan, Mariano-Florentino Cuéllar, Allan Dafoe, Kevin Esvelt, Nick Beckstead, Richard Fontaine, Jim McClave e moltissimi membri dello staff di Anthropic per i loro utili commenti sulle bozze di questo saggio.

Note

1. ¹ Questo è in linea con un punto che ho sollevato in Macchine di amorevole grazia, dove ho esordito dicendo che i vantaggi dell’IA non dovrebbero essere considerati come una profezia di salvezza, e che è importante essere concreti e con i piedi per terra ed evitare la grandiosità. In definitiva, le profezie di salvezza e le profezie di sventura sono inutili per affrontare il mondo reale, sostanzialmente per le stesse ragioni.↩
2. ² L’obiettivo di Anthropic è rimanere coerente attraverso tali cambiamenti. Quando parlare dei rischi dell’IA era politicamente popolare, Anthropic sosteneva con cautela un approccio giudizioso e basato sulle prove a tali rischi. Ora che parlare dei rischi dell’IA è politicamente impopolare, Anthropic continua a sostenere con cautela un approccio giudizioso e basato sulle prove a questi rischi.↩
3. ³ Nel corso del tempo, ho acquisito una crescente fiducia nella traiettoria dell’IA e nella probabilità che superi le capacità umane su tutta la linea, ma rimane ancora qualche incertezza.↩
4. ⁴ I controlli sulle esportazioni dei chip ne sono un ottimo esempio. Sono semplici e sembrano funzionare per lo più.↩
5. ⁵ E, naturalmente, la ricerca di tali prove deve essere intellettualmente onesta, in modo tale da poter anche portare alla luce prove di un’assenza di pericolo. La trasparenza attraverso le schede dei modelli e altre divulgazioni è un tentativo di intraprendere un’impresa intellettualmente onesta.↩
6. ⁶ Infatti, da quando ho scritto Macchine di amorevole grazia nel 2024, i sistemi di IA sono diventati capaci di svolgere compiti che richiedono diverse ore agli esseri umani; METR ha recentemente valutato che Opus 4.5 può svolgere circa quattro ore di lavoro umano con un’affidabilità del 50%.↩
7. ⁷ E per essere chiari, anche se un’IA potente è a soli 1–2 anni di distanza in senso tecnico, molte delle sue conseguenze sociali, sia positive che negative, potrebbero richiedere qualche anno in più per manifestarsi. Questo è il motivo per cui posso contemporaneamente pensare che l’IA rivoluzionerà il 50% dei lavori di livello base nel settore amministrativo nell’arco di 1–5 anni, pur ritenendo che potremmo avere un’IA più capace di chiunque altro nel giro di soli 1–2 anni.↩
8. ⁸ Vale la pena aggiungere che l’opinione pubblica (rispetto ai responsabili politici) sembra essere molto preoccupata per i rischi dell’IA. Penso che parte della loro attenzione sia corretta (ad esempio, la sostituzione dei posti di lavoro da parte dell’IA), e parte sia fuorviante (come le preoccupazioni sull’uso idrico dell’IA, che non è significativo). Questa reazione mi dà speranza che sia possibile un consenso su come affrontare i rischi, ma finora non si è ancora tradotto in cambiamenti politici, per non parlare di cambiamenti politici efficaci o ben mirati.↩
9. ⁹ Possono anche, ovviamente, manipolare (o semplicemente pagare) un gran numero di esseri umani affinché facciano ciò che vogliono nel mondo fisico.↩
10. ¹⁰ Non credo che si tratti di un argomento pretestuoso: mi risulta, ad esempio, che Yann LeCun sostenga questa posizione.↩
11. ¹¹ Si veda, ad esempio, la Sezione 5.5.2 (p. 63–66) della scheda del sistema Claude 4. ↩
12. ¹² Ci sono anche una serie di altre ipotesi inerenti al modello semplice, che non discuterò qui. In linea di massima, dovrebbero farci preoccupare meno della specifica storia del semplice perseguimento del potere disallineato, ma anche di più di possibili comportamenti imprevedibili che non abbiamo anticipato.↩
13. ¹³ Ender’s Game descrive una versione di questo scenario che coinvolge gli esseri umani piuttosto che l’IA. ↩
14. ¹⁴ Ad esempio, ai modelli potrebbe essere detto di non compiere varie azioni negative e di obbedire agli esseri umani, ma potrebbero poi osservare che molti esseri umani compiono esattamente quelle azioni negative! Non è chiaro come questa contraddizione si risolverebbe (e una costituzione ben progettata dovrebbe incoraggiare il modello a gestire queste contraddizioni con eleganza), ma questo tipo di dilemma non è poi così diverso dalle situazioni apparentemente “artificiali” in cui mettiamo i modelli di IA durante i test. ↩
15. ¹⁵ Per inciso, una conseguenza del fatto che la costituzione sia un documento in linguaggio naturale è che è leggibile da chiunque, e ciò significa che può essere criticata da chiunque e confrontata con documenti simili di altre aziende. Sarebbe utile creare una corsa verso l’eccellenza che non solo incoraggi le aziende a pubblicare questi documenti, ma le incoraggi anche a renderli validi.↩
16. ¹⁶ Esiste persino un’ipotesi su un principio unificante profondo che collega l’approccio basato sui personaggi di Constitutional AI ai risultati della scienza dell’interpretabilità e dell’allineamento. Secondo l’ipotesi, i meccanismi fondamentali che guidano Claude sono originariamente emersi come modi per simulare personaggi durante il pre-addestramento, come prevedere cosa direbbero i personaggi di un romanzo. Ciò suggerirebbe che un modo utile per pensare alla costituzione sia più simile a una descrizione del personaggio che il modello utilizza per istanziare una persona coerente. Ciò aiuterebbe anche a spiegare i risultati “Devo essere una persona cattiva” che ho menzionato sopra (perché il modello sta cercando di comportarsi come se fosse un personaggio coerente — in questo caso uno cattivo), e suggerirebbe che i metodi di interpretabilità dovrebbero essere in grado di scoprire “tratti psicologici” all’interno dei modelli. I nostri ricercatori stanno lavorando su modi per verificare questa ipotesi.↩
17. ¹⁷ Per chiarezza, il monitoraggio viene effettuato in modo da preservare la privacy.↩
18. ¹⁸ Anche nei nostri esperimenti con quelle che sono essenzialmente regole imposte volontariamente con la nostra Responsible Scaling Policy, abbiamo riscontrato più volte che è molto facile finire per essere troppo rigidi, tracciando linee che sembrano importanti a priori ma che a posteriori si rivelano assurde. È semplicemente molto facile stabilire regole sulle cose sbagliate quando una tecnologia sta avanzando rapidamente.↩
19. ¹⁹ L’SB 53 e il RAISE non si applicano affatto alle aziende con un fatturato annuo inferiore a 500 milioni di dollari. Si applicano solo alle aziende più grandi e consolidate come Anthropic.↩
20. ²⁰ Ho letto il saggio di Joy per la prima volta 25 anni fa, quando è stato scritto, e ha avuto un profondo impatto su di me. Allora come oggi, lo considero troppo pessimista — non credo che una “rinuncia” generalizzata a interi settori della tecnologia, come suggerisce Joy, sia la risposta — ma le questioni che solleva erano sorprendentemente lungimiranti, e Joy scrive anche con un profondo senso di compassione e umanità che ammiro.↩
21. ²¹ Dobbiamo preoccuparci degli attori statali, ora e in futuro, e ne parlerò nella prossima sezione.↩
22. ²² Esistono prove che molti terroristi siano almeno relativamente ben istruiti, il che potrebbe sembrare contraddire ciò che sto sostenendo qui riguardo a una correlazione negativa tra abilità e motivazione. Ma penso che in realtà si tratti di osservazioni compatibili: se la soglia di abilità necessaria per un attacco riuscito è alta, allora quasi per definizione coloro che attualmente riescono nell’intento devono avere un’abilità elevata, anche se abilità e motivazione sono negativamente correlate. Ma in un mondo in cui i limiti all’abilità fossero rimossi (ad esempio, con i futuri LLM), prevederei che una popolazione consistente di persone con la motivazione a uccidere ma con un’abilità inferiore inizierebbe a farlo — proprio come vediamo per i crimini che non richiedono molta abilità (come le sparatorie nelle scuole).↩
23. ²³ Aum Shinrikyo ci ha provato, tuttavia. Il leader di Aum Shinrikyo, Seiichi Endo, aveva una formazione in virologia presso l’Università di Kyoto e tentò di produrre sia l’antrace che l’ebola. Tuttavia, nel 1995, anche lui non disponeva di competenze e risorse sufficienti per riuscirci. La soglia è ora sostanzialmente più bassa, e gli LLM potrebbero abbassarla ulteriormente.↩
24. ²⁴ Un fenomeno bizzarro relativo agli autori di omicidi di massa è che lo stile di omicidio che scelgono funziona quasi come una sorta di moda grottesca. Negli anni ’70 e ’80, i serial killer erano molto comuni e i nuovi serial killer spesso copiavano il comportamento di serial killer più affermati o famosi. Negli anni ’90 e 2000, le sparatorie di massa sono diventate più comuni, mentre i serial killer sono diventati meno comuni. Non c’è alcun cambiamento tecnologico che abbia innescato questi modelli di comportamento, sembra semplicemente che gli assassini violenti copiassero il comportamento l’uno dell’altro e che la cosa “popolare” da copiare sia cambiata.↩
25. ²⁵ Chi si cimenta occasionalmente nell’evasione dai sistemi di sicurezza a volte crede di aver compromesso questi classificatori quando riesce a far sì che il modello produca un’informazione specifica, come la sequenza genomica di un virus. Ma come ho spiegato prima, il modello di minaccia che ci preoccupa riguarda consigli interattivi passo dopo passo, che si estendono per settimane o mesi, su passaggi specifici e oscuri nel processo di produzione di armi biologiche, ed è proprio da questo che i nostri classificatori mirano a difenderci. (Spesso descriviamo la nostra ricerca come la ricerca di jailbreak “universali” — quelli che non funzionano solo in un contesto specifico o ristretto, ma aprono ampiamente il comportamento del modello.)↩
26. ²⁶ Anche se continueremo a investire nel lavoro per rendere i nostri classificatori più efficienti, e potrebbe avere senso per le aziende condividere tra loro progressi come questi.↩
27. ²⁷ Ovviamente, non ritengo che le aziende debbano divulgare dettagli tecnici sulle fasi specifiche della produzione di armi biologiche che stanno bloccando, e la legislazione sulla trasparenza approvata finora (SB 53 e RAISE) tiene conto di questa questione.↩
28. ²⁸ Un’altra idea correlata è quella dei “mercati della resilienza”, in cui il governo incoraggia lo stoccaggio di DPI, respiratori e altre attrezzature essenziali necessarie per rispondere a un attacco biologico, promettendo in anticipo di pagare un prezzo concordato per queste attrezzature in caso di emergenza. Ciò incentiva i fornitori a stoccare tali attrezzature senza temere che il governo le sequestri senza compenso.↩
29. ²⁹ Perché sono più preoccupato che i grandi attori prendano il potere, ma che i piccoli attori causare distruzione? Perché le dinamiche sono diverse. La presa del potere riguarda la capacità di un attore di accumulare forza sufficiente per sopraffare tutti gli altri: dovremmo quindi preoccuparci degli attori più potenti e/o di quelli più vicini all’IA. La distruzione, al contrario, può essere provocata da chi ha poco potere se difendersi da essa è molto più difficile che causarla. Si tratta quindi di un gioco di difesa contro le minacce più numerose, che probabilmente sono gli attori più piccoli.↩
30. ³⁰ Questo potrebbe sembrare in contrasto con la mia tesi secondo cui attacco e difesa potrebbero essere più equilibrati nel caso degli attacchi informatici che in quello delle armi biologiche, ma la mia preoccupazione in questo caso è che se l’ l’IA sia la più potente al mondo, gli altri non saranno in grado di difendersi anche se la tecnologia stessa presenta un equilibrio intrinseco tra attacco e difesa.↩
31. ³¹ Ad esempio, negli Stati Uniti ciò include il quarto emendamento e il Posse Comitatus Act.↩
32. ³² Inoltre, per chiarezza, esistono alcune argomentazioni a favore della costruzione di grandi data center in paesi con strutture di governance diverse, in particolare se controllati da aziende in democrazie. Tali espansioni potrebbero in linea di principio aiutare le democrazie a competere meglio con il PCC, che rappresenta la minaccia maggiore. Ritengo inoltre che tali data center non comportino grandi rischi a meno che non siano molto grandi. Ma tutto sommato, penso che sia necessaria cautela quando si collocano data center molto grandi in paesi in cui le garanzie istituzionali e le protezioni dello Stato di diritto sono meno consolidate.↩
33. ³³ Questo è, ovviamente, anche un argomento a favore del miglioramento della sicurezza della deterrenza nucleare per renderla più robusta contro un’IA potente, e le democrazie dotate di armi nucleari dovrebbero farlo. Ma non sappiamo di cosa sarà capace un’IA potente né quali difese, se ce ne saranno, funzioneranno contro di essa, quindi non dovremmo dare per scontato che queste misure risolveranno necessariamente il problema. ↩
34. ³⁴ Esiste anche il rischio che, anche se la deterrenza nucleare rimanesse efficace, un paese aggressore possa decidere di smascherare il nostro bluff: non è chiaro se saremmo disposti a usare armi nucleari per difenderci da uno sciame di droni, anche se lo sciame di droni presentasse un rischio sostanziale di conquistarci. Gli sciami di droni potrebbero essere una novità meno grave degli attacchi nucleari ma più grave degli attacchi convenzionali. In alternativa, valutazioni divergenti sull’efficacia della deterrenza nucleare nell’era dell’IA potrebbero alterare la teoria dei giochi del conflitto nucleare in modo destabilizzante.↩
35. ³⁵ Per essere chiari, ritengo che la strategia giusta sia quella di non vendere chip alla Cina, anche se i tempi per arrivare a un’IA potente fossero sostanzialmente più lunghi. Non possiamo rendere i cinesi “dipendenti” dai chip americani: sono determinati a sviluppare la propria industria dei chip in un modo o nell’altro. Ci vorranno molti anni per farlo, e tutto ciò che stiamo facendo vendendo loro chip è dare loro una grande spinta durante quel periodo.↩
36. ³⁶ Per essere chiari, la maggior parte di ciò che viene utilizzato oggi in Ucraina e a Taiwan non sono armi completamente autonome. Queste arriveranno, ma non sono ancora qui oggi.↩
37. ³⁷ La nostra scheda del modello per Claude Opus 4.5, il nostro modello più recente, mostra che Opus ottiene risultati migliori in un colloquio di ingegneria delle prestazioni spesso somministrato presso Anthropic rispetto a qualsiasi candidato nella storia dell’azienda.↩
38. ³⁸ “Scrivere tutto il codice” e “svolgere il lavoro di un ingegnere del software dall’inizio alla fine” sono cose molto diverse, perché gli ingegneri del software fanno molto di più che scrivere codice, tra cui testare, gestire ambienti, file e installazioni, gestire le distribuzioni di cloud computing, iterare sui prodotti e molto altro ancora.↩
39. ³⁹ I computer sono generici in un certo senso, ma sono chiaramente incapaci, da soli, della stragrande maggioranza delle capacità cognitive umane, anche se superano di gran lunga gli esseri umani in alcune aree (come l’aritmetica). Naturalmente, le cose costruite sopra i computer, come l’IA, sono ora capaci di un’ampia gamma di abilità cognitive, ed è proprio di questo che tratta questo saggio.↩
40. ⁴⁰ Per essere chiari, i modelli di IA non hanno esattamente lo stesso profilo di punti di forza e di debolezza degli esseri umani. Tuttavia, stanno progredendo in modo abbastanza uniforme in ogni dimensione, per cui avere un profilo irregolare o a picchi potrebbe non avere, in definitiva, alcuna importanza.↩
41. ⁴¹ Sebbene vi sia un dibattito tra gli economisti su questa idea.↩
42. ⁴² La ricchezza personale è uno “stock”, mentre il PIL è un “flusso”, quindi non si sta affermando che Rockefeller possedesse il 2% del valore economico degli Stati Uniti. Ma è più difficile misurare la ricchezza totale di una nazione rispetto al PIL, e i redditi individuali delle persone variano molto di anno in anno, quindi è difficile stabilire un rapporto nelle stesse unità. Il rapporto tra la più grande fortuna personale e il PIL, pur non mettendo a confronto cose simili tra loro, è comunque un parametro di riferimento perfettamente ragionevole per la concentrazione estrema della ricchezza. ↩
43. ⁴³ Il valore totale del lavoro nell’economia è di 60.000 miliardi di dollari all’anno, quindi 3.000 miliardi di dollari all’anno corrisponderebbero al 5% di questo. Tale importo potrebbe essere guadagnato da un’azienda che fornisse manodopera al 20% del costo degli esseri umani e avesse una quota di mercato del 25%, anche se la domanda di manodopera non aumentasse (cosa che quasi certamente accadrebbe a causa del costo inferiore) .↩
44. ⁴⁴ Per essere chiari, non credo che l’effettiva produttività dell’IA sia ancora responsabile di una parte sostanziale della crescita economica degli Stati Uniti. Piuttosto, penso che la spesa per i data center rappresenti una crescita causata da investimenti anticipatori, ovvero il mercato si aspetta una crescita economica futura guidata dall’IA e investe di conseguenza. ↩
45. ⁴⁵ Quando siamo d’accordo con l’amministrazione, lo diciamo, e cerchiamo punti di accordo in cui le politiche sostenute da entrambe le parti siano davvero positive per il mondo. Il nostro obiettivo è quello di essere mediatori onesti piuttosto che sostenitori o oppositori di un determinato partito politico.↩
46. ⁴⁶ Non credo che sia possibile andare oltre i pochi anni: su scale temporali più lunghe, costruiranno i propri chip.↩

Gennaio 2026. Fonte: Dario Amodei

Dario Amodei è l’amministratore delegato di Anthropic, una società di utilità pubblica impegnata nella creazione di sistemi di intelligenza artificiale. In precedenza, Amodei ha ricoperto il ruolo di vicepresidente della ricerca presso OpenAI, dove ha guidato lo sviluppo di modelli linguistici su larga scala come GPT-2 e GPT-3. È inoltre co-inventore dell’apprendimento per rinforzo basato sul feedback umano. Prima di entrare in OpenAI, ha lavorato presso Google Brain come ricercatore senior. Ha conseguito il dottorato in biofisica presso l’Università di Princeton come Hertz Fellow ed è stato ricercatore post-dottorato presso la Scuola di Medicina dell’Università di Stanford.

---

https://www.asterios.it/catalogo/epimente

Clicca sul link vai alla scheda del volume e leggi le prime 50 pagine!

---