Un esperimento di informatica cattura , con insolita chiarezza, la differenza tra progettare sistemi di intelligenza artificiale sempre più potenti secondo un parametro di riferimento fisso e sviluppare strumenti che supportino realmente il giudizio umano 1. I ricercatori hanno creato una partita a scacchi collaborativa in cui ogni squadra è composta da coppie, abbinando un’IA potente a una più debole, simile a quella umana. Il lancio di una moneta decide, prima di ogni mossa, quale partner giocherà. Nessuno dei due sa in anticipo chi sarà il prossimo a giocare.
Il risultato fu sorprendente. Pur essendo più deboli negli scacchi tradizionali, gli strumenti di intelligenza artificiale progettati per effettuare mosse su cui il partner umano potesse costruire, battevano costantemente le squadre guidate da Leela, un’IA scacchistica sovrumana. La potenza non era sufficiente: la compatibilità con il partner era più importante.
Questo risultato ridefinisce il significato di interpretabilità nel contesto dell’adozione dell’IA. Invece di chiederci se un essere umano sia in grado di comprendere l’output di un sistema di IA, dovremmo verificare se sia in grado di utilizzarlo in modo produttivo. In radiologia, ad esempio, ciò potrebbe significare che uno strumento di IA non si limiti a suggerire una diagnosi, ma evidenzi anche la regione di una radiografia del torace che ha portato alla diagnosi, in modo che il medico possa valutare se l’attenzione del sistema corrisponda alla propria analisi.
Tuttavia, l’interpretabilità individuale è solo il primo passo. Gli scacchi hanno un obiettivo fisso: lo scacco matto. L’obiettivo non cambia mai. Nella maggior parte delle professioni che stanno adottando l’IA, la situazione è più complessa. In ambito sanitario, legale e formativo, ad esempio, le pratiche vengono continuamente adattate dai professionisti che vi operano. Ciò che costituisce una buona assistenza al paziente, una corretta interpretazione giuridica o un percorso formativo appagante non può essere definito e ottimizzato una sola volta.
Questo divario tra obiettivi fissi e valori professionali in continua evoluzione ha delle conseguenze sulla progettazione dell’IA. L’esperimento degli scacchi si propone di verificare se il giocatore successivo sia in grado di comprendere e agire in base all’output di un’IA. Nella pratica professionale, tuttavia, è altrettanto importante che il settore mantenga la capacità di mettere in discussione e affinare i valori che strutturano il lavoro. Un sistema di IA può essere interpretabile per ogni utente, pur restringendo la gamma di domande che la comunità si pone.
Consideriamo uno strumento di intelligenza artificiale diagnostica addestrato a inquadrare l’incertezza clinica in termini di punteggi di probabilità. In alcuni casi, questo funziona bene: ad esempio, una probabilità del 70% di infezione batterica basata sui risultati del test. Ma questo approccio fallisce quando il giudizio non ha una base statistica concreta. Ad esempio, quando un medico sospetta violenza domestica, la decisione di documentare o meno il sospetto non può essere ridotta a una probabilità. Si basa sul suo giudizio circa l’opportunità di documentare il caso per proteggere la persona o il rischio di peggiorare la situazione familiare. Tali decisioni sono interpretative ed etiche, radicate in valori controversi. Quando ogni incertezza viene forzata in un quadro probabilistico, il giudizio professionale, carico di valori, non solo viene distorto, ma diventa invisibile.
L’impatto degli strumenti di intelligenza artificiale su tali decisioni collettive è più rilevante di quanto si riconosca attualmente. Quando i professionisti si confrontano con il modo in cui esprimere le incertezze, stanno anche decidendo cosa costituisce un giudizio professionale e quali valori dovrebbero guidare il loro lavoro.
Esistono, quindi, due forme di dequalificazione indotta dall’IA di cui preoccuparsi. Una è individuale e misurabile: l’acutezza percettiva di un medico può diminuire con il disuso. Uno studio del 2025, ad esempio, ha rilevato che i tassi di rilevamento senza ausilio di strumenti da parte degli endoscopisti di lesioni precancerose sono diminuiti dal 28% al 22% dopo aver lavorato con l’assistenza dell’IA. L’altra forma è collettiva e più difficile da rilevare: un’intera professione potrebbe gradualmente perdere la capacità di mettere in discussione e ridefinire i propri obiettivi, perché i sistemi di IA incorporano presupposti su quali siano tali obiettivi.
Pertanto, gli strumenti di intelligenza artificiale utilizzati in ambito professionale dovrebbero essere progettati non solo per l’uso individuale, ma anche con l’obiettivo di promuovere un perfezionamento collettivo nel tempo. Le comunità professionali necessitano di modalità strutturate e continue per definire il modo in cui questi sistemi esprimono l’incertezza e segnalano le ambiguità. I sistemi di intelligenza artificiale non dovrebbero limitarsi a prevedere semplici pulsanti di feedback, ma devono fornire processi partecipativi attraverso i quali i professionisti possano negoziare in modo iterativo le modalità di integrazione degli strumenti.
Uno strumento istituzionale per raggiungere questo obiettivo esiste già: gli appalti. Quando i sistemi sanitari, i tribunali o le autorità scolastiche acquistano strumenti di intelligenza artificiale, possono richiedere che tali sistemi includano meccanismi per un contributo professionale collettivo su come viene espressa l’incertezza e su come vengono inquadrati i risultati. Questi devono essere processi strutturati attraverso i quali gruppi di professionisti rivedano periodicamente come il sistema comunica l’incertezza, e il loro feedback modifichi nel tempo le impostazioni predefinite del sistema. L’ente regolatore medico del Regno Unito, ad esempio, sta raccogliendo prove proprio su questo tema . Tuttavia, la finestra di opportunità per intervenire è ristretta. Le scelte progettuali si consolideranno in infrastrutture difficili da modificare.
L’esperimento con gli scacchi dimostra che la sfida di progettare strumenti di intelligenza artificiale che assistano un partner umano è distinta dall’obiettivo di massimizzare le prestazioni rispetto a un parametro di riferimento. Il passo successivo è riconoscere che, nei casi in cui l’obiettivo deve essere negoziato collettivamente, la compatibilità con un singolo individuo non è la stessa cosa della compatibilità con la pratica nel suo complesso.
Fonte: Natura 652 , 9 (2026)
doi: https://doi.org/10.1038/d41586-026-00966-2
Riferimenti
- 1.
Hamade, K., McIlroy-Young, R., Sen, S., Kleinberg, J. e Anderson, A. in 12a Conferenza Internazionale. Imparare. Rappresentare . (ICLR, 2024).
- 2.
Delacroix, S. et al. RSS Dati Sci. Artif. Intel. 1 , udaf002 (2025).
- 3.
Budzyń, K. et al. Lancetta Gastroenterolo. Epatolo. 10 , 896–903 (2025).
https://www.asterios.it/catalogo/lia-protesi-della-mente