Uno studio di Microsoft rivela che affidarsi all’intelligenza artificiale uccide le capacità di pensiero critico

Un giorno l’intelligenza artificiale potrebbe rendere obsoleti gli esseri umani, ma non nel modo in cui pensi. Invece di diventare così brava a completare i compiti da prendere il posto di una persona, potremmo semplicemente diventare così dipendenti da strumenti imperfetti che le nostre stesse capacità si atrofizzeranno. Un nuovo studio pubblicato dai ricercatori di Microsoft e della Carnegie Mellon University ha scoperto che più gli esseri umani si affidano agli strumenti di intelligenza artificiale per completare i loro compiti, meno pensiero critico hanno, rendendo più difficile fare affidamento sulle competenze quando sono necessarie.

https://www.asterios.it/catalogo/analogico-e-digitale

I ricercatori hanno contattato 319 knowledge worker, ovvero persone il cui lavoro comporta la gestione di dati o informazioni, e hanno chiesto loro di auto-segnalare i dettagli di come utilizzano strumenti di intelligenza artificiale generativa sul posto di lavoro. Ai partecipanti è stato chiesto di segnalare i compiti che erano stati loro assegnati, come avevano utilizzato strumenti di intelligenza artificiale per completarli, quanto fossero sicuri della capacità dell’intelligenza artificiale di svolgere il compito, della loro capacità di valutare tale output e quanto fossero sicuri della propria capacità di completare lo stesso compito senza alcuna assistenza di intelligenza artificiale.

Nel corso dello studio, si è rivelato uno schema: più il lavoratore era sicuro della capacità dell’IA di completare il compito, più spesso sentiva di togliere le mani dal volante. I partecipanti hanno segnalato una “percepita messa in atto di pensiero critico” quando sentivano di poter fare affidamento sullo strumento di IA, presentando il potenziale per un eccessivo affidamento sulla tecnologia senza esame. Ciò era particolarmente vero per i compiti meno rischiosi, ha scoperto lo studio, poiché le persone tendevano a essere meno critiche. Sebbene sia molto umano avere gli occhi vitrei per un compito semplice, i ricercatori hanno avvertito che ciò potrebbe presagire preoccupazioni circa “l’affidamento a lungo termine e la ridotta risoluzione indipendente dei problemi”.

https://www.asterios.it/catalogo/fin-di-bene-il-nuovo-potere-della-ragione-artificiale

Al contrario, quando i lavoratori avevano meno fiducia nella capacità dell’IA di completare il compito assegnato, si ritrovavano più impegnati nelle loro capacità di pensiero critico. A loro volta, in genere riferivano di avere più fiducia nella loro capacità di valutare ciò che l’IA produceva e migliorarlo da soli.

Un’altra scoperta degna di nota dello studio: gli utenti che avevano accesso a strumenti di intelligenza artificiale generativa tendevano a produrre “un set di risultati meno diversificato per lo stesso compito” rispetto a quelli che non ne avevano. Ciò supera il test dell’olfatto. Se stai utilizzando uno strumento di intelligenza artificiale per completare un compito, sarai limitato a ciò che quello strumento può generare in base ai suoi dati di addestramento. Questi strumenti non sono macchine di idee infinite, possono funzionare solo con ciò che hanno, quindi verifica che i loro output sarebbero più omogenei. I ricercatori hanno scritto che questa mancanza di risultati diversificati potrebbe essere interpretata come un “deterioramento del pensiero critico” per i lavoratori.

Lo studio non contesta l’idea che ci siano situazioni in cui gli strumenti di intelligenza artificiale possano migliorare l’efficienza, ma solleva segnali di allarme sui costi di ciò. Affidandosi all’intelligenza artificiale, i lavoratori iniziano a perdere la memoria muscolare che hanno sviluppato completando autonomamente determinati compiti. Iniziano a esternalizzare non solo il lavoro in sé, ma anche il loro impegno critico con esso, dando per scontato che la macchina se ne occupi. Quindi, se sei preoccupato di essere sostituito dall’intelligenza artificiale e la stai usando acriticamente per il tuo lavoro, potresti creare una profezia che si autoavvera.

Fonte: GIZmodo