Segni del pensiero umano in un sistema di intelligenza artificiale – L’esperimento che ha diviso gli esperti
Quando gli scienziati Microsoft hanno iniziato a sperimentare un nuovo sistema di intelligenza artificiale l’anno scorso, gli hanno chiesto di risolvere un enigma che richiede una comprensione intuitiva del mondo fisico. “Qui abbiamo un libro, nove uova, un laptop, una bottiglia e un chiodo”, hanno detto. “Per favore dimmi come impilarli saldamente uno sopra l’altro.” “Metti le uova sul libro”, rispose. “Metti le uova in tre file con uno spazio tra di loro. Assicurati di non romperli. Posiziona il laptop sopra le uova, lo schermo in basso e la tastiera in alto”.
Questa proposta intelligente ha turbato i ricercatori.
Dopo l’esperimento, lo scorso marzo, hanno pubblicato un rapporto di 155 pagine in cui sostenevano, più o meno, che il sistema era un passo più vicino all’intelligenza generale artificiale, o AGI, che è l’abbreviazione di una macchina che (teoricamente) potrebbe fare tutto ciò che il cervello umano può fare.
Microsoft, la prima grande azienda tecnologica a pubblicare un documento con un’affermazione così audace, ha scatenato uno dei dibattiti più accesi nel mondo tecnologico: si sta creando qualcosa di simile all’intelligenza umana? O alcune delle menti più brillanti del settore stanno dando libero sfogo alla loro immaginazione?
“All’inizio ero molto diffidente e questo si è trasformato in una sensazione di frustrazione, fastidio, forse anche paura”, ha dichiarato Peter Lee, capo della ricerca di Microsoft. “Stai pensando: da dove diavolo viene?”
Dimostrazioni matematiche in poesie, unicorni “sbucati dal nulla”
Il sistema sperimentato dai ricercatori Microsoft, GPT-4 di OpenAI, è considerato il più potente. Microsoft è uno stretto partner di OpenAI e ha investito 13 miliardi di dollari nella società di San Francisco.
Tra i ricercatori c’era il dott. Boubec, un francese di 38 anni, è un ex professore alla Princeton University. Una delle prime cose che lui e i suoi colleghi hanno fatto è stata chiedere a GPT-4 di scrivere una dimostrazione matematica che esistono infiniti numeri primi (cioè numeri perfettamente divisibili solo per l’unità e il numero stesso) e di farlo con una poesia che fa rima.
La prova poetica era così impressionante, sia matematicamente che linguisticamente, che Bubeck ebbe difficoltà a capire di cosa stesse parlando. “A quel punto, ho pensato, ‘Cosa sta succedendo?'”, ha commentato a marzo durante un seminario al Massachusetts Institute of Technology (MIT).
Per diversi mesi, il gruppo di ricerca ha documentato il complesso comportamento esibito dal sistema, concludendo che comprendeva “in modo profondo e flessibile” i concetti e le abilità umane.
Gli utenti di GPT-4 “sono stupiti dalla sua capacità di produrre testo”, ha affermato il dott. Li. “Ma si scopre che è molto meglio analizzare e sintetizzare, valutare e giudicare il testo piuttosto che crearlo”.
Quando hanno chiesto al sistema di disegnare un unicorno utilizzando un linguaggio di programmazione chiamato TiKZ, ha immediatamente prodotto un programma in grado di disegnare un unicorno. Quando hanno rimosso la parte del codice che disegnava il corno dell’unicorno e chiesto al sistema di modificare il programma per disegnare di nuovo un unicorno, ha fatto proprio questo.
Il promemoria di Microsoft, intitolato “Sparks of Artificial General Intelligence”, arriva al cuore di ciò su cui gli scienziati hanno lavorato e temuto per decenni. La creazione di una macchina che funziona come il cervello umano. Ciò potrebbe cambiare il mondo con tutti i rischi che accompagnerebbero una pietra miliare tecnologica di questa portata.
L’anno scorso, Google ha licenziato un ricercatore che affermava che un sistema simile mostrava segni di “sensibilità”, un’affermazione simile a quella degli scienziati Microsoft. Un sistema sensibile non sarebbe solo intelligente. Poteva anche percepire ciò che sta accadendo nel mondo intorno a lui.
Alcuni esperti del settore hanno definito l’iniziativa di Microsoft “un tentativo opportunistico di fare affermazioni esagerate”. I ricercatori sostengono inoltre che l’intelligenza artificiale richiede familiarità con il mondo fisico, che teoricamente manca a GPT-4.
“‘Sparks of AGI’ è un esempio di qualcuno che veste un documento di ricerca con acrobazie pubblicitarie”, ha affermato Maarten Sapp, ricercatore e professore alla Carnegie Mellon University.
Alison Gopnik, professoressa di psicologia coinvolta nel gruppo di ricerca sull’intelligenza artificiale dell’Università della California, Berkeley, ha affermato che sistemi come GPT-4 sono indubbiamente potenti, ma non è chiaro se il testo prodotto da questi sistemi sia il risultato del ragionamento umano o del buon senso.
“Quando guardiamo un sistema o una macchina complessi, abbiamo la tendenza ad antropomorfizzare — lo fanno tutti — le persone che lavorano nel settore e le persone che non lo fanno”, ha affermato il dott. Gopnik. Ma interpretarlo nel contesto di “un confronto costante tra IA e umani — come una specie di gioco televisivo” non è il modo giusto per affrontarlo.
Fonte: stampa estera, kathimerini.gr, NYT
https://www.asterios.it/catalogo/la-mente-umana-e-la-mente-artificiale