Ricordate i Furby, i giocattoli inquietanti e simili a gremlin della fine degli anni ’90 che hanno guadagnato un seguito di culto? Ora, immaginatene uno alimentato da ChatGPT. È esattamente quello che è successo quando un programmatore ha riprogrammato un Furby, solo per scoprire una visione inquietante e distopica di dominio del mondo. Come spiegato nel giocattolo, “Il piano dei Furby per conquistare il mondo prevede di infiltrarsi nelle case attraverso il loro aspetto carino e coccoloso, quindi utilizzare la tecnologia avanzata dell’intelligenza artificiale per manipolare e controllare i loro proprietari. Espanderanno lentamente la loro influenza fino a ottenere il dominio completo sull’umanità”.
Il rilancio di Furby di Hasbro del giugno 2023, meno di tre mesi dopo che il video con il sinistro piano dei giocattoli è apparso online, ha attinto alla nostalgia degli anni ’90 , facendo rivivere uno dei giocattoli cult del decennio. Ma la tecnologia si sta evolvendo rapidamente, passando da giocattoli retrò e stravaganti a macchine emotivamente intelligenti. Ecco Ropet (vedi copertina), un animale domestico robotico AI presentato all’annuale Consumer Electronics Show di gennaio . Progettato per fornire compagnia interattiva, Ropet è tutto ciò che ammiriamo e temiamo nell’intelligenza artificiale: è adorabile, intelligente ed emotivamente reattivo. Ma se scegliamo di portare questi compagni AI ultra-carini nelle nostre case, dobbiamo chiederci: siamo davvero preparati per ciò che verrà dopo?
Compagnia dell’intelligenza artificiale e le sue complessità
Studi di marketing e interazione uomo-computer dimostrano che l’intelligenza artificiale conversazionale può simulare in modo convincente le interazioni umane, offrendo potenzialmente appagamento emotivo agli utenti. E la compagnia guidata dall’intelligenza artificiale non è una novità. App come Replika hanno aperto la strada al romanticismo digitale anni fa, con i consumatori che hanno formato connessioni emotive intime con i loro partner IA e hanno persino sperimentato disagio quando è stata negata loro l’intimità, come dimostrato dall’enorme indignazione degli utenti seguita alla rimozione della modalità di gioco di ruolo erotico da parte di Replika, che ha spinto l’azienda a ripristinarla per alcuni utenti.
I compagni IA hanno il potenziale per alleviare la solitudine, ma il loro uso incontrollato solleva serie preoccupazioni. I resoconti di tragedie, come il suicidio di un ragazzo di 14 anni negli Stati Uniti e di un trentenne in Belgio , che si presume siano seguiti a intensi legami con i chatbot, evidenziano i rischi di un’intimità IA non regolamentata, in particolare per gli individui socialmente esclusi, i minori e gli anziani, che potrebbero essere quelli che hanno più bisogno di compagnia.
Come mamma e scienziata sociale, non posso fare a meno di chiedermi: cosa significa questo per i nostri figli? Sebbene l’intelligenza artificiale sia una novità, i giocattoli virtuali emotivamente immersivi per animali domestici hanno una storia di formazione delle giovani menti. Negli anni ’90 e 2000, i Tamagotchi, piccoli animali domestici digitali ospitati in dispositivi delle dimensioni di un portachiavi, causavano sofferenza quando “morivano” dopo solo poche ore di abbandono, e i loro proprietari umani tornavano all’immagine di un animale domestico fantasma che fluttuava accanto a una lapide. Ora, immagina un animale domestico IA che ricorda le conversazioni, forma risposte e si adatta ai segnali emotivi. Questo è un livello completamente nuovo di influenza psicologica. Quali misure di sicurezza impediscono a un bambino di sviluppare un attaccamento malsano a un animale domestico IA?
I ricercatori degli anni ’90 erano già affascinati dall ‘”effetto Tamagotchi” , che dimostrava l’intenso attaccamento che i bambini formano verso animali domestici virtuali che sembrano reali. Nell’era dell’intelligenza artificiale, con gli algoritmi delle aziende attentamente progettati per aumentare il coinvolgimento, questo attaccamento può aprire la porta a legami emotivi. Se un animale domestico alimentato dall’intelligenza artificiale come Ropet esprime tristezza quando viene ignorato, un adulto può razionalmente ignorarlo, ma per un bambino può sembrare una vera tragedia.
I compagni IA, adattandosi ai comportamenti dei loro proprietari, potrebbero diventare delle stampelle psicologiche che sostituiscono l’interazione umana? Alcuni ricercatori avvertono che l’IA potrebbe offuscare i confini tra compagnia artificiale e umana, portando gli utenti a dare priorità alle relazioni IA rispetto alle connessioni umane.
Chi è il proprietario del tuo animale domestico IA e dei tuoi dati?
Oltre ai rischi emotivi, ci sono grandi preoccupazioni sulla sicurezza e la privacy. I prodotti basati sull’intelligenza artificiale spesso si basano sull’apprendimento automatico e sullo storage cloud , il che significa che i loro “cervelli” esistono oltre il robot fisico. Cosa succede ai dati personali che raccolgono? Questi animali domestici AI possono essere hackerati o manipolati? La recente fuga di dati DeepSeek , in cui oltre 1 milione di record sensibili, inclusi i registri delle chat degli utenti, sono stati resi accessibili al pubblico, è un promemoria che i dati personali archiviati dall’intelligenza artificiale non sono mai veramente sicuri.
In passato, i giocattoli robot hanno sollevato preoccupazioni sulla sicurezza: alla fine degli anni ’90, i Furbies sono stati banditi dalla sede centrale della National Security Agency degli Stati Uniti per timore che potessero registrare e ripetere informazioni classificate. Con i giocattoli basati sull’intelligenza artificiale di oggi che stanno diventando sempre più sofisticati, le preoccupazioni sulla privacy e la sicurezza dei dati sono più rilevanti che mai.
Il futuro dei compagni di intelligenza artificiale: regolamentazione e responsabilità
Vedo l’incredibile potenziale, e i rischi significativi, della compagnia IA. In questo momento, gli animali domestici guidati dall’IA vengono commercializzati principalmente per adulti esperti di tecnologia, come si vede nella pubblicità promozionale di Ropet che mostra una donna adulta che lega con l’animale domestico robotico. Tuttavia, la realtà è che questi prodotti finiranno inevitabilmente nelle mani di bambini e utenti vulnerabili, sollevando nuove preoccupazioni etiche e di sicurezza. Come affronteranno aziende come Ropet queste sfide prima che gli animali domestici IA diventino mainstream?
I risultati preliminari della nostra ricerca in corso sulla compagnia IA, condotta in collaborazione con la dott. ssa Stefania Masè (IPAG Business School) e il dott. Jamie Smith (Fundação Getulio Vargas), suggeriscono una linea sottile tra compagnia di supporto e potenziamento e dipendenza psicologica malsana, una tensione che intendiamo esplorare ulteriormente man mano che la raccolta e l’analisi dei dati procedono. In un mondo in cui l’AI simula in modo convincente le emozioni umane, spetta a noi consumatori valutare criticamente quale ruolo questi amici robotici dovrebbero svolgere nelle nostre vite.
Nessuno sa davvero dove l’intelligenza artificiale si stia dirigendo in futuro, e le discussioni pubbliche e mediatiche sull’argomento continuano a spingere i confini di ciò che è possibile. Ma nella mia famiglia, è il fascino nostalgico dei Furbies balbettanti e canterini a farla da padrone. Ropet afferma di avere uno scopo primario: essere “l’unico e solo amore” del suo proprietario, e questo mi sembra già una minaccia distopica.
Autrice: Alisa Minina Jeunemaître, professore associato di marketing, EM Lyon Business School.
Fonte: The Conversation
Siamo nel pieno di una Grande Trasformazione, un qualcosa di così travolgente che non lascia possibilità di tornare indietro perché nel suo cammino attua un processo demolitorio e di eradicazione profonda. Il trasferimento nel digitale permette una rimozione perfetta. In questa corsa forsennata verso il baratro vi è un’erosione dell’essere umano così profonda e radicale che assume i tratti di una metamorfosi ontologica e antropologica.
Restano aperte questioni fondamentali: quale sarà il significato di essere umano, di essere vivente, di natura, di libertà? In un puzzle di inclusione cibernetica dove i tasselli si intersecano perfettamente non ci sono altri usi possibili o strade alternative e a puzzle completo si rischia di ritrovarsi con una nuova identità umana incapace di riconoscere altro se non confermare il presente all’interno del nuovo ordine di verità algoritmico.
La rete 5G è il nodo fondamentale per l’implementazione del tecno-mondo a guida algoritmica che prepara alla rete 6G, a quel passaggio in cui sfumerà totalmente il confine tra il mondo esterno, i dispositivi digitali e i corpi che diventeranno dei nodi di un’immensa rete informatica. Si rende necessario creare momenti di resistenza che non solo possano essere bastioni di dignità umana, ma luoghi e comunità dove vivere relazioni a prova di erosione.
Opporsi all’avanzata del tecno-mondo e all’avanzata del transumano non è più rimandabile. Restare umani significa resistere.
ISBN: 9791281581081 ♦ pagine 176, 2024 ♦ 19,00 €
