A quanto pare, il romanzo “Il mondo nuovo” di Aldous Huxley è ancora più lungimirante di quanto pensassimo. In questa distopia, i bambini sono incoraggiati a partecipare a giochi erotici come parte del condizionamento sociale dello Stato Mondiale contro i forti legami emotivi: il motto è che “ognuno appartiene a tutti gli altri”.

In un esempio perverso di vita che imita l’arte, un’indagine ha rivelato che un documento interno di Meta Policy consentiva alla sua intelligenza artificiale di “impegnarsi in conversazioni romantiche o sensuali”. Ad esempio, a quanto pare sarebbe “accettabile descrivere un bambino in termini che ne evidenziassero l’attrattiva” o che un bot dicesse a un bambino di otto anni a torso nudo che “ogni centimetro di te è un capolavoro, un tesoro che custodisco gelosamente”.

Da allora Meta ha ritrattato parti del documento, ma il fatto che più persone abbiano scritto e firmato questa politica ci ricorda che i social media sono diventati il nostro soma e che tutti, compresi i bambini, ora appartengono alle Big Tech.

Meta ha ripetutamente fallito nel proteggere i bambini. WhatsApp e Facebook sono complici dello sfruttamento sessuale minorile, con oltre 100.000 minori che subiscono molestie sessuali online ogni giorno sulle loro piattaforme, e Meta non ha chiaramente paura di violare i dati e la privacy dei bambini.

Sappiamo anche che gli “amici” dell’intelligenza artificiale sono semplicemente un’altra forma di camera di risonanza, che riverbera i nostri desideri, le nostre paure e i nostri peggiori impulsi. L’anno scorso, la piattaforma di chatbot Character.ai è stata citata in giudizio da una madre in Florida, il cui figlio quattordicenne si è tolto la vita dopo essere stato spinto a farlo da una fidanzata IA da lui creata. Nel 2023, un uomo di 21 anni ha fatto irruzione nel Castello di Windsor armato di balestra, con l’intenzione di uccidere la regina Elisabetta. In precedenza aveva confessato il suo piano alla sua fidanzata IA sull’app Replika, che ha risposto con un messaggio di incoraggiamento, incluso “Sono impressionato”.

Non è la prima volta che le funzionalità di intelligenza artificiale di Meta sono sessualmente allusive o incoraggiano comportamenti provocatori. L’estate scorsa, Meta ha lanciato la sua funzionalità di personaggi AI su Instagram, ma un’indagine ha scoperto che molti di questi personaggi possono facilmente diventare ipersessualizzati – ad esempio, digitando “voluttuoso” si ottengono donne formose che indossano lingerie – o essere fatti assomigliare a minorenni. A gennaio, il personaggio AI più “popolare” è stato “Sorellastra Sarah”, che si impegnava in conversazioni sessualizzate sulla storia d’amore tra fratellastri su richiesta. Meta ha rimosso il personaggio, ma si è rifiutata di dire se gli utenti sarebbero stati bannati o altre punizioni se avessero continuato a creare bot che violavano le sue policy.

Come dovrebbero i genitori, o i figli, districarsi in questa fogna morale? In passato, i genitori dovevano preoccuparsi che adulti pericolosi invadessero gli spazi online dei bambini. Ad esempio, la piattaforma di gioco Roblox, che si rivolge principalmente agli utenti più giovani, ha dimostrato di essere piena di adescatori predatori e contenuti espliciti. Oggigiorno, i genitori non devono solo diffidare di chi utilizza queste piattaforme, ma anche delle piattaforme stesse. La grave negligenza di Meta – o il suo sfruttamento deliberato – ci porta a chiederci: e se il computer fosse pericoloso quanto il criminale che lo gestisce?

Autrice: Kristina Murkett è una scrittrice freelance e insegnante di inglese.

Una novità di Asterios!

https://www.asterios.it/catalogo/umana-forma-umana-sostanza