Il discorso generale sull’IA, o meglio sulle IA, non riguarda tanto sistemi di IA specifici (con tutte le loro specificità software: non è la stessa cosa usare Copilot e ChatGPT per il grande pubblico, anche se la tecnologia è simile), né le aziende di IA. Per quanto riguarda queste ultime, ci si entusiasma soprattutto per le loro raccolte di fondi, per le loro prestazioni, ma si generalizza rapidamente parlando di “Tech” senza entrare nei dettagli, il che permette tutte le variazioni con pretese filosofiche o addirittura profetiche.
Quando si pretende di interessarsi più da vicino, sono soprattutto i loro discorsi, i loro ispiratori, le loro posizioni politiche ad affascinare come fonte di una nuova ideologia dominante, libertaria/fascista si potrebbe quasi dire. E dal punto di vista degli utenti, dei professionisti dell’IA, si subisce una valanga di benchmark, di test di nuove capacità in situazioni spesso mal identificate o poco attente a individuare il funzionamento reale delle organizzazioni. Tutto ciò incoraggia discorsi generici che fanno dimenticare che esistono altre IA oltre all’IA generativa, che esistono anche usi alternativi dell’IA, che ci sono ricercatori che continuano a esigere spiegazioni, ad esempio, che sviluppano sistemi di IA più piccoli.
Quando metto in guardia contro le “disumanità digitali”, non voglio in alcun modo partecipare al coro di lamentele dei profeti che ingigantiscono talmente la questione da renderci tutti impotenti. Sì, si può fare diversamente! Sì, si possono anche attaccare queste aziende, tanto più quando sono agli inizi, più fragili e più arroganti, ed è quello che propongo qui.
Ecco perché ho cercato di invertire questa tendenza alle generalizzazioni sull’IA che fa paura per parlare non di IA ma di sistemi di IA e insistere sul pluralismo di questi sistemi, tra cui l’IA simbolica che ha permesso di mantenere il controllo sul mondo. Ma senza dubbio bisogna andare oltre e colpire più forte. Anche accettando di utilizzare i LLM (large language models), il cui futuro è molto cupo, sia dal punto di vista finanziario che tecnico, è ora necessario intervenire con urgenza eliminando dal settore le aziende dannose, le “IA canaglia”, per semplificare.
Sì, è necessario bandire le aziende che hanno immesso sul mercato (ovviamente senza autorizzazione) prodotti nocivi, che creano dipendenza, rischiosi e che ora si estendono a tutti i settori, come si farebbe in qualsiasi settore industriale. Tuttavia, non tutte le piattaforme utilizzano gli stessi metodi (poiché tutte le aziende di IA hanno o pretendono di avere, a termine, uno status di piattaforma, punto di passaggio obbligato per tutti gli aspetti delle transazioni). Ciò non assolve in alcun modo le altre né le esonera dalle loro responsabilità, tanto più grandi in quanto sono molto potenti, sostenute da piattaforme di influenza senza precedenti. Ma a causa delle loro esigenze di reputazione, non possono permettersi di provocare troppo spesso e devono quindi rimanere prudenti, cercando al contempo di stare al passo con il ritmo di disruption introdotto dai nuovi operatori, in modo da continuare ad attrarre investitori, poiché qui tutto è una gara a chi brucia più denaro per server farm sempre più enormi.
Name and shame: OpenAI e Grok
Due di esse devono essere nominate e biasimate (name and shame) per poi essere bandite dall’intero settore e da qualsiasi interazione con il grande pubblico e con i mercati pubblici in particolare. Mi riferisco a OpenAI e Grok. Queste sono le due “IA canaglia” che dettano il ritmo della speculazione finanziaria e degli eccessi dei contenuti che paralizzano i governi. In entrambi i casi sembrano aver superato i limiti nelle ultime settimane, anche se il concetto di limite è proprio un concetto che ignorano, tutte prese dall’arroganza che caratterizza il loro imperativo superiore di disruption.
Quando, il 24 gennaio, The Guardian dimostra attraverso dei test che ChatGPT ora tiene conto dei risultati di Grokipedia, l’enciclopedia che utilizza Grok di xAI, sostenuta da Elon Musk e nota in particolare per la sua promozione di affermazioni negazioniste, ci si rende conto di quanto l’associazione di queste due IA canaglia costituisca un’“arma di disinformazione di massa” il cui utilizzo deve essere immediatamente impedito.
Ciò ricorda stranamente i metodi e i principi di Uber. Musk e Altman reggono il confronto con Kalanick, il CEO delirante e delinquente che ha dovuto essere scollegato dai VC (Venture Capitalists) della Silicon Valley perché seminava guerra ovunque, come vuole il loro dogma dirompente. Le personalità di questi disruptor non mi interessano affatto e dovrebbero smettere di fare notizia sui giornali e persino nei lavori dei ricercatori, perché così si perde di vista l’impresa sistemica di distruzione dello Stato di diritto che è al centro delle pratiche delle aziende nelle loro stesse scelte tecniche. Perché questa è la minaccia fondamentale: un’alienazione generale dei consumatori a gloria di delinquenti senza fede né legge che adottano, a loro scelta, i metodi dei teppisti, degli spacciatori o dei mafiosi, a seconda delle circostanze.
Dal punto di vista normativo, propongo di chiamarli “IA teppisti” per fare riferimento agli “Stati canaglia ” (rogue states), termine che si è imposto a livello internazionale sotto l’influenza americana e che ha portato, in epoche diverse e per ragioni diverse, all’esclusione di alcuni Stati da ogni relazione internazionale, poiché le loro attività erano deliberatamente orientate al sabotaggio dello stesso diritto. Alcuni diranno senza dubbio che questo aggettivo avrebbe potuto e potrebbe quindi essere applicato in modo molto ampio agli Stati che non hanno alcun interesse per i loro impegni internazionali e per il diritto internazionale, di cui gli esempi abbondano in questo momento.
Il termine risale senza dubbio a un’epoca precedente al 2022, quando si poteva ancora fingere di credere all’esistenza di queste norme giuridiche che trascendono gli Stati. Il 2022, anno fatale, che vede contemporaneamente l’invasione dell’Ucraina da parte della Russia, l’acquisizione di Twitter da parte di Elon Musk e il lancio di ChatGPT da parte di OpenAI, alla fine di novembre. Il 2022 può senza dubbio costituire una pietra miliare facile da ricordare per segnalare un momento di svolta verso un ritorno al Far West, per nulla romantico, ma soprattutto predatorio (anche se la predazione esisteva già da tempo, ma cercava ancora di travestirsi con gli abiti del diritto).
Gli effetti sul dibattito pubblico e sulla coscienza collettiva di tutto il mondo sono stati devastanti. Si tende a mettere da parte ciò che accade nello spazio mediatico, considerando che si tratta solo di immagini, discorsi e intrattenimento, quasi a differenza di una guerra come quella in Ucraina. Tuttavia, la distruzione dello spirito pubblico ora in atto non può essere sottovalutata. L’ho analizzata e combattuta sin dall’introduzione della pubblicità nei social network a partire dal 2009 e l’ho combattuta ancora, a partire dal 2013, contro Uber e le sue pratiche di distruzione da bandito che gode del caos che provoca[1].
Ma quando si crede di aver toccato il fondo con Cambridge Analytica, si scopre che alcuni continuano a lavorare per aggravare deliberatamente la nostra angoscia mentale collettiva, al fine di attirare gli investitori. Ecco perché, dal 2022, si può parlare di “IA canaglia” come di un nuovo obiettivo, alimentato dall’intero ecosistema digitale che è sempre, ricordiamolo, un capitalismo finanziario digitale con i principi e i costumi delle aziende speculative che ormai guidano il mondo.
Un modello di business canaglia ingannevole
— Chiamarsi OpenAI senza avere nulla a che fare con l’open source, ma al contrario assicurandosi di chiudere e controllare il proprio codice (cosa che anche molte altre aziende di IA praticano).
— Riuscire a combinare lo status di fondazione senza scopo di lucro con un’attività commerciale a scopo di lucro, nella più totale confusione, causando l’abbandono di diversi dirigenti (e anche una controversia con Elon Musk, il noto campione della probità negli affari).
— Rivendicare la propria indipendenza e beneficiare dei massicci investimenti di Microsoft sin dal suo avvio, al punto da rendere opaca la natura dei collegamenti con i servizi di IA di Microsoft come Copilot, sfruttando ampiamente le risorse di ChatGPT. Microsoft detiene ancora il 27% del capitale della Public Benefit Corporation creata da OpenAI, in un accordo di partnership fino al 2025. Microsoft Azure offre le sue capacità di calcolo a OpenAI.
— Organizzare l’attrattiva degli investitori attorno alla promessa di un monopolio, come hanno fatto molte altre piattaforme che in precedenza sono diventate monopoli e rispettano il dogma del libertarismo, ignorando la realtà dei rapporti di forza sul mercato.
— Creare un sistema di investimento circolare con partner/fornitori/clienti sotto forma di partecipazioni incrociate (in particolare con Nvidia) che rendono illeggibile l’effettiva solvibilità dell’azienda, al punto da assomigliare a una piramide di Ponzi a cielo aperto. Guai a chi sarà l’ultimo a mollare la presa. Diversi avvertimenti recenti (tra cui quello di Michael Burry) indicano chiaramente il timore che la bolla così creata possa scoppiare.
— Sfruttare, come altri prima di lui, l’assenza di ritorno sull’investimento e la sola valorizzazione del titolo. L’attuale assenza di redditività (ROI) diventa addirittura un argomento per mostrare tutti gli investimenti fatti e da fare. OpenAI ha perso 12 miliardi di dollari nel terzo trimestre del 2025. OpenAI si è impegnata a spendere 1,4 trilioni di dollari nei prossimi anni, da confrontare con i 20 miliardi di entrate nel 2025.
— Affermare che questo accordo opaco è diventato così vitale per l’intera economia statunitense che lo Stato federale dovrà aiutare l’azienda in caso di problemi (secondo le parole di Sarah Friar, direttrice finanziaria di OpenAI) secondo il motto “too big to fail”, per poi ritirare queste espressioni, nonostante fossero state pubblicate, di fronte al clamore suscitato da questo ricatto allo Stato da parte di un’azienda estremamente libertaria.
— Richiedere fondi per finanziare una crescita illimitata in materia di data center, che comporterebbe un consumo di energia elettrica impossibile da soddisfare con le risorse attuali, privando così le comunità locali delle risorse acquifere e senza alcuna considerazione per il riscaldamento globale. La stessa questione è amplificata dal consumo di acqua e dall’inquinamento sistematico che ne deriva.
— Presentarsi come leader nella corsa all’IA al punto da ottenere il sostegno dell’amministrazione Trump per la creazione di super infrastrutture ritenute indispensabili (progetto Stargate con Oracle e Softbank). Allo stesso tempo (gennaio 2025), la cinese DeepSeek sostiene tuttavia di ottenere gli stessi risultati con dieci volte meno risorse di calcolo. Senza confermare troppo rapidamente questa informazione senza un esame accurato, essa indica tuttavia che sarebbero possibili e già disponibili altri modi di procedere che consumano meno risorse, ma che vengono ancora tenuti nell’ombra coltivando la credenza e l’ignoranza degli utenti, degli investitori e dei governi.
— Organizzare la risposta a Google non appena i suoi progressi con Gemini 3 minacciano la reputazione e l’attrattiva di ChatGPT, al punto da provocare il confronto con Netcape, il primo browser web squalificato da Internet Explorer.
Un grande predatore di dati e di lavoro nascosto… che firma accordi a posteriori
— Organizzare la predazione sistematica di tutti i dati disponibili sul web senza avvisare i titolari dei diritti, provocare uno sciopero degli artisti di Hollywood, per addestrare la sua IA ChatGPT a minor costo. Mancato rispetto della proprietà intellettuale a tutti i livelli.
— Negoziare, dopo averli saccheggiati, accordi con i titoli della stampa che offrono loro servizi vaghi, opachi e di qualità non garantita, per poter continuare a sfruttare i loro contenuti. Le Monde ha firmato un accordo di questo tipo, il New York Times ha rifiutato per poi firmare lo stesso tipo di accordo con Amazon. Per memoria e per valutare la truffa, ecco la definizione che Le Monde dava di ChatGPT: «Per il grande pubblico, gli effetti di questo accordo saranno visibili in ChatGPT, che può essere descritto, in termini semplici, come un motore di risposte (output) composte sulla base di fatti accertati o commenti espressi da un numero limitato di riferimenti. Questo motore fornisce la risposta sintetica più plausibile e predittiva a una data domanda.» Si può misurare l’incomprensione e la distanza da ciò che ora sappiamo delle prestazioni e dei trucchi di OpenAI.
— Annunciare cifre sul numero di clienti non verificabili, confondendo gli accessi gratuiti e a pagamento, gli accessi occasionali o di scoperta e gli account attivi.
— Utilizzare massicciamente lavoratori del clic per addestrare i propri modelli, contrariamente a quanto annunciato, poiché è sempre necessario supervisionare e convalidare i componenti di base dei modelli fondamentali o delle nuove applicazioni più specifiche. Le condizioni di lavoro e di retribuzione di questi lavoratori precari sono state denunciate come una forma di schiavitù moderna che coinvolge la responsabilità sociale di Open AI, che finora non ha proposto alcuna iniziativa in tal senso.
Moltiplicare i servizi per vendersi come piattaforma in modo del tutto irresponsabile
— Aver destabilizzato l’intero settore dell’istruzione consentendo l’accesso a un assistente che rende possibile l’amplificazione dell’imbroglio al punto da considerarlo lo stato normale della competizione scolastica a cui ci si dovrebbe adattare, come imparare a guidare un’auto sapendo che il sistema e i suoi utenti si comportano come pirati della strada, senza rispettare alcuna regola (la versione consapevole dell’educazione all’IA è quindi un’educazione al mondo dei bruti che arriva grazie a ChatGPT).
— Annunciare continuamente nuove versioni di ChatGPT i cui miglioramenti sono dubbi o addirittura inesistenti, in particolare con ChatGPT 5.0, primo vero caso di versioning che deteriora l’esperienza dell’utente, causando un significativo abbandono da parte dei clienti. Il grado zero della cultura industriale e dell’orientamento al cliente. Le versioni servono solo a rassicurare gli investitori.
— Moltiplicare i servizi periferici e gli annunci per attirare nuovi pubblici e soprattutto investitori (come Sora o il compagno erotico), a scapito del reale miglioramento della qualità o dell’efficienza dei modelli.
— Continuare ad attirare investitori con queste innovazioni periferiche senza offrire un ritorno sull’investimento prima di anni.
— Lanciare Sora, che mette a disposizione del grande pubblico un generatore di deep fake, senza alcuna protezione, senza controllo degli usi e dei contenuti, senza limiti di età, inondando il mercato di produzioni illegali in materia di rispetto dei diritti umani, intossicando lo spazio pubblico con queste versioni fraudolente di situazioni fabbricate, in spregio alla verità. Senza dubbio il più grande errore di OpenAI, che deve essere registrato come possibile “crimine contro l’umanità”, le cui conseguenze saranno misurate nei prossimi anni, senza attendere una presunta Intelligenza Artificiale Generale.
Un modello di risposte che si trasforma in un compagno tossico
— Produrre risposte in modo sistematico (e non ammettere la propria ignoranza), non ponderare queste risposte con un margine di errore (calcolabile poiché si tratta di probabilità in tutte le fasi del processo), non fornire fonti chiaramente identificabili (solo siti di riferimento da alcuni mesi): fornire così informazioni presentate con la garanzia dell’affidabilità senza fornire alcun elemento di verifica per l’utente. Chiaro inganno sulla merce.
— Offrire un compagno sempre empatico, mai sgradevole o contraddittorio per rafforzare ulteriormente la bolla informativa che rende impossibili i dibattiti, indebolisce la curiosità, il desiderio di esplorazione e di sorpresa, interesse originario di un motore di ricerca, ora sostituito da un motore di risposta inaffidabile ma compiacente (ma Google aveva iniziato a privilegiare le risposte già dal 2013).
— Consentire la connessione permanente con il proprio compagno su tutti i supporti e in tutte le situazioni, lavorative, domestiche o pubbliche, mescolando le sfere e incoraggiando l’immersione per rendere inevitabile questo nuovo punto di passaggio obbligato in tutte le relazioni, una piattaformizzazione individuale, aumentata dagli agenti.
La tecnopolitica ovvero l’arte della pesca d’altura
— Offrire ora una versione erotica dello stesso compagno, certamente per adulti, ma che renderà stimolante e coinvolgente questa relazione che mira alla fusione. Il generatore di video Sora consentirà di aggiungere tutti i falsi possibili per personalizzare e mettere in situazione il compagno Sora. Ignorare così gli avvertimenti sui rischi psichici di queste applicazioni, in particolare per le persone che soffrono di solitudine.
— Proporre di introdurre la pubblicità in questa relazione con un’interfaccia per cercare di monetizzare un servizio che consuma molte risorse e che al momento non ha un modello economico. La confusione tra tutti i contenuti e l’assenza di sourcing e di etichettatura dei contenuti, come di consueto presso OpenAI, porterà a una pubblicità mascherata in tutte le situazioni, molto redditizia e molto manipolatoria.
— Tenere un discorso preoccupante sull’IA generale con petizioni e dichiarazioni shock per evitare di parlare dei problemi posti dall’attuale IA generativa, quella sviluppata a marcia forzata da OpenAI. Generare così la più totale confusione sul futuro lontano e sulle responsabilità molto lontane, continuando ad alimentare l’attuale frenesia di utilizzo e di investimento.
La responsabilità degli Stati e la fine del fascino masochistico per la disruption
L’elenco potrebbe sicuramente essere allungato. Ma deve essere chiaro che qualsiasi partnership con questo tipo di IA è un patto con il diavolo, con un’entità senza fede né legge, pronta a mentire continuamente per attirare gli investitori, poiché si tratta soprattutto di promesse e non di ritorni sugli investimenti reali che attualmente sono inesistenti. Le nubi che annunciano lo scoppio della bolla dell’IA si addensano e OpenAI sa bene che sarà la prima azienda a trovarsi nella tempesta, l’ultima ad entrare e quella che ha fatto ingrassare la rana più dei buoi vicini e che quindi rischia di scoppiare rapidamente. Ma poiché l’azienda si è avvolta nelle vesti di un’azienda dirompente, che corre dei rischi e rompe l’ordine stabilito, è riuscita a sedurre tutti i masochisti dei governi, sopraffatti da questa presunta fatalità in nome della tirannia del ritardo.
I governi non sembrano ancora preoccuparsi di questi comportamenti da teppisti, così come alcuni sembrano scoprire che è impossibile fidarsi di Facebook, nonostante tutto ciò che si sa su queste piattaforme di social network almeno dai tempi di Cambridge Analytica. OpenAI gode ancora di un’aura di pioniere, anche se le sue scommesse cominciano a destare preoccupazione. I governi devono prevenire il crollo annunciato prendendo di mira e liquidando l’anello debole, l’azienda canaglia che ha dato il via a tutta questa corsa, come è stato fatto con Leman Brothers (ma in realtà, per continuare come prima, non bisogna illudersi).
L’altra IA canaglia: Grok
Sulla stessa linea, bisognerebbe anche bandire Grok, l’IA di X, l’IA di Musk deliberatamente annunciata come un’arma di distruzione di massa del wokismo, che si è rapidamente trasformata in un agente fascista in molteplici risposte negazioniste e quindi illegali da noi e in altri Paesi. Bisognerebbe stilare qui l’elenco dei reati, delle frodi, delle menzogne, delle calunnie che Grok diffonde costantemente e che sono amplificate dal suo stretto legame con X. Ma mi manca l’energia, devo dirlo. I difetti strutturali di OpenAI sono altrettanto presenti, ma amplificati dal discorso esplicitamente reazionario del proprietario di X.
I sistemi di IA generativa delle aziende rivelano in questo caso il loro potere editoriale, un potere mediatico dal momento che filtrano le visioni del mondo accettabili o meno dal proprietario della piattaforma. Il loro status non può rimanere quello di una banale piattaforma di servizi come un servizio meteorologico. Le specifiche che devono essere loro applicate dovranno avvicinarsi a quelle dei media. Ciò richiede l’elaborazione di un quadro giuridico più preciso di quello attuale, che si riassume nell’AI Act europeo, che non entra in questa possibile deriva. Nulla impedisce agli Stati di integrare questo regolamento con versioni più vincolanti e di approfittare in particolare di tutte le occasioni di contenzioso causate dai comportamenti esplicitamente scorretti di queste aziende per trascinarle in tribunale.
È necessaria un’offensiva legale e collettiva
Per raggiungere questo obiettivo, è necessario mettere in atto operazioni di test di queste IA canaglia, nella posizione di un utente normale, per dimostrare pubblicamente e rigorosamente le loro derive nelle loro risposte e i rischi che ciò comporta. Questi rischi fanno parte del processo di “disumanità digitale” che ho analizzato nel mio recente libro, il che significa che le sfide di questa disintossicazione precoce sono essenziali per le architetture della conoscenza e della vita pubblica che utilizzeremo negli anni a venire.
A tal fine, è possibile ricorrere a team di ricercatori, già numerosi, che organizzano forme di benchmark/sfide per vedere come far deragliare queste IA. Ma piuttosto che farlo a fini di pubblicazione o di intrattenimento, sarebbe ora di organizzare una procedura completa in riferimento a un quadro giuridico multiforme, poiché tutti i comportamenti di queste piattaforme di IA mettono in discussione lo Stato di diritto sotto molti aspetti.
Autore: Dominique Boullier è sociologo e professore universitario (Centro di Studi Europei e Politica Comparata, Sciences Po). Ha diretto il Social Media Lab presso il Politecnico Federale Svizzero di Losanna e il Media Lab di Sciences Po con Bruno Latour.
Fonte: AOCMedia
Cosa fare? A chi credere? Disconnetti? Cambiare i social network? Divieto TikTok? Lascia i nostri figli davanti agli schermi o proteggili? Imparare a utilizzare l’IA e quali? Ascoltare i profeti di disgrazia o i venditori dei miracoli? Scegliere gli standard di piattaforma o soluzioni indipendenti e gratuite? Attenzione alla Russia, alla Cina, agli Stati Uniti? O credere in Europa? Segui le avventure degli eroi della Tech?
Il disorientamento è generale per il pubblico, sia per i decisori che per i ricercatori, poiché la velocità del cambiamento tecnico, economico e politico è abbagliante e soprattutto incerta. L’irruzione dell’IA generativa nel 2022 è stato il marchio più brutale, ma le derive dei social network come l’interferenza di queste piattaforme nelle elezioni e negli attacchi informatici fanno parte di questo caos diffuso nel digitale. Le reti e le tecnologie che non sono mai state realmente governate amplificano le scissioni e i rischi sociali. La scommessa delle scienze sociali per dare griglie di comprensione a lungo termine è sopraffatta dagli eventi attuali. Tuttavia, devono avvisare dei grandi rischi di disumanizzazione, vale a dire, di perdita della competenza umana, in termini di sovranità, conoscenza e vita sociale, politica e morale. Questo libro propone un quadro di analisi per trovare un corso senza essere disumanizzato dall’agitazione digitale.
Lavoro garantito senza IA!
In un’epoca che corre verso l’artificializzazione totalitaria del mondo, Luciano Boi e Stefano Isola pongono la domanda essenziale: quale sarà il posto dell’uomo nella società futura? La direzione dei mutamenti in atto sta conducendo, infatti, verso una crescente marginalizzazione del contributo umano dagli accadimenti significativi dell’esistenza, esiliando l’uomo nel “regno dell’insignificanza”, alla periferia di un universo rifondato sull’imperio degli algoritmi, sul “non pensiero” dell’intelligenza artificiale, sulla volontà di potenza di macchine che simulano intenzioni e decisioni umane, rovesciando il principio di utilità della tecnica in quello di utilità per la tecnica.
Il “regno dell’insignificanza” è quello dove i corpi sono sostituiti dai profili; le relazioni dalle connessioni; la comunità dalla community; la città dalla smart city; la politica dalla governance; la scuola dall’eduverso; il linguaggio dal messaggio; le professioni dai robot.
https://www.asterios.it/catalogo/democrazia-ferita