Verso la fine degli anni 2010, il “sistema di credito sociale” (SCS) cinese era sempre più considerato un noto tentativo governativo di monitorare il comportamento individuale, modellare la condotta pubblica e controllare l’accesso ai servizi. Sebbene il sistema risalga agli anni 2000, è stato ufficialmente ampliato e formalizzato nel 2014 .
Ad esempio, nel 2019 , il combattente di arti marziali miste Xu Xiaodong ha fatto notizia quando il suo punteggio di credito sociale è stato abbassato “per aver insultato il gran maestro di tai chi Chen Xiaowang”, secondo Quartz, il che gli ha anche portato ad affrontare restrizioni di viaggio. Al contrario, i cittadini di Rongcheng che hanno ottenuto le valutazioni più alte, ovvero “AAA”, grazie ad atti di beneficenza e impegno civico, hanno beneficiato di vantaggi come bollette energetiche scontate.
Anche gli strumenti di valutazione della reputazione personale e del rischio si sono diffusi a livello globale, in particolare nel settore privato. Questi sistemi vanno ben oltre i programmi di fidelizzazione dei clienti o la definizione delle priorità di servizio. Le crescenti conseguenze sociali, legali ed economiche rendono urgente comprendere come funzionano questi sistemi e come l’automazione li renderà più rapidi, meno trasparenti e più efficaci.
Negli Stati Uniti, società di verifica degli inquilini come RentGrow hanno erroneamente inserito gli inquilini in una blacklist per anni, provocando una causa per la tutela dei consumatori nel 2024. Le compagnie assicurative utilizzano sempre più dati non finanziari, come le abitudini di acquisto e l’attività sui social media, per costruire profili comportamentali e modificare i propri servizi , superando i limiti legali.
Garantire fiducia, responsabilità e correttezza nei cittadini e nei consumatori non è intrinsecamente dannoso quando viene fatto rispettivamente da governi e aziende. Ma quando questo esercizio si basa su vasti set di dati e strumenti di sorveglianza poco trasparenti, che spesso prevedono punteggi, questi sistemi di monitoraggio del comportamento in tempo reale sono soggetti a un uso improprio.
Cina
Il sistema SCS, gestito dal governo cinese , è il più avanzato al mondo, sebbene non sia ancora stato completamente implementato. Invece di liste nere isolate o sistemi a punti, mira a raccogliere e analizzare un’ampia gamma di dati, tra cui dati finanziari, comportamento sociale e registri governativi, per valutare i cittadini e sollecitarli a seguire le norme approvate dallo Stato.
Il concetto è emerso tra la fine degli anni ’90 e l’inizio degli anni 2000 , con programmi pilota locali avviati nel 2009. Rongcheng è diventato un primo caso di prova entro il 2013 , assegnando a circa 700.000 residenti un punteggio di base di 1.000. I punteggi sono migliorati grazie ad azioni come la donazione del sangue o il volontariato, ottenendo vantaggi come visite mediche gratuite. Nel frattempo, sono state effettuate detrazioni per reati come l’evasione fiscale, che potrebbero ridurre i benefici governativi (sebbene per molti l’impatto sia stato minimo ).
Dopo che le autorità cinesi hanno annunciato un programma nazionale di sviluppo di sei anni nel 2014 , sono emerse decine di altre ” città dimostrative “. Le amministrazioni locali hanno spesso utilizzato piccole aziende per contribuire alla costruzione delle infrastrutture e giganti della tecnologia per ampliarle. Nella provincia di Hebei, Tencent e WeChat contribuiscono a promuovere il soprannome ” Deadbeat Map ” per un’app che avvisa gli utenti quando qualcuno con debiti insoluti si trova nelle vicinanze e li incoraggia a segnalarlo . Milioni di altri cittadini cinesi sono stati esclusi dai voli e dai treni ad alta velocità, o dagli investimenti immobiliari o di altri prodotti a causa di bassi punteggi di credito sociale, secondo un articolo del Guardian del 2019.
Mentre le aziende cinesi hanno contribuito alla creazione dell’SCS statale, ad alcune è stato affidato il compito di crearne di proprie. Giganti come Alibaba e Tencent, le cui app sono profondamente integrate nella vita quotidiana attraverso l’e-commerce, i media, il settore bancario, assicurativo, dei trasporti e altri servizi, utilizzano i profili reputazionali per espandere ulteriormente la propria influenza sugli utenti.
Zhima Credit di Alibaba , lanciato nel 2015, valuta gli utenti in base alla storia finanziaria, all’istruzione e alla carriera, alle relazioni sociali e alle attività benefiche. I punteggi più alti offrivano appartamenti in affitto senza deposito e visti accelerati, ma il suo ruolo si è ridotto dopo il 2018, quando il governo ha rifiutato di rinnovare le licenze di credito private. Tencent ha lanciato la propria funzionalità di credito social all’interno della sua app WeChat nel 2018, ma l’ha sospesa dopo un giorno a causa delle critiche pubbliche, prima di lanciarne una nuova versione nel 2019 .
La reazione del pubblico cinese ai singoli SCS è stata contrastante . Le critiche sono aumentate in diverse città dove i programmi penalizzavano infrazioni minori, come la mancata prenotazione per la cena. Nel 2019, le autorità centrali hanno chiesto l’applicazione delle sanzioni solo attraverso canali legali formali e alcune città sono passate a modelli basati solo su premi .
Nonostante la sua immagine di sistema centralizzato, il sistema di credito sociale cinese rimane incompleto. Il governo è cauto nel dare troppo potere alle aziende private o nel provocare ritorsioni pubbliche, e un lancio nazionale previsto per il 2020 è stato ritardato dalla pandemia e dalle lacune infrastrutturali. Tuttavia, nel 2020 sono state introdotte bozze di legge sul credito sociale per unificare gli standard, seguite da un’altra nel 2022. Nel marzo 2025, nuove linee guida nazionali hanno richiesto la piena integrazione del credito sociale nella vita economica e sociale, riflettendo gli sforzi a lungo termine di Pechino per rendere il sistema pienamente operativo.
Stati Uniti
Mentre il sistema SCS cinese, gestito dal governo, è unico nel suo genere, le aziende americane hanno silenziosamente creato un sistema di punteggio personale diffuso e per lo più non regolamentato. Meno centralizzato di quello cinese, è per certi versi più sofisticato, poiché le aziende orientate al profitto hanno sperimentato una supervisione minima.
Ciò che è iniziato negli anni ’50 come un metodo per valutare l’affidabilità creditizia si è trasformato in un’industria di massa che monitora e valuta il comportamento dei singoli cittadini. Le aziende raccolgono dati da archivi online e impronte digitali per assegnare punteggi o creare liste nere. Alcune mantengono segrete queste valutazioni, mentre altre le vendono o le condividono. Insieme, hanno creato sistemi di profilazione che determinano sempre più l’accesso a lavoro, casa, servizi e altro ancora.
Le compagnie assicurative sono state pioniere nell’utilizzo di dati non finanziari per la valutazione del rischio. Le compagnie di assicurazione auto, ad esempio, acquistano regolarmente dati su velocità, frenata e posizione dalle case automobilistiche per definire i premi. Nel frattempo, piattaforme educative come Navigate di EAB generano punteggi di rischio per gli studenti basati sulla probabilità di abbandono scolastico, sul coinvolgimento e sul successo futuro, plasmando le loro vite ben prima del diploma.
Un’indagine della pubblicazione non-profit Markup ha scoperto “che il software Navigate… utilizzato da più di 500 scuole in tutto il paese, etichettava in modo sproporzionato gli studenti neri e appartenenti ad altre minoranze come ‘ad alto rischio’, una pratica che, secondo gli esperti, finisce per spingere i ragazzi neri ad abbandonare matematica e scienze e a intraprendere corsi di laurea ‘più facili'”.
In contesti pubblici, strumenti come Alessa avvisano i casinò quando il comportamento di un visitatore attiva il loro ” punteggio di rischio ” proprietario. Patronscan, la più grande azienda di scansione di documenti d’identità negli Stati Uniti (e attiva in Canada, Regno Unito, Australia e Nuova Zelanda), consente a una persona di “essere segnalata in una particolare sede fino a cinque anni, oppure di essere segnalata sull’intera rete aziendale fino a un anno”, secondo un articolo del 2024 pubblicato su Markup. L’azienda ha affrontato una causa nel 2023 per presunta violazione delle leggi sulla privacy biometrica dell’Illinois, ma ha negato ogni illecito e ha risolto il caso nel 2024. Contrassegna inoltre gli alti spendaccioni come “VIP”, inducendo le sedi a offrire loro un trattamento preferenziale.
Nel frattempo, la società di analisi dati LexisNexis crea profili di rischio approfonditi per proprietari di immobili, datori di lavoro e assicuratori utilizzando registri pubblici, atti giudiziari e dati di terze parti, con possibilità limitate per i singoli di contestare gli errori . Trulioo offre valutazioni globali del rischio di identità e frode, con una copertura particolarmente ampia negli Stati Uniti grazie all’ampia disponibilità di set di dati e alle leggi sulla privacy permissive del Paese.
I cittadini americani sono stati coinvolti nell’economia dei punteggi sia come soggetti che come partecipanti. Piattaforme come Uber e Airbnb si basano sulle valutazioni degli utenti per determinare chi ottiene corse, alloggi e lavoro. Le recensioni di Yelp e Google offrono feedback pubblico, ma possono anche essere utilizzate come arma dal “review bombing” , che ha danneggiato aziende e creatori innocenti.
Sebbene non siano avanzati quanto gli sforzi del governo cinese, i sistemi di punteggio del governo statunitense includono l’ Automated Targeting System (ATS), utilizzato dal Dipartimento della sicurezza interna e dalla protezione delle frontiere, per assegnare punteggi di rischio individuali in base ai dati di viaggio, allo stato dei visti e ai registri delle compagnie aeree.
Inoltre, i dipartimenti di polizia di Chicago e Los Angeles hanno iniziato a sperimentare punteggi di minaccia per i cittadini all’inizio degli anni 2010, incorporando social network, precedenti interazioni con la polizia e posizione geografica. Questi punteggi hanno influenzato le strategie di polizia, tra cui l’uso della forza e gli interventi proattivi. Nonostante la cessazione ufficiale dell’uso di questo sistema a Chicago e Los Angeles nel 2019, la polizia predittiva è tornata con nuovi nomi e metodi in entrambe le città, spesso con l’aiuto di aziende private. Il punteggio PATTERN Risk del Federal Bureau of Prisons, introdotto nel 2022, valuta invece il rischio di recidiva per i detenuti.
La reazione dell’opinione pubblica statunitense è diventata sempre più diffidente nei confronti di sistemi di punteggio più aperti. Le reazioni negative ai punteggi ESG (ambientali, sociali e di governance) personali e alle metriche di reputazione aziendale hanno portato a un loro utilizzo ridotto. Nel 2023, la Commissione Affari e Lavoro della Camera dello Utah ha approvato l’HB281 , un disegno di legge per impedire allo Stato di creare o utilizzare sistemi che utilizzano punteggi di credito sociale per premiare o punire i cittadini.
Sebbene l’Equal Credit Opportunity Act (ECOA) del 1974 offra una certa tutela federale per il punteggio di credito finanziario, non esistono garanzie comparabili per il punteggio comportamentale o le blacklist digitali. Il California Consumer Privacy Act (CCPA) garantisce agli individui diritti di base di accesso e cancellazione dei dati, ma i sistemi di punteggio poco trasparenti lo hanno ampiamente eluso e le decisioni automatizzate non necessitano di spiegazioni. Il numero effettivo di tali sistemi, sia commerciali che gestiti dal governo, rimane sconosciuto, il che li rende difficili da monitorare o contestare.
Altre pratiche globali
L’Europa ha tentato un approccio normativo più sostanziale all’utilizzo dei dati personali nei sistemi di punteggio. Il Regolamento generale sulla protezione dei dati (GDPR) , entrato in vigore nel 2016, fornisce una base giuridica relativamente più solida, imponendo, ad esempio, alle aziende di comunicare le ragioni per cui i punteggi personali potrebbero variare. Tuttavia, l’applicazione è disomogenea e permangono lacune.
Oltre agli strumenti di punteggio privati, i governi europei hanno introdotto i propri sistemi di credito sociale con un marchio più benevolo. In Italia, Roma e Bologna hanno lanciato il portafoglio intelligente del cittadino nel 2022, un progetto pilota che premia i cittadini per comportamenti ecosostenibili come la raccolta differenziata o l’utilizzo dei trasporti pubblici. Nel Regno Unito, i programmi di ” punti fedeltà ” nei supermercati monitorano le abitudini di spesa (così come l’attività fisica) per utilizzarli in programmi sanitari pilota, un’iniziativa introdotta durante il mandato di Boris Johnson come primo ministro.
I sistemi di credito sociale sono più ampiamente accettati in alcune parti dell’Asia orientale e sud-orientale, dove una maggiore capacità statale, un’infrastruttura digitale centralizzata e norme culturali rendono il monitoraggio dei comportamenti meno contestato. In Corea del Sud, dal 2011 è in vigore un ” Credito Verde ” guidato dallo Stato, che incoraggia uno stile di vita sostenibile premiando le azioni eco-compatibili.
Anche in Asia sono emerse iniziative private, in particolare attraverso super app che combinano più servizi, creando profili utente per controllare l’accesso e i vantaggi. L’app giapponese Line, ampiamente utilizzata per comunicazioni, pagamenti e altri servizi, ha suscitato scalpore nel 2019 dopo aver annunciato l’intenzione di implementare un sistema di punteggio sociale basato sull’intelligenza artificiale per premiare e limitare gli utenti in base al loro comportamento online e offline. Data l’ubiquità di Line, il suo esperimento rappresenta un passo importante verso strutture di credito sociale gestite privatamente.
Sebbene promossi come strumenti per incoraggiare i buoni comportamenti e scoraggiare quelli cattivi, questi sistemi amplificano la pressione sociale e spingono le società verso un panopticon digitale , uno stato di sorveglianza costante guidato da incentivi governativi e commerciali. Questi modelli continueranno a evolversi e a diventare più pericolosi negli Stati Uniti e in altri Paesi privi di un’adeguata protezione dei dati. Senza rigidi limiti alla sorveglianza da parte di governi e aziende, i timori di un uso improprio dell’IA, di distorsioni algoritmiche, false correlazioni e loop di feedback dannosi non faranno che aumentare man mano che questi sistemi di punteggio governeranno sempre più la vita quotidiana.
Autore: John P. Ruehl, giornalista australiano-americano residente a Washington, DC, e corrispondente di politica estera per l’ Independent Media Institute . Collabora con diverse pubblicazioni di politica estera e il suo libro, ” Budget Superpower: How Russia Challenges the West With an Economy Smaller Than Texas” , è stato pubblicato nel dicembre 2022. Prodotto da Economy for All, un progetto dell’Independent Media Institute.
I volumi delle collane di acro-polis libri su carta e di Asterios
sono sempre disponibili in amazon.it Libri e IBS.it
Sono ordinabili in tutte le Librerie.
Se poi volete ricevere ricchi omaggi e cotillon ordinate da questo sito
e dal sito di www.asterios.it
