Manicomio Armato – L’intelligenza artificiale va in guerra

Una discussione completa e compatta sullo stato attuale e le prospettive future delle tecnologie di intelligenza artificiale applicate ai conflitti armati è una missione impossibile, ma la intraprenderò qui. Ciò che mi incoraggia è la grande difficoltà di fare previsioni sull’intelligenza artificiale. Credo che l’intelligenza artificiale rappresenterà la più profonda trasformazione delle vicende umane nella storia della civiltà, e nessuno ha una buona idea di dove questo stia andando, quindi le carenze dei miei sforzi predittivi potrebbero non essere evidenti rispetto a quelle di altri.

La guerra ha una gerarchia strutturale che ne ricapitola l’evoluzione. I primi combattimenti corpo a corpo e le battaglie tribali erano puramente tattici. Con l’aggregazione delle tribù in forze simili a eserciti, la logistica e le strategie operative divennero necessarie, e quando gli stati nazionali formarono enormi eserciti, marine e forze aeree, si svilupparono grandi strategie. I progressi tecnologici hanno generalmente permeato tutti i livelli dell’arte della guerra. Cavalleria, polvere da sparo, esplosivi ad alto potenziale, navi d’acciaio, mezzi corazzati e di trasporto meccanizzati, aviazione e computerizzazione hanno tutti influenzato i livelli tattico, operativo e strategico della guerra. Discuterò dell’IA in termini del suo ruolo in ciascuno di questi livelli del conflitto armato.

IA tattica

Partendo dal basso della gerarchia dell’arte bellica, considerate un soldato armato di fucile. Attualmente, l’esercito impiega dalle quattro alle otto settimane per addestrare un tiratore altamente qualificato. Un soldato del genere, un tiratore scelto dalla squadra, può colpire efficacemente bersagli a 550 metri. Oggi, un’elettronica rudimentale integrata con l’intelligenza artificiale in un mirino intelligente per fucili può offrire a quasi chiunque una capacità di tiro ancora più precisa. Questa apparecchiatura regola automaticamente la mira in base a vento, temperatura, pressione atmosferica, posizione del fucile, movimento del bersaglio e distanza, e lo fa in modo costante, anche nel vivo della battaglia.

 

 

Sviluppi come i mirini intelligenti per fucili prefigurano l’estinzione dei soldati sul campo di battaglia. La stessa elevata precisione sarà disponibile per qualsiasi drone aereo o terrestre armato di fucile automatico. In definitiva, i soldati umani non saranno in grado di sopravvivere sui campi di battaglia del futuro, dove saranno schierati combattenti robotici più intelligenti, veloci e letali.

Un’altra arma tattica di spicco sui campi di battaglia odierni è il drone da combattimento guidato. Sebbene la maggior parte dei droni d’attacco sia comandata tramite collegamento video da un operatore, la tecnologia dell’intelligenza artificiale sta consentendo il funzionamento autonomo di droni avanzati in grado di sorvolare il campo di battaglia e identificare e colpire i bersagli con una guida umana minima. Inoltre, il concetto di sciami di droni intelligenti basati sull’intelligenza artificiale è in fase di sviluppo da parte di diverse forze armate, e questo aggiungerà una nuova dimensione di letalità agli armamenti dei droni.

IA operativa

A livello operativo, il vantaggio militare si ottiene attraverso la gestione su larga scala delle risorse attraverso un’informazione e una comunicazione superiori. Ciò riguarda ambiti come la logistica, la gestione delle vittime e l’individuazione e il targeting delle forze nemiche. La tecnologia dell’intelligenza artificiale può conferire vantaggi in tutti gli ambiti operativi. Un esempio agghiacciante di tale utilizzo dell’intelligenza artificiale è il sistema israeliano “Lavender”, utilizzato per dirigere gli attacchi contro Hamas nell’attuale guerra a Gaza.

 

 

Le aziende tecnologiche statunitensi, come Palantir Technologies , sono state oggetto di crescenti critiche per aver fornito componenti di sistemi di intelligenza artificiale militare a governi stranieri, in particolare Israele. I cittadini statunitensi temono che questi sistemi siano o saranno utilizzati a livello nazionale per scopi repressivi.

 

IA strategica

Ai massimi livelli della pianificazione militare strategica, l’IA può potenzialmente contribuire in modo significativo alla qualità del processo decisionale. Grazie alla sua capacità di integrare rapidamente enormi quantità di informazioni provenienti da molteplici ambiti, i sistemi di supporto alle decisioni basati sull’IA possono fornire ai leader stime più chiare di minacce, rischi e opportunità strategiche come mai prima d’ora. Tuttavia, se alle strutture di IA viene concessa l’autonomia decisionale strategica, sussiste il grave rischio di un’indesiderata escalation dei conflitti derivante da difetti non scoperti nella programmazione dell’IA.

Lo sviluppo di misure di sicurezza per i sistemi di intelligenza artificiale militari strategici è ostacolato dal muro di segretezza dietro cui si celano i progetti di difesa nazionale. È necessario creare meccanismi di revisione indipendenti per tali progetti, al fine di consentire la supervisione dei sistemi classificati, in particolare quelli relativi alla guerra informatica e alle armi nucleari.

Escalation e il futuro pericoloso dell’intelligenza artificiale militare

La teoria militare contemporanea attribuisce grande importanza alla velocità di esecuzione del cosiddetto ciclo OODA (Osservare, Orientare, Decidere, Agire). Un avversario in grado di eseguire questo ciclo più rapidamente ha un notevole vantaggio rispetto a un avversario più lento. Poiché le IA possono accelerare tutti gli aspetti del processo decisionale militare, esiste una forte pressione evolutiva per garantire ai sistemi di IA una crescente autonomia, per timore di perdere la corsa al ciclo decisionale contro un nemico. Questo crea il potenziale per una rapidissima escalation di un conflitto armato tra IA contrapposte. Se non controllata, tale escalation potrebbe culminare in una guerra nucleare globale.

 

 

Insiemi di intelligenza artificiale

Forse la maggiore fonte di incertezza riguardo ai futuri sviluppi dell’IA è l’evoluzione di insiemi di sistemi di IA collaborativi. Proprio come l’efficacia militare è migliorata da una stretta cooperazione tra unità con equipaggio, la futura architettura delle strutture di IA militari trarrà vantaggio dalla stretta integrazione di più sistemi di IA. Gli effetti combinati delle anomalie nei sistemi interagenti potrebbero dare origine a modalità di guasto emergenti non rilevabili nei test unitari. Questa è una possibilità preoccupante nei sistemi associati agli armamenti. Un pericolo correlato è il potenziale di abilitazione di capacità automodificanti nelle IA, che consentirebbero un miglioramento delle funzionalità basato sull’apprendimento, ma con conseguenze imprevedibilmente pericolose. La straordinaria velocità e potenza degli insiemi di IA rappresenterebbero un’arma a doppio taglio che potrebbe causare gravi errori irrecuperabili, come incidenti di fuoco amico o falsi rilevamenti di minacce che innescano contrattacchi.

Manicomio Armato: La pugnalata alla schiena

Conclusione

È in corso una corsa agli armamenti dell’IA che abbraccia tutti gli aspetti dei conflitti armati. Come la corsa agli armamenti nucleari, è pericolosamente instabile. Se ai sistemi militari di IA venisse concessa una crescente autonomia, si correrebbe il rischio di una rapida escalation del conflitto, con conseguenze potenzialmente catastrofiche. Per decenni il mondo è stato tormentato da difetti e bug inaspettati in software relativamente semplici. La complessità enormemente maggiore dei sistemi di IA e la probabile futura interazione tra più entità di IA aumentano sostanzialmente il rischio di modalità di errore operative sconosciute. Di particolare preoccupazione è la possibilità che le IA modifichino la propria programmazione e implementino capacità sconosciute ai loro proprietari umani. I leader politici e i decisori politici dovrebbero impegnarsi per sviluppare protocolli e trattati internazionali che implementino misure di salvaguardia per impedire che una tecnologia di IA incontrollata scateni guerre enormemente distruttive. Mai come oggi l’intelligenza umana è stata necessaria per guidare le sue controparti artificiali.

---

Sostieni acro-polis