Pechino utilizza modelli occidentali per sviluppare sistemi AI militari autonomi
Pechino sfrutta modelli di intelligenza artificiale statunitensi per migliorare le capacità di difesa.
Un approccio strategico per migliorare la difesa nazionale
Secondo un’inchiesta condotta da Reuters, i ricercatori legati al People’s Liberation Army (Pla) stanno sfruttando i modelli di intelligenza artificiale sviluppati da aziende statunitensi come OpenAI e Anthropic per migliorare le capacità di sorveglianza, guerra cibernetica e decisioni tattiche. La tecnica utilizzata, detta “distillazione dei modelli”, permette di addestrare sistemi di AI più piccoli e specializzati, in grado di operare localmente senza richiedere infrastrutture di calcolo estremamente complesse. Questo approccio, spiega l’inchiesta, è diventato una strategia chiave per Pechino per potenziare la sua difesa nazionale, nonostante i tentativi degli Stati Uniti di limitare l’accesso a tecnologie strategiche.
La distillazione dei modelli, una pratica industriale diffusa, consiste nell’usare gli output di un sistema di IA potente per addestrare modelli più piccoli e specializzati. Questi ultimi, una volta sviluppati, possono essere utilizzati in contesti operativi, come il riconoscimento di bersagli su hardware tattico o il monitoraggio di contenuti sensibili. L’inchiesta ha analizzato oltre ottanta articoli accademici e brevetti cinesi, evidenziando come le istituzioni militari e di sicurezza cinesi stiano sfruttando questa tecnica per costruire sistemi autonomi, nonostante i tentativi di Washington di limitare l’accesso a chip e altre tecnologie strategiche.
Le risposte di Pechino e le accuse reciproche
Pechino ha respinto le accuse, sostenendo che Washington persegua un “egemonismo” dell’IA e che le aziende americane abbiano adottato pratiche analoghe. La stessa startup cinese Moonshot ha negato le accuse dell’amministrazione Trump, rivendicando innovazioni proprietarie nel suo modello Kimi K3. Inoltre, un articolo pubblicato lo scorso anno da ricercatori dell’Unità 96941 del Pla ha descritto l’uso del GPT-3.5 di OpenAI per elaborare codice sorgente militare sensibile, addestrando un sistema domestico su quei dati. Questo processo permette ai sistemi cinesi di operare interamente all’interno delle reti locali, riducendo la dipendenza da infrastrutture esterne.
La distillazione non è sempre considerata una violazione, a meno che non venga utilizzata in modo non autorizzato. La questione ha assunto ulteriore rilevanza in vista dei colloqui tra Stati Uniti e Cina sulla governance e la sicurezza dell’IA, soprattutto dopo che alcuni funzionari statunitensi hanno accusato alcune entità cinesi di usare la distillazione per estrarre capacità dai modelli americani, minando potenzialmente i controlli sulle esportazioni e violando i diritti di proprietà intellettuale. Un articolo del 2024 della National University of Defense Technology del Pla ha descritto l’uso della distillazione per ridurre un modello di elaborazione delle immagini da dispiegare sui droni, consentendo ai velivoli senza pilota di analizzare video in tempo reale e supportare decisioni di navigazione e targeting anche in caso di interruzione delle comunicazioni. Analogamente, i ricercatori dell’Accademia delle scienze militari cinese hanno impiegato la distillazione per far girare un modello di riconoscimento dei bersagli su hardware tattico durante operazioni marittime simulate con droni, navi e sottomarini senza pilota.
La distillazione dei modelli permette di trasferire il ragionamento dietro le risposte, non solo le risposte stesse. Sunny Cheung, fellow di Jamestown che ha analizzato oltre sessanta dei documenti, ha spiegato che gli scienziati militari cinesi stanno catturando sistematicamente i passaggi di ragionamento dei modelli occidentali per adattarli a sorveglianza, guerra cibernetica e processi decisionali tattici. “Insegnare a un modello la risposta giusta è una cosa, ma insegnargli il ragionamento dietro la risposta è molto più difficile”, ha osservato Cheung, aggiungendo che i ricercatori legati all’apparato militare cinese cercano di trasferire quel costoso ragionamento proprietario in sistemi più piccoli, controllabili e dispiegabili localmente.
I modelli distillati, inoltre, ereditano solo capacità selezionate e non replicano l’intelligenza ampia dei sistemi di frontiera. Come ha osservato Trevor Koverko, cofondatore della società Sapien, i modelli distillati restano meno capaci dei modelli “insegnante”, ed è meglio guardare a questo fenomeno “come il trasferimento di capacità selezionate in un sistema più economico e controllato localmente, non come il raggiungimento dell’indipendenza dall’IA di frontiera.”