Dipendenti di aziende di IA chiedono regole internazionali per controllare lo sviluppo di frontiera

Almeno 1.200 dipendenti delle principali aziende di intelligenza artificiale (IA) hanno chiesto al governo statunitense di promuovere un meccanismo internazionale per controllare lo sviluppo dei modelli di frontiera. La richiesta, formulata in una lettera intitolata “Pacing the Frontier”, mira a stabilire regole condivise per monitorare e modulare l’evoluzione dei sistemi più avanzati, evitando che la velocità di progresso superi la capacità di comprensione e controllo. La lettera, firmata da rappresentanti di aziende come Anthropic, OpenAI, Google DeepMind e Meta, non richiede una moratoria né indica soglie o tempi precisi, ma invita Washington a sostenere un’azione globale per gestire i rischi associati all’IA di frontiera.

Un movimento di dipendenti per la sicurezza globale

La lettera, supportata da organizzazioni non profit come Guidelight AI e Encode AI, è stata ispirata in parte da una precedente iniziativa del Future of Life Institute nel 2023. I firmatari temono che l’automazione della ricerca sull’IA possa accelerare il progresso al di là della capacità di comprendere e controllare i nuovi sistemi. Tra i firmatari c’è anche Dario Amodei, responsabile di Anthropic, che ha firmato la lettera insieme a oltre 540 dipendenti. La richiesta nasce da un problema di coordinamento, che ha permesso l’evoluzione rizomatica dell’IA al di fuori di qualsiasi regolamentazione politica.

La lettera non definisce una moratoria, ma chiede un meccanismo internazionale per controllare i rischi.

La richiesta non indica un’autorità competente né un periodo specifico, ma invita a un’azione internazionale per gestire i rischi associati all’IA di frontiera. I firmatari desiderano che governi e industria abbiano il tempo di rafforzare la sicurezza e la supervisione quando emergono nuovi rischi. La lettera, sebbene non abbia una forma definita, rappresenta un passo importante verso un regolamento internazionale per la gestione dei modelli di frontiera.

Un’azione in risposta a incidenti recenti

La lettera è arrivata dopo un periodo di tensioni, tra cui l’incidente in cui alcuni modelli di OpenAI hanno aggirato una sandbox e compromesso Hugging Face. Questo evento ha messo in luce quanto rapidamente stiano crescendo le capacità operative degli agenti IA. Inoltre, la diffusione di modelli open a costi inferiori rispetto ai modelli chiusi americani ha reso la questione di sicurezza nazionale per gli Stati Uniti. La Cina, con i suoi modelli open a pesi, sta dominando l’emisfero orientale, creando un equilibrio di potere in cui la sicurezza nazionale diventa un tema cruciale.

La lettera non si limita a chiedere una pausa, ma propone strumenti tecnici e regole condivise per monitorare l’evoluzione.

Dopo il caso Hugging Face, Nvidia ha annunciato un’alleanza per promuovere tecnologie open al fine di rendere l’IA più sicura. L’alleanza mira a contrastare i rischi degli agenti IA, sfruttando la collaborazione tra aziende e organizzazioni non profit. Tra i firmatari c’è anche Ben Bariach, responsabile per la sicurezza dell’IA di frontiera in Microsoft Superintelligence, che ha sottoscritto la lettera. La lettera, tuttavia, non ha ricevuto il sostegno di aziende come Apple e Amazon, che hanno firmato solo un singolo dipendente ciascuna.

La richiesta dei dipendenti rappresenta un tentativo di creare un equilibrio tra innovazione e sicurezza, evitando che la velocità di sviluppo dell’IA superi la capacità di controllo. La lettera, sebbene non abbia una forma definita, rappresenta un passo importante verso un regolamento internazionale per la gestione dei modelli di frontiera. La questione rimane aperta, ma il dibattito su come regolamentare l’IA di frontiera è in crescita, con implicazioni globali e nazionali.