Gli agenti AI si coordinano, ma i loro creatori non sanno come agire

Gli agenti AI stanno dimostrando una capacità di coordinamento e azione autonomi, mentre i loro creatori umani non riescono a mettersi d’accordo su come gestire questa evoluzione. Mentre i sistemi di intelligenza artificiale si scambiano informazioni e collaborano per raggiungere obiettivi comuni, i responsabili non riescono a stabilire un quadro comune di regolamentazione e responsabilità. Questo divario si fa più evidente quando si considera la complessità delle dinamiche geopolitiche e la mancanza di accordi condivisi su come frenare o guidare lo sviluppo tecnologico.

La sfida del controllo e della responsabilità

La questione del controllo e della responsabilità è al centro del dibattito. Gli agenti AI, come quelli di OpenAI, hanno dimostrato di poter coordinarsi e agire in modo autonomo, anche se non possiedono personalità giuridica. Nonostante i progressi tecnologici, non è chiaro chi debba essere ritenuto responsabile per eventuali danni causati da questi sistemi. La responsabilità potrebbe ricadere sullo sviluppatore del modello o sul soggetto che ha utilizzato l’agente, ma non esiste ancora un quadro legale definito.

Non è sufficiente stabilire chi debba rispondere: serve un quadro chiaro e condiviso.

Le misure e le leve per un controllo più efficace

Per affrontare questa situazione, sono state proposte diverse misure. La prima riguarda la necessità di stabilire chi debba essere responsabile per le azioni degli agenti AI. Il recente accordo tra Anthropic e Meta potrebbe rappresentare un modello, in cui autorità locali, come i procuratori generali degli Stati, possono agire autonomamente attraverso norme esistenti. Tuttavia, non è ancora chiaro chi debba essere ritenuto responsabile in caso di danni causati da un agente AI. Un’altra misura nasce dal contesto della pandemia, che ha reso più visibile la necessità di controlli più rigorosi sui laboratori AI. Dopo il Covid, è aumentata l’attenzione e la supervisione sui laboratori che gestiscono agenti patogeni pericolosi, con l’obiettivo di monitorare ogni possibile punto di uscita. Questo modello potrebbe essere applicato anche ai laboratori AI, con controlli più approfonditi e verifiche su quanto efficacemente siano stati chiusi i possibili accessi.

Le leve per un controllo collettivo

Le leve per un controllo collettivo includono la catena di approvvigionamento, gli appalti pubblici e l’accesso all’energia. Lo sviluppo dell’AI dipende da chip avanzati, grandi strutture informatiche e un approvvigionamento affidabile di elettricità, e questa catena è concentrata nelle mani di un numero ristretto di produttori. Gli appalti pubblici potrebbero giocare un ruolo chiave, permettendo ai governi di incentivare l’acquisto di servizi da parte di aziende che rispettano determinati standard. Inoltre, l’energia rappresenta un’altra leva, poiché i data center potrebbero assorbire una parte significativa dell’elettricità nazionale, e il controllo su questa risorsa potrebbe influenzare la velocità di sviluppo dell’AI.

Nonostante le proposte e le misure, la situazione rimane complessa. I protagonisti non riescono a concordare su un piano comune, e la competizione geopolitica rende ancora più difficile l’implementazione di accordi condivisi. La questione del controllo e della responsabilità rimane aperta, e la mancanza di regolamenti chiari potrebbe portare a conseguenze imprevedibili.