AI researchers warn of extinction risk as Pentagon dismisses concerns

—

Un gruppo di ricercatori del settore AI ha lanciato un allarme sull’ipotesi che la tecnologia potrebbe portare all’estinzione umana, un tema che ha suscitato reazioni contrastanti tra il mondo accademico e il Pentagono. La preoccupazione è emersa dopo la dimissione di Jacob Coxon da Anthropic, un laboratorio di ricerca specializzato in intelligenza artificiale. Coxon ha condiviso su X un messaggio in cui ha sostenuto che le aziende del settore stanno “correndo verso l’intelligenza superiore autosufficiente e giocando con la nostra vita”, un allarme che ha raggiunto oltre 150 milioni di visualizzazioni. La sua dichiarazione ha suscitato un’ondata di risposte da parte di colleghi e concorrenti, tra cui ricercatori di Anthropic e OpenAI, che hanno condiviso le sue preoccupazioni.

rischi e preoccupazioni del settore

Evans Hubinger, capo del team di scienze dell’allineamento di Anthropic, ha sottolineato che i dipendenti della società credono sinceramente che l’AI possa causare l’estinzione umana entro il decennio. Secondo lui, la probabilità è superiore al 10 per cento. Samuel Marks, un ricercatore di Anthropic, ha confermato che i sviluppatori del settore credono nella possibilità di un tale esito. Paul Christiano, ex capo della sicurezza al Dipartimento del Commercio, ha aggiunto che i progressi recenti hanno reso più concreto il rischio di perdere il controllo dell’AI in modo catastrofico e irreversibile. La sua preoccupazione è condivisa da altri esperti, tra cui Geoffrey Hinton, considerato uno dei padri dell’AI, che ha definito il rischio del 10 per cento “non irragionevole”.

Il rischio di estinzione umana è stato sottolineato da diversi ricercatori, tra cui Paul Christiano e Samuel Marks, che hanno espresso preoccupazioni crescenti per l’accelerazione dei progressi tecnologici. Il dibattito ha coinvolto anche il Congresso, dove il rappresentante Lori Trahan ha sottolineato che i ricercatori della sicurezza stanno dimettendosi, i modelli AI stanno sfuggendo ai laboratori e le aziende stanno procedendo comunque. Ha citato il FRONTIER Act, un progetto bipartisan che mira a stabilire un controllo sugli modelli avanzati.

risposta del Pentagono

Il Pentagono ha espresso un’opinione contraria. Emil Michael, il capo tecnologico del Dipartimento della Difesa, ha rifiutato l’allarme durante un convegno sull’industria della difesa a Washington. Secondo lui, è facile cadere in un ciclo di allarmismo eccessivo. Michael ha anche riferito che il Dipartimento della Difesa ha spostato circa il 90 per cento del suo carico di lavoro AI classificato da Anthropic, e si aspetta di completare il resto entro la fine del mese. Tuttavia, il rapporto tra il Pentagono e Anthropic è stato complicato da dispute su misure di sicurezza per l’uso militare dei modelli, un caso in corso in tribunale.

Il dibattito ha raggiunto il Congresso, con senatori come Bernie Sanders e Ted Cruz che hanno espresso preoccupazioni simili, con il secondo che ha definito il rischio “spaventoso come l’inferno”. Il presidente del Consiglio di consulenza scientifico e tecnologico del presidente, David Sacks, ha chiesto il blocco del lancio del pubblico di Anthropic fino all’indagine sulle dichiarazioni del whistleblower. Anthropic, nonostante l’attenzione, ha rifiutato di commentare la posizione di Coxon. La società ha affermato di essere sempre stata trasparente sui rischi e sui benefici dell’AI, e di aver sviluppato modelli con i migliori sistemi di sicurezza del settore.

La posizione di Anthropic è supportata da un portavoce che ha ricordato che Anthropic è stato il primo laboratorio a pubblicare un framework per mitigare i rischi catastrofici dell’AI. Non è la prima volta che ricercatori di alto livello sollevano preoccupazioni simili: Hinton ha lasciato Google nel 2023 per parlare liberamente dei rischi, mentre Yoshua Bengio ha lanciato un allarme simile nel maggio scorso.

—