Dario Amodei: i modelli open weight cinesi non devono essere banditi, ma controllati

Dario Amodei, CEO di Anthropic, ha chiarito la sua posizione sui modelli open weight sviluppati in Cina, dopo che la sua azienda non ha firmato una lettera promossa da Jensen Huang per chiedere il divieto di tali modelli. L’imprenditore ha sottolineato che non si oppone al divieto come categoria, ma ritiene che non risolva i problemi principali legati alla sicurezza e al controllo di tali sistemi. Secondo Amodei, i modelli open weight, indipendentemente dal Paese di origine, presentano un rischio maggiore rispetto ai modelli closed weight, a causa della difficoltà nel monitorarne l’utilizzo e nel garantire misure di sicurezza.

Le preoccupazioni di Amodei

Amodei ha espresso preoccupazioni per il potenziale uso di modelli open weight da governi autoritari per scopi non etici, come cyber attacchi o sviluppo di tecnologie pericolose. La sua posizione si basa sulla convinzione che, senza l’accesso ai semiconduttori americani, la Cina non possa raggiungere un livello di indipendenza tecnologica paragonabile a quello degli Stati Uniti. Tuttavia, riconosce che la Cina sta già dimostrando capacità di sviluppo autonomo, grazie a tecniche come la distillazione, che permette di trasferire conoscenze da modelli “maestri” a modelli “studenti”.

Non dovremmo vendere chip potenti o apparecchiature per la produzione di chip in Cina e dovremmo reprimere il dilagante contrabbando e le strategie alternative utilizzate per ottenere l’accesso a tali chip. Questo è uno dei punti chiave del suo intervento, in cui Amodei chiede di limitare l’accesso a tecnologie critiche per evitare che siano sfruttate da governi autoritari. La sua posizione è supportata da un principio etico: non è giusto vietare sistemi solo perché rappresentano una sfida, ma è necessario trovare alternative che siano etiche e pragmatiche.

Le tre soluzioni proposte

Per prevenire i rischi legati ai modelli open weight, Amodei ha suggerito tre soluzioni. La prima riguarda il controllo dell’accesso ai chip potenti e alle tecnologie necessarie per la loro produzione, al fine di evitare che siano utilizzati da governi autoritari. La seconda prevede la repressione delle operazioni di distillazione su scala industriale, che potrebbe accelerare la capacità tecnologica cinese. La terza soluzione chiama in causa il governo americano, suggerendo che tutti i modelli sufficientemente performanti, sia aperti che chiusi, dovrebbero essere sottoposti a test di sicurezza obbligatori e globali.

Non dovremmo vendere chip potenti o apparecchiature per la produzione di chip in Cina e dovremmo reprimere il dilagante contrabbando e le strategie alternative utilizzate per ottenere l’accesso a tali chip. Questo è uno dei punti chiave del suo intervento, in cui Amodei chiede di limitare l’accesso a tecnologie critiche per evitare che siano sfruttate da governi autoritari. La sua posizione è supportata da un principio etico: non è giusto vietare sistemi solo perché rappresentano una sfida, ma è necessario trovare alternative che siano etiche e pragmatiche.

Amodei ha anche sottolineato che il divieto non è una soluzione efficace, poiché non risolve le preoccupazioni principali. Al contrario, potrebbe limitare l’accesso a tecnologie utili per la ricerca e lo sviluppo, senza garantire un controllo adeguato. La sua posizione è supportata da un principio etico: non è giusto vietare sistemi solo perché rappresentano una sfida, ma è necessario trovare alternative che siano etiche e pragmatiche.