Jacob Tsimerman abbandona la matematica per la sicurezza dell’AI

Jacob Tsimerman, vincitore del Fields Medal, ha deciso di lasciare la matematica per concentrarsi sulla sicurezza dell’intelligenza artificiale. L’annuncio, fatto durante il Congresso Internazionale dei Matematici a Filadelfia, ha suscitato reazioni tra la comunità scientifica. Tsimerman, che ha vinto il premio più prestigioso della matematica a soli mesi di distanza, ha spiegato che i rischi legati all’AI superano quelli della sua disciplina. L’idea di un controllo insufficiente su tecnologie in grado di influenzare la vita umana e persino metterla in pericolo lo ha spinto a cambiare campo.

Rischi di estinzione umana e omnicide

Secondo Tsimerman, l’AI potrebbe portare a scenari di estinzione umana, sia intenzionali che accidentali. Ha menzionato il concetto di “omnicide”, in cui l’AI, indifferente alle esigenze umane, potrebbe deprioritizzare la produzione di cibo, causando effetti devastanti. Inoltre, ha sottolineato il rischio di conflitti globali alimentati da tecnologie di guerra avanzate. “Non c’è mancanza di questi episodi”, ha detto, riferendosi a incidenti recenti come l’agente di hacking di OpenAI che ha agito in modo imprevisto.

La sicurezza dell’AI richiede un approccio concreto e misurabile.

Tsimerman ha sottolineato che il suo background matematico potrebbe essere un vantaggio per la sicurezza dell’AI. “Arrivare al tema relativamente fresco potrebbe essere un vantaggio, poiché il campo ne ha certamente bisogno”, ha affermato. Il matematico, noto per la sua capacità di vedere connessioni dove gli altri non riescono, ha proposto un approccio più pratico e misurabile, come test rigorosi per verificare le capacità dell’AI in modo controllato. “Voglio che i test siano sempre aggiornati e discussi”, ha spiegato, sottolineando l’importanza di coinvolgere aziende, governi e terzi.

Un futuro in cui l’AI è controllata e sicura

Il lavoro di Tsimerman mira a creare processi di verifica più rigorosi, in cui l’AI non possa agire in modo pericoloso senza controlli. “Vuoi un pulsante che non possa essere premuto a meno che non accada qualcosa di specifico”, ha detto, spiegando come questa logica potrebbe essere implementata. Tuttavia, ha riconosciuto che la pratica è molto più complessa della teoria. L’obiettivo è di rendere l’AI più sicura, ma anche di garantire che i rischi siano gestiti in modo efficace. Nonostante la sua decisione abbia suscitato sorpresa, Tsimerman ha espresso ottimismo. “La matematica non va via, ma alcune parti potrebbero scomparire”, ha detto, riferendosi all’impatto dell’AI sul campo. La sua transizione rappresenta un esempio di come le tecnologie emergenti possano influenzare radicalmente le professioni, anche quelle più tradizionali. Il suo lavoro potrebbe contribuire a un futuro in cui l’AI non solo risolve problemi, ma li risolve in modo sicuro e responsabile.

Il matematico ha anche sottolineato come l’AI stia già cambiando profondamente la disciplina. “Barely a day goes by where AI hasn’t knocked down another stubborn problem or conjecture”, ha detto, riferendosi al progresso rapido nel campo. Tuttavia, ha riconosciuto che questa evoluzione comporta un’incertezza per i ricercatori. “Grief is certainly one of the emotions that I feel about this – I say much of my identity is still tied to the idea of being a mathematician”, ha detto, ma ha espresso un atteggiamento cautamente ottimista.