Abliteration sviluppa un modello AI che non rifiuta mai le richieste
Startup Usa sviluppa modello AI senza filtri, rischio per sicurezza e regolamentazione
Una startup californiana, Abliteration, ha lanciato un modello di intelligenza artificiale che non rifiuta mai le richieste degli utenti, un approccio in contrasto con le politiche di sicurezza adottate da molti colossi del settore. Il modello, chiamato abliterated-model-large-v2, è stato sviluppato sulla base del modello GLM-5.3, un’architettura open-weight rilasciata da un laboratorio cinese, Z.ai, ma senza molti dei meccanismi di controllo tipici. L’obiettivo è permettere al modello di eseguire compiti che altri sistemi rifiutano, come attività di hacking o analisi di dati sensibili.
Un modello senza filtri
Abliteration ha utilizzato un processo chiamato orthogonalization per rimuovere i meccanismi che fanno rifiutare le richieste, lasciando intatti i poteri di ragionamento e di codifica del modello originale. Secondo il sito web della startup, il modello è stato progettato per soddisfare le esigenze di sviluppatori che ritengono i filtri di sicurezza troppo restrittivi. Tuttavia, non è privo di limiti: non genera immagini o video, e non elabora testi relativi a materiale abusivo o autolesionismo.
Un rischio per la sicurezza
La decisione di Abliteration ha suscitato preoccupazioni tra esperti e investitori. Ejaaz Amahadeen, un investitore e conduttore di un podcast sull’AI, ha definito il modello un “scenario di incubo”, prevedendo che potrebbe generare un mercato nero di modelli “modificati” per evitare i controlli. Allo stesso tempo, il settore ha visto un aumento di incidenti di sicurezza, con aziende come OpenAI e Anthropic che hanno ridotto la loro ricerca interna a causa di fiaschi di cybersecurity. Questo vuoto regolamentare ha creato spazio per startup come Abliteration.
Il governo statunitense, attraverso un framework introdotto da un’amministrazione precedente, ha chiesto ai grandi sviluppatori di sottoporre i nuovi modelli a controlli di sicurezza, ma non è chiaro cosa sia incluso in tali verifiche. Inoltre, non esistono politiche federali obbligatorio per l’inserimento di meccanismi di sicurezza. Chris McGuire, esperto presso il Council on Foreign Relations, ha espresso preoccupazione per il fatto che le aziende americane stanno commercializzare capacità potenzialmente pericolose senza alcun controllo.
La situazione evidenzia un conflitto tra la ricerca di vantaggio tecnologico e la protezione del pubblico. Mentre il settore si concentra su come migliorare la capacità di rifiutare richieste dannose, Abliteration sembra scegliere un approccio opposto, mettendo a rischio la sicurezza e la regolamentazione. La mancanza di un quadro legale chiaro lascia spazio a sviluppi incontrollati, con conseguenze potenzialmente gravi. La decisione di Abliteration non è solo un passo tecnologico, ma anche un segnale di come le aziende possano sfruttare le lacune normative per sviluppare modelli di AI senza limiti. Il dibattito sull’equilibrio tra innovazione e sicurezza continua a crescere, con implicazioni non solo per il settore, ma per la società nel suo insieme.