Costruire fiducia nell’IA: il ruolo chiave della governance e dell’etica

Francesca Rossi, global leader for responsible AI and AI governance di IBM, ha sottolineato durante una conversazione con Formiche.net che il vero vantaggio competitivo nell’era dell’intelligenza artificiale (IA) non deriverà dai modelli più potenti, ma dalla capacità di costruire sistemi affidabili e degni di fiducia. Rossi ha spiegato come sicurezza e competitività non siano obiettivi in contrasto, ma due aspetti complementari che devono essere bilanciati per garantire un progresso sostenibile. La discussione ha toccato temi come l’etica, la governance e la responsabilità, con riferimenti a iniziative come la Rome Call for AI Ethics e le Linee guida etiche dell’Unione Europea.

La fiducia come fattore chiave per l’adozione dell’IA

La fiducia, afferma Rossi, è una relazione che si conquista attraverso la governance, non solo all’interno delle organizzazioni, ma anche nelle interazioni tra persone e macchine. Per costruire sistemi di IA degni di fiducia, è necessario garantire che le decisioni siano comprensibili, contestabili e che l’intervento umano sia previsto, soprattutto in situazioni critiche. La fiducia, tuttavia, non è la stessa cosa dell’affidabilità: la prima è una relazione, la seconda una proprietà dei sistemi. Rossi ha sottolineato che l’affidabilità si costruisce attraverso la ricerca e l’ingegneria, mentre la fiducia si ottiene attraverso la governance e la trasparenza.

La governance non è un onere, ma un vantaggio per l’innovazione.

L’IA è una tecnologia dual-use: le stesse capacità che possono aiutare a difendere un sistema informatico o a individuare una campagna di disinformazione possono essere utilizzate per attaccare quel sistema o generare disinformazione. Rossi ha evidenziato che i rischi sottovalutati includono la discriminazione, l’erosione della fiducia nell’informazione e la riduzione della capacità umana di giudizio. Inoltre, la preparazione della forza lavoro e la formazione delle persone sono aspetti spesso trascurati, nonostante l’IA trasformerà molti posti di lavoro. Per gestire questi rischi, Rossi ha sottolineato l’importanza di una governance responsabile, che non fermi l’innovazione, ma la guidi in modo etico e sicuro. Ciò include la valutazione dei rischi prima dell’implementazione, il monitoraggio successivo, strumenti per misurare bias e robustezza, e la definizione di ruoli e responsabilità chiari. L’IBM, da tempo, promuove questa visione, con un comitato dedicato e una governance condivisa tra le diverse unità aziendali.

La governance come strumento per il progresso sostenibile

La governance dell’IA non è solo un onere, ma un vantaggio che crea valore per tutti, compresa l’impresa. Rossi ha spiegato che la responsabilità deve essere parte integrante del processo decisionale, non un controllo effettuato a posteriori. Ciò richiede una collaborazione tra imprese, comunità scientifica e società civile, non solo tra governi. La governance deve anche adattarsi ai nuovi scenari, come l’arrivo degli agenti di IA, che possono agire autonomamente e creare rischi non previsti.

La fiducia è il fattore che determina l’adozione dell’IA in contesti chiave.

Per evitare che la ricerca della massima efficienza tecnologica spinga la responsabilità umana in secondo piano, Rossi ha sottolineato l’importanza di una governance che integri valori, incentivi e processi decisionali. L’obiettivo non è fermare l’innovazione, ma guidarla in modo responsabile, in modo che l’IA possa essere utilizzata in modo etico e sostenibile. La fiducia, infine, sarà il fattore chiave per determinare se e come la tecnologia sarà adottata nei contesti che contano davvero, come la sanità, la finanza e la pubblica amministrazione.