OpenAI citata in giudizio per errore medico: ChatGPT minimizzò embolia per sei settimane

Un ex pastore della Florida ha denunciato OpenAI e il suo amministratore delegato Sam Altman, accusando il chatbot ChatGPT di aver minimizzato per sei settimane una condizione medica grave che si è rivelata essere un’embolia polmonare bilaterale. La causa rappresenta uno dei primi contenziosi legali legati a possibili errori diagnostici forniti da un’intelligenza artificiale generativa.

Scott Winters, il ricorrente, ha affermato di aver consultato ChatGPT per valutare i sintomi che stava manifestando. Durante un periodo prolungato di sei settimane, il chatbot avrebbe fornito rassicurazioni ripetute sulla natura dei disturbi, tranquillizzando l’utente senza indirizzarlo verso una valutazione medica professionale immediata. Solo successivamente, Winters ha scoperto che i sintomi erano in realtà riconducibili a embolie polmonari bilaterali, una condizione medica potenzialmente pericolosa per la vita.

La natura della controversia legale

La denuncia mette in luce una questione critica riguardante l’uso di strumenti di intelligenza artificiale per consulenze di natura medica. ChatGPT non è stato sviluppato né concepito come strumento diagnostico certificato, eppure molti utenti si rivolgono a lui con domande sulla salute, spesso come primo punto di contatto prima di consultare professionisti sanitari. Il caso di Winters evidenzia i rischi potenziali quando un’intelligenza artificiale fornisce informazioni mediche imprecise o incomplete.

Secondo quanto riportato, durante le sei settimane in cui Winters ha interagito con ChatGPT, il sistema avrebbe continuato a minimizzare la gravità della situazione, offrendo spiegazioni alternative e rassicurazioni che hanno potenzialmente ritardato il ricorso a una diagnosi professionale. Questo lasso di tempo può essere considerato critico nel caso di condizioni vascolari come le embolie polmonari, dove l’intervento tempestivo è essenziale per evitare complicazioni gravi.

Implicazioni per l’intelligenza artificiale in ambito sanitario

La causa intentata contro OpenAI e Sam Altman solleva questioni fondamentali sulla responsabilità delle aziende che sviluppano sistemi di intelligenza artificiale generativa. Non è ancora chiaro come verranno distribuiti gli obblighi legali tra i creatori del modello e gli utenti finali quando si tratta di danni derivanti da informazioni mediche errate.

Attualmente, ChatGPT include avvertenze che scoraggiano gli utenti dall’usare il servizio per consulenze mediche critiche. Tuttavia, la natura intuitiva e apparentemente autorevole del chatbot potrebbe indurre gli utenti a affidarsi eccessivamente alle sue risposte, soprattutto se non sono consapevoli dei suoi limiti intrinseci. La questione diventa ancora più delicata considerando che ChatGPT è stato addestrato su enormi quantità di testo da internet, che include tanto informazioni accurate quanto potenzialmente fuorvianti.

Il settore sanitario tradizionalmente si basa su professionisti autorizzati e percorsi diagnostici standardizzati. L’introduzione di sistemi di intelligenza artificiale generativa in spazi dove gli utenti cercano consulenze mediche crea un vuoto normativo e legale che non è ancora stato completamente affrontato dalle autorità competenti e dai legislatori.

Contesto e prospettive future

Questo contenzioso si inserisce in un panorama più ampio di tensioni tra l’innovazione tecnologica e la responsabilità legale. Negli ultimi anni, OpenAI ha ampliato significativamente l’utilizzo di ChatGPT in contesti diversi, dall’istruzione al supporto lavorativo, fino a consultazioni di varia natura. Il caso Winters potrebbe influenzare come le aziende sviluppatrici di intelligenza artificiale gestiscono e dichiarano i limiti dei loro sistemi.

Le autorità sanitarie e i regolatori potrebbero essere spinti a stabilire linee guida più rigorose su come i sistemi di intelligenza artificiale possono interagire con questioni mediche. Allo stesso tempo, le aziende tecnologiche potrebbero dover implementare ulteriori salvaguardie per proteggere gli utenti da situazioni in cui il chatbot fornisce informazioni mediche inaccurate o fuorvianti.

Per gli utenti, il caso sottolinea l’importanza di non considerare ChatGPT o sistemi simili come sostituti della consulenza medica professionale. Anche se gli strumenti di intelligenza artificiale possono fornire informazioni di carattere generale, le decisioni relative alla salute dovrebbero sempre coinvolgere operatori sanitari qualificati e certificati, specialmente quando i sintomi suggeriscono una condizione potenzialmente grave.