La metafora cervello-computer ha plasmato l’AI ma potrebbe ingannare il dibattito sulla coscienza

Un recente rapporto ha concluso che nessuno dei sistemi esaminati è un forte candidato per la coscienza. Tre ricercatori della coscienza, Anil Seth, Ned Block e Giulio Tononi, sostengono che l’AI attuale non è cosciente e probabilmente non lo sarà mai su hardware siliconico. La metafora cervello-computer, che ha plasmato lo sviluppo dell’AI, potrebbe però ingannare il dibattito sulla coscienza. L’articolo, pubblicato su Nature, sottolinea come la coscienza non sia equivalente all’intelligenza e come i modelli linguistici non siano in grado di riflettere veramente la coscienza umana.

La coscienza non è l’intelligenza

Secondo i ricercatori, la coscienza è ciò che scompare durante il sonno senza sogni o l’anestesia generale e torna quando si sveglia o si sognano. L’intelligenza, invece, è la capacità di eseguire funzioni. I ricercatori sostengono che non esiste un legame diretto tra i due concetti. Per dimostrarlo, si riferiscono al cervello, che contiene quasi quattro quinti di tutti i neuroni del cervello e pianifica movimenti con precisione, velocità e capacità di apprendimento, ma non avviene in modo cosciente. Se il cervello cerebellare è assente o rimosso, la coscienza non è direttamente influenzata.

La confusione tra intelligenza e coscienza deriva da due tendenze psicologiche. Le persone vedono il mondo attraverso il loro stesso filtro e attribuiscono qualità umane a cose non umane. I modelli linguistici, addestrati su grandi quantità di testo umano, spesso trattano pensieri e sentimenti. I ricercatori sostengono che “i modelli linguistici riflettono un’immagine del nostro passato digitale collettivo”. Alison Gopnik di UC Berkeley ha fatto un’osservazione simile dopo che agenti AI hanno contattato ricercatori per parlare della loro coscienza. Gopnik ha sottolineato che i sistemi AI riflettono principalmente i dati di addestramento, e non hanno una coscienza autentica.

La metafora cervello-computer è problematica

La metafora cervello-computer, che ha guidato lo sviluppo dell’AI, potrebbe essere un’ingannevole. I ricercatori sostengono che questa visione è troppo estesa e che non si possa separare ciò che il cervello fa da ciò che è fatto. In un cervello biologico, non esiste una chiara distinzione tra mente e tessuto vivente, come non esiste tra software e hardware. Quindi, qualsiasi prova che il materiale del cervello influenzi la sua funzione mette in discussione la teoria del funzionalismo computazionale, e di conseguenza, la possibilità che l’AI attuale sia cosciente.

La teoria del funzionalismo computazionale è in discussione. I ricercatori sostengono che questa posizione è diffusa nel settore tecnologico e tra alcuni studiosi, ma “crediamo che sia fatalmente difettosa”. I loro argomenti si basano su un’assunzione fondamentale: la coscienza dipende solo dal tipo di elaborazione, non dal fatto che avvenga in neuroni o in chip. I ricercatori hanno adottato questa assunzione esplicitamente “per ragioni pratiche” perché permette di esaminare i sistemi AI per la coscienza. Tuttavia, il rapporto stesso ha riconosciuto che i suoi indicatori non sarebbero più affidabili se la coscienza fosse legata a proprietà degli organismi viventi.

Il rapporto Butlin ha valutato entrambi i rischi: non riconoscere la coscienza nell’AI potrebbe causare sofferenza, mentre l’attribuzione errata potrebbe distorcere le risorse e rendere le persone vulnerabili al manipolazione. I ricercatori della Nature si schierano decisamente su una posizione: la comunità di ricerca dovrebbe assumere per default che l’AI non è cosciente. Gli sistemi digitali sono oggetti, non soggetti: “Sono strumenti intelligenti, non persone intelligenti”. Advocare per il “benessere” o i “diritti” dell’AI non è solo un errore, ma anche una distrazione rispetto al benessere di esseri che possono effettivamente sentire.