La tesi contro il funzionalismo computazionale
Secondo Anil Seth, Ned Block e Giulio Tononi, esperti di neuroscienze sperimentali, neurobiologia teorica e filosofia della mente, i sistemi di intelligenza artificiale oggi in uso non sono coscienti e probabilmente non potrebbero esserlo su hardware di silicio. Lo sostengono in un commento pubblicato su Nature, riportato da The Decoder. La loro critica prende di mira l'idea che eseguire i calcoli giusti sia sufficiente per la coscienza, un presupposto che definiscono gravemente errato. Il loro intervento si contrappone a voci come il biologo Richard Dawkins e il pioniere dell'AI Geoffrey Hinton, che considerano possibile una coscienza nelle macchine.
Un confronto con il rapporto Butlin e i limiti metodologici
Per inquadrare la portata del commento serve il rapporto Consciousness in Artificial Intelligence di Patrick Butlin, Robert Long e altri 17 esperti, tra cui Yoshua Bengio. Il gruppo ha ricavato dalle principali teorie neuroscientifiche una lista di 14 indicatori della coscienza e ha valutato diversi sistemi attuali, inclusi modelli linguistici di grandi dimensioni come GPT-4. La conclusione è che nessuno dei sistemi esaminati è un candidato forte alla coscienza. Tuttavia il rapporto non vede ostacoli tecnici ovvi alla costruzione di sistemi futuri che soddisfino più indicatori, pur lasciando aperto se sarebbero davvero coscienti. Gli autori hanno ammesso che, se la coscienza dipendesse da proprietà degli organismi viventi, i loro indicatori non sarebbero più affidabili, e hanno citato proprio Seth tra i sostenitori di questa posizione alternativa.
Il rapporto ha adottato esplicitamente, per ragioni pragmatiche, il funzionalismo computazionale: l'idea che la coscienza dipenda solo dal tipo di elaborazione delle informazioni e non dal fatto che avvenga in neuroni o in chip. È su questo punto che si innesta il commento su Nature, che contesta l'assunto invece di accettarlo come base di lavoro.
Il ruolo della materia e le implicazioni etiche
Gli autori sostengono che la coscienza è ciò che scompare nel sonno senza sogni o sotto anestesia generale e ritorna al risveglio. L'intelligenza, invece, riguarda l'esecuzione di funzioni. Portano come esempio il cervelletto umano, che contiene quasi quattro quinti dei neuroni del cervello e pianifica movimenti con precisione, ma non opera in modo cosciente; la sua assenza non incide direttamente sulla coscienza. Seth, Block e Tononi citano anche AlphaFold di Google DeepMind: una rete neurale potente su silicio che quasi nessuno considera cosciente, semplicemente perché prevede strutture proteiche invece di conversare.
Da qui derivano una posizione etica netta: l'incertezza non equivale a ignoranza totale, e nel caso dell'AI attribuire falsamente coscienza è molto più probabile che trascurarla. Concedere diritti a sistemi solo apparentemente coscienti li renderebbe più difficili da controllare proprio quando la supervisione è più necessaria. Resta aperto, e non risolto dal materiale, se teorie come l'Integrated Information Theory di Tononi possano essere verificate sperimentalmente e quale peso avranno nel dibattito pubblico e normativo.
