Possiamo dare coscienza al computer?

Gli esseri umani hanno trasceso la loro biologia dall'aggregato di cellule di cui sono composti e l'hanno trasformata in qualcosa di profondamente diverso. Eppure è sconcertante come i progressi e le influenze della moderna neuroscienza abbiano portato i suoi praticanti a comprimere la meraviglia della natura umana in un cervello e come gli informatici abbiano ulteriormente trasdotto il cervello nelle porte logiche dei circuiti al silicio.

"Poiché gli esseri umani hanno input sotto forma di sensi e output sotto forma di discorso e azioni, è diventato un credo dell'intelligenza artificiale che una convincente imitazione del comportamento input-output umano equivalga effettivamente a raggiungere vere qualità umane nei computer". - Ari Schulman

Gli scienziati la fanno franca con questo omicidio metafisico perché le tecnologie che sviluppano sono così praticamente utili. È sorprendente come una mandria di filosofi soccomba alla gloria della neuroscienza e dia una mano a quei riduzionisti. I media dell'intrattenimento, attraverso film come Her ed Ex-Machina, trasformano questa follia in probabilità futura.

Il successo dell'IA generativa e delle GPT ha alimentato le aspettative che l'AGI (intelligenza artificiale generale) fosse vicina e che l'IA potesse diventare cosciente. Un recente articolo di 19 scienziati va oltre: non ci sono "ovvie barriere tecniche alla costruzione di sistemi di intelligenza artificiale che soddisfino questi indicatori (di coscienza)".

Non c'è assolutamente alcun dubbio che possiamo costruire macchine intelligenti. Tuttavia, l'ipotesi che possiamo creare una macchina cosciente si basa su una serie di ipotesi fallaci sulla scienza, il cervello e la mente.

Nel 2005, Science Magazine ha scelto il "problema difficile" della coscienza come secondo problema irrisolto più importante nella scienza. Il problema difficile è spiegare come la materia possa dare origine a un'esperienza soggettiva. In che modo un sistema fisico come il cervello genera la coscienza? Come si può distinguere il sapore della vaniglia dall'odore della lavanda attraverso schemi di attività neurale? In che modo il cervello, un oggetto fisico, crea essenze non fisiche, come valori, scopo, significato, sentimenti o pensieri?

Nonostante i suoi spettacolari progressi, la neuroscienza non può rispondere a queste domande, a nessuna di esse.

Il problema è intrattabile e deriva da ciò che consideriamo la coscienza. Mentre la possibilità di macchine coscienti non può essere confutata categoricamente, non lo possono essere neanche l'ipotesi della teiera di Russel o del mostro volante degli spaghetti. Entrambe sono argomentazioni logicamente valide. Ma la questione non è se l'argomentazione di una macchina cosciente sia logicamente coerente, ma se sia un'ipotesi valida da considerare.

I neuroscienziati credono fermamente che risolvere problemi facili relativi alla coscienza ci porterà a progredire verso una corrispondenza sempre più stretta tra la struttura dei processi cerebrali e la struttura dell'esperienza cosciente. Tuttavia, la speranza che una corrispondenza più stretta tra l'attività neurale e l'esperienza interiore risolverà il problema difficile è come la convinzione che se cammini abbastanza lontano, raggiungerai l'orizzonte.

Non può esserci una teoria "scientifica" convenzionale della coscienza perché la scienza può solo descrivere e prevedere come si comporta la natura, non cosa sia la natura. Quest'ultima indagine appartiene al regno della filosofia, o più precisamente, della metafisica. Bertrand Russell è giunto a questa osservazione già un secolo fa (Russell 2009).

La scienza spiega come funziona qualcosa; la filosofia cerca di comprendere cosa significhi quel qualcosa. La scienza guarda i fatti, la filosofia ne indaga il significato.

La meccanica quantistica è una disciplina sorprendentemente di successo in fisica, e la sua matematica descrive la realtà quantistica con una precisione incrollabile. Tuttavia, cosa significhi la realtà quantistica è una questione completamente diversa. Come può un oggetto quantistico essere sia una particella che un'onda? La coscienza fa collassare la funzione d'onda durante la misurazione? L'ortodossia nella disciplina ha soppresso questo tipo di domande per decenni e ha messo le carriere dei fisici che perseguivano questa strada in un vicolo cieco. I fisici quantistici esorterebbero Stai zitto e calcola!

La scienza riduce tutta la realtà a quanti, numeri o unità di misura. Si occupa di esteriorità, o del regno empirico della realtà che può essere percepito con i sensi e le loro estensioni. La coscienza è un concetto sfuggente per gli scienziati perché è totalmente soggettiva e non può essere ridotta ai suoi correlati oggettivi. Risolvere il problema difficile da un punto di vista quantitativo è come capire come vengono creati gli schermi dai film che riproducono.

Spiegazione e interpretazione.

Ciò che la scienza può spiegare del testo di Re Lear sono le sue dimensioni quantitative: la densità e il peso della carta, la composizione chimica dell'inchiostro dei segni, il numero di pagine e così via. Questo è ciò che puoi osservare o sapere di un testo empiricamente. Tuttavia, per comprendere il significato di Re Lear, dobbiamo imparare una lingua e i suoi simboli prima di poter impegnarci in una comprensione intersoggettiva (dialogica) con gli altri per intraprendere un'interpretazione.

L'interpretazione non è solo un capriccio soggettivo; Re Lear non riguarda la frivolezza della guerra. Ci sono interpretazioni buone e cattive. E queste comprensioni interpretative sono importanti tanto quanto, a volte di più, delle spiegazioni empiriche.

Un altro esempio è la cura della parola, o psicoterapia, che è un'odissea interpretativa che mostra come le interpretazioni influenzano il benessere e l'agire umano. Non interpreterai la tua ansia in termini di onde cerebrali, livelli di cortisolo, serotonina e dopamina, ma in termini di esperienza in prima persona dell'ansia stessa: alienazione, disorientamento, disagio e rimugino. Queste sono, contrariamente alla conoscenza, esperienze fenomeniche che possono essere comprese solo attraverso il contesto intersoggettivo.

Non esiste uno strumento per osservare direttamente ragione, valori, pensieri o emozioni. Alexander Linklater lo spiega meglio:  "È bene ricordare che, sebbene le scansioni fMRI (La tecnica di Risonanza Magnetica funzionale (fMRI) consiste nell'uso dell'imaging a risonanza magnetica (MRI) per valutare la funzionalità di un organo o un apparato) siano straordinarie, i neurologi imparano ancora di più sul funzionamento mentale trascorrendo del tempo con i pazienti".

In altre parole, impegnarsi nel dialogo per comprendere il significato e il contesto per comprendere l'esperienza di un paziente.

La questione stessa se la materia possa dare origine alla esperienza soggettiva non può essere giudicata empiricamente e si trova al di fuori della scienza. In altre parole, la convinzione che la materia generi esperienza soggettiva non ha giustificazione all'interno della scienza: è una dottrina filosofica (metafisica). Tutti i tentativi di risolvere il problema difficile sono falliti e rimane ostinatamente un'anomalia per i dogmatici nella chiesa del materialismo metafisico. Per parafrasare una vecchia barzelletta: la coscienza funziona in pratica ma non in teoria.

Il cervello non genera coscienza.

Il biologismo e la neurofilosofia sbagliano sul posto degli esseri umani nella natura perché confondono correlazione con causalità e identità, mentre mettono mente, biologia e materia allo stesso livello di astrazione.

Un cervello che funzioni normalmente è necessario ma non sufficiente per l'esperienza. Le correlazioni dell'esperienza soggettiva con modelli di attività neurale non stabiliscono la causalità della coscienza generata dal cervello. Mentre l'esperienza soggettiva ha correlati neurologici oggettivi, questa è l'unica conclusione che la scienza può trarre. La presenza di vigili del fuoco in un luogo può essere correlata a un incendio, ma la causa dell'incendio non può essere dedotta da tale correlazione.

La correlazione percepita dell'attivazione neurale è identica all'esperienza, ad esempio, di una percezione? L'esperienza del colore rosso non è identica alla conoscenza del suo correlato neuro-imaging. I pompieri dell'incendio non sono l'incendio che sono stati mandati a spegnere. Inoltre, se si presume che gli impulsi nervosi o neurali causino coscienza, non possono essere identici tra loro. Se A è identico a B, A non può causare B e viceversa. Solo il Dio monoteista è capace di una tale impresa.

Informazioni

La rivoluzionaria teoria dell'informazione di Claude Shannon, che è alla base delle telecomunicazioni e dell'informatica, ha definito un'unità di informazione come un "bit" che rappresenta una scelta tra 2 alternative ugualmente probabili. Il contenuto informativo è misurato dalla quantità di entropia o incertezza in un messaggio: maggiore è l'incertezza, maggiore è l'informazione. Quindi, il lancio di una moneta comporta un'elevata entropia (informazione), poiché il risultato è incerto e ha una probabilità del 50/50.

Per far funzionare questa definizione ingegneristica dell'informazione, è stato necessario rinunciare a qualsiasi nozione di significato. Nelle parole di Shannon: "Gli aspetti semantici della comunicazione sono irrilevanti per gli aspetti ingegneristici".

È quindi un piccolo passo considerare la funzione del sistema nervoso come un sistema di trasmissione e concettualizzare il cervello come un dispositivo di elaborazione e archiviazione.

Il metodo di misurazione delle informazioni è quindi diventato la sua definizione, indipendentemente da quanto informativa (interessante, eccitante, piacevole o scioccante) sia quell'informazione per il destinatario. Tuttavia, l'escissione del significato dalla comprensione ordinaria delle informazioni, che etimologicamente deriva dal latino in-formare, che significa "dare forma, aspetto o carattere" a qualcosa, ignora il requisito della comprensione.

Pertanto, un computer non può pensare o comprendere; tutto ciò che fa è scambiare simboli secondo un insieme di regole (algoritmi). I set di istruzioni del computer determinano come simboli e numeri vengono scambiati tra loro.

L'esperimento mentale della stanza cinese, concepito dal filosofo John Searle, confuta il test di Turing (una misura dell'intelligenza di una macchina equivalente a quella di un essere umano) e il concetto di mente come sistema di elaborazione delle informazioni.

L'analogia è la seguente: Qualcuno che non ha familiarità con il cinese si trova in uno spazio chiuso. Quella persona riceve "input", o caratteri cinesi, tramite uno slot, manipola questi simboli secondo un insieme di regole inglesi e "produce" caratteri cinesi che sembrano risposte ponderate. Agli osservatori dall'esterno, la stanza sembra comprendere il cinese. Eppure l'individuo al suo interno obbedisce semplicemente ai comandi senza comprendere nessuno dei simboli.

I computer e i moderni sistemi di intelligenza artificiale basati su GPT fanno sembrare di poter comprendere il linguaggio senza produrre una comprensione effettiva. La sintassi (struttura, forma, regole e disposizione delle parole) non è uguale alla semantica (significato e interpretazione). Le frasi con una sintassi corretta possono, proprio come le affermazioni logicamente coerenti, essere completamente prive di significato.

La comprensione del significato non è simile alla manipolazione basata su regole dei simboli perché i simboli rimangono non interpretati. La stanza cinese sfida l'idea che un computer con la giusta programmazione possa essere intelligente e comprendere le cose come gli esseri umani. Implica che superare un test di Turing non implica sempre una comprensione o un'intelligenza effettiva.

La Memoria

I computer hanno una memoria in cui le informazioni vengono archiviate ed elaborate. Eppure, la neuroscienza non ha trovato la posizione o l'“indirizzo” dei “file” di memoria nel cervello, o anche se tali “file” esistano.

Lo psicologo comportamentista Karl Lashley ha indotto danni cerebrali nei ratti per determinare le posizioni discrete della memoria e dell'apprendimento. Mentre eseguiva lesioni cerebrali su ratti addestrati a muoversi in un labirinto, ha osservato che le prestazioni non erano influenzate e ha concluso che la “memoria” non aveva una posizione discreta ma era distribuita in tutto il cervello.

Secondo la teoria avanzata dal suo studente, il neuroscienziato Donald Hebb, la base neurale della memoria si basa sullo sviluppo di "assemblaggi cellulari", o raccolte di cellule (neuroni che si collegano tra loro) che rappresentano esperienze ricordate, e sulla stimolazione selettiva o inibizione delle sinapsi tra le cellule nervose. Questo cambiamento, per Hebb, era solo locale, non un cambiamento nel cervello nel suo complesso.

Teorie della memoria locali contro distribuite, atomistiche contro gestaltiche danno l’idea di quanto la neuroscienza sia ancora confusa sulla posizione della memoria nel cervello: "Ciò che è stato scoperto sono alcuni correlati neurali della formazione della memoria, ovvero l'attività cerebrale che la accompagna, ma non l'archiviazione delle informazioni in sé". (Kastrup, 2015)

La coscienza si estende oltre il cervello: corpo e mondo vitale.

Non siamo un cervello in una vasca, come molti ricercatori dell'intelligenza artificiale concepiscono implicitamente l'intelligenza e la coscienza. Secondo il concetto di "corpo vissuto" di Merleau-Ponty, l'interazione fisica con l'ambiente è essenziale per un corretto sviluppo neurale e la percezione:

"Se un gattino viene portato in giro durante i suoi primi mesi critici di sviluppo cerebrale, gli viene permesso di vedere il suo ambiente ma gli viene impedito di muoversi in modo indipendente, svilupperà gravi deficit visivi. Mentre gli occhi e i nervi ottici del gattino sarebbero fisicamente normali, le sue capacità di elaborazione visiva più elevate. come la percezione della profondità e il riconoscimento degli oggetti sarebbero gravemente compromessi".

Il cervello, che esiste entro i confini fisici del corpo umano, è intricatamente interconnesso con la fisiosfera, la biosfera e la noosfera. Nel contesto dell'esistenza umana, siamo fondamentalmente collegati a un collettivo di menti e agli intricati costrutti sociali e culturali plasmati da questi sé e culture individuali.

Heidegger ha chiarito che il nostro "essere" non può essere separato dal suo contesto di fondo: la nostra coscienza e il nostro sé non sono immagazzinati all'interno di un corpo o di un armadio. Sono parte integrante e integrati in un mondo di vita significativo che è co-creato con gli altri.

Mentre il movimento della cognizione incarnata e la sua integrazione nell'IA, basati su idee sviluppate decenni prima da Husserl, Heidegger e Merleau-Ponty rappresentano un passo avanti, il suo fondamento ontologico rimane nel cervello e nel sistema nervoso. L'aumento delle dimensioni della mente non porta gli scienziati cognitivisti oltre il problema di come un cervello-corpo possa riguardare eventi diversi da sé stesso e, da questa "riguardanza", creare un mondo vitale per il suo proprietario e per gli altri.

Inoltre, la cognizione incarnata porta al paradosso che ragionare da una prospettiva computazionale è significativamente più semplice del calcolo della percezione e delle capacità sensomotorie. Non possiamo ancora costruire l'intelligenza nei veicoli per consentire loro una guida autonoma, nonostante le numerose e ripetutamente fallite previsioni che gli ADV fossero vicini. Nonostante tutto il clamore, l'IA non può e non sarà in grado di riempire la tua lavastoviglie presto.

Aggiungere esponenzialmente più risorse computazionali per risolvere il problema difficile non fornirà una soluzione, solo una simulazione notevolmente migliorata. L'applicazione di tali risorse rimane un progresso aperto nel cammino dell'IA verso l'orizzonte (irraggiungibile) della coscienza.

La coscienza e la mente sono molto più di uno specchio della natura: "La cognizione non è la rappresentazione di un mondo pre-dato da parte di una mente pre-data, ma piuttosto la messa in atto di un mondo e di una mente sulla base di una storia della varietà di azioni che un essere nel mondo compie". (Varella 2016)

La sfida posta dai fenomenologi rimane. Il cervello e il sistema nervoso sono percepiti, sezionati e sperimentati da e attraverso le menti degli scienziati: il cervello è dentro una mente e una coscienza. Non viceversa.

E se il difficile problema della coscienza, e della coscienza nelle macchine, fosse frainteso?

E se la coscienza fosse fondamentale e la materia un epifenomeno della coscienza, e invece avessimo il difficile problema della materia? Sebbene questo possa sembrare poco intuitivo, rifletti su questo: Sappiamo qualcosa che esiste al di fuori della nostra esperienza (percezione, percezione, pensiero...)?

Se rispondi no a questa domanda, allora capisci che la convinzione che la scienza possa creare la coscienza non è altro che una disneyficazione dell'intelligenza artificiale.

Il fantasma nella macchina è proprio questo: un fantasma.