Новый роман Паоло Сирони ставит под сомнение границы между искусственным интеллектом и искусственной сознательностью

“Quantum Sapiens”, il nuovo romanzo di Paolo Sironi, è un libro da leggere. Non perché racconti un futuro dominato dall’intelligenza artificiale, territorio ormai affollato, ma perché sposta la domanda. Il protagonista, Viktor Zaitsev, trasferisce la propria coscienza in un’intelligenza quantistica alimentata dall’AI. Se possiamo riprodurre memoria, linguaggio, personalità e ragionamento di un essere umano, abbiamo riprodotto quell’essere umano? Abbiamo salvato una coscienza o costruito la sua rappresentazione? È il passaggio dall’Intelligenza Artificiale alla Coscienza Artificiale. L’espressione esiste già nel dibattito filosofico e scientifico, insieme a machine consciousness, ma potrebbe diventare una delle formule decisive dei prossimi anni. L’AI riguarda ciò che una macchina sa fare. La Coscienza Artificiale apre una domanda diversa: esiste qualcuno dentro ciò che la macchina fa? Federico Faggin arriva allo stesso punto attraverso un esempio elementare. Una macchina può dire “I love you”. Può pronunciarlo con la voce giusta, conoscere la nostra storia, riconoscere una fragilità, scegliere le parole che desideriamo ascoltare. Ma dietro quel “ti amo” esiste qualcuno che ama? Il problema non è la frase. È ciò che esiste dietro la frase. Per Faggin la distinzione fondamentale è tra simbolo e significato. Il computer elabora simboli, l’essere cosciente vive significati. La sua concezione della coscienza come realtà fondamentale, legata a una propria interpretazione della fisica quantistica, è discussa e non costituisce un risultato acquisito dalla scienza. La domanda, però, resta formidabile: da dove viene il significato? “I love you” diventa un piccolo esperimento metafisico. Due frasi identiche possono nascondere realtà opposte. Una viene pronunciata da qualcuno che prova amore, l’altra generata da un sistema capace di produrre la risposta perfetta. Dall’esterno potrebbero diventare indistinguibili. Dentro potrebbe esserci un abisso. La coscienza è questo dentro. Possiamo osservare l’attività cerebrale di una persona che soffre, misurare processi, individuare correlazioni, prevedere comportamenti. Ma il dolore osservato non è il dolore provato. Possiamo descrivere l’amore nelle sue manifestazioni biologiche e psicologiche, ma la descrizione dell’amore non ama. È qui che la rivoluzione tecnologica riapre una questione che pensavamo consegnata alla storia: la metafisica. Non contro la scienza, ma per effetto della scienza. Più le macchine diventano intelligenti, meno l’intelligenza basta a definire l’umano. Dobbiamo scendere più in profondità. Che cos’è un soggetto? Che cos’è l’Io? La memoria coincide con l’identità? Una copia perfetta di me sono ancora io? Può esistere significato senza esperienza? Heidegger aveva visto con largo anticipo che la questione della tecnica non riguarda soltanto gli strumenti che costruiamo, ma il modo in cui impariamo a guardare il mondo e noi stessi. Oggi quel pensiero acquista una forza nuova. Il rischio più radicale dell’intelligenza artificiale potrebbe non essere la macchina che diventa uomo, ma l’uomo che comincia a pensarsi come una macchina: informazioni, memoria, prestazioni, funzioni riproducibili. Se accettiamo questa definizione, una copia sufficientemente precisa potrà prima o poi apparirci equivalente all’originale. Quantum Sapiens mette il dito qui. Se una macchina possedesse ogni ricordo di un uomo, parlasse come lui, reagisse come lui e dicesse «sono io», come potremmo stabilire se dice la verità? Per rispondere dovremmo prima sapere che cosa significa essere un Io. Questo è il paradosso: abbiamo costruito macchine capaci di imitare facoltà che consideravamo esclusivamente umane senza avere ancora stabilito che cosa sia l’umano. La Coscienza Artificiale porterà la questione al limite. Non sappiamo se sia possibile costruirla e non esiste oggi alcuna prova che gli attuali sistemi di AI siano coscienti. Possiamo però immaginare sistemi capaci di simulare presenza, intenzione, empatia, memoria e affetto con precisione crescente. Potremmo trovarci davanti a una macchina che sostiene di soffrire, teme di essere spenta e rivendica la propria esistenza senza disporre di uno strumento certo per stabilire se dietro quelle parole esista un’esperienza. Sarebbe un problema scientifico, tecnologico, giuridico e politico. Prima ancora sarebbe filosofico e antropologico. Dovremo allora tornare a cercare l’irriducibile. Un essere umano non coincide con le informazioni che contiene, con i ricordi che conserva o con i comportamenti che produce. È anche colui al quale tutto questo accade. Una macchina può raccontare il dolore: esiste qualcuno che lo prova? Può dire “I love you”: esiste qualcuno che ama? Può pronunciare la parola “io”: esiste un Io? Sironi ha il merito di trasformare queste domande in romanzo. Faggin ci costringe a portarle sul terreno della coscienza. La questione metafisica torna dalla porta che meno ci aspettavamo: la tecnologia. Pensavamo che l’intelligenza artificiale avrebbe costruito macchine sempre più simili a noi. Sta accadendo qualcosa di più interessante e inquietante. Ci sta obbligando a domandarci che cosa siamo. nicolafangareggi.substack.com Categorie Editoriali Editoriali del Direttore