Эксперт по цифровой трансформации предупреждает о риске технологического диктата и призыва к созданию публичной сферы ИИ

Flavia Barca, esperta di politiche culturali, media e trasformazione digitale, ha dato di recente alle stampe, per Donzelli, un saggio dai tratti visionari. “I pregiudizi dell’AI. Disuguaglianze e potere nell’era dell’algoritmo” costituisce, infatti, una lettura imprescindibile per chiunque voglia comprendere il tempo che stiamo vivendo e i suoi possibili sviluppi. Bando ai pregiudizi, per l’appunto, e con essi alle demonizzazioni e alle richieste di accantonare uno strumento rivelatosi, al contrario, indispensabile ad esempio per compiere passi avanti decisivi in ambito medico e scientifico. Bando, tuttavia, anche al positivismo stucchevole di chi pensa che l’AI non debba essere regolata e posta in connessione con gli esseri umani e con la loro doverosa convivenza con il resto del pianeta. L’opera di Barca ci costringe a riflettere su cosa siamo diventati, su quali strade si spalancano davanti a noi e sul fatto di essere giunti a un bivio: o ci riappropriamo della rete e delle nuove tecnologie o le lasciamo definitivamente nelle mani dei tecnoligarchi, che le utilizzeranno per dar vita a una forma di dominio senza precedenti, che andrà dall’ambito sociale a quello economico e, di conseguenza, finirà col sottomettere la politica fino a renderla una mera esecutrice di decisioni assunte altrove. Affinché non accada, pertanto, dobbiamo esplorare, con spirito critico, le potenzialità di questo “demone” contemporaneo, evitando di commettere gli stessi errori che abbiamo compiuto a suo tempo a proposito della rete e ricordandoci che stavolta non ci sarà concesso un altro giro di giostra. O le disuguaglianze vengono appianate attraverso decisioni politiche lungimiranti o tutto, sia detto senza enfasi, sarà perduto, col rischio che sia l’AI a determinare persino l’esito dei conflitti in corso. Quali sono le conseguenze dello sviluppo tecnologico legato all’intelligenza artificiale? Le conseguenze sono profonde perché, per la prima volta, una tecnologia non interviene soltanto sul modo in cui lavoriamo, comunichiamo o produciamo beni e servizi, ma sul modo in cui produciamo, organizziamo e interpretiamo la conoscenza. L’intelligenza artificiale entra nei processi attraverso cui comprendiamo il mondo, prendiamo decisioni e costruiamo le nostre opinioni. Per questo il tema non è solo tecnologico: è culturale, politico e democratico. Nel libro sostengo che la domanda fondamentale non sia se l’AI sia buona o cattiva, ma chi la governa, quali visioni del mondo incorpora e chi beneficia delle scelte che compie ogni giorno, spesso in modo invisibile, su milioni di persone. L’Occidente, e gli Stati Uniti in particolare, è sconvolto dallo strapotere dei cosiddetti “tecnoligarchi”. Quanto contano davvero e quanto influenzano le scelte dei vari governi, a cominciare dall’amministrazione Trump? Non è un caso se li definiamo “tecnoligarchi”. Non sono semplicemente grandi imprese tecnologiche: sono soggetti privati che controllano infrastrutture essenziali per la produzione della conoscenza, dalla capacità di calcolo al cloud, dai grandi modelli linguistici ai dati con cui vengono addestrati. Per la prima volta nella storia moderna, una quota così rilevante delle infrastrutture attraverso cui produciamo conoscenza è controllata da un numero così ristretto di soggetti privati. Questo sta rimettendo in discussione i rapporti di forza globali: tra chi possiede le infrastrutture e chi ne dipende, tra chi produce e diffonde conoscenza – e decide quale conoscenza rendere visibile – e chi invece la subisce, tra chi ritiene che infrastrutture così decisive debbano essere governate nell’interesse pubblico e chi ritiene che possano essere lasciate prevalentemente alle dinamiche del mercato. L’amministrazione Trump ha avuto il merito involontario di rendere questo processo molto più visibile, mostrando quanto stretta possa diventare l’alleanza tra potere economico e potere politico. A Genova, venticinque anni fa, si parlava di neutralità della rete e si sosteneva che un altro mondo fosse possibile. Non c’erano i social, non c’era l’intelligenza artificiale, i cellulari erano ancora in formato quasi preistorico, eppure la tendenza verso cui si stava dirigendo il mondo era chiara già allora. Come si può rendere partecipe l’opinione pubblica del dibattito in merito a questi temi, che saranno decisivi per il nostro futuro? «Credo che quell’idea – “un altro mondo è possibile” – sia oggi più attuale che mai. Per molti, Genova ha rappresentato la crisi di una speranza collettiva, il tramonto della possibilità di immaginare e costruire un’alternativa ai modelli economici e politici dominanti. Oggi rischiamo di vivere una stagione analoga di fronte all’intelligenza artificiale. La forma più insidiosa di potere non è convincerci che una tecnologia sia buona, ma convincerci che la direzione che sta prendendo sia inevitabile. Ma è proprio questa l’idea che dobbiamo mettere in discussione. L’innovazione non è un fenomeno naturale: è il risultato di investimenti, decisioni politiche, interessi economici e rapporti di forza. Se oggi poche grandi imprese stanno orientando lo sviluppo dell’intelligenza artificiale, non è perché fosse scritto da qualche parte che dovesse andare così, ma perché sono state fatte determinate scelte e non altre. E ciò che è frutto di scelte può essere cambiato. Per questo il coinvolgimento dell’opinione pubblica è decisivo. Non basta discutere di come usare l’intelligenza artificiale: dobbiamo tornare a discutere di quale intelligenza artificiale vogliamo costruire, nell’interesse di chi e sulla base di quali valori. È una questione profondamente democratica. Se non rinunciamo a immaginare alternative, deleghiamo ad altri decisioni che riguardano il nostro modo di conoscere, di lavorare, di informarci e perfino di convivere. Se invece recuperiamo la capacità di pensare che un altro futuro sia possibile, allora possiamo ancora orientare questa trasformazione. Il tempo, però, non è infinito: l’accelerazione tecnologica è molto più rapida della capacità della politica e delle istituzioni di governarla. Ed è proprio per questo che il dibattito pubblico non può più aspettare. Quanto pesa l’intelligenza artificiale nel dibattito pubblico e nelle campagne elettorali? Quali sono le differenze rispetto ai social? I social network hanno già modificato profondamente il dibattito pubblico, accelerando la circolazione delle informazioni, contribuendo a diffondere notizie false o distorte e amplificando la polarizzazione. L’intelligenza artificiale porta questa trasformazione a un livello ulteriore: non perché cambi la natura del potere ma perché ne moltiplica enormemente la capacità di incidere sulla costruzione del consenso. Oggi questi sistemi non si limitano a diffondere contenuti: li producono, li selezionano, li sintetizzano e li rendono autorevoli agli occhi di milioni di persone, con una rapidità, una pervasività e una capacità di influenza senza precedenti. È questo fattore esponenziale, più che la tecnologia in sé, a renderla una questione cruciale per la qualità delle nostre democrazie. Naturalmente questo ha conseguenze anche sulle campagne elettorali. Fenomeni che già conoscevamo – dalla disinformazione ai bot, fino al microtargeting – diventano molto più efficaci grazie alla possibilità di personalizzare i messaggi su scala enorme e di produrre contenuti sempre più credibili. È una forma di potere poco visibile e quindi difficile da riconoscere, che orienta ciò che riteniamo importante, i temi di cui discutiamo e, in alcuni casi, perfino i desideri e le aspettative che consideriamo naturali Oggi viviamo in una società che fa fatica ad assumersi le proprie responsabilità. Come si fa a responsabilizzare l’opinione pubblica in merito all’intelligenza artificiale, mettendola in guardia ma senza spaventarla eccessivamente? La responsabilità è probabilmente il tema centrale del mio libro. Più che proporre risposte definitive, il libro prova a interrogare il concetto stesso di responsabilità: che cosa significa oggi essere responsabili di fronte all’intelligenza artificiale? Chi sono i soggetti chiamati ad assumersi questa responsabilità? E, soprattutto, in che modo possono esercitarla concretamente? È a partire da queste domande che propongo di leggere il rapporto tra intelligenza artificiale, democrazia e potere. La mia conclusione è che la responsabilità non appartiene a un solo soggetto, ma si distribuisce almeno su tre livelli. Il primo riguarda il mercato, che deve sviluppare tecnologie sicure, trasparenti e rispettose dei diritti fondamentali. Ma non basta chiedere alle imprese di sviluppare un’intelligenza artificiale più etica o più trasparente. È importante, naturalmente, ma non basta. Per questo l’AI Act rappresenta un passaggio importante, ma non sufficiente. Senza una visione strategica e una politica dell’innovazione, rischia di ridursi a uno strumento necessario ma incapace di orientare davvero lo sviluppo dell’intelligenza artificiale. Entrano quindi in gioco le istituzioni pubbliche, che non possono limitarsi a regolamentare: devono assumersi la responsabilità di orientare l’innovazione, investire in alternative, rafforzare la ricerca pubblica e costruire le competenze necessarie. Lo Stato ha, inoltre, una responsabilità fondamentale nei confronti di tutti i cittadini, anche di coloro che non partecipano attivamente a questi processi. Così come abbiamo costruito nel tempo un servizio pubblico dell’istruzione o dell’informazione, credo che dovremmo iniziare a immaginare un vero servizio pubblico dell’intelligenza artificiale: uno spazio capace di sviluppare competenze diffuse, promuovere un uso consapevole di queste tecnologie e garantire che nessuno venga escluso dalla possibilità di comprenderle e orientarne lo sviluppo. Perché una cittadinanza informata è la migliore garanzia contro la manipolazione, ma anche la condizione necessaria per governare democraticamente l’innovazione. Il terzo livello riguarda tutti noi, come cittadini. Abbiamo il diritto di essere informati correttamente e di acquisire le competenze necessarie per comprendere queste trasformazioni perché nessuna democrazia può delegare interamente ad altri processi che incidono così profondamente sulla produzione della conoscenza e sulla vita collettiva. Ma abbiamo anche la responsabilità di contribuire a orientarne lo sviluppo. Come? Interrogandoci su ciò che decidiamo di delegare alle macchine, esercitando un controllo consapevole sui nostri dati e partecipando al dibattito pubblico sulle scelte tecnologiche che riguardano tutti. Per questo non credo che l’obiettivo sia mettere in guardia l’opinione pubblica o alimentare paure. L’obiettivo è renderla protagonista. Oggi esistono già comunità, università, associazioni e amministrazioni locali che sperimentano modelli diversi di innovazione, più aperti, partecipativi e orientati all’interesse collettivo. Sono esperienze preziose perché dimostrano che l’innovazione non è mai un destino. È sempre il risultato di scelte collettive. E proprio per questo può essere orientata in direzioni diverse. Quali sono i pregiudizi da sfatare a proposito dell’intelligenza artificiale? Non l’avremo demonizzata un po’ troppo? Credo che uno dei principali pregiudizi sia proprio quello di pensare che si debba essere a favore o contro l’intelligenza artificiale. È una contrapposizione fuorviante. L’AI è uno degli strumenti più straordinari che abbiamo sviluppato negli ultimi decenni e può offrire contributi enormi alla ricerca scientifica, alla medicina, all’educazione, alla sostenibilità ambientale e perfino al rafforzamento delle nostre capacità cognitive. Sarebbe un errore rinunciare a queste opportunità per paura. La vera domanda, però, non è se l’intelligenza artificiale sia buona o cattiva. È capire quale ruolo vogliamo attribuirle nella nostra società. Le tecnologie non hanno un destino già scritto: dipende dalle scelte che facciamo, dagli obiettivi che assegniamo loro e dai limiti che decidiamo di porre. È su questo terreno che si gioca la vera sfida democratica, non nella contrapposizione tra entusiasmo e demonizzazione. Ne ha mai paura? La paura, di per sé, non è un sentimento negativo. È spesso la reazione che accompagna ciò che non conosciamo e che non comprendiamo fino in fondo. Anch’io, prima di studiare l’intelligenza artificiale, la guardavo con molta diffidenza. Conoscerla meglio mi ha aiutato a distinguere i timori infondati dai rischi reali. Condivido una riflessione di Yoshua Bengio che considero molto importante. Il problema non è l’intelligenza artificiale in sé, ma il grado di autonomia che decidiamo di attribuirle. Un conto è utilizzare sistemi che ci aiutano a produrre rappresentazioni, inferenze e nuova conoscenza; un altro è sviluppare sistemi agentici, capaci di perseguire autonomamente obiettivi e prendere decisioni. Più aumenta il livello di autonomia che affidiamo a questi sistemi, maggiore deve essere la nostra capacità di governarli. Ma c’è un’altra preoccupazione che considero ancora più attuale. L’intelligenza artificiale non opera mai nel vuoto: è progettata, finanziata e utilizzata da persone, imprese e istituzioni. Il rischio più concreto non è soltanto quello di perdere il controllo della tecnologia, ma che tecnologie sempre più potenti vengano impiegate per rafforzare forme di sorveglianza, manipolazione, esclusione o dominio che già conosciamo. Lo vediamo nei conflitti armati, nelle campagne elettorali, nella gestione delle frontiere. Per questo la questione centrale non è avere paura dell’intelligenza artificiale, ma costruire istituzioni democratiche capaci di orientarne lo sviluppo e impedirne gli usi distorti. Personalmente temo meno ciò che l’intelligenza artificiale potrebbe decidere da sola (anche se sono un’amante della fantascienza e dei futuri distopici) e molto di più ciò che gli esseri umani potrebbero decidere di fare attraverso di essa. Nell’ultimo capitolo del saggio, parla dell’intelligenza artificiale come “campo di possibilità”. Quali sono queste possibilità nello specifico? È proprio qui che si apre il campo delle possibilità. Se l’intelligenza artificiale non è un destino ma il risultato di scelte politiche, economiche e culturali, allora possiamo anche orientarla in direzioni diverse. Ed è questo, in fondo, il messaggio del libro. L’intelligenza artificiale può accentuare le disuguaglianze esistenti, concentrare ulteriormente il potere e rendere ancora più invisibili persone, lingue e culture già marginalizzate. Ma può anche fare esattamente il contrario: valorizzare le lingue minoritarie, ampliare l’accesso alla conoscenza, dare voce a comunità che finora sono rimaste ai margini e costruire strumenti più inclusivi, capaci di rappresentare la pluralità delle esperienze umane. Per questo credo che la vera scelta non sia tra usare o non usare l’intelligenza artificiale. La scelta è quale società vogliamo costruire attraverso l’intelligenza artificiale. In molte parti del mondo, e penso soprattutto al Sud globale, questa domanda è già al centro del dibattito. L’AI può diventare uno strumento di competizione, esclusione e dominio, oppure una straordinaria occasione di cooperazione, di pluralismo culturale e di democratizzazione della conoscenza. È questa, per me, la sfida decisiva. L’intelligenza artificiale non ci chiede soltanto nuove competenze tecnologiche. Ci chiede soprattutto di recuperare la capacità di immaginare futuri diversi da quelli che il mercato o i rapporti di forza del presente ci presentano come inevitabili. Come si possono tutelare il pensiero critico, la biodiversità e il ruolo imprescindibile dell’essere umano in un’epoca come quella che stiamo vivendo, dominata dal dilagare dei contesti artificiali? La prima cosa da tutelare è il pensiero critico. Non perché l’intelligenza artificiale pensi al nostro posto, ma perché può indurci, poco alla volta, a rinunciare alla fatica del pensare, del dubitare, del confrontarci con la complessità. Il rischio non è che le macchine diventino umane, ma che gli esseri umani smettano di esercitare alcune delle loro capacità più preziose. Per questo credo che la domanda decisiva non sia soltanto come governare l’intelligenza artificiale, ma quale idea di essere umano e di convivenza vogliamo costruire. Donna Haraway ci invita da tempo ad abbandonare una visione antropocentrica del mondo e a riconoscerci come parte di una rete di relazioni che comprende gli altri esseri viventi, gli ecosistemi e perfino le tecnologie che noi stessi produciamo. È un cambiamento di prospettiva radicale, che ci chiede di sostituire la logica del dominio con quella della responsabilità e della coesistenza. L’intelligenza artificiale rende questa sfida ancora più urgente. Ogni algoritmo, ogni modello linguistico, ogni data center ha conseguenze ambientali, sociali e politiche. Se continuiamo a considerarla soltanto una questione tecnologica, perderemo di vista il problema più importante: quale forma di società e quale rapporto con il pianeta stiamo costruendo attraverso queste tecnologie. Haraway usa un’espressione che considero straordinaria: “staying with the trouble” (“restare con il problema”). Significa non cercare scorciatoie né illusioni salvifiche, ma imparare ad abitare la complessità, assumendoci fino in fondo la responsabilità delle nostre scelte. Credo che sia questo, oggi, il compito più importante.