Di Alexandre Devecchio, La Repubblica

Giuliano Da Empoli, l’intelligenza artificiale può trasformare profondamente la democrazia? Lo sta già facendo?

«Dal momento in cui l’intelligenza artificiale si insinua nelle relazioni tra le persone e diventa l’interfaccia attraverso cui ognuno di noi si relaziona con il mondo e con gli altri, è chiaro che questo ha un effetto sulla democrazia. Si parla molto del ruolo dei social network, ma credo che il fenomeno sia già molto più diffuso. Il fatto che oggi ognuno di noi passi buona parte del proprio tempo davanti a uno schermo sta cambiando non solo la democrazia, ma la stessa esperienza umana. A fine giornata, che cosa abbiamo vissuto davvero, se escludiamo le esperienze mediate dallo schermo?». 

L’uso di algoritmi di apprendimento e di dati massivi per le campagne di marketing politico rappresenta una minaccia?

«È chiaro che l’uso dei dati offre alle campagne politiche opportunità senza precedenti per rivolgersi agli elettori in un modo completamente nuovo. Le campagne tradizionali, in cui un candidato cercava semplicemente di convincere gli elettori dei meriti delle sue idee, negli Stati Uniti non esistono più. I responsabili delle campagne elettorali ora sanno esattamente qual è la posizione di ciascun elettore. Perciò si sforzano di mobilitare coloro che sanno che sosterranno la loro causa, di smobilitare gli oppositori incoraggiandoli a rimanere a casa il giorno delle votazioni e di inviare messaggi su misura ai pochi elettori indecisi per convincerli a passare dalla parte giusta al momento giusto. Le campagne elettorali si stanno trasformando in battaglie a colpi di software oltre che politiche. In Europa, per fortuna, la protezione legale dei dati personali è più forte, ma le tendenze principali sono le stesse». 

Come abbiamo visto di recente, in particolare con le foto falsificate di Donald Trump, l’intelligenza artificiale è in grado di creare foto iperrealistiche inventate di sana pianta. Stiamo entrando in un’era di manipolazione di massa?

«Oggi bastano tre secondi di audio di una voce umana per sintetizzare il resto e farle dire quello che si vuole. Lo stesso vale per le immagini e i video. Le possibilità di manipolazione diventano infinite. Possiamo immaginare che la possibilità di manipolare, o addirittura creare da zero, qualsiasi immagine o video ben presto cambierà il nostro rapporto con i media audiovisivi, instillando una forma di scetticismo diffuso. Tutti ci affideremo esclusivamente a fonti di informazione che noi stessi consideriamo affidabili, ma queste fonti seguiranno standard e orientamenti molto diversi: alcune si atterranno alle regole dell’etica giornalistica, altre no. Avremo quindi una miriade di “produttori di realtà” che si contraddiranno sistematicamente. Un po’ come accade già oggi, con media e siti web di diverso orientamento, ma supportati da mezzi audiovisivi, veri o falsi, pensati per stimolare al massimo le emozioni». 

Nel suo saggio “Gli ingenieri del caos”, come nel suo romanzo “Il mago del Cremlino”, lei mostra come i “leader populisti” abbiano usato gli algoritmi per destabilizzare la loro società. Queste nuove tecnologie stanno accentuando la frammentazione della società, in particolare nelle democrazie occidentali?

«Qui andiamo al cuore del problema. Non sono solo le fake news e le deepfake che presto invaderanno i nostri schermi. Il vero problema è la ponderazione. In un mondo sovraccarico di informazioni, gli algoritmi che governano i nuovi media fanno sì che ognuno veda solo la parte di realtà che conferma le proprie opinioni. Non importa se queste informazioni siano vere o false. Potrebbero anche essere tutte vere — ce ne sono così tante!. Ciò che conta è il peso relativo che si dà a questi fatti e il risultato è che la vecchia frase “ognuno ha diritto alle proprie opinioni, ma non ai propri fatti” non è più valida. Ognuno ha diritto alle proprie opinioni, ma anche ai propri fatti. E questo non vale solo per gli elettori di Trump nel cuore degli Stati Uniti o per i sostenitori dei nazional-populisti in Europa. Vale per tutti: accademici progressisti nei campus, personaggi dell’establishment, per chiunque… A meno che non facciamo uno sforzo consapevole e coerente per esporci a punti di vista radicalmente diversi. L’intelligenza artificiale rafforzerà questo fenomeno, perché sarà di gran lunga migliore dei vecchi algoritmi nel soddisfare le nostre preferenze e attingere alle nostre passioni. Fornirà contenuti sempre più personalizzati — su misura per ognuno di noi — e completamente immersivi». 

Nelle dittature, l’intelligenza artificiale permette di accentuare la verticalità del potere e di controllare meglio la società? È già così in Cina? E in Russia?

«L’intelligenza artificiale, che si basa sull’accumulo di una quantità pazzesca di dati, è di per sé un formidabile strumento per concentrare il potere nelle mani di chi è in grado di controllare e utilizzare questi dati. Ciò è vero sia nei sistemi democratici, dove i dati sono attualmente concentrati principalmente in mani private, sia nei sistemi autoritari, dove i dati sono controllati dallo Stato. La Cina, molto più della Russia, è oggi l’esempio più impressionante — e preoccupante — di come le nuove tecnologie possano essere utilizzate per creare una dittatura perfetta. Non è un caso che, qualche anno fa, i manifestanti pro-democrazia di Hong Kong prendessero di mira i “lampioni intelligenti” installati dal regime nelle strade dell’ex colonia britannica». 

Sulla rivista Le Grand Continent, lei ha scritto: “Il Partito comunista cinese e la Silicon Valley stanno lavorando a un futuro post-umano”. È un’alleanza inaspettata. Che cosa intende dire?

«Durante la Guerra Fredda si scontravano due concezioni opposte dell’essere umano: da una parte l’individuo capitalista, libero di assecondare i propri istinti e desideri, dall’altra il nuovo uomo comunista, impegnato ad anteporre il benessere collettivo ai propri interessi immediati. Oggi si parla di una nuova guerra fredda, ma Google e il Partito comunista cinese hanno esattamente la stessa concezione dell’uomo: quella di un individuo il cui comportamento e le cui aspirazioni possono essere ridotti interamente a una serie di numeri e governati da algoritmi sempre più sofisticati. I fini sono diversi — il profitto per Google e il controllo politico per il Pcc — ma gli strumenti e la visione della società sono esattamente gli stessi». 

Paradossalmente, la Silicon Valley sostiene di essere progressista. È uno scenario alla Frankenstein, con una creatura il cui controllo sfugge al suo creatore?

«La Silicon Valley è un ecosistema in cui l’estrema sofisticazione tecnologica convive con una spaventosa povertà politica e culturale. Basta guardare i principali attori del sistema: i Mark Zuckerberg, i Jeff Bezos, gli Elon Musk. La loro capacità di mettere la tecnologia al servizio di una volontà di potenza illimitata, che arriva a voler privatizzare l’universo e vincere la morte, non può che impressionare noi comuni mortali. D’altra parte, non appena si avventurano nel campo della politica, o anche semplicemente delle relazioni con gli altri o della filosofia di vita, ci sentiamo in imbarazzo per loro, tanto ingenue e semplicistiche sono le loro idee. Alcuni si definiscono progressisti, altri libertari, ma tutti sono accomunati da una forma di arroganza — l’idea di costruire un mondo a propria immagine e somiglianza — che li rende fondamentalmente indifferenti alle ripercussioni politiche e sociali delle loro azioni». 

I social network sono stati inizialmente presentati come strumenti democratici e, in effetti, hanno portato un certo grado di pluralismo in un panorama mediatico chiuso, per non parlare del loro ruolo positivo nelle rivoluzioni arabe e nell’Iran di oggi. Possiamo farne un uso controllato nonostante l’avvento dell’IA?

«Non abbiamo scelta. Nel corso della loro storia, le nostre democrazie hanno sviluppato uno spazio pubblico regolamentato che garantisce il rispetto dei diritti umani e politici fondamentali. Ma non appena entriamo nella dimensione digitale, è come se ci trovassimo nello Yemen o in Somalia, uno Stato in disgregazione in cui non sono garantiti nemmeno i più elementari diritti democratici. Una parte sempre più importante del nostro dibattito pubblico si svolge in un sistema decadente governato da feudatari digitali. Attraverso una forma di sottomissione psicologica, ci siamo lasciati convincere che non c’era nulla da fare. In realtà, non è così. Ogni società ha la possibilità — e persino il dovere — di adattare le nuove tecnologie ai valori e ai principi che regolano il suo modo di operare. Le società europee condividono un modello sociale e politico, di convivenza civile e direi anche di qualità della vita, che le distingue sia dai nuovi imperi autoritari, Cina e Russia, sia dall’utilitarismo americano. Se siamo affezionati a questo modello, l’unico modo per garantirgli un futuro è adattarlo alla dimensione digitale, con la consapevolezza che la sfida rappresentata dai social network è nulla rispetto a quella che ci attende nell’era dell’intelligenza artificiale». 

Traduzione di Luis Moriones leFigaro/Lena, Leading European Newspaper Alliance
Nell’immagine: i manifestanti di Hong Kong nel 2014 si proteggono con gli ombrelli dalle videocamere di sorveglianza