Alla Buchmesse la storica premio Pulitzer mette in guardia contro la cultura messianica dei big di Silicon Valley. “È diventata un culto dell’autorità che ci allontana dall’umano”
Di Raffaella De Santis, La Repubblica
FRANCOFORTE
Dalla Buchmesse viene lanciato l’allarme: facciamo qualcosa o l’intelligenza artificiale distruggerà le nostre democrazie. Gli Stati liberali rischiano di trasformarsi in “automatocrazie”, dice Jill Lepore, che ieri ha aperto la fiera di Francoforte ricordando che siamo sulla soglia di un bivio: oltre questa linea c’è la disumanizzazione. È stata una Opening Conference di quelle che si ricorderanno. Fra qualche anno potremo dire che il mondo del libro non è rimasto zitto, che ha chiesto aiuto alla politica per difendere il copyright e la libertà di espressione. È stato anche presentato un appello, firmato da 120 editori, per reclamare trasparenza sulle opere utilizzate per l’addestramento dell’intelligenza artificiale.
Lepore, storica ad Harvard, premio Pulitzer vinto quest’anno, è autrice di un libro uscito in Italia proprio ieri per Rizzoli, intitolato significativamente Ascesa e caduta dello Stato artificiale. Chiamata sul palco, sorride ma non arretra, non teme di sembrare pessimista né di attaccare le Big Tech. Nella sua visione stiamo abbandonando le categorie razionali e facendo spazio a una nuova tecnoreligione. A Repubblica spiega come l’IApuò trasformarsi in un incubo.
Nel suo libro descrive l’ascesa dell’intelligenza artificiale quasi come una nuova religione, come mai?
«Le aziende della Silicon Valley parlano da molto tempo della propria “missione”, i loro leader si presentano come dei missionari. Se andiamo ad analizzare il linguaggio che usano, vediamo che deriva dal cristianesimo. È messianico, salvifico. Dicono di cercare di preservare il futuro dell’umanità. La dimensione è senza dubbio religiosa, non la liquiderei come semplice iperbole. Inoltre amano rendere misterioso il proprio potere e la fonte della loro conoscenza».
Siedono sul lato opaco del potere, stanno rispolverando gli arcana imperii?
«Per tipi come Elon Musk o Mark Zuckerberg è preferibile che la gente comune non capisca ciò che soltanto loro sono in grado di conoscere, quasi fossero dei sacerdoti».
Sono una setta misterica che ha in mano le sorti del mondo?
«Li osservi bene. Vestono tutti allo stesso modo, indossano una sorta di paramenti: scarpe da ginnastica nere, jeans neri, maglietta nera, felpa nera con cappuccio, cappellino da baseball nero. Una specie di uniforme che fa parte della loro cultura dell’autorità. Sia nella retorica che usano, sia nel modo in cui si presentano al mondo, hanno i tratti di una nuova religione».
In quale misura questa nuova fede è un rischio per le nostre democrazie?
«Sam Altman pensa che un presidente degli Stati Uniti basato sull’intelligenza artificiale sarebbe migliore di un presidente umano. Quando lo diceva, non stava facendo una battuta su Trump, del tipo “qualunque cosa sarebbe meglio di Trump”. Intendeva dire che una macchina sarebbe più efficiente e rappresenterebbe meglio gli interessi della popolazione. Ciò rivela una profonda incomprensione della natura del nostro sistema costituzionale, con i suoi pesi e contrappesi, la separazione dei poteri e il diritto dei cittadini a mettere sotto accusa chiunque sia stato eletto alla presidenza. Non è una forma utopica di democrazia, si chiama totalitarismo. Non so che cosa si possa fare, ma ho più fiducia che intervenga l’Europa piuttosto degli Stati Uniti, che pure dovrebbero farlo».
La politica americana su questo fronte latita. È colpa di Trump o si tratta di problemi di lunga data?
«Direi che latita a partire dagli anni Ottanta, durante l’era Reagan, con la spinta verso la deregolamentazione. Da allora in poi il Congresso ha rinunciato di fatto alla propria responsabilità di indagare se i nuovi strumenti provenienti dalla California potessero rappresentare un rischio per la vita politica americana e per la società civile».
Trump non ama il nome “intelligenza artificiale”.
«Ha proposto “superintelligence”. Inoltre ha stretto una sorta di accordo tra gentiluomini con le aziende dell’IA e lo ha chiamato “Costituzione”. Una Costituzione è un documento scritto da delegati eletti dal popolo, ratificato dal popolo e modificabile dal popolo, non un patto informale. È incredibile».
Se le macchine prendono il potere come in un racconto di fantascienza, cosa rimane dell’umano?
«Questo è il punto. Zuckerberg dice che nei fine settimana gli piace cucinare con una delle sue figlie e che sarebbe fantastico se una macchina potesse scegliere una ricetta, fare la spesa e far consegnare a casa tutti gli ingredienti. Altman vuole caricare il proprio cervello su un computer quando morirà, in modo da poter vivere per sempre come una macchina. Non è così che la maggior parte delle persone immagina la felicità».
Nella tradizione costituzionale americana c’è proprio il diritto alla ricerca della felicità.
«E se il governo smette di garantirlo, puoi cambiare quel governo, togliergli il consenso. Nel 1958, nel saggio Vita activa, Hannah Arendt scriveva di temere un futuro in cui avremmo creato macchine in grado di pensare e parlare al posto nostro. Tre anni prima era stato coniato il termine “intelligenza artificiale”. Lo Stato artificiale è il sogno di recidere i legami degli esseri umani non soltanto con il mondo naturale, ma anche degli uni con gli altri. È un futuro nel quale saremo governati — e sostituiti — da macchine possedute da aziende. I social media non hanno fatto che aumentare la nostra solitudine».
L’arte, la letteratura, le humanities in generale scompariranno?
«Sono vulnerabili, certo, ma nessuna democrazia può prosperare senza un elettorato capace di leggere. Penso che una gran parte della saggezza dell’umanità sia contenuta nella storia dell’arte, nella storia dell’architettura, nella storia della letteratura, nella storia della filosofia. Dovremo studiare i migliori pensatori e i migliori artisti per riuscire a comprendere nuovamente che cosa c’è nell’essere umano che consideriamo così prezioso, e quindi evitare di cederlo».
Il Libro
Ascesa e caduta dello Stato artificiale di Jill Lepore (Rizzoli, trad. di L. Rodinò e R. Prencipe,, pagg. 352, euro 24)
Nell’immagine: la storica Jill Lepore