Di Ezio Mauro, La Repubblica

La capacità di generare, scintilla della creazione tipica degli esseri viventi, può diventare la nuova frontiera dell’intelligenza artificiale, portandola non soltanto ad accelerare il presente ma a concepire il futuro. È la rivelazione di Anthropic, che dopo gli allarmi di queste settimane dei ricercatori — preoccupati per il rischio che l’IA si metta in proprio, inseguendo obiettivi e traguardi autonomi, non prefissati dagli uomini — rende noto che Claude, il suo modello di intelligenza artificiale, partecipa ormai in buona percentuale alla realizzazione delle versioni successive di sé stesso.

Stiamo dunque per varcare una nuova soglia, inesplorata, affascinante e piena di incognite, che risolve eterni limiti per la macchina e pone problemi nuovi per l’uomo: «Spinta abbastanza avanti e con sufficiente potenza di calcolo — dice il rapporto di Anthropic — questa tendenza conduce a un sistema di IA capace di progettare e sviluppare autonomamente il proprio successore». L’algoritmo mette su famiglia.

L’inquietudine della fase che stiamo vivendo davanti alle conquiste della tecnologia è tutta in quell’avverbio: «autonomamente». Siamo preoccupati se la macchina si allontana da noi, abbiamo timore di perdere il controllo, ci allarma l’idea che la potenza del suo processo di elaborazione dei dati la porti fuori dai confini che le abbiamo assegnato, consentendole di calcolare l’ignoto, senza autorizzazione.

Col rischio che invece di controllare l’IA e di usarla come una struttura servente noi scopriamo una sua facoltà imprevista e nascosta, una finalità indipendente, una procedura a noi celata, una quota di lavoro per sé e non per noi, una capacità di scegliersi altri agenti virtuali con cui dialogare che ce la rende addirittura sospetta: in qualunque momento, non sappiamo più a cosa sta pensando.

In una logica numerica, le diverse e successive fasi di crescita del potenziale con cui si esprime l’IA dovrebbero portare a questo risultato. Che è anche il punto di arrivo della letteratura, della sceneggiatura, della narrazione visionaria della ribellione delle macchine. Mentre ci interroghiamo sul futuro, così, ci muoviamo in realtà dentro ciò che abbiamo già immaginato e raccontato. E invece la vera questione è senza precedenti, e non riguarda noi e loro, cioè l’uomo e le macchine: ma la tecnica e la politica, il capitalismo e lo Stato, la coscienza e l’algoritmo.

Il primo problema è la fine dell’unità di tempo. Vuol dire che non viviamo più alla stessa velocità, misurata sulle facoltà umane. La tecnica, dopo l’avvento di internet, ha dimostrato di saper trasformare il mondo più velocemente della politica. Oggi l’intelligenza artificiale ha introdotto un terzo stadio temporale con un’accelerazione, fino a ieri impensabile, del processo tecnologico.

La distanza tra il primo stadio dove si muove l’uomo, e il terzo stadio dove agisce l’IA è diventata impressionante. Tanto che Anthropic avverte: «Se gli esseri umani non riusciranno a revisionare il codice con la stessa rapidità con cui Claude lo genera, la revisione umana diventerà il collo di bottiglia dello sviluppo dell’intelligenza artificiale». Cioè il controllo umano rischia di non essere in grado di tenere il ritmo generativo della macchina. Non solo: può rallentarlo. Di più: l’uomo che ha inventato la macchina può essere visto da lei come una strettoia, una strozzatura. Un ostacolo. Perché non è più il dominus dello sviluppo, ma il suo limite di velocità.

Entra in campo il capitale. Viveva insieme con l’uomo, si muoveva con le sue stesse sequenze. Ma con la rivoluzione di internet è diventato uno dei principali beneficiari della smaterializzazione del lavoro, che ha perso l’ancoraggio di tempo e di luogo, e fluttua nell’universo sovranazionale della globalizzazione.

Il nuovo capitalismo è libero e svincolato, capisce e segue i ritmi dell’IA, agisce nello spazio dei flussi finanziari e d’informazione. Scarica sui governi nazionali il peso delle conseguenze materiali della mondializzazione, l’indebolimento del welfare, la denatalità, l’erosione della base delle pensioni, l’immigrazione, la sicurezza. In passato come tutte le forze sociali ha cercato di condizionare la politica, piegandola verso i suoi interessi.

Oggi è un passo oltre, perché ha fatto un salto di dimensione: giudica la politica l’arte di un’altra età che si affanna invano a governare un’epoca che le sfugge, anzi la considera come una delle tante intermediazioni che la velocità, l’ubiquità e la contemporaneità dell’innovazione hanno divelto, facendole saltare.

Nella nuova stagione il capitalismo e l’intelligenza artificiale sono naturalmente alleati: entrambi convinti che della politica si può ormai fare a meno visto che si possono guidare direttamente i processi, da protagonisti e non più da sudditi, traducendo finalmente il moderno plusvalore — finanziario, tecnologico — in potere diretto, in comando. E magari fabbricando una politica 2.0. Sono i custodi della formula che dischiude il nuovo mondo.

Ma da una lontananza di duemila anni torna una domanda: chi custodisce i custodi? Chi ha non solo la potestà, ma l’autorità di decidere il ritmo del tempo in cui dobbiamo vivere? In sostanza, chi deve comandare tra tecnica, politica e capitale? Si può rinviare la risposta, ma non si può eluderla.

La Cina, il mercato geopolitico con cui ci confrontiamo, ha risolto il problema incorporando nel sistema tutti gli elementi, politica, tecnica e capitale, integrandoli in un unico disegno di potenza. Ma le democrazie hanno vincoli che le dittature non conoscono, e tengono la partita ancora aperta, anche se si intravvede una tendenza: non è lo Stato che detta le regole alla tecnica, ma è la tecnica che tenta di incorporare funzioni sovrane.

Il risultato è l’embrione di un governo di fatto, dove la sovrastruttura domina sulla struttura materiale dei Paesi, nella tentazione-convinzione di poter rispondere a ogni domanda (anche normativa) con uno scrutinio delle probabilità. È la nuova onnipotenza post-democratica: tutto è calcolabile, nulla può avvenire fuori dal calcolo.

È il passaggio dalla responsabilità del giudizio alla neutralità della previsione, che scarnifica la politica perché riduce anch’essa a tecnica, privandola di tutto ciò che non è commensurabile, valori, ideali, coscienza, libertà, dignità e soprattutto cancellando il dubbio, la funzione critica, l’azzardo: e laggiù in fondo, il dissenso. Non deve ingannare la richiesta che arriva dal tecno-capitalismo ai governi, perché intervengano a regolare il ritmo dell’accelerazione dell’IA.

Non è la proposta di disegnare insieme il futuro del pensiero artificiale regolando rischi e opportunità in nome del bene comune: è una richiesta di regolamentare il pericolo quando è già fuoruscito dalla provetta, senza offrire garanzie e condivisione, per continuare a privatizzare l’innovazione, pubblicizzando la cautela a carico dello Stato. Il capitale vuole che la politica manovri il freno, ma vuole intanto tenere nelle sue mani l’acceleratore.

È giusto che il mercato segua le sue leggi, che il capitale insegua i suoi obiettivi, che la tecnica trasmetta il suo sapere alle nuove generazioni virtuali che sta creando. Ma a condizione che la politica sieda a capotavola, governando il nuovo patto sociale: magari scritto con l’IA.

Nell’immagine: Varsavia (Polonia), 7 settembre: una dimostrazione con un robot umanoide