Di Federico Ferrazza, La Repubblica

Jacob Coxon ha 27 anni ed è un informatico britannico. Si occupa di pre-addestramento dei modelli di intelligenza artificiale. In altre parole, somministra enormi quantità di dati agli algoritmi cosicché questi possano imparare a essere autonomi per eseguire un compito qualsiasi: la scrittura di un testo, la realizzazione di un video, una decisione aziendale e così via.

Coxon lavora in Anthropic, uno dei colossi statunitensi dell’IA. O meglio: lavorava. Sì, perché ieri ha annunciato le sue dimissioni con una serie di post sul social X, l’ex Twitter. L’informatico ha motivato così la sua decisione: «Ho trascorso gli ultimi tre anni sia in OpenAI (l’azienda di ChatGpt, ndr) che in Anthropic. Nessuna delle due sta agendo responsabilmente. Stanno giocando d’azzardo con le nostre vite. Presto l’IA sarà in grado di hackerare qualsiasi cosa e rivoluzionare ogni campo dall’oggi al domani. Le persone che costruiscono questa tecnologia pensano che potrebbe ucciderci tutti entro la fine del decennio».

Un allarme che in queste ore sta facendo discutere molto. In tutto il mondo. Anche perché a rafforzare i timori di Coxon ci sono state, subito dopo le sue dimissioni, le dichiarazioni di chi Anthropic non l’ha (ancora?) lasciata. Un altro dirigente dell’azienda statunitense, Evan Hubinger, ha detto: «Jacob ha ragione, crediamo che l’IA potrebbe uccidere tutti gli esseri umani! Penso che ci sia più del 10% di probabilità entro il prossimo decennio. Anthropic sta facendo del suo meglio per scongiurare questa eventualità, ma non abbiamo ancora un piano e non siamo sulla strada giusta per farlo».

Il caso di Coxon non è isolato. Negli ultimi tempi in molti hanno assunto toni apocalittici parlando di IA. Alla fine di agosto il fondatore di Microsoft, Bill Gates, in una intervista al New York Times aveva parlato delle sue paure degli algoritmi: dalla disoccupazione di massa al bioterrorismo. Parole che a loro volta avevano seguito quelle di Sam Altman (fondatore di OpenAI), Dario Amodei (Anthropic) ed Elon Musk (xAI). Che, con argomenti diversi, hanno detto la stessa cosa: si sta costruendo la tecnologia più importante della Storia; ma al tempo stesso quella stessa tecnologia potrebbe diventare incontrollabile. E letale per l’umanità.

L’aspetto curioso, e per certi versi inquietante, è però che sono proprio coloro che sviluppano IA a metterci in guardia. Per questo molti osservatori sostengono che si tratti anche di una precisa strategia di marketing. Soprattutto per aziende, come OpenAI e Anthropic, prossime alla quotazione in borsa. Perché più a una tecnologia si riconosce potere, più aumenta il valore di chi la sta costruendo.

Ma, al netto delle mosse tattiche di questi colossi e delle previsioni di una fine del genere umano entro quattro anni, ci sono degli elementi che non possono essere sottovalutati. Primo perché nessun laboratorio ha ancora risolto il problema dell’allineamento, cioè la garanzia che un’IA segua sempre e alla lettera le intenzioni umane. Lo stiamo vedendo con i sempre più frequenti attacchi hacker “autonomi”, cioè quando i software sfuggono al controllo dei loro programmatori. E poi c’è la corsa, sempre più veloce, alla cosiddetta intelligenza artificiale generale (Agi), quella teoricamente in grado di simulare e superare quella umana. Che, nonostante gli allarmi delle aziende, nessuno vuole rallentare per una banale questione di competizione. OpenAI corre perché Anthropic corre, e viceversa. Ed entrambe guardano alla Cina: decelerare significherebbe lasciare il vantaggio a concorrenti meno scrupolosi di paesi peraltro “nemici”. È il vecchio paradosso della corsa agli armamenti applicato all’IA: a parole nessuno vuole accelerare, ma nessuno può permettersi di rallentare per primo.

Come se ne esce? Servirebbero soggetti terzi forti, esterni quindi alle aziende, che siano in grado di autorizzare o meno lo sviluppo o l’ingresso sul mercato delle IA. Autorità che non dovrebbero prevedere la partecipazione degli stessi colossi tecnologici, come invece loro chiedono. Fare, insomma, come accade per altri settori industriali: per esempio, quello farmaceutico, dove le aziende non decidono da sole cosa vendere. Ci sono controlli indipendenti, autorizzazioni su più livelli, verifiche degli Stati.

E poi si dovrebbe abbandonare il racconto di una tecnologia capace di distruggere l’umanità. Non aiuta a comprendere quali sono i rischi reali. L’IA non ci spazzerà via da questo pianeta ma potrebbe concentrare il potere economico nelle mani di poche aziende; precarizzare gran parte del lavoro; aiutare a manipolare l’informazione; rendere più efficaci cyberattacchi e criminalità; facilitare la progettazione di armi, anche biologiche; aumentare la sorveglianza; automatizzare le decisioni che riguardano diritti e libertà. Gli scenari alla Terminator lasciamoli ai film. Iniziamo a occuparci delle questioni reali.

Nell’immagine: Jacob Coxon