Il 16 maggio 2023, Sam Altman, l’affascinante CEO miliardario di OpenAI, dalla voce dolce ed eternamente ottimista, ed io ci siamo trovati di fronte alla sottocommissione giudiziaria del Senato degli Stati Uniti sulla supervisione dell’IA. Eravamo a Washington DC ed era l’apice della mania per l’IA. Altman, all’epoca 38enne, era il ragazzo immagine di tutto questo.

Cresciuto a St Louis, nel Missouri, Altman aveva abbandonato Stanford ed era diventato presidente dell’incubatore di startup di enorme successo Y Combinator prima dei 30 anni. Pochi mesi prima dell’udienza, il prodotto “ChatGPT” della sua azienda aveva conquistato il mondo. Per tutta l’estate del 2023 Altman è stato trattato come uno dei Beatles, facendo tappa a Washington nell’ambito di un tour mondiale, incontrando primi ministri e presidenti di tutto il mondo. All’epoca, i giornali dipingevano il giovane Altman come sincero, talentuoso, ricco e interessato solo a promuovere l’umanità. Le sue frequenti dichiarazioni sul fatto che l’IA avrebbe potuto trasformare l’economia globale ingolosivano i leader mondiali.

A poco a poco, mi resi conto che io, il Senato e, in ultima analisi, il popolo americano, eravamo stati probabilmente presi in giro.

Il senatore Richard Blumenthal aveva convocato noi due a Washington per discutere di cosa si dovesse fare con l’IA, una tecnologia “a doppio uso” estremamente promettente, ma anche potenzialmente in grado di provocare danni enormi, dagli tsunami di disinformazione alla proliferazione di nuove armi biologiche. L’ordine del giorno era la politica e la regolamentazione dell’IA. Abbiamo giurato di dire tutta la verità, nient’altro che la verità.

Altman rappresentava una delle aziende leader nel settore dell’IA; io ero lì come scienziato e autore, ben noto per il mio scetticismo su molte cose legate all’IA. Ho trovato Altman sorprendentemente coinvolgente. Ci sono stati momenti in cui ha evitato di rispondere alle domande (in particolare alla domanda di Blumenthal “Che cosa la preoccupa di più?”), ma nel complesso sembrava genuino, e ricordo di averlo detto anche ai senatori dell’epoca. Entrambi ci schierammo decisamente a favore della regolamentazione dell’IA. A poco a poco, però, mi sono reso conto che io, il Senato e, in ultima analisi, il popolo americano, eravamo stati probabilmente presi in giro.

Per anni il nome OpenAI [“Intelligenza artificiale aperta“, ndr] è sembrato una bugia, poiché in realtà diventava sempre meno trasparente nel corso del tempo. Le frequenti allusioni dell’azienda al fatto che l’AGI (l’intelligenza artificiale generale, un’intelligenza artificiale in grado di eguagliare o superare le capacità cognitive di qualsiasi essere umano) fosse dietro l’angolo mi sono sempre sembrate un’illazione ingiustificata. Ma di persona, Altman è stato straordinario; mi sono chiesto se non fossi stato troppo duro con lui in precedenza. Col senno di poi, ero stato troppo tenero.

Ho iniziato a riconsiderare la questione dopo che qualcuno mi ha inviato una segnalazione su un fatto piccolo ma significativo. Al Senato, Altman si è dipinto come molto più altruista di quanto non fosse in realtà. Il senatore John Kennedy (rep.) gli aveva chiesto: “Ok, lei guadagna un sacco di soldi, vero?”. Altman rispose: “Non guadagno. Mi pagano solo l’assicurazione sanitaria. Non ho alcuna partecipazione in OpenAI”, precisando poi: “Lo faccio perché mi piace”. I senatori se la sono bevuta.

Altman non stava dicendo tutta la verità. Non possedeva azioni di OpenAI, ma possedeva azioni di Y Combinator e Y Combinator possedeva azioni di OpenAI. Il che significa che Sam aveva una partecipazione indiretta in OpenAI, un fatto riconosciuto sul sito web di OpenAI. Se questa partecipazione indiretta valesse solo lo 0,1% del valore dell’azienda, come sembra plausibile, varrebbe quasi 100 milioni di dollari.

Questa omissione era un segnale d’allarme.

La discussione sui soldi non è stata, col senno di poi, l’unica cosa della nostra audizione in Senato che non mi è sembrata del tutto sincera. Molto più importante è stata la posizione di OpenAI sulla regolamentazione dell’IA. Pubblicamente, Altman ha dichiarato al Senato di essere favorevole. La realtà è molto più complicata.

Forse una piccola parte di Altman vuole davvero una regolamentazione dell’IA. Gli piace parafrasare Oppenheimer e riconosce che, come le armi nucleari, l’IA pone seri rischi all’umanità. Per dirla con le sue parole, pronunciate al Senato (anche se dopo un po’ di sollecitazioni da parte mia): “Abbiamo cercato di essere molto chiari sull’entità dei rischi. I miei peggiori timori sono che l’AI possa causare danni significativi al mondo”.

Presumibilmente Altman non vuole vivere nel rimpianto e nell’infamia. Ma a porte chiuse, i suoi lobbisti continuano a spingere per una regolamentazione più debole, o nulla. Un mese dopo l’udienza al Senato è emerso che OpenAI stava lavorando per indebolire la legge sull’intelligenza artificiale dell’UE.

Quando, nel novembre 2023, OpenAI ha licenziato Altman per essere stato “poco sincero” con il suo consiglio di amministrazione non mi sono sorpreso più di tanto.

All’epoca, pochi hanno condiviso la decisione del consiglio di amministrazione di licenziarlo. Un gran numero di sostenitori è venuto in suo aiuto; molti lo hanno trattato come un santo. E cinque giorni dopo è stato reintegrato, con l’aiuto del principale investitore di OpenAI, Microsoft, e di una petizione a sostegno di Altman da parte dei dipendenti.

Ma da allora molte cose sono cambiate. Negli ultimi mesi, le preoccupazioni sul candore di Altman si sono moltiplicate. Il giornalista Edward Zitron ha scritto che Altman è “un falso profeta, uno squallido truffatore che usa la sua notevole abilità per impressionare e manipolare l’élite della Silicon Valley”. Il pioniere dell’intelligenza artificiale Geoffrey Hinton ha recentemente scritto un saggio intitolato “Sam Altman Playbook”, in cui mostra come Altman sia riuscito a ingannare così tante persone, con un misto di esagerazioni e di apparente umiltà.

Molte cose hanno portato a vederlo sotto un’altra luce. Per alcuni il momento scatenante è stata l’interazione di Altman all’inizio dell’anno con Scarlett Johansson, che gli ha chiesto esplicitamente di non creare un chatbot con la sua voce. Altman ha quindi utilizzato un doppiatore diverso, ma ovviamente simile alla sua voce, e lo ha chiamato “Her” (un riferimento al film in cui la Johansson forniva la voce a un’intelligenza artificiale). La Johansson si è infuriata. Questo episodio è emblematico di un problema più ampio: grandi aziende come OpenAI insistono sul fatto che i loro modelli non funzionano se non sono addestrati su tutta la proprietà intellettuale del mondo, ma non pagano (o danno un compenso minimo) a molti degli artisti, scrittori e scienziati di cui usano le ricerche e le conoscenze. L’attrice Justine Bateman lo ha descritto come “il più grande furto nella storia degli Stati Uniti”.

A parole OpenAI ha sottolineato l’importanza di misure per la sicurezza dell’IA, ma di recente diversi dipendenti che si occupavano di sicurezza hanno lasciato l’azienda, sostenendo che le promesse non sono state mantenute. L’ex ricercatore sulla sicurezza di OpenAI, Jan Leike, ha affermato che l’azienda ha dato la priorità agli oggetti luccicanti piuttosto che alla sicurezza. Il co-fondatore di OpenAI Ilya Sutskever ha lasciato l’azienda e ha chiamato la sua nuova ditta Safe Superintelligence, mentre l’ex dipendente Daniel Kokotajlo ha avvertito che le promesse sulla sicurezza sono state disattese.

Per quanto i social media siano stati dannosi per la società, un’intelligenza artificiale “selvaggia”, che OpenAI potrebbe sviluppare anche solo accidentalmente, potrebbe essere molto peggiore.

La noncuranza di OpenAI nei confronti della sicurezza è aggravata dal fatto che l’azienda ha tentato di punire i dipendenti che sollevavano pubblicamente perplessità su questo tema.

Anche il consiglio di amministrazione dell’azienda si è sentito ingannato. L’ex membro del consiglio di amministrazione di OpenAI Helen Toner ha dichiarato: “Per anni Sam ha reso le cose molto difficili al consiglio di amministrazione, nascondendo informazioni, descrivendo in modo volutamente sbagliato le cose che stavano accadendo nell’azienda, e in alcuni casi mentendo apertamente al consiglio”.

Eppure Altman è ancora lì, e ancora incredibilmente potente. Dirige ancora OpenAI e, in larga misura, è ancora il volto pubblico dell’IA. Ha ricostituito il consiglio di amministrazione di OpenAI in gran parte a suo piacimento. E nell’aprile di quest’anno il segretario alla Sicurezza interna americana si è recato in visita ad Altman per reclutarlo nel comitato per la sicurezza e la protezione dell’IA.

La posta in gioco è alta. Il modo in cui l’IA si sviluppa ora avrà conseguenze durature. Le scelte di Altman potrebbero facilmente influenzare l’intera umanità – non solo i singoli utenti – in modi duraturi. Come OpenAI ha riconosciuto, i suoi strumenti sono già stati utilizzati dalla Russia e dalla Cina per creare disinformazione, presumibilmente con l’intento di influenzare le elezioni. Forme più avanzate di IA, se sviluppate, potrebbero comportare rischi ancora più gravi. Qualunque cosa abbiano fatto i social media, in termini di polarizzazione della società e di influenza sottile sulle convinzioni delle persone, non è niente a confronto di ciò che potrebbe fare l’IA.

Inoltre l’IA generativa, resa popolare da OpenAI, sta avendo un enorme impatto ambientale in termini di utilizzo di elettricità, emissioni di gas serra e consumo di acqua. Come ha scritto recentemente Bloomberg “l’IA sta già creando scompiglio nei sistemi energetici globali”. Questo impatto potrebbe crescere, forse in modo considerevole, con il previsto aumento delle dimensioni dei modelli. In larga misura i governi accettano la tesi di Altman, secondo la quale l’IA alla fine darà i suoi frutti (che però finora non si sono visti), giustificando così i suoi costi ambientali.

Onestamente, non credo che continuando sulla strada attuale riusciremo ad avere un’IA di cui ci si possa fidare.

Infine, sopravvalutare l’IA attuale potrebbe portare alla guerra. La “guerra dei chip” tra Stati Uniti e Cina sulle esportazioni, ad esempio. Gli Stati Uniti stanno limitando l’esportazione di componenti indispensabili per l’IA, ostacolando così la capacità della Cina in questo campo, e ciò sta facendo aumentare le tensioni tra le due nazioni.

Altman potrebbe aver iniziato con buone intenzioni. Forse voleva davvero salvare il mondo dalle minacce dell’IA e guidarla verso il bene. Forse l’avidità ha preso il sopravvento, come spesso accade.

Quello che è certo è che non possiamo contare sul fatto che aziende di IA giganti e private si governino da sole in modo etico e trasparente. E se non possiamo fidarci di loro per governare se stesse, di certo non dobbiamo lasciare a loro il governo del mondo.

Per poter avere un’IA di cui ci si possa fidare, da tempo chiedo uno sforzo transnazionale, simile al consorzio per la fisica delle alte energie del Cern. È giunto il momento di farlo. Uno sforzo di questo tipo, incentrato sulla sicurezza e sull’affidabilità dell’IA piuttosto che sul profitto, e sullo sviluppo di una nuova serie di tecniche di IA che appartengano all’umanità – piuttosto che a una manciata di aziende avide – potrebbe essere di importanza cruciale.

Inoltre, i cittadini devono alzare la voce e chiedere un’IA che sia un bene per i molti e non solo per i pochi. Una cosa che posso garantire è che non arriveremo alla terra promessa dell’IA se lasceremo tutto nelle mani della Silicon Valley. I padroni della tecnologia hanno nascosto la verità per decenni. Perché dovremmo aspettarci che Sam Altman, visto l’ultima volta in giro per la Napa Valley con una supercar Koenigsegg da 4 milioni di dollari, sia diverso?

Gary Marcus è uno scienziato, imprenditore e autore di bestseller. È stato fondatore e CEO della società di machine learning Geometric Intelligence, acquisita da Uber, ed è autore di sei libri [non tradotti in italiano, ndr], tra cui il prossimo “Taming Silicon Valley” (“Domare la Silicon Valley”)
Traduzione e adattamento a cura della redazione
Nell’immagine: Sam Altman giura di dire “tutta la verità” al Senato USA

Stampa / Pdf