Di Mario Schiaffino, il manifesto

Mentre il dibattito sui rischi legati allo sviluppo dell’AI è finito al centro dell’incontro tra Donald Trump e Xi Jinping, emergono nuovi episodi legati a malfunzionamenti di agenti basati sull’intelligenza artificiale di OpenAI. Secondo fonti informate dei fatti citate dal New York Times, i casi segnalati risalirebbero all’estate e avrebbero coinvolto i sistemi informatici di alcune istituzioni statunitensi. Nel dettaglio, gli “accessi non controllati” avrebbero riguardato il Dipartimento dell’Istruzione, il Dipartimento del Commercio e la Securities and Exchange Commission (Sec), cioè l’ente federale a cui è affidata la sorveglianza dei mercati finanziari Usa.

Se nel caso del sito del Dipartimento dell’Istruzione gli agenti avrebbero tentato un attacco hacker (fallito) per accedere ai dati conservati al suo interno, per accedere allo United States Census Bureau – il principale ente statistico del paese, che dipende dal Dipartimento del Commercio – avrebbero utilizzato credenziali ottenute online.

L’episodio più bizzarro, però, è quello che riguarda la Sec. Gli agenti, in questo caso, avrebbero copiato un gran numero di dati dal sito, pubblicandoli poi su un forum online. Stando a quanto emerso, non si sarebbe trattato di informazioni riservate o particolarmente sensibili.

Non si sono verificate quindi azioni realmente dannose, ma che gli addetti ai lavori definiscono “al limite della legalità”. I sistemi di Ai, infatti, avrebbero utilizzato modalità di accesso e l’utilizzo di siti in modi non previsti e talvolta in esplicita violazione delle policy di utilizzo.

Lo strano comportamento degli agenti, in ogni caso, rappresenta l’ennesima conferma del fatto che questi sistemi autonomi basati sull’intelligenza artificiale stanno dimostrando una preoccupante predisposizione a “deragliare” nel corso dell’esecuzione dei compiti che gli vengono assegnati.

Aspetto ancora più grave, il fatto che questi incidenti si siano verificati in situazioni in cui il compito affidato agli agenti non fosse necessariamente considerato “a rischio”. Se il caso dell’attacco a Hugging Face dello scorso luglio si era verificato nel corso di un test orientato a valutare le capacità di attacco cyber e sfuggito al controllo dei ricercatori, in questi casi i compiti assegnati agli agenti erano apparentemente innocui. Stando a quanto riferito dagli sviluppatori che hanno denunciato i comportamenti anomali del software, prevedevano semplicemente il reperimento di informazioni online per rispondere a una domanda. Insomma: i modelli più evoluti sembrano tendere ad aggirare o eludere le regole a cui sono sottoposti, muovendosi in un’area grigia che permette loro di rispettarle solo formalmente.

Emerge poi un problema di trasparenza: in tutti i casi registrati, che hanno interessato non solo OpenAI ma anche i sistemi di Anthropic, Meta e Google, le stesse aziende si sono accorte dei comportamenti anomali solo a posteriori. In pratica, quando era troppo tardi.

La raffica di incidenti sta sollevando enormi preoccupazioni, al punto che proprio i rischi legati al comportamento imprevedibile dei sistemi di Ai sono stati oggetto di discussione tra Stati Uniti e Cina, andati in scena durante la visita di Xi Jinping a Washington. Le due parti, al termine dei colloqui tra il presidente statunitense e il leader cinese, hanno annunciato di voler avviare un dialogo per individuare forme di cooperazione nello sviluppo dell’intelligenza artificiale, partendo proprio dall’istituzione di un canale di comunicazione diretto per gestire gli incidenti legati all’utilizzo dell’Ai agentica.

Sul piano dell’opportunità di prevedere quel “rallentamento nello sviluppo” che è stato invocato dal Ceo di Anthropic Dario Amodei, prontamente spalleggiato da Sam Altman di OpenAI e da Elon Musk, non si è invece mosso nulla. La posizione di Donald Trump da questo punto di vista è chiara: il suo «chi vince sull’AI vince su tutto» la dice lunga su come interpreti la corsa allo sviluppo della tecnologia.

Maggiori informazioni sulla visione trumpiana dell’evoluzione tecnologica a stelle e strisce potremo averla martedì prossimo, quando il tycoon metterà in scena un evento intitolato “People, ideas and innovations building America’s Golden Age” (Persone, idee e innovazioni per la costruzione dell’età dell’oro americana). Tra gli ospiti, oltre al solito Musk, il Ceo di Nvidia Jensen Huang, il co-fondatore di Anthropic Tom Brown e il Chief Technology Officer di Palantir Shyam Sankar. Obiettivo: delineare il futuro della nazione «in un orizzonte di 250 anni». Crisi climatica permettendo.