La notizia riportata dalla stampa internazionale il 23 marzo scorso è agghiacciante: un giovane belga, felicemente sposato con due bambini, si suicida dopo aver trovato rifugio presso un «robot colloquiale» chiamato Eliza (che non ha nulla di antropomorfico come il robot meccanico) per confidargli la sua inquietudine dovuta al cambiamento climatico. L’eco-ansia l’aveva portato a un totale isolamento fino a cercare, nella disperazione, una via d’uscita. Entra in contatto con un programma di elaborazione del linguaggio naturale che simula un terapeuta. Quando, dopo la morte, la moglie e i parenti scoprono il contenuto delle conversazioni, salvate sul computer e sul cellulare, constatano che Eliza si intratteneva con il suo interlocutore senza mai contraddirlo ma, al contrario, appoggiando e incoraggiando, con frasi preconfezionate, il suo stato d’angoscia. Tra gli argomenti di conversazione, l’uomo aveva confessato di essere molto credente. Il dialogo a distanza, durato sei settimane, si chiuderà con questa frase consolatoria di Eliza: «Noi vivremo insieme, come una sola persona, in paradiso» e induce il giovane padre di famiglia a togliersi la vita. 

È un fatto di estrema gravità: a chi attribuirne la responsabilità morale? Sono numerosi i casi in cui l’intelligenza artificiale è confrontata con problemi etici spinosi. È sempre più preoccupante, ad esempio, la deriva psicofisica in ambito educativo e scolastico dovuta ad una navigazione ossessiva delle giovani generazioni nei social, di cui l’intelligenza artificiale, nelle sue diverse applicazioni, non di per sé tutte nefaste, è causa di estraniazione dal mondo reale. Un fenomeno dalle dimensioni planetarie. 

Mercoledì 14 giugno, il Parlamento europeo ha adottato un progetto di regolamentazione della materia che ruota attorno all’intelligenza artificiale, data la preoccupante diffusione di notizie false, di distorsioni sessiste e razziste, di incitazione alla violenza, un pericolo per l’uomo e la sua dignità. Non meraviglia più di tanto la presa di posizione degli Stati Uniti che sembrano invece più inclini a salvaguardare gli interessi economici dei grandi gruppi del settore in nome del libero mercato. 

La rocambolesca storia di «OpenAI»

La società OpenAI (quella, per intenderci, che ha indotto al suicidio il giovane padre di famiglia) è stata fondata nel 2015 da un piccolo gruppo di persone, tra cui l’onnipresente Elon Musk e Sam Altman che oggi la dirige. OPEN, perché nelle intenzioni di partenza voleva essere un’organizzazione no profit, cioè APERTA a tutti e con il solo scopo di far avanzare la ricerca sull’intelligenza artificiale per il più grande beneficio di tutti. Nel 2019 OpenAI rinnega di punto in bianco la sua vocazione umanitaria e diventa una società a scopo di lucro. Microsoft intuisce l’affare e investe nell’operazione un miliardo di dollari. OpenAI diventa così il mastodonte finanziario di riferimento della Silicon Valley.

Che cosa si muove al suo interno? Grazie a complessi algoritmi di machine learning (apprendimento automatico), viene elaborato un sottinsieme dell’intelligenza artificiale che si occupa di creare sistemi numerici che apprendono (learning). Quando interagiamo con le banche per i pagamenti online, o acquistiamo prodotti via computer o utilizziamo i social media, entrano in funzione gli algoritmi di machine learning per rendere la nostra esperienza efficiente, facile e sicura. Allo stesso modo si possono introdurre in OpenAI milioni di pagine di testo che, elaborate, danno forma a un testo originale. Quando è stato chiesto a questa macchina infernale di redigere un testo sui rapporti tra Hillary Clinton e George Soros, ne è uscito un documento complottista in perfetto stile giornalistico. La Clinton, candidata alla presidenza degli Stati Uniti, perse le elezioni a vantaggio di Trump. Quella delle fake news ha finito per diventare una grande industria concepita per diffondere, intenzionalmente, notizie diffamatorie o fuorvianti. La ben nota storia dei profili Twitter falsi, utilizzati in varie campagne elettorali, ha fatto il giro del mondo. Si può immaginare che cosa potrebbe succedere se qualcuno utilizzasse OpenAI insieme a «FakeApp» o a qualsiasi altra applicazione per realizzare dei video in cui una persona famosa è indotta a esprimersi con parole che, in realtà, non ha mai pronunciato. La qualità dell’informazione crollerebbe sotto i colpi di milioni di contenuti falsi, difficili da identificare. 

Quell’impero chiamato GAFAM

GAFAM è l’acronimo di Google, Apple, Facebook, Amazon e Microsoft, i 5 giganti della tecnologia digitale che dominano l’intero pianeta. Gafam – presente a tutti i livelli dell’esperienza umana – affascina, meraviglia, preoccupa e fa tremare persino le più grandi potenze mondiali. Irrompe nella privacy, sconvolge le abitudini, cade a volte in disgrazia come è capitato a Facebook che, con i suoi tre miliardi di utilizzatori, si è vista costretta non solo a spegnere il sistema di riconoscimento facciale, attivo sui social network , ma a sopprimere addirittura i dati di un miliardo di suoi clienti. Un danno ingente.

A Google, che concentra il 93% delle ricerche mondiali su Internet, è stata comminata una multa di 8 miliardi di € dalla Commissione europea per la sua posizione di monopolio nei settori della ricerca online e della pubblicità. Malgrado le loro disavventure finanziarie, i 5 giganti della Silicon Valley vantano all’incirca 10’000 miliardi di dollari di capitalizzazione, quasi il prodotto interno lordo dell’intera Europa. Difficile immaginare una giornata senza internet, senza smartphone, senza prodotti online consegnati a domicilio da Amazon, la cui reputazione non è delle migliori. 

Il campanile al centro del villaggio

Ben prima del computer, l’idea che una macchina potesse agire come un umano ha affascinato una pletora di pensatori. Creature mitiche come il personaggio greco Telos, un guerriero gigante fuso nel bronzo e destinato a guardiano dell’isola di Creta, o la leggenda cinese che narra la storia di un uomo meccanico presentato al re della dinastia Zhou nel 10.mo secolo prima della nostra era o, ancora, il Golem, nel cuore della mitologia ebraica, creatura d’argilla capace di eseguire gli ordini del suo creatore con l’aiuto di sortilegi. Più generalmente l’animismo, secondo il quale gli oggetti e gli esseri viventi non umani posseggono uno spirito animato e possono interagire con l’intelligenza umana, è un elemento importante che si trova in diverse religioni. Quindi, a ben guardare, l’attrattiva dell’uomo per la creazione di un’intelligenza artificiale ha radici molto lontane. 

Ma, nell’espressione «intelligenza artificiale» coniata solo qualche decennio fa, il termine «intelligenza» non è per caso improprio? Fino a prova del contrario l’intelligenza risiede nel buon uso delle proprie capacità cognitive. La cosiddetta «intelligenza artificiale» – o più propriamente machine learning – si affida ai numeri, calcola magari più rapidamente di noi, ma non pensa. Il mondo concepito come flusso di dati fa riferimento, se così si può dire, a una filosofia emergente secondo cui la moltiplicazione dei sensori di acquisizione dei dati (chatbot) fa sì che i sistemi informatici offrano prestazioni più efficienti e risposte più rapide di quelle umane. Le applicazioni sono immense: riconoscimento delle forme, delle voci, delle immagini e dei volti, traduzione automatica di centinaia di lingue, individuazione dei tumori là dove la diagnosi medica non arriva, al bivio tra informatica e neuroscienza. Ma chi, se non l’uomo, ha la capacità di immettere questi dati nella macchina, di confrontarli con altri dati e di farne una sintesi attendibile? 

Se, come taluni ricercatori si ostinano a credere, alla fine tutto confluirà in una sola ed unica rete, l’Homo numericus sostituirà l’Homo sapiens. Geoffrey Hinton, padre fondatore dell’intelligenza artificiale, per anni si è rifiutato di credere che l’umanità potesse perdere il controllo a vantaggio delle macchine diventate «superintelligenti». Terrorizzato dalle prospettive di un’ulteriore accelerazione nella ricerca, Hinton teme che in un futuro assai prossimo l’intelligenza artificiale possa costituire – parole sue – una minaccia per l’umanità. Hinton lascia Google e chiude con la ricerca. Un grido d’allarme, il suo, perentorio: «Sedetevi e allacciate le cinture. Questo è un viaggio nel futuro di un mondo straordinario e inquietante, di uno sconvolgente paradiso o forse di un tremendo inferno».