Geoffrey Hinton, uno dei padri dell’IA: “Se non mettiamo delle regole saremo sottomessi”
"Non c’è modo di fermarne lo sviluppo. Un giorno diventerà più intelligente di noi umani, e allora potrà accadere di tutto. Anche in politica"
Filtra per rubrica
Filtra per autore/trice
"Non c’è modo di fermarne lo sviluppo. Un giorno diventerà più intelligente di noi umani, e allora potrà accadere di tutto. Anche in politica"
• – Redazione
In alcune città svizzere si muovono i primi passi per la prevenzione della pedofilia. Il Ticino è fermo al palo - Di Michel Venturelli
• – Redazione
Gli addetti alle cure e all’assistenza rivendicano servizi di qualità non orientati al profitto. Grazie al sindacato nazionale UNIA hanno pubblicato un Manifesto
• – Fabio Dozio
La risposta militare israeliana punterebbe a destabilizzare Teheran. Ma gli attivisti di Donna, Vita, Libertà: “Il Paese lo cambiamo noi”
• – Redazione
Lo hanno scoperto studiando tenacemente un minuscolo verme cilindrico lungo 1 millimetro, C. elegans
• – Redazione
Il 7 ottobre di un anno fa (attacco terroristico di Hamas) come l’11 settembre americano; anniversari di tragedie e reazioni che promettono definitivi assestamenti, e che invece inaugurano viaggi verso possibili nuove tragedie
• – Aldo Sofia
Il dolore degli israeliani è invisibile agli occhi dei gazawi e il dolore dei gazawi è invisibile agli occhi degli israeliani. È la cecità che permette di proseguire la guerra
• – Redazione
Sempre più i difficoltà, anche se la resilienza e la reazione degli israeliani per ora evita il peggio
• – Sarah Parenzo
Stampa / Pdf
• – Franco Cavani
Berna ha sempre avuto una posizione chiara sui diritti dei palestinesi, fino alla nomina a ministro degli esteri di Ignazio Cassis
• – Redazione
"Non c’è modo di fermarne lo sviluppo. Un giorno diventerà più intelligente di noi umani, e allora potrà accadere di tutto. Anche in politica"
LONDRA — «Questa è l’ultima cosa che faccio, prima di andare finalmente a dormire!». Geoffrey Hinton è in California, la notizia del Nobel per la Fisica lo ha svegliato in piena notte e, da British-Canadian gentleman, ci aspetta al telefono prima di tornare a letto, in «questo hotel dove non funziona neanche la rete wi-fi». Ma Hinton, nato a Wimbledon nel 1947, è uno scienziato di parola, un inglese di vecchi tempi: l’understatement silenzia ogni festeggiamento, il potenziale debordante dell’IA andrà in qualche modo controllato e l’etica viene prima di tutto. Anche per questo, l’anno scorso ha abbandonato Google, terrorizzato dai progressi potenzialmente devastanti dell’intelligenza artificiale. Che, una volta libero dalle briglie del gigante hi-tech, Hinton ha denunciato al mondo. Ora, però, la sua straordinaria e decennale ricerca ha prodotto il maggior riconoscimento della scienza al “padrino dell’IA”, titolo che si guadagnò nel 1986 insieme ai colleghi Yoshua Bengio e Yann LeCun per il loro studio Learning representations by back-propagating errors. Che non soltanto spianò la strada all’intelligenza artificiale di oggi ma gli valse il premio Turing, massimo riconoscimento dell’informatica.
Professor Hinton, è felice di questo Nobel? Oppure prova qualche rimorso, visti i suoi recenti allarmi sui pericoli dell’intelligenza artificiale?
«Sono innanzitutto meravigliato e molto sorpreso dal Nobel, perché non mi aspettavo un premio del genere, e non lo dico da falso modesto. Allo stesso tempo, sì, sono preoccupato che tutta questa roba un giorno sfugga al nostro controllo. Il problema è semplice: l’IA sarà molto positiva per la medicina, l’ambiente, i nanomateriali… Ma non c’è modo di fermarne lo sviluppo. E un giorno diventerà più intelligente di noi. A quel punto, piomberemo in uno scenario assolutamente inedito e non so come gli umani potranno rimanere al potere. Per questo bisogna agire il prima possibile».
Difatti, lei è da tempo pessimista sulle possibili conseguenze dell’intelligenza artificiale. Ma che cosa ne pensa ora che l’IA irrompe pesantemente nella nostra vita quotidiana? Ha cambiato in qualche modo opinione?
«Penso che il nostro futuro sia estremamente incerto. Non abbiamo idea di cosa succederà, nemmeno noi scienziati. Nella storia umana, non abbiamo mai avuto a che fare con entità più intelligenti di noi. Al momento, nessuno sa come queste potranno essere controllate. La ricerca scientifica dovrà capire in maniera urgente come noi umani possiamo restare al timone delle nostre esistenze».
Ma possiamo davvero controllare l’IA?
«Sarò franco: non lo so».
E allora come si fa?
«L’unico modo è incoraggiare i migliori scienziati al mondo a dedicarsi alla sicurezza dell’IA e spingere i governi ad assistere le grandi aziende tecnologiche affinché immettano sempre più risorse in questo obiettivo. Purtroppo, non è quello che sta accadendo».
Perché?
«Prenda per esempio i colossi dell’IA. Avevano detto che avrebbero dirottato molti fondi per la ricerca sulla sicurezza, ma non lo stanno facendo. Anzi, i migliori ricercatori in questo campo hanno lasciato le aziende. Serve che i governi intervengano per costringere le big tech a cambiare corso».
Crede che la Silicon Valley abbia compreso i rischi dell’IA che lei denuncia da tempo?
«Credo che una parte degli impiegati delle big companies lo abbia capito. Ma, in generale, sono troppo guidati dai profitti per dedicare risorse sufficienti alla sostenibilità dell’IA».
Che è lo stesso motivo per cui lei ha lasciato Google.
«Ma anche perché ho 76 anni e sono vecchio oramai».
E quindi rinuncia alla sua causa?
«No. Farò il massimo per convincere tutti a investire il più possibile sulla sicurezza IA. Per questo faccio appello alla ricerca e alla politica perché prendano sul serio una simile questione, cruciale per l’umanità».
Ma magari l’IA sarà solo un’altra, straordinaria rivoluzione industriale, come sostiene il suo collega “padrino” Yann LeCun, molto più ottimista di lei.
«Non è così. Nel senso che sarà simile come portata. Ma invece delle nostre capacità fisiche, saranno quelle intellettuali a essere sovrastate. Se con la rivoluzione industriale più o meno sapevamo a cosa saremmo andati incontro, non sarà così con l’IA».
Siamo a poche settimane dalle elezioni americane, e sofisticatissimi fake e bufale oramai drogano sempre più il dibattito sui social. Teme che il concetto di “verità” sia minacciato oggi?
«Sì. Credo che l’IA avrà un forte impatto sulla politica. Ciò è piuttosto inquietante. È chiaro che soprattutto i politici populisti diffonderanno online il più possibile questi fake. A loro della verità non importa tanto. Conta conquistare quante più persone, con ogni mezzo».
Di questo passo, se non regolata, l’IA potrà facilitare l’insorgere di nuovi autoritarismi?
«Sì, il pericolo c’è».
Nell’immagine: Geoffrey Hinton
In Italia una nuova legge per scoraggiare gli ambientalisti di Ultima generazione, ma che va pericolosamente oltre
Domani il voto in Turingia e Sassonia, l’ultradestra di AfD verso il 30%. Occhi puntati sul candidato anti Nato e Ue, condannato per slogan nazisti