Quando Geoffrey Hinton, 78 anni, si è seduto davanti alla telecamera e ha detto queste parole alle centinaia di presenti, l’intera sala è rimasta in silenzio per alcuni secondi.
“Vogliono un’auto superveloce senza volante.”
Di recente, il vincitore del Premio Nobel per la Fisica 2024 — un uomo ormai anziano che da oltre un decennio viene definito il “padrino dell’IA” — ha lanciato ancora una volta un monito all’umanità in occasione della Global Digital World Conference. Con tono quasi supplichevole, Hinton ha avvertito:
“Non sappiamo se gli esseri umani possano coesistere con un’intelligenza artificiale superintelligente.”
“Ma lo stiamo costruendo.”
Hinton sull'AGI: solo 1% sulla sicurezza, 99% sull'accelerazione
Nel suo discorso, Hinton ha esposto un ragionamento molto chiaro.
Il settore globale dell'intelligenza artificiale si sta espandendo a una velocità senza precedenti nella storia dell'umanità. Secondo i dati dell'UNCTAD, il mercato globale dell'intelligenza artificiale era valutato a $189 miliardi nel 2023 e si prevede che raggiunga i $4,8 trilioni entro il 2033.
Ciò significa che in soli dieci anni l’umanità ha creato, partendo da zero, un’entità economica più grande del PIL del Giappone.
E dove finiscono tutti quei soldi?
Verso la realizzazione di modelli più grandi e l'esecuzione di più operazioni di calcolo.
E la sicurezza?
Hinton ha fornito una cifra: circa 1%.
Solo circa l“1% degli investimenti globali in ricerca e sviluppo nel campo dell'intelligenza artificiale è destinato a ”garantire che tutto funzioni correttamente".”
Il suo commento al riguardo:
“È pazzesco.”
I gruppi di pressione del settore dell’intelligenza artificiale, ha affermato, stanno investendo ingenti somme in pubblicità per promuovere un’analogia: l’intelligenza artificiale è l’acceleratore e la regolamentazione è il freno. Il loro messaggio è: non premete il freno, ci rallenterebbe.
Hinton ha respinto categoricamente questa ipotesi.
“L’acceleratore è il progresso, certo. Ma la regolamentazione non è il freno: è il volante.”
“Vogliono un’auto ad alta velocità, ma senza volante.”
Seduto accanto a lui, Terry Sejnowski ha subito aggiunto:
“Hai mai guidato un’auto senza freni? Allora sai bene quanto sia pericoloso andare in discesa.”
Ma la cosa peggiore è che non abbiamo nemmeno il volante.
Acceleratore a tavoletta. Volante smontato.
Ecco qual è la reale situazione della corsa globale all'intelligenza artificiale.
Dalla cerimonia di premiazione alla resa dei conti di Hinton sull’AGI
Il tema della Conferenza mondiale sul digitale del 2026 era “Intelligenza artificiale e sviluppo sociale”.”
In occasione di questo evento, Hinton e Sejnowski sono stati premiati per aver inventato la macchina di Boltzmann negli anni ’80, una scoperta rivoluzionaria che in seguito è diventata il catalizzatore della rivoluzione del deep learning.
A consegnare il premio è stato Li Deng di Microsoft, egli stesso beneficiario di quell’invenzione. Tra il 2009 e il 2010, ha invitato Hinton a collaborare con Microsoft, dove hanno utilizzato le macchine di Boltzmann per il pre-addestramento di sistemi di riconoscimento vocale su larga scala, ottenendo così uno dei primi grandi successi industriali del deep learning.
La prima parte dell'incontro è stata dedicata alla storia della scienza, ai successi accademici e ai ricordi condivisi.
Hinton e Sejnowski hanno ricordato un episodio avvenuto negli anni ’80 durante un convegno a Rochester, in cui hanno combinato la rete di Hopfield con il metodo del raffreddamento simulato.
Sejnowski se lo ricordava chiaramente:
“Eravamo seduti lì e all’improvviso ci siamo resi conto che potevamo ”riscaldare” la rete di Hopfield, rendendola probabilistica.»
Hinton ha aggiunto un dettaglio: all’epoca aveva appena lavorato a San Diego con David Rumelhart sulla retropropagazione utilizzando unità logistiche. E quando la temperatura è stata introdotta nella rete di Hopfield, anche questa ha prodotto unità logistiche.
Due percorsi completamente diversi sono convergiti nella stessa forma matematica.
Nella storia della scienza, questi momenti vengono definiti “momenti di cristallizzazione”.”
È interessante notare che Hinton continua a ritenere che le macchine di Boltzmann siano più eleganti della retropropagazione.
“È un’idea decisamente migliore. Solo che non è molto pratica.”
Sejnowski rise e annuì:
“Era già una rete neurale generativa decenni prima che l’IA generativa diventasse popolare.”
Hinton: “AGI è un termine stupido”
Quando la discussione si è spostata sull'intelligenza artificiale generale (AGI) e sui rischi sociali, Hinton ha cambiato completamente atteggiamento.
Li Deng ha posto una domanda che molti si pongono: come si definisce l’AGI? Quali parametri indicano il suo arrivo?
Hinton non ha usato mezzi termini:
“AGI è un termine stupido.”
Il motivo è semplice: si parte dal presupposto che l’intelligenza sia unidimensionale, come un termometro: più alto è il numero, più si è intelligenti.
“Ma l’intelligenza è chiaramente un concetto estremamente multidimensionale.”
“Non esiste un unico ambito in cui l’intelligenza artificiale sia alla pari con gli esseri umani. Le sue capacità rispetto a quelle umane presentano un andamento irregolare: in alcuni settori ci supera di gran lunga, mentre in altri è ancora in ritardo.”
Ha fatto un esempio: chiedete oggi a qualsiasi modello di grandi dimensioni quali siano le scadenze fiscali in Slovenia o come impermeabilizzare un portico: vi risponderà con disinvoltura.
Per quanto riguarda le conoscenze generali, l’intelligenza artificiale ha già superato di gran lunga gli esseri umani.
Tuttavia, in alcuni compiti di ragionamento, non ha ancora raggiunto il livello desiderato.
“Quindi il termine AGI non ha alcun significato.”
Oltre l’AGI: Hinton sulla superintelligenza
Allora, quale termine è davvero importante?
Secondo Hinton, si tratta di una “superintelligenza”.”
La sua definizione è chiara: essere più abile degli esseri umani in quasi tutte le attività intellettuali.
E crediamo che stia per arrivare.
A quel punto è emersa la questione centrale dell’intera discussione:
Quando arriverà la superintelligenza, gli esseri umani avranno ancora un controllo significativo sui sistemi che hanno creato?
Hinton rispose:
“Non sappiamo se potremo coesistere con un’intelligenza artificiale superintelligente.”
“Ma visto che siamo noi a realizzarlo, al momento abbiamo ancora un ampio margine di controllo.”
“Dovremmo costruirlo con attenzione, in modo da poter continuare a esistere e a convivere con esso.”
Nei modelli conosciuti, esiste un solo caso in cui un essere di gran lunga più intelligente conceda volontariamente la libertà a un essere di gran lunga meno intelligente:
Una mamma e il suo bambino.
Perché la madre ci tiene davvero.
Le tre categorie di rischio legate all’intelligenza artificiale secondo Hinton
Hinton ha suddiviso i rischi legati all'intelligenza artificiale in tre categorie.
Uso improprio intenzionale
Persone che utilizzano intenzionalmente l'IA a scopo dannoso:
Deepfake per minare la democrazia, virus creati ad hoc per scatenare pandemie, attacchi informatici.
Questa è la minaccia più diretta.
Effetti collaterali legati alla ricerca del profitto
Conseguenze indesiderate quando le persone cercano di guadagnare denaro:
La produzione di immagini illegali, gli algoritmi di raccomandazione che promuovono contenuti sempre più estremi, finiscono per dividere la società in gruppi privi di un linguaggio comune.
“Stanno solo cercando di fare soldi, ma l’effetto collaterale è la divisione sociale”.”
Il rischio esistenziale al di là dell’AGI
L'intelligenza artificiale che prende il controllo di propria iniziativa.
Hinton ritiene che questa terza categoria possa portare a una cooperazione internazionale, proprio perché tutti la temono.
Ma i primi due?
Soprattutto il primo: i paesi parleranno di cooperazione, ma in realtà si attaccheranno a vicenda.
Questo rende la situazione molto più difficile da gestire.
L'avvertimento di Hinton: il parallelo tra tabacco e amianto
Hinton ha proposto un'analogia:
Si pensi alla storia del tabacco e dell’amianto.
I paesi che li producevano — come il Canada — hanno introdotto normative a livello nazionale per proteggere i propri cittadini.
Eppure hanno continuato a vendere questi prodotti ai paesi in via di sviluppo.
Pertanto, anche se i paesi produttori di IA adottassero le normative “giuste”, potrebbero comunque esportare sistemi di IA altrove, dove si verificherebbero conseguenze dannose.
Non c'è nulla di nuovo sotto il sole.
Potrebbe ripetersi lo stesso copione.
Dibattito AGI: I modelli linguistici di grandi dimensioni rappresentano un vicolo cieco?
Yann LeCun ha affermato che i modelli linguistici di grandi dimensioni rappresentano un vicolo cieco per il raggiungimento dell'AGI. Cosa ne pensa Hinton?
Ha suddiviso la domanda in due parti.
Per prima cosa, una domanda di natura filosofica:
Un sistema che si limita a prevedere la parola successiva può comprendere lo spazio?
Risposta: sì.
“È davvero sorprendente.”
E ora una domanda pratica:
È un modo efficace per comprendere lo spazio?
Risposta: no.
Se hai una macchina fotografica e sai maneggiare gli oggetti, imparerai la percezione spaziale e i concetti fondamentali della fisica in modo molto più efficace.
In pratica, quindi, un'intelligenza artificiale multimodale — dotata di capacità visive, motorie e linguistiche — imparerà più velocemente e con una quantità minore di dati rispetto a un modello puramente linguistico.
Ma dal punto di vista filosofico, se si dispone di una quantità sufficiente di dati linguistici, anche un modello puramente linguistico potrebbe essere sufficiente.
L'economia dell'AGI da $4,8 trilioni: chi ne trarrà beneficio?
Un altro punto di frattura emerso durante la conferenza è la distribuzione.
Pedro Manuel Moreno, segretario generale ad interim dell’UNCTAD, ha sottolineato senza mezzi termini che la capacità di sviluppare e plasmare l’intelligenza artificiale è concentrata in poche economie e aziende.
Doreen Bogdan-Martin ha sottolineato un netto contrasto:
I paesi sviluppati stanno adottando l'intelligenza artificiale a un ritmo quasi doppio rispetto a quello dei paesi in via di sviluppo.
“Se non si interviene, si arriverà a una seconda grande divergenza.”
Il divario tra i paesi che sviluppano l'intelligenza artificiale e quelli che se ne limitano a fruirne si sta ampliando in modo evidente.
Il mercato da $4,8 trilioni — con le sue infrastrutture, i suoi investimenti e il suo capitale umano — è concentrato in pochi punti dell’emisfero settentrionale.
Il resto del mondo potrebbe addirittura non avere nemmeno un posto al tavolo.
Chi tiene le redini nell'era dell'AGI?
Se si guarda il quadro nel suo insieme, questa conversazione rappresenta il culmine delle avvertenze lanciate da Hinton negli ultimi tre anni.
Nel 2023, quando ha lasciato Google, ha dichiarato:
“Mi pento di ciò che ho fatto nella mia vita.”
Nel 2024, in occasione del conferimento del Premio Nobel, ha richiamato l'attenzione sulla sicurezza dell'intelligenza artificiale.
Nel 2025 ha ripetutamente sottolineato l'urgenza di una regolamentazione.
Nel 2026, il suo linguaggio era diventato più concreto.
Eppure, ciò che colpisce altrettanto è la sua chiarezza tecnica.
A 78 anni, dopo aver discusso dei rischi legati all’AGI e delle minacce esistenziali, è in grado di tornare immediatamente a spiegare perché le macchine di Boltzmann ristrette rappresentino una corretta inferenza bayesiana, perché gli attuali modelli di generazione di immagini utilizzino solo metà dell’algoritmo “wake-sleep” e come la combinazione di modelli generativi e di riconoscimento possa rappresentare il giusto passo successivo.
Vive in due mondi contemporaneamente:
Una riflessione su come l'intelligenza artificiale diventi sempre più potente.
L'altro riguarda il modo in cui l'umanità riesce a evitare di essere distrutta da quel potere.
Hinton, l'AGI e l'ultima possibilità per l'umanità
Il motore sta già rombando.
Una macchina da $4,8 trilioni che accelera a tutta velocità.
La presenza o meno di un volante dipenderà da ciò che accadrà nei prossimi anni — e dalla volontà di chi è al volante — governi, aziende e scienziati — di afferrarlo.
Ci troviamo in un momento storico davvero particolare.
Prima che l’AGI o l’IA superintelligente diventi più capace di noi, questa potrebbe essere l’unica occasione in cui l’umanità può ancora decidere le regole del gioco.
Quando Hinton ha lasciato Google tre anni fa, molti pensavano che fosse un allarmista.
A distanza di tre anni, continua a ripetere le stesse cose.
La differenza, ora, è che sono in molti a comprendere la sua preoccupazione.
Ma quell'auto senza volante?
Sta ancora accelerando.
