Cuando Geoffrey Hinton, de 78 años, se sentó frente a la cámara y dijo esto ante cientos de asistentes, toda la sala quedó en silencio durante unos segundos.
“Quieren un coche ultrarrápido sin volante”.”
Recientemente, este galardonado con el Premio Nobel de Física de 2024 —una figura de avanzada edad a la que se conoce como el “padrino de la IA” desde hace más de una década— volvió a dar la voz de alarma a la humanidad en la Conferencia Mundial sobre el Mundo Digital. En un tono casi suplicante, Hinton advirtió:
“No sabemos si los seres humanos pueden coexistir con una IA superinteligente”.”
“Pero lo estamos construyendo”.”
Hinton sobre la IA general (AGI): Solo un 1% sobre seguridad y un 99% sobre aceleración
En su discurso, Hinton expuso un cálculo muy claro.
El sector mundial de la inteligencia artificial se está expandiendo a un ritmo sin precedentes en la historia de la humanidad. Según datos de la UNCTAD, el mercado mundial de la inteligencia artificial se valoró en $189 mil millones en 2023 y se prevé que se dispare hasta alcanzar los $4,8 billones en 2033.
Eso significa que, en tan solo diez años, la humanidad ha creado, partiendo de cero, una entidad económica mayor que el PIB de Japón.
¿Y adónde va a parar todo ese dinero?
Dedicarse a crear modelos más grandes y a realizar más cálculos.
¿Y qué hay de la seguridad?
Hinton dio una cifra: unos 1%.
Solo alrededor de 1% de la inversión mundial en I+D en IA se destina a “cómo garantizar que esto no salga mal”.”
Su comentario al respecto:
“Es una locura”.”
Según él, los grupos de presión del sector de la inteligencia artificial están invirtiendo grandes sumas en publicidad para promover una analogía: la inteligencia artificial es el acelerador y la regulación, el freno. Su mensaje es: «No piséis el freno, porque nos hará perder velocidad».
Hinton lo rechazó rotundamente.
“El acelerador es el progreso, sin duda. Pero la regulación no es el freno, sino el volante”.”
“Quieren un coche de alta velocidad, pero sin volante”.”
Terry Sejnowski, que estaba sentado a su lado, añadió de inmediato:
“¿Alguna vez has conducido un coche sin frenos? Ya te imaginarás lo peligroso que es bajar una cuesta”.”
Pero lo peor es que ni siquiera tenemos volante.
El acelerador a fondo. El volante quitado.
Esa es la situación real de la carrera mundial por la IA.
De la ceremonia de entrega de premios al momento de la verdad de Hinton sobre la IA general
El tema de la Conferencia Mundial Digital de 2026 fue “La inteligencia artificial y el desarrollo social”.”
En este acto, Hinton y Sejnowski recibieron un reconocimiento por haber inventado la máquina de Boltzmann en la década de 1980, un avance que más tarde se convirtió en el catalizador de la revolución del aprendizaje profundo.
El encargado de entregar el premio fue Li Deng, de Microsoft, quien se benefició personalmente de ese invento. Entre 2009 y 2010, invitó a Hinton a colaborar en Microsoft, donde utilizaron máquinas de Boltzmann para preentrenar sistemas de reconocimiento de voz a gran escala, lo que supuso uno de los primeros grandes éxitos industriales del aprendizaje profundo.
La primera mitad de la sesión versó sobre la historia de la ciencia, los logros académicos y los recuerdos compartidos.
Hinton y Sejnowski recordaron un momento de la década de los 80, en un congreso celebrado en Rochester, en el que combinaron la red de Hopfield con el recocido simulado.
Sejnowski lo recordaba perfectamente:
“Estábamos allí sentados y, de repente, nos dimos cuenta de que podíamos ”calentar” la red de Hopfield, convirtiéndola en probabilística».”
Hinton añadió un detalle: por aquel entonces, acababa de trabajar en San Diego con David Rumelhart en la retropropagación utilizando unidades logísticas. Y cuando se introdujo la temperatura en la red de Hopfield, esta también generó unidades logísticas.
Dos caminos completamente diferentes convergieron en la misma forma matemática.
En la historia de la ciencia, a estos momentos se les denomina “momentos de cristalización”.”
Curiosamente, Hinton sigue creyendo que las máquinas de Boltzmann son más elegantes que la retropropagación.
“Es una idea mucho mejor. Pero no es muy práctica”.”
Sejnowski se rió y asintió:
“Ya era una red neuronal generativa décadas antes de que la IA generativa se hiciera popular”.”
Hinton: “AGI es un término estúpido”
Cuando la conversación derivó hacia la IA general y los riesgos sociales, Hinton cambió por completo de actitud.
Li Deng planteó una pregunta que mucha gente se hace: ¿cómo se define la IA general? ¿Qué indicadores señalan su llegada?
Hinton no se anduvo con rodeos:
“AGI es un término estúpido”.”
La razón es sencilla: parte de la base de que la inteligencia es unidimensional, como un termómetro: cuanto mayor es el número, más inteligente se es.
“Pero está claro que la inteligencia es un concepto muy multidimensional”.”
“No hay ningún aspecto concreto en el que la IA esté a la altura de los seres humanos. Sus capacidades en comparación con las de los seres humanos son desiguales: en algunos ámbitos nos supera con creces, mientras que en otros sigue estando por detrás”.”
Puso un ejemplo: si hoy le preguntas a cualquier modelo grande sobre los plazos fiscales de Eslovenia o sobre cómo impermeabilizar un porche, te responderá con fluidez.
En cuanto a los conocimientos generales, la IA ya ha superado con creces a los seres humanos.
Sin embargo, en ciertas tareas de razonamiento, aún no ha alcanzado el mismo nivel.
“Por lo tanto, el término ”AGI» carece de sentido».”
Más allá de la IA general: Hinton sobre la superinteligencia
Entonces, ¿qué término es el que importa?
En opinión de Hinton, se trata de la “superinteligencia”.”
Su definición es clara: ser mejor que los humanos en casi todas las tareas intelectuales.
Y creemos que está al caer.
A continuación surgió la cuestión central de todo el debate:
Cuando llegue la superinteligencia, ¿seguirán teniendo los seres humanos un control significativo sobre los sistemas que han creado?
Hinton respondió:
“No sabemos si podremos convivir con una IA superinteligente”.”
“Pero, como lo estamos construyendo nosotros, por ahora seguimos teniendo mucho control”.”
“Deberíamos construirlo con cuidado, para poder seguir existiendo y conviviendo con él”.”
En los modelos conocidos, solo hay un ejemplo en el que algo mucho más inteligente concede voluntariamente libertad a algo mucho menos inteligente:
Una madre y su bebé.
Porque la madre se preocupa de verdad.
Las tres categorías de riesgo de la IA según Hinton
Hinton clasificó los riesgos de la IA en tres categorías.
Uso indebido deliberado
Personas que utilizan la IA de forma intencionada con fines perjudiciales:
Los «deepfakes» para socavar la democracia, virus diseñados para desencadenar pandemias, ciberataques.
Esta es la amenaza más directa.
Efectos secundarios derivados de la búsqueda de beneficios
Consecuencias imprevistas que se producen cuando la gente intenta ganar dinero:
La generación de imágenes ilegales y los algoritmos de recomendación que impulsan contenidos cada vez más extremos acaban dividiendo a la sociedad en grupos que no comparten un lenguaje común.
“Solo intentan ganar dinero, pero el efecto secundario es la división social”.”
El riesgo existencial más allá de la IA general
La IA toma el control por sí sola.
Hinton cree que esta tercera categoría podría dar lugar a la cooperación internacional, ya que todo el mundo le tiene miedo.
¿Pero los dos primeros?
Sobre todo lo primero: los países hablarán de cooperación, pero, en realidad, se atacarán entre sí.
Eso hace que sea mucho más difícil de afrontar.
La advertencia de Hinton: el paralelismo entre el tabaco y el amianto
Hinton puso un ejemplo:
Fíjate en la historia del tabaco y del amianto.
Los países que los producían —como Canadá— adoptaron normativas a nivel nacional para proteger a sus ciudadanos.
Sin embargo, siguieron vendiendo estos productos a los países en desarrollo.
Así pues, aunque los países productores de IA apliquen la normativa “adecuada”, es posible que sigan exportando sistemas de IA a otros lugares, donde se produzcan consecuencias perjudiciales.
No hay nada nuevo bajo el sol.
Puede que se repita el mismo guion.
Debate sobre la IA: ¿Son los modelos de lenguaje a gran escala un callejón sin salida?
Yann LeCun ha afirmado que los modelos de lenguaje a gran escala son un callejón sin salida para alcanzar la IA general. ¿Qué opina Hinton al respecto?
Dividió la pregunta en dos partes.
En primer lugar, una pregunta filosófica:
¿Puede un sistema que solo predice la siguiente palabra comprender el espacio?
Respuesta: sí.
“Eso es muy sorprendente”.”
Ahora, una pregunta práctica:
¿Es una forma eficaz de comprender el espacio?
Respuesta: no.
Si tienes una cámara y sabes manipular objetos, aprenderás a comprender el espacio y los conceptos básicos de la física de forma mucho más eficaz.
Así pues, en la práctica, una IA multimodal —con visión, acción y lenguaje— aprenderá más rápido y con menos datos que un modelo puramente lingüístico.
Pero, desde un punto de vista filosófico, si se dispone de suficientes datos lingüísticos, incluso un modelo lingüístico puro podría ser suficiente.
La economía de la IA general (AGI) de $4,8 billones: ¿quién se beneficia?
Otra de las divisiones que se puso de manifiesto en la conferencia es la distribución.
Pedro Manuel Moreno, secretario general en funciones de la UNCTAD, señaló sin rodeos: la capacidad para desarrollar y dar forma a la inteligencia artificial se concentra en unas pocas economías y empresas.
Doreen Bogdan-Martin destacó un marcado contraste:
Los países desarrollados están adoptando la inteligencia artificial a un ritmo casi el doble que el de los países en desarrollo.
“Si no se aborda esta cuestión, se convertirá en una segunda gran divergencia”.”
La brecha entre los países que desarrollan la inteligencia artificial y aquellos que solo la consumen se está ampliando de forma evidente.
El mercado de $4,8 billones —su infraestructura, sus inversiones y su talento— se concentra en unos pocos puntos del hemisferio norte.
Es posible que al resto del mundo ni siquiera se le permita sentarse a la mesa.
¿Quién lleva las riendas en la era de la IA general?
Si lo vemos desde una perspectiva más amplia, esta conversación es la culminación de las advertencias que Hinton ha venido haciendo durante los últimos tres años.
En 2023, cuando dejó Google, dijo:
“Me arrepiento de la obra de mi vida”.”
En 2024, al recibir el Premio Nobel, hizo un llamamiento para que se prestara atención a la seguridad de la inteligencia artificial.
En 2025, insistió en repetidas ocasiones en la urgencia de la regulación.
En 2026, su discurso se ha vuelto más concreto.
Sin embargo, lo que resulta igualmente llamativo es su claridad técnica.
A sus 78 años, tras hablar de los riesgos de la IA general y de las amenazas existenciales, es capaz de volver inmediatamente a explicar por qué las máquinas de Boltzmann restringidas representan una inferencia bayesiana correcta, por qué los modelos actuales de generación de imágenes solo utilizan la mitad del algoritmo «wake-sleep» y cómo la combinación de modelos generativos y de reconocimiento podría ser el siguiente paso adecuado.
Vive en dos mundos a la vez:
Una reflexión sobre cómo la IA se vuelve cada vez más potente.
La otra trata de cómo la humanidad evita ser destruida por ese poder.
Hinton, la IA general y la última oportunidad para la humanidad
El motor ya está rugiendo.
Una máquina de 1 TP y 4 T y 4,8 billones que avanza a toda velocidad.
Que haya o no un volante depende de lo que ocurra en los próximos años —y de si quienes están al mando —gobiernos, empresas y científicos— están dispuestos a agarrarlo.
Nos encontramos en un momento muy especial.
Antes de que la IA general (AGI) o la IA superinteligente llegue a ser más capaz que nosotros, este podría ser el único momento en el que la humanidad aún decida las reglas del juego.
Cuando Hinton dejó Google hace tres años, muchos pensaron que estaba siendo alarmista.
Tres años después, sigue diciendo lo mismo.
La diferencia ahora es que hay más gente que comprende su preocupación.
¿Pero ese coche sin volante?
Sigue acelerando.
