78歳のジェフリー・ヒントン氏がカメラの前に座り、数百人の聴衆に向けてこう語ったとき、会場全体が数秒間、静まり返った。.
“「彼らは、ハンドルのない超高速の車を求めている。」”
最近、この2024年のノーベル物理学賞受賞者――10年以上にわたり「AIのゴッドファーザー」と呼ばれてきた高齢の研究者――が、グローバル・デジタル・ワールド・カンファレンスの場で、再び人類に向けて警鐘を鳴らした。ヒントン氏は、まるで懇願するかのような口調で、次のように警告した。
“「人間が超知能AIと共存できるかどうかは、現時点ではわからない。」”
“「でも、私たちはそれを建設しているのです。」”
AGIに関するヒントンの見解：安全性についてはわずか1%、加速については99%
ヒントン氏は演説の中で、極めて明確な計算式を提示した。.
世界のAI産業は、人類史上かつてないスピードで拡大しています。UNCTADのデータによると、2023年の世界のAI市場規模は$189億と評価されており、2033年までに$4.8兆へと急増すると予測されています。.
つまり、わずか10年の間に、人類はゼロから、日本のGDPを上回る規模の経済主体を築き上げたということだ。.
ところで、そのお金は一体どこへ消えていくのでしょうか？
より大規模なモデルの構築や、より多くの計算処理の実行に取り組んでいます。.
安全性についてはどうでしょうか？
ヒントンは具体的な数値を挙げた。およそ1%だ。.
世界のAI研究開発投資のうち、「この技術が問題を起こさないようにするにはどうすればよいか」という分野に費やされているのは、わずか1%程度に過ぎない。“
それに対する彼のコメントは次の通り：
“「信じられないよ。」”
同氏によると、AI技術関連のロビー団体は、ある比喩を強調するために多額の広告費を投じているという。その比喩とは、「AIはアクセルであり、規制はブレーキである」というものだ。彼らのメッセージは、「ブレーキを踏むな。そうすれば私たちのスピードが落ちてしまう」というものだ。.
ヒントンはこれを完全に否定した。.
“「確かに、アクセルは進歩そのものです。しかし、規制はブレーキではなく、ハンドルなのです。」”
“「彼らは高速で走る車を望んでいるが、ハンドルは要らないのだ。」”
彼の隣に座っていたテリー・セイノウスキーは、すぐにこう付け加えた。
“「ブレーキのない車を運転したことはありますか？ 下り坂を走れば、それがどれほど恐ろしいことか分かるでしょう。」”
しかし、さらに悪いことに――私たちにはハンドルすらないのです。.
アクセルペダルを床まで踏み込む。ハンドルを取り外す。.
これが、世界的なAI競争の実際の状況である。.
授賞式からヒントンのAGIに関する見解まで
2026年世界デジタル会議のテーマは「AIと社会開発」でした。“
このイベントでは、ヒントンとセイノフスキーが、1980年代にボルツマンマシンを発明した功績により表彰された。この画期的な発明は、後にディープラーニング革命のきっかけとなった。.
授賞式で賞を授与したのは、マイクロソフトの李登氏で、彼自身もその発明の恩恵を受けた一人である。2009年から2010年にかけて、彼はヒントン氏をマイクロソフトに招き、共同研究を行った。そこで彼らはボルツマンマシンを用いて大規模な音声認識システムの事前学習を行い、これがディープラーニングにおける最初の主要な産業的成功事例の一つとなった。.
セッションの前半は、科学史、学術的な栄光、そして共有された思い出について語られました。.
ヒントンとセイノフスキーは、1980年代にロチェスターで開催された学会でのある出来事を振り返った――ホップフィールド・ネットワークとシミュレーテッド・アニーリングをどのように組み合わせたかについてである。.
セイノフスキはそれをはっきりと覚えていた：
“「私たちはそこに座っていたところ、ふと、ホップフィールドネットワークを加熱することで、それを確率的なものにできることに気づいたのです。」”
ヒントンはさらに、当時、サンディエゴでデビッド・ルメルハートと共に、ロジスティック単位を用いたバックプロパゲーションの研究に取り組んでいたという詳細を付け加えた。そして、ホップフィールドネットワークに温度の概念が導入された際、そこでもロジスティック単位が生成されたのである。.
まったく異なる2つの道筋が、同じ数学的な形へと収束した。.
科学史において、こうした瞬間は「結晶化の瞬間」と呼ばれている。“
興味深いことに、ヒントンは今でも、ボルツマンマシンがバックプロパゲーションよりも洗練されていると考えている。.
“「そのほうがずっと良い考えだ。ただ、あまり現実的ではないけどね。」”
セイノフスキは笑いながら、こう同意した。
“「生成AIが注目を集める何十年も前から、それはすでに生成型ニューラルネットワークだった。」”
ヒントン氏：「AGIなんて言葉は馬鹿げている」“
議論が汎用人工知能（AGI）と社会的なリスクに及ぶと、ヒントンは一転して態度を変えた。.
李登氏は、多くの人が抱いている疑問を投げかけました。「AGIとはどのように定義されるのでしょうか？その実現を示す指標は何でしょうか？」
ヒントンは遠慮なくこう述べた：
“「AGIなんて言葉は馬鹿げている。」”
その理由は単純だ。それは、知能を温度計のように一元的なものだと見なしているからだ――数値が高ければ高いほど、賢いということになる。.
“「しかし、知性とは明らかに極めて多面的なものである。」”
“「AIが人間と同等となるような単一の点は存在しない。人間と比較したAIの能力はギザギザしており、ある分野では人間をはるかに凌駕している一方で、別の分野では依然として遅れをとっている。」”
彼は例を挙げた。今日、どんな大型モデルにでも、スロベニアの納税期限やポーチの防水方法について尋ねてみれば、流暢に答えてくれるだろう。.
一般知識の分野では、AIはすでに人間をはるかに凌駕している。.
しかし、特定の推論課題においては、まだ完全に追いついていない。.
“「つまり、『AGI』という用語には意味がないということだ。」”
AGIを超えて：ヒントンが語る超知能
では、どの用語が重要なのでしょうか？
ヒントンの見解によれば、それは「超知能」である。“
その定義は明確だ。すなわち、ほぼすべての知的課題において、人間よりも優れているということである。.
そして、私たちはそれが近づいていると信じています。.
そして、議論全体における核心的な問いが投げかけられた：
超知能が登場したとき、人間は自分たちが作り出したシステムに対して、依然として有意義な制御権を保持できるのだろうか？
ヒントンは次のように答えた：
“「私たちが超知能AIと共存できるかどうかは、まだわからない。」”
“「でも、私たちが開発している以上、現時点ではまだ多くのことをコントロールできるんです。」”
“「私たちが存続し、それと共存し続けられるように、慎重に築き上げていくべきだ。」”
既知のモデルにおいて、はるかに知性の高い存在が、はるかに知性の低い存在に自発的に自由を与える例は、たった一つしかありません：
母親と赤ちゃん。.
母親は心から気にかけているからです。.
ヒントンが提唱するAIリスクの3つのカテゴリー
ヒントンは、AIのリスクを3つのカテゴリーに分類した。.
意図的な誤用
AIを意図的に悪用する人々：
民主主義を蝕むディープフェイク、パンデミックを引き起こすために作製されたウイルス、サイバー攻撃。.
これが最も直接的な脅威です。.
利益追求がもたらす副作用
人々が金儲けをしようとしたときに生じる予期せぬ結果：
違法な画像の生成、ますます過激なコンテンツを推奨するアルゴリズム、そして最終的には、共通の言語を持たないグループへと社会が分断されること。.
“「彼らはただ金を稼ごうとしているだけだが、その副作用として社会的な分断が生じている。」”
AGIを超える存在論的リスク
AIが自ら制御を掌握する。.
ヒントン氏は、この第3のカテゴリーが国際協力につながる可能性があると考えている――なぜなら、誰もがそれを恐れているからだ。.
でも、最初の2つは？
とりわけ最初の点について――各国は協力について口では言うものの、実際には互いに攻撃し合うことになるだろう。.
それだと、対処するのがずっと難しくなります。.
ヒントンの警告：タバコとアスベストの類似点
ヒントンは次のような例えを挙げた：
タバコやアスベストの歴史を見てみましょう。.
カナダなど、それらを生産した国々は、自国民を保護するために国内で規制を導入した。.
しかし、彼らはこうした製品を開発途上国への販売を続けた。.
したがって、AIを開発している国々が「適切な」規制を導入したとしても、AIシステムを他国に輸出してしまう可能性があり、その結果、その国で有害な影響が生じる恐れがある。.
この世に新しいものなど何一つない。.
同じ展開が再び繰り返されるかもしれない。.
AGIに関する議論：大規模言語モデルは行き止まりなのか？
ヤン・ルカンは、大規模言語モデルは汎用人工知能（AGI）の実現に向けた行き止まりであると述べている。ヒントンはこれについてどう考えているのだろうか？
彼はその質問を2つの部分に分けた。.
まずは哲学的な話題から：
次の単語だけを予測するシステムは、空間を理解できるのでしょうか？
答え：はい。.
“「それはとても意外ですね。」”
では、実用的な例をひとつ：
これは空間を理解するための効率的な方法でしょうか？
答え：いいえ。.
カメラを持っていて、物体を操作できるなら、空間認識能力や物理学の基礎をはるかに効率的に身につけることができます。.
つまり実際には、視覚、動作、言語を兼ね備えたマルチモーダルAIは、純粋な言語モデルよりも少ないデータで、より速く学習することができる。.
しかし、哲学的な観点から言えば、十分な言語データさえあれば、純粋な言語モデルだけでも十分かもしれない。.
$4.8兆のAGI経済：その恩恵を受けるのは誰か？
この会議で明らかになったもう一つの問題点は、分配の問題である。.
UNCTADのペドロ・マヌエル・モレノ事務総長代行は、AIを構築・形成する能力がごく一部の経済圏や企業に集中していることを率直に指摘した。.
ドリーン・ボグダン＝マーティンは、その著しい対照を指摘した：
先進国におけるAIの導入ペースは、発展途上国のほぼ2倍の速さである。.
“「この問題に対処しなければ、第二の『大分岐』となるだろう。」”
AIを開発する国と、単にAIを利用するだけの国との間の格差は、目に見えて広がっている。.
$4.8兆規模の市場――そのインフラ、投資、人材――は、北半球のいくつかの地域に集中している。.
世界の他の国々は、交渉の席にすら着くことさえできないかもしれない。.
AGI時代、舵を握るのは誰か？
大局的に見れば、この会話は、過去3年間にわたりヒントン氏が発してきた警告の集大成である。.
2023年にGoogleを退社した際、彼は次のように述べた：
“「自分の生涯の仕事を後悔している。」”
2024年、ノーベル賞を受賞した際、彼はAIの安全性への関心を呼びかけた。.
2025年、彼は規制の緊急性を繰り返し強調した。.
2026年までに、彼の言葉遣いはより具体的になってきた。.
しかし、それと同じくらい印象的なのが、彼の技術的な明快さである。.
78歳となった今も、汎用人工知能（AGI）のリスクや存在を脅かす脅威について議論した直後、彼はすぐに話題を切り替えて、制限付きボルツマンマシンがなぜ正しいベイズ推論を表すのか、現在の画像生成モデルがなぜウェイク・スリープアルゴリズムの半分しか活用していないのか、そして生成モデルと認識モデルを組み合わせることがなぜ次の正しい一歩となり得るのかについて、説明を始めることができる。.
彼は同時に二つの世界に生きている：
AIがどのようにしてより強力になっていくのかについて考える。.
もう一つは、人類がその力によって滅ぼされるのをどう回避するかという内容だ。.
ヒントン、AGI、そして人類にとっての最後のチャンス
エンジンはすでに轟音を上げている。.
全速力で加速する$4.8兆のマシン。.
ハンドルがあるかどうかは、今後数年の展開次第であり、また、舵取り役である政府、企業、科学者たちが、そのハンドルを握ろうとする意思があるかどうかにかかっている。.
私たちは今、まさに特別な時期に立っています。.
汎用人工知能（AGI）や超知能AIが人間よりも優れた能力を持つようになる前に、人類がまだゲームのルールを決定できるのは、今この瞬間だけかもしれない。.
3年前にヒントンがグーグルを去った際、多くの人が彼の主張は過度に悲観的だと考えていた。.
3年が経った今でも、彼は相変わらず同じことを言っている。.
今と以前の違いは、彼の懸念を理解する人が増えたということだ。.
でも、ハンドルのないあの車はどうなんだ？
まだ加速し続けている。.
