78세의 제프리 힌턴이 카메라 앞에 앉아 수백 명의 참석자들에게 이 말을 건넸을 때, 회의실 전체가 몇 초 동안 썰렁한 정적에 휩싸였다.
“그들은 핸들이 없는 초고속 자동차를 원한다.”
최근, 10여 년 넘게 “AI의 대부’로 불려온 이 2024년 노벨 물리학상 수상자인 노학자는 ”글로벌 디지털 월드 컨퍼런스’에서 다시 한번 인류에게 경종을 울렸다. 힌턴은 거의 간청하듯 다음과 같이 경고했다:
“인류가 초지능 AI와 공존할 수 있을지는 알 수 없다.”
“하지만 우리는 그것을 짓고 있습니다.”
AGI에 대한 힌턴의 견해: 안전성에는 1%만, 가속화에는 99%가 투입된다
힌턴은 연설에서 매우 명확한 논리를 제시했다.
전 세계 AI 산업은 인류 역사상 유례없는 속도로 성장하고 있습니다. UNCTAD 자료에 따르면, 2023년 전 세계 AI 시장 규모는 $189억으로 집계되었으며, 2033년까지 $4.8조로 급증할 것으로 전망됩니다.
이는 인류가 불과 10년 만에 일본 GDP보다 더 큰 규모의 경제 주체를 무에서 창조해 냈음을 의미합니다.
그런데 그 많은 돈은 도대체 어디로 가는 걸까요?
더 큰 모델을 구축하고 더 많은 연산을 수행하는 데 주력하고 있습니다.
안전은 어떨까요?
힌턴은 대략 1%라는 수치를 제시했다.
전 세계 AI 연구개발(R&D) 투자액 중 “이 기술이 잘못되지 않도록 하는 방법”에 쓰이는 비중은 약 1%에 불과하다.”
이에 대한 그의 의견은 다음과 같다:
“정말 말도 안 돼.”
그는 AI 기술 관련 로비 단체들이 “AI는 가속 페달이고, 규제는 브레이크다”라는 비유를 강조하기 위해 광고에 막대한 비용을 쏟아붓고 있다고 말했다. 그들의 메시지는 “브레이크를 밟지 마라, 그렇지 않으면 속도가 느려질 것이다”라는 것이다.
힌턴은 이를 완전히 일축했다.
“가속기는 분명 진전을 이끄는 원동력입니다. 하지만 규제는 브레이크가 아니라, 바로 핸들입니다.”
“그들은 고속 주행이 가능한 차를 원하지만, 스티어링 휠은 없는 차를 원해요.”
그 옆에 앉아 있던 테리 세이노프스키가 곧바로 말을 이었다.
“브레이크가 없는 차를 운전해 본 적이 있나요? 내리막길에서 얼마나 위험한지 알게 될 겁니다.”
하지만 더 큰 문제는—우리 차에는 스티어링 휠조차 없다는 거예요.
가속 페달을 바닥까지 밟았다. 핸들을 떼어냈다.
이것이 바로 전 세계적인 AI 경쟁의 실제 현황입니다.
시상식에서 힌턴의 AGI에 대한 성찰까지
2026년 세계 디지털 컨퍼런스의 주제는 “인공지능과 사회 발전”이었다.”
이 행사에서 힌턴과 세이노프스키는 1980년대에 볼츠만 머신을 발명한 공로로 상을 받았는데, 이 획기적인 성과는 이후 딥러닝 혁명의 촉매제가 되었다.
시상자는 마이크로소프트의 리 덩(Li Deng)이었는데, 그 역시 해당 발명의 수혜자였다. 2009년부터 2010년 사이, 그는 힌턴을 마이크로소프트로 초청해 공동 연구를 진행했으며, 두 사람은 볼츠만 머신을 활용해 대규모 음성 인식 시스템을 사전 훈련시켰고, 이는 딥러닝 분야에서 최초의 주요 산업적 성공 사례 중 하나로 이어졌다.
이번 세션의 전반부는 과학사, 학문적 영광, 그리고 함께 공유한 추억에 관한 내용이었다.
힌턴과 세이노프스키는 1980년대 로체스터에서 열린 한 학술대회에서, 홉필드 네트워크와 시뮬레이션 어닐링을 어떻게 결합했는지에 대한 순간을 회상했다.
세이노프스키는 그 일을 선명하게 기억하고 있었다:
“우리는 그 자리에 앉아 있다가 문득 홉필드 네트워크를 가열하여 확률적 특성을 부여할 수 있다는 사실을 깨달았습니다.”
힌턴은 한 가지 세부 사항을 덧붙였습니다. 당시 그는 샌디에이고에서 데이비드 루멜하트와 함께 로지스틱 유닛을 이용한 역전파 기법에 대해 연구하고 있던 참이었습니다. 그리고 홉필드 네트워크에 온도 변수가 도입되었을 때, 이 네트워크 역시 로지스틱 유닛을 생성해 냈습니다.
완전히 다른 두 가지 경로가 동일한 수학적 형태로 수렴했다.
과학사에서는 이러한 순간을 “결정화 순간’이라고 부릅니다.”
흥미롭게도, 힌턴은 여전히 볼츠만 머신이 역전파보다 더 우아하다고 믿고 있다.
“훨씬 더 좋은 생각이에요. 다만 현실적으로 좀 어렵긴 하죠.”
세이노프스키는 웃으며 동의했다:
“생성형 AI가 대중화되기 수십 년 전부터 이미 생성형 신경망이 존재했습니다.”
힌턴: “AGI는 어리석은 용어다”
논의가 AGI와 사회적 위험으로 옮겨가자, 힌턴은 태도를 완전히 바꿨다.
리덩은 많은 사람들이 품고 있는 질문을 던졌습니다. 바로 ‘AGI를 어떻게 정의할 수 있는가?’, 그리고 ‘AGI의 도래를 나타내는 지표는 무엇인가?’라는 질문이었습니다.
힌턴은 거침없이 말했다:
“AGI는 정말 어이없는 용어다.”
그 이유는 간단합니다. 지능을 마치 온도계처럼 일차원적인 것으로 간주하기 때문인데, 수치가 높을수록 더 똑똑하다고 보는 것입니다.
“하지만 지능은 분명히 매우 다차원적인 개념입니다.”
“AI가 인간과 동등한 수준에 도달한 단일한 지점은 없습니다. 인간에 비해 AI의 능력은 들쭉날쭉합니다. 어떤 분야에서는 우리를 훨씬 앞지르지만, 다른 분야에서는 여전히 뒤처져 있습니다.”
그는 다음과 같은 예를 들었다. 오늘날 어떤 대형 모델에게든 슬로베니아의 세금 신고 마감일이나 베란다 방수 방법에 대해 물어보면, 유창하게 대답해 줄 것이다.
일반 상식 분야에서는 AI가 이미 인간을 훨씬 앞질렀다.
하지만 특정 추론 과제에서는 아직 완전히 따라잡지 못했습니다.
“그러니 AGI라는 용어는 무의미합니다.”
AGI를 넘어: 힌턴이 말하는 초지능
그렇다면 어떤 용어가 중요한가요?
힌턴의 견해에 따르면, 그것은 “초지능”이다.”
그 정의는 명확합니다. 거의 모든 지적 과제에서 인간보다 뛰어난 능력을 발휘하는 것입니다.
그리고 우리는 그것이 곧 다가올 것이라고 믿습니다.
그러자 이번 토론의 핵심 질문이 제기되었습니다:
초지능이 등장하게 되면, 인간은 자신이 만들어낸 시스템에 대해 여전히 의미 있는 통제력을 행사할 수 있을까요?
힌턴은 다음과 같이 대답했다:
“우리가 초지능 AI와 공존할 수 있을지 여부는 알 수 없다.”
“하지만 우리가 직접 구축하고 있는 만큼, 현재로서는 여전히 많은 통제권을 가지고 있습니다.”
“우리가 계속 존재하고 그것과 공존할 수 있도록, 신중하게 건설해야 합니다.”
현재 알려진 모델들 중에서, 지능이 훨씬 더 뛰어난 존재가 지능이 훨씬 더 낮은 존재에게 자발적으로 자유를 부여한 사례는 단 하나뿐입니다:
어머니와 아기.
엄마는 진심으로 아이를 아끼기 때문이에요.
힌턴이 제시한 AI 위험의 세 가지 범주
힌턴은 AI의 위험 요소를 세 가지 범주로 분류했다.
고의적인 오용
고의로 AI를 악용하는 사람들:
민주주의를 훼손하기 위한 딥페이크, 팬데믹을 유발하기 위해 조작된 바이러스, 사이버 공격.
이것이 가장 직접적인 위협입니다.
이윤 추구로 인한 부작용
사람들이 돈을 벌려고 할 때 발생하는 의도치 않은 결과:
불법 이미지를 생성하고, 추천 알고리즘이 점점 더 극단적인 콘텐츠를 노출시키며, 결국 사회를 공통된 언어를 공유하지 않는 집단들로 분열시키는 현상.
“그들은 그저 돈을 벌려고 할 뿐이지만, 그로 인한 부작용은 사회적 분열이다.”
AGI를 넘어선 실존적 위험
AI가 스스로 통제권을 장악하고 있다.
힌턴은 이 세 번째 범주가 국제 협력으로 이어질 수 있다고 믿는데, 그 이유는 모두가 이를 두려워하기 때문이다.
하지만 처음 두 개는요?
특히 첫 번째 경우—각국은 협력을 이야기하겠지만, 실제로는 서로를 공격할 것이다.
그 때문에 대처하기가 훨씬 더 어려워집니다.
힌턴의 경고: 담배와 석면의 유사점
힌턴은 다음과 같은 비유를 들었습니다:
담배와 석면의 역사를 살펴보세요.
캐나다와 같이 이러한 제품을 생산한 국가들은 자국민을 보호하기 위해 국내 규제를 도입했다.
그러나 그들은 여전히 이러한 제품을 개발도상국에 계속 판매했다.
따라서 AI를 개발하는 국가들이 “올바른” 규제를 시행한다 하더라도, 여전히 AI 시스템을 다른 곳으로 수출할 수 있으며, 그 결과 해로운 결과가 초래될 수 있다.
세상에는 새로운 것이 하나도 없다.
같은 상황이 다시 반복될 수도 있다.
AGI 논쟁: 대규모 언어 모델은 막다른 길인가?
얀 르쿤은 대규모 언어 모델이 AGI 달성을 위한 막다른 길이라고 말한 바 있습니다. 힌턴은 이에 대해 어떻게 생각할까요?
그는 그 질문을 두 부분으로 나누었다.
먼저, 철학적인 질문 하나:
다음 단어만 예측하는 시스템이 공간을 이해할 수 있을까?
답변: 네.
“정말 놀랍네요.”
그럼, 실용적인 예시를 하나 들어보겠습니다:
이것이 공간을 이해하는 효율적인 방법일까요?
답: 아니요.
카메라가 있고 물체를 조작할 수 있다면, 공간적 이해력과 기초 물리학을 훨씬 더 효율적으로 익힐 수 있습니다.
따라서 실제로는 시각, 행동, 언어를 모두 아우르는 다모달 AI가 순수 언어 모델보다 더 적은 데이터로도 더 빠르게 학습할 수 있습니다.
하지만 철학적인 관점에서 볼 때, 충분한 언어 데이터만 있다면 순수한 언어 모델만으로도 충분할 수 있다.
$ 4.8조 AGI 경제: 누가 혜택을 누릴 것인가?
이번 회의에서 드러난 또 다른 분열은 분배 문제입니다.
유엔무역개발회의(UNCTAD) 사무총장 대행인 페드로 마누엘 모레노는 다음과 같이 직설적으로 지적했다. 인공지능을 개발하고 형성할 수 있는 역량은 소수의 국가와 기업에 집중되어 있다.
도린 보그단-마틴은 극명한 대조를 다음과 같이 지적했다:
선진국들은 개발도상국보다 거의 두 배나 빠른 속도로 인공지능을 도입하고 있다.
“이 문제가 해결되지 않으면, 이는 두 번째 ”대분화’가 될 것입니다.”
AI를 개발하는 국가와 단순히 AI를 소비하는 국가 간의 격차가 눈에 띄게 벌어지고 있다.
$4.8조 규모의 시장—그 인프라, 투자, 인재—는 북반구의 몇몇 지역에 집중되어 있다.
나머지 세계는 협상 테이블에 앉을 기회조차 얻지 못할지도 모릅니다.
AGI 시대, 누가 운전대를 쥐고 있을까?
큰 그림에서 보면, 이번 대화는 지난 3년 동안 힌턴이 해온 경고들이 집대성된 결과라고 할 수 있다.
2023년 구글을 떠날 당시 그는 다음과 같이 말했습니다:
“제 평생의 업적을 후회합니다.”
2024년 노벨상을 수상한 그는 인공지능(AI) 안전 문제에 대한 관심을 촉구했다.
2025년에 그는 규제의 시급성을 거듭 강조했습니다.
2026년이 되자, 그의 표현은 더욱 구체적이 되었다.
하지만 그만큼 눈에 띄는 것은 그의 기술적 명료함이다.
78세의 나이에, AGI의 위험성과 존재적 위협에 대해 논의한 직후, 그는 곧바로 제한적 볼츠만 기계가 왜 올바른 베이지안 추론을 나타내는지, 현재의 이미지 생성 모델이 왜 웨이크-슬립 알고리즘의 절반만 사용하는지, 그리고 생성 모델과 인식 모델을 결합하는 것이 어떻게 올바른 다음 단계가 될 수 있는지에 대해 설명으로 다시 전환할 수 있다.
그는 두 세계에 동시에 살고 있다:
AI가 어떻게 점점 더 강력해지는지에 대한 고찰.
다른 하나는 인류가 그 힘에 의해 멸망하는 것을 어떻게 피하는지에 관한 이야기입니다.
힌턴, AGI, 그리고 인류의 마지막 기회
엔진이 벌써 굉음을 내고 있다.
전속력으로 가속 중인 $4.8조 규모의 기계.
조향 장치가 있을지 여부는 향후 몇 년 동안 어떤 일이 벌어지느냐, 그리고 운전석에 앉아 있는 정부, 기업, 과학자들이 그 장치를 잡으려 할 의지가 있느냐에 달려 있습니다.
우리는 지금 매우 특별한 시점에 서 있습니다.
AGI나 초지능 AI가 우리보다 더 뛰어난 능력을 갖추기 전에, 지금이 인류가 여전히 게임의 규칙을 정할 수 있는 유일한 기회일지도 모릅니다.
3년 전 힌턴이 구글을 떠났을 때, 많은 사람들은 그가 지나치게 비관적인 전망을 내놓고 있다고 생각했다.
3년이 지난 지금도 그는 여전히 똑같은 말을 하고 있다.
지금의 차이점은—더 많은 사람들이 그의 우려를 이해하고 있다는 점이다.
하지만 핸들이 없는 그 차는요?
여전히 가속하고 있다.
