에릭 슈미트, 스탠포드 대학 강연
(미래에셋증권, 8/21/2024) 에릭 슈미트 “AI는 과소평가 되어 있다”
1년 안에 매우 큰 컨텍스트 윈도우(AI가 생각할 때 가지는 일종의 단기 기억)를 가진 AI 에이전트(사용자를 대신해 작업을 스스로 수행할 수 있는 일종의 ‘인턴’ 역할)와 “텍스트 액션(사용자가 자연어로 복잡한 작업을 설명하면 AI가 이를 이해하고 코딩으로 실행할 수 있게 함)”을 보게 될 것.
이 세가지가 결합되어 대규모로 구현되면 세상에 미칠 영향은 아직 아무도 이해하지 못할 정도로 클 것.
SNS가 끼친 끔찍한 영향보다 훨씬 더 클 것. 서비스하기가 극히 어려운 기술적 요인인 컨텍스트 윈도우가 이렇게 길어질 수 있다는 사실에 충격을 받았음. 아마도 향후 2년 내 1,000만 토큰 컨텍스트 윈도우까지 볼 수 있을 것. (현재 구글은 200만 토큰까지 지원) 현재 사람들은 (텍스트 액션을 갖춘) 에이전트를 구축 중. 임의의 언어에서 임의의 디지털 명령으로 갈 수 있다면 얼마나 강력할지 생각해보면, 모든 인간이 각자 원하는 것을 실제로 해주는 자신만의 프로그래머를 가지고 있다고 상상하면 됨.
인플루언서들의 경우, (본인의 요청대로 나를 대신해) 24시간 내내 자랑하는 무한한 양의 에이전트들을 가질 수 있음. (우리 팀의 생각: 인플루언서들의 콘텐츠 생성, 팔로워와의 상호작용 등을 모두 AI 시스템이 자동으로 관리한다는 의미. 이것은 메타의 CEO 주커버그가 말한 “AI 스튜디오” 개념과 완벽히 일치) 비용은 없고 공급이 무한함. 이 모든 것이 앞으로 1~2년 내에 매우 빠르게 일어날 것.
다음 물결에서 일어날 것이 이 세 가지의 결합이라고 확신. 현재 프론티어 모델들(OpenAI, 구글, Anthropic)과 다른 모든 것들 사이의 격차가 더 커지고 있는 것 같음. 6개월 전만 하더라도 격차가 좁아지고 있다고 확신해서 작은 회사들에 많은 돈을 투자하기도 했었음. 하지만 이제는 그렇게 확신하지 못하겠음. 큰 회사들의 경우, 모델 개발에 1,000억 달러가 필요하다고 말하고 있고, 샘 알트만은 “Stargate” 프로젝트를 내세우고 있음. 샘 알트만은 약 3,000억 달러 아마도 그 이상이 필요할 것이라고 믿고 있었음.
그 투자금액에서 중요한 비중은 바로 전력. “미국에는 충분한 전력이 없어서 (수력 발전이 풍부하고, 추운 기후로 데이터센터 냉각에 효율적인) 캐나다와 가장 친한 친구가 돼야 한다”고 백악관에 직접 말했음. 중동의 아랍인들에게 투자를 받아도 되지만, 그들은 미국의 안보 규칙을 따르지 않을 것. (우리 팀의 생각: AI는 국가적 전략 자산 그 이상임을 방증. 레오폴드 아센브레너의 “Situational Awareness” 보고서 내용과 정확히 일치되는 견해) 1,000억 달러든 3,000억 달러든 데이터센터와 전기가 희소 자원이라는 점. 우리는 훨씬 더 많은 칩이 필요. 만약, 그 자금들이 모두 엔비디아로 흘러가게 된다면, 주식시장에서 무엇을 해야 할지 알 수 있을 것.
Percy Liang(구글 근무경력이 있는 스탠포드대 컴퓨터 공학 부교수)과 얘기를 나눴는데, 그는 TPU 혹은 엔비디아 칩만을 사용한다고 했음. 선택의 여지가 없기 때문. 만약 무한한 돈이 개발자들에게 주어진다면, 오늘날에는 모두 엔비디아 B200 아키텍처를 선택할 것. 더 빠르기 때문이고, CUDA 덕분. 대부분의 코드가 C 최적화로 실행되어야 하는데 AI 병렬 컴퓨팅 영역에서는 엔비디아만 이를 지원하기 때문. 또한 CUDA에 고도로 최적화된 오픈소스 라이브러리 세트들과 그 개발자 생태계가 있다는 것은, 경쟁자가 복제하기 아주 어려운 차별점. AMD의 Lisa Su와 길게 이야기를 나눴는데, CUDA 아키텍처를 AMD의 ROCm이라는 아키텍처로 변환하는 것을 개발했다고 함. 그러나 ROCm은 아직 완벽하지 않음. 한편, 분산 컴퓨팅으로 AI를 훈련하는 것은 실현 가능성이 현재 낮음. 당분간은 대규모의 슈퍼컴퓨터와 메모리 인터커넥트(칩렛, HBM, CoWoS 등)가 지배적인 필요 기술.
AI 위원회의 위원장으로서 나는 “AI에서 미국이 앞서 있고, 계속 그래야 하며, 많은 돈이 필요하다”고 의회에 요청했고 그래서 CHIPS Act 법안도 나왔음. 결국 자본의 싸움이기 때문에, 매우 적은 숫자의 국가들만이 AI 경쟁이 가능. 미중 간의 큰 싸움이 일 것이고 나머지 국가들은 파트너를 찾아야 함. (우리 팀의 생각: 미국 혹은 중국에 줄을 서야 할 것이라는 뉘앙스로 해석) 현재 미국은 5나노 이하에서 중국보다 약 10년의 칩 우위.
AI 파워게임에서 가장 흥미로운 나라는 인도. 최고의 AI 인재들이 (인프라 시설 부족으로) 인도에서 미국으로 오기 때문. 인도는 (미국과 중국의 AI 경쟁에 있어서) 일종의 “스윙 스테이트”. 한국과 일본은 미국 진영이고, 대만은 HW는 환상적이지만 SW가 끔찍해 AI 경쟁은 못할 것. 유럽은 EU의 규제 때문에 프랑스 말고는 다 엉망. 또한 나는 7년 동안 미군의 운영방식을 바꾸려고 노력했으나 크게 실패. 그래서 회사를 만들기로 했고, (러시아 등에 대항해) AI를 로봇 전쟁에 도입하고 로봇의 비용을 낮추기 위해 전념할 것.
AI에 대한 투자의 양은 어마어마한데, 나는 모든 것을 AI에 투자하기로 결정했음. 물론 투자금을 회수하려면 그 지능이 엄청난 돈을 벌어준다는 것이 명백해야 함. 그런데 AI에 약 1조 달러가 투자되었지만, 수익은 겨우 300억 달러에 불과. 그럼에도 시장에는 지능의 발명이 무한한 수익을 가져온다는 믿음이 있음. 아마도 우리는 거대한 투자 버블을 겪은 다음 그것이 정리될 것 같은데, 이는 과거에도 항상 그랬음. 엄청난 초기 투자가 있고 결국에는 보상을 다 받게 된다는 말.
다른 어떤 시장(인터넷, 스마트폰 등)보다 더 클 것. AI는 인류가 지금껏 만든 가장 변혁적인 기술이 될 것.
관련글
https://stockmarketlab.tistory.com/1199