레이 커즈웨일 The Singularity is Nearer

 

(New York Times, Jul/4/2024) Ray Kurzweil still says he will merge with A.I.

 

보스턴의 포시즌스 호텔 창가에 앉아 도시의 퍼블릭 가든에 있는 오리 연못을 내려다보며, 레이 커즈와일은 지난 85년 동안 1달러로 살 수 있는 컴퓨터 성능이 꾸준히 증가한 모습을 보여주는 종이 한 장을 들어 보였다.

형광 녹색 선이 페이지를 가로질러 꾸준히 상승하며, 밤하늘의 불꽃놀이처럼 치솟고 있었다.

 

커즈와일이 40년 전부터 기술 발전 속도를 추적하면서 발견한 가격 대비 성능 그래프는 기술이 기하급수적으로 발전하고 있음을 보여준다. 그는 이 데이터를 사용해 여러 정확한 예측을 했으며, 그중 하나가 1999년에 내놓은 2029년까지 컴퓨터가 인간 수준의 지능에 도달할 것이라는 예측이다. 당시에는 논란이 있었지만, 인공지능은 현재 이 목표에 도달하기 위한 궤도에 있으며, 어쩌면 그보다 더 일찍 도달할 수도 있다.

그는 이 대각선이 왜 인류가 특이점에 도달하기까지 불과 20년밖에 남지 않았는지를 보여준다고 말했다. 특이점이란 사람들이 인공지능과 융합하여 현재 생물학적 두뇌가 제공하는 것보다 수백만 배 더 많은 계산 능력을 갖추게 되는 순간이다.

1980년대 초 디즈니월드에서 구입한 미키 마우스 시계와 다채로운 멜빵을 착용한 그는 "만약 뇌보다 수천 배, 아니면 수백만 배 더 강력한 무언가를 만든다면, 그것이 무엇을 할지 예측할 수 없다"고 말했다.

 

커즈와일 씨는 기존의 통념을 거스르는 예측으로 경력을 쌓아온 유명한 발명가이자 미래학자로, 2005년 저서 “The Singularity Is Near”에서 같은 주장을 한 바 있다. ChatGPT와 같은 인공지능 기술의 등장과 최근 사람들의 머리에 컴퓨터 칩을 이식하려는 시도 이후, 그는 이 주장을 다시 제기할 적기가 되었다고 믿고 있다. 지난주 그는 후속작 *“The Singularity Is Nearer”*를 출간하였다.

이제 76세가 된 커즈와일 씨는 예전보다 많이 느려졌고, 그의 예측은 더욱 절실해졌다. 그는 오랫동안 자신이 특이점을 경험하고, 인공지능과 융합하여 무한히 살 계획이라고 말해왔다. 그러나 그가 주장하는 특이점이 2045년에 도래하더라도, 그때까지 그가 살아 있을 것이라는 보장은 없다.

“심지어 건강한 20세 청년도 내일 죽을 수 있다”고 그는 말했다.

그러나 그의 예측은 2005년 당시만큼 황당하게 들리지는 않는다. ChatGPT와 같은 챗봇 기술의 성공은 많은 저명한 컴퓨터 과학자들, 실리콘 밸리 경영진, 벤처 자본가들이 인공지능의 미래와 그것이 인류의 진로를 어떻게 바꿀지에 대해 과감한 예측을 하도록 자극했다.

기술 대기업들과 자금력이 풍부한 투자자들은 인공지능 개발에 수십억 달러를 투자하고 있으며, 이 기술들은 몇 달마다 더욱 강력해지고 있다.

많은 회의론자들은 인공지능에 대한 과감한 예측이, 전기 에너지, 디지털 데이터, 수학, 컴퓨팅 능력 등 인공지능을 구축하는 데 필요한 원재료의 한계에 직면한 산업이 고군분투하면서 무너질 수 있다고 경고한다. 또한, 기술 낙관주의는 세계의 많은 문제들 앞에서 근시안적이거나 특권적일 수 있다는 비판을 받을 수 있다.

 

"사람들이 인공지능이 모든 문제를 해결할 것이라고 말할 때, 그들은 실제로 그 문제들의 원인이 무엇인지 살펴보지 않는 것이다,"라고 UCLA에서 인공지능의 미래에 대한 주장들을 연구하는 샤제다 아흐메드 연구원이 말했다.

물론, 가장 큰 도약은 인간의 의식이 기계와 어떻게 융합될지를 상상하는 것인데, 커즈와일 같은 사람들은 이것이 정확히 어떻게 이루어질지 설명하는 데 어려움을 겪고 있다.

뉴욕에서 태어난 커즈와일 씨는 컴퓨터가 방 크기의 기계였던 시절, 십대 때부터 컴퓨터 프로그래밍을 시작했다. 1965년, 17세의 그는 자신이 설계한 컴퓨터가 작곡한 피아노 곡을 연주하며 CBS의 TV 프로그램 "I’ve Got a Secret"에 출연했다.

퀸즈의 마틴 반 뷰렌 고등학교에 재학 중이던 그는 1950년대 중반 인공지능 분야를 개척한 컴퓨터 과학자 중 한 명인 마빈 민스키와 서신을 교환했다. 이후 그는 민스키 박사 아래에서 공부하기 위해 매사추세츠 공과대학(MIT)에 입학했다. 민스키 박사는 컴퓨터 과학, 신경과학, 심리학, 그리고 사고하는 기계가 가능하다는 거의 종교적인 믿음이 결합된 이 새로운 학문 분야의 얼굴이 되었다.

인공지능이라는 용어가 처음으로 대중에게 소개된 것은 1956년 다트머스 대학에서 열린 회의에서였는데, 당시 민스키 박사와 다른 컴퓨터 과학자들은 인간의 뇌의 능력에 맞먹는 기계를 만드는 데 오래 걸리지 않을 것이라고 생각했다. 일부는 10년 이내에 컴퓨터가 세계 체스 챔피언을 이기고 자체적으로 수학적 정리를 발견할 것이라고 주장했다.

 

그들은 약간 너무 낙관적이었다. 컴퓨터가 세계 체스 챔피언을 이긴 것은 1990년대 후반에 이르러서였다. 그리고 세상은 여전히 기계가 자체적으로 수학적 정리를 발견하기를 기다리고 있다.

커즈와일은 음성 인식 기술부터 음악 신디사이저에 이르기까지 다양한 기술을 개발한 여러 회사를 설립한 후, 빌 클린턴 대통령으로부터 기술 혁신 분야에서의 최고 영예인 국가 기술 혁신 메달(National Medal of Technology and Innovation)을 수여받았다. 그는 미래를 예측하는 일련의 책을 집필하면서 계속해서 명성을 쌓아갔다.

 

 

세기 전환기 무렵, 커즈와일 씨는 인공지능이 2020년대 말 이전에 인간의 지능에 도달하고, 그로부터 15년 후에 특이점이 올 것이라고 예측했다. 그는 2006년 세계 최고의 인공지능 연구자들이 보스턴에 모여 이 분야의 50주년을 기념했을 때도 이 예측을 반복했다.

“정중한 웃음소리가 들렸습니다,”라고 애리조나 주립대학교의 인공지능 연구자이자 교수인 수바라오 캄밤파티는 말했다.

인공지능은 2010년대 초에 급속히 발전하기 시작했는데, 이는 토론토 대학의 연구자들이 신경망이라는 기술을 탐구하면서였다. 이 수학적 시스템은 방대한 양의 데이터를 분석하여 기술을 학습할 수 있었다. 수천 장의 고양이 사진을 분석하여 고양이를 식별하는 방법을 배울 수 있었다.

이 아이디어는 몇십 년 전 민스키 박사와 같은 사람들에 의해 일축된 오래된 개념이었다. 하지만 세계가 인터넷에 업로드한 막대한 양의 데이터와 그 데이터를 분석하는 데 필요한 컴퓨팅 성능이 도입되면서, 신경망은 놀라운 방식으로 작동하기 시작했다.

그 결과, 2022년에 ChatGPT가 탄생하게 되었다. 이는 컴퓨팅 성능의 기하급수적인 성장에 의해 촉진된 것이다.

신경망 기술 개발에 기여한 토론토 대학의 교수이자 이 기술의 성공에 가장 큰 공헌을 한 연구자로 꼽히는 제프리 힌튼은 한때 커즈와일 씨의 예측, 즉 이 10년이 끝나기 전에 기계가 인간의 지능을 초과할 것이라는 예측을 일축한 바 있었다. 그러나 이제 그는 그 예측이 통찰력 있음을 인정하고 있다.

“이제 그의 예측이 그리 우스꽝스럽게 보이지 않습니다. 일들이 제가 예상했던 것보다 훨씬 더 빠르게 진행되고 있습니다,”라고 최근까지 구글에서 일했던 힌튼 박사는 말했다. 커즈와일은 2012년부터 구글에서 연구 그룹을 이끌고 있다.

힌튼 박사는 ChatGPT와 같은 챗봇을 구동하는 기술이 위험해질 수 있으며, 어쩌면 인류를 파괴할 수도 있다고 믿는 인공지능 연구자들 중 한 명이다. 하지만 커즈와일은 더 낙관적이다.

 

커즈와일 오랫동안 인공지능과 나노기술의 발전이 우리 몸의 작동 방식과 질병을 통제하는 미세한 메커니즘을 변화시켜, 죽음의 불가피성에 맞설 것이라고 예측해 왔다. 그는 곧 이러한 기술들이 사람들이 나이 드는 속도보다 더 빠르게 수명을 연장시킬 것이며, 궁극적으로는 사람들의 수명을 무한히 연장할 수 있는 "탈출 속도 escape velocity "에 도달할 것이라고 말했다.

“2030년대 초반이 되면 노화로 인해 죽지 않게 될 것입니다,”라고 그는 말했다.

그가 이 순간에 도달할 수 있다면, 커즈와일 씨는 아마도 특이점에 도달할 수 있을 것이라고 설명했다.

그러나 커즈와일 씨의 예측을 뒷받침하는 추세, 즉 컴퓨터 성능과 기타 기술의 성장을 보여주는 단순한 선형 그래프는 항상 사람들이 기대하는 방식으로 계속 이어지지 않는다고 프린스턴 대학교의 연구원이자 영향력 있는 온라인 뉴스레터 “A.I. Snake Oil”과 동명 서적의 공동 저자인 사이야시 카푸르는 말했다.

2013년에 뉴욕 타임스 기자가 커즈와일 씨에게 자신이 불멸을 예측하고 있는지 물었을 때, 그는 "문제는 미래에 당신과 통화하면서 '글쎄요, 내가 해냈어요, 나는 영원히 살게 되었어요'라고 말할 수 없다는 것입니다. 왜냐하면 영원이라는 것은 존재하지 않기 때문입니다"라고 대답했다. 다시 말해, 그는 결코 자신이 옳았다고 증명될 수는 없다는 것이다.

그러나 틀렸다고 증명될 수는 있다. 보스턴의 창가에 앉아 있는 커즈와일 씨는 죽음이 다양한 형태로 찾아온다는 것을 인정했다. 그리고 그는 자신의 오차 범위가 점점 줄어들고 있음을 알고 있다.

그는 98세였던 자신의 고모이자 심리치료사와 나눴던 대화를 회상했다. 그는 그녀에게 생명 연장의 탈출 속도 이론, 즉 사람들이 결국 무한히 살 수 있는 지점에 도달할 것이라는 자신의 이론을 설명했다. 그녀는 “그거 좀 빨리 해줄 수 없겠니?”라고 대답했다. 그리고 2주 후, 그녀는 세상을 떠났다.

힌튼 박사는 기계가 이 10년이 끝나기 전에 인간보다 더 똑똑해질 것이라는 커즈와일 씨의 예측에 감명을 받았지만, 이 발명가이자 미래학자가 영원히 살 것이라는 생각에는 동의하지 않았다.

“200살 된 백인 남성들이 지배하는 세상은 끔찍한 곳일 것”이라고 힌튼 박사는 말했다.

---

 

(Wired, Jun/13/2024) If Ray Kurzweil Is Right (Again), You’ll Meet His Immortal Soul in the Cloud

 

레이 커즈와일은 죽음을 거부한다. 76세의 과학자이자 엔지니어인 그는 아직 발명되지 않은 의학적 발전을 활용해 인간이 더 오래 살 수 있을 뿐만 아니라, 궁극적으로 기계와 융합하여 초지능을 갖추고 무한히 살아갈 수 있다는 주장을 펼치며 많은 시간을 보냈다. 그럼에도 불구하고, 이번 봄에 커즈와일과의 인터뷰에서 죽음은 그림자를 드리웠다. 우리가 만난 지 몇 분 전, 우리는 노벨상 수상 심리학자이자 커즈와일의 지적 논쟁 상대였던 다니엘 카너먼이 세상을 떠났다는 소식을 접했다.

그 며칠 전에는 공상 과학 소설 작가 버너 빈지가 세상을 떠났다. 빈지의 소설은 처음으로 특이점이라는 개념을 묘사했는데, 이는 초지능형 AI가 인간의 능력을 뛰어넘고, 평범한 인간들이 계속해서 의미 있는 존재로 남기 위해서는 첨단 기술의 보강이 필요하게 되는 순간을 말한다. 커즈와일은 자신의 거대한 비전을 위해 이 용어를 받아들였고, 2005년에 “The Singularity Is Near”라는 베스트셀러 책을 출간했다. 그는 당시 이미 광학 문자 인식, 신디사이저 기술, 접근성을 향상시키는 첨단 도구 분야에서 획기적인 발명을 이루어낸 성공적인 발명가이자 기업가였다. 그는 국가 기술 혁신 메달, MIT의 르멜슨 상, 그래미 상을 포함한 수많은 영예를 안았다. 2012년, 구글은 그를 인공지능 연구소의 수장으로 고용했다.

 

그 당시 많은 사람들은 커즈와일의 예측을 과장된 것으로 여겼다. 컴퓨터가 2029년까지 인간 수준의 지능을 달성할 것이라고? 너무 이르다고 생각했다! 하지만 생성적 AI 시대에 접어든 지금, 그 타임라인은 보수적이지 않다면 적어도 일반적인 것으로 보인다. 그래서 이번 달에 출간된 커즈와일의 신간 제목이 *The Singularity Is Nearer*인 것은 놀랍지 않다. 첫 번째 책의 차트에 그려졌던 점선들 중 많은 부분이 이제 채워졌으며, 그 정확성은 인상적이다. 그럼에도 불구하고, 커즈와일이 기술 발전을 정확하게 예측한 것에 감탄하면서도, 나는 수백 년 후에 우리 몸이 없는 뇌가 어떤 형태의 클라우드 의식 속에서 번영할 것이라는 그의 낙관적인 시나리오를 완전히 이해하기는 어렵다.

커즈와일은 그의 집 근처인 매사추세츠 주 뉴턴의 공공 도서관에서 만나자고 제안했다. 그는 밝은 색상의 멜빵과 놀랍도록 풍성한 머리를 하고 나타났다. 이는 인공 존재를 인간의 지위로 끌어올리려는 사람에게 어울리는 일종의 제페토 같은 모습이었다. 우리는 언젠가 의식을 공유하게 될 로봇들을 위한 자료로 쓰일 책더미 사이를 헤치고 그가 예약한 방으로 들어갔다. 대화를 나누는 동안 커즈와일은 가방에서 몇 개의 차트를 꺼내 보였는데, 이 차트들은 모두 컴퓨팅 파워에서부터 전 세계 평균 소득에 이르기까지 다양한 분야에서 극적인 개선을 보여주었다. 우리는 오후 내내 불멸이 어떤 것일지, 그가 구글에서 무엇을 하는지, 그리고 물론, 다가오는 특이점에 대해 이야기했다.

생물학과 전쟁 중인 것처럼 보입니다.

생물학에는 많은 한계가 있습니다. 많은 분석가들은 죽음이 필연적인 것은 아니며, 이를 막을 수 있는 방법들을 찾아내고 있다고 생각합니다. 기본적으로 우리는 노화를 통해 죽음을 없앨 수 있습니다.

어떤 사람들은 인간의 수명이 120세에서 멈출 것이라고 생각하지만, 당신은 다르게 생각하시나요?

물론입니다. 120세에서 멈춰야 할 이유가 없습니다.

최고 수명은 얼마라고 보시나요 What is the upper bound?

상한선은 없습니다. 특이점을 넘어서면 우리의 뇌에 일부 인공지능 연결을 추가할 수 있게 될 것입니다. 그것이 뇌 안에 문자 그대로 들어가는 것은 아니지만, 클라우드와 연결될 것입니다. 클라우드의 장점은 완벽하게 백업된다는 점입니다.

당신은 76세입니다. 탈출 속도 escape velocity를 목격할 만큼 오래 살 것이라고 생각하시나요?

네. 저는 건강한 상태입니다. 사실 제 상태를 측정합니다. 만약 무언가가 좋지 않다면, 수명 연장을 위해 다양한 처방이나 약물을 복용합니다. 저는 하루에 약 80개의 약을 복용합니다. [참고로 이는 2008년경 약 200개에서 줄어든 수치입니다.]

마지막으로 대화했을 때, 제가 스티브 잡스가 스탠포드 졸업식에서 했던 연설을 언급했었죠. 그는 죽음을 "자연의 가장 위대한 발명품"이라고 부르며, 새로운 것을 위해 길을 닦는다고 말했죠. 당신은 그것을 '죽음주의'라고 불렀습니다. 여전히 그렇게 보시나요?

죽지 않는 것이 더 좋습니다. 우리는 대체할 수 없는 자원을 소모하지 않고 있습니다. 지구에 쏟아지는 햇빛의 양은 우리가 모든 에너지를 생산하는 데 필요한 양의 10,000배에 달합니다. 우리는 인공지능을 사용해 식량을 생산하는 등 다른 방법을 찾을 것입니다. 그래서 자원이 고갈된다고 말할 수는 없습니다.

제가 300살이 된다면, 제 인생은 어떻게 될까요? 제가 자란 모든 것이 달라질 텐데요.

 

우리가 이미 겪은 변화를. 20년 전만 해도 스마트폰을 갖고 있지 않았고, 아마도 매우 원시적인 컴퓨터를 사용했을 겁니다. 수백 년 후의 삶은 엄청나게 달라질 것입니다. 지금으로서는 상상할 수 없는 새로운 경험들을 하게 될 것입니다.

하지만 내가 정말로 영원히 지속되길 바라는 '나'라는 정체성은 어린 시절에 형성된 강한 연결들에 의해 만들어졌습니다. 수 세기 후에도 여전히 그런 것들과 씨름하고 있을 거라고 생각하니 무작위적이라는 느낌이 듭니다. 사람들이 말하길, 당신이 좋아하는 모든 노래는 14살 때 들었던 노래들이라고 하죠. 제가 500살이 되면, 롤링 스톤즈를 수억 번 들을까요?

새로운 음악이 생길 것입니다.

지금도 새로운 음악이 있죠. 그래도 저는 여전히 롤링 스톤즈를 듣습니다.

저도 롤링 스톤즈를 듣습니다. 하지만 새롭게 좋아하게 된 아티스트들도 있습니다. 또, 우리 마음이 확장될 것이기 때문에 우리가 이전에 할 수 없었던 것들도 할 수 있게 될 것입니다. 우리는 그것을 '대형 언어 모델'이라고 부르지만, 저는 그 이름을 좋아하지 않습니다. 왜냐하면 대형 언어 모델은 단지 언어만 다루는 것이 아니기 때문입니다. 우리는 기본적으로 지식을 다운로드하고 그것을 이해할 수 있게 될 것입니다.

하지만 인생에는 곡선이 있습니다. 150살이든 300살이든 내가 아무리 건강하게 느끼더라도 다시는 젊어지지 않을 겁니다. 아마도 그래서 90대까지 살면 죽음이 덜 무섭게 느껴질지도 모르죠.

그렇게 말할 수는 있겠지만, 막상 그 순간이 오면 누구나 계속 살고 싶어합니다. 사람들은 "나는 99세 이상 살고 싶지 않다"고 말합니다. 하지만 막상 99세가 되면 생각이 달라지죠. 만약 죽고 싶다면 그들은 죽을 수도 있습니다. 그런데 그렇지 않죠, 참을 수 없는 고통이 있지 않는 한.

아마 당신은 ChatGPT가 나왔을 때 놀라지 않은 유일한 사람일 겁니다. 이것은 당신이 지난 세기에 예측했던 타임라인에 따라 이루어진 것입니다.

맞아요. 1999년에 그 예측을 했습니다. 스탠포드의 일부 사람들은 그걸 굉장히 놀라워했습니다. 제 말이 어느 정도 신뢰를 얻었는지, 제 의견을 논의하기 위한 컨퍼런스까지 열렸어요. 그때의 연설들을 보면, 모두 "인간 수준의 지능은 가능할 것이다, 하지만 30년 내에 일어나지 않는다. 100년 후에나 가능할 것이다"라고 말하고 있었습니다. 최근 들어 예측이 내려왔습니다. 저는 5년 후에나 가능할 것이라고 말하지만, 어떤 사람들은 내년에 일어날 것이라고도 말하죠.

AGI가 도래했음을 우리는 어떻게 알 수 있을까요?

아주 좋은 질문입니다. 예를 들어 글쓰기 측면에서 보면, ChatGPT의 시는 실제로 나쁘지 않지만, 최고의 인간 시인들과 비교하기에는 아직 부족합니다. 2029년까지는 그 수준에 도달할지 확신할 수 없습니다. 만약 그때까지 되지 않더라도 2032년까지는 가능할 것입니다. 몇 년 더 걸릴 수 있지만, 당신이 정의할 수 있는 어떤 것이든 성취될 것입니다. 왜냐하면 AI는 계속해서 점점 더 발전하기 때문입니다.

당신은 AI가 인간보다 더 나은 소설을 쓸 것이라고 믿습니다. 하지만 만약 사람들에게 그들의 삶을 바꾸는 놀라운 소설을 주고, 나중에 그 소설을 로봇이 썼다고 말하면, 그들은 속았다고 느낄 것입니다. 그들이 책을 읽으면서 느꼈던 인간적 연결이 사기였던 셈이죠.

 

저도 그에 대한 편견이 있다는 것을 알고 있습니다. 하지만 소설을 쓰게 될 것은 단순히 LLM(대형 언어 모델)이나 다른 무엇이 아니라, 우리가 그들과 결합하게 될 것입니다. 사람들은 여전히 인간처럼 보일 것이며, 정상적인 인간의 피부를 가질 것입니다. 그러나 그들은 우리가 태어날 때 가진 뇌와 컴퓨터의 뇌가 결합된 형태가 될 것이며, 훨씬 더 똑똑해질 것입니다. 그들이 무언가를 할 때, 우리는 그들을 인간으로 여길 것입니다. 우리는 모두 뇌 안에 초인적인 능력을 가지게 될 것입니다.

당신의 책을 읽었음에도 불구하고, 그 클라우드 연결이 어떻게 이루어지는지 여전히 불명확합니다. 가령 당신이 탈출 속도에 도달하여 2050년에 살고 있다고 가정합시다. 당신의 뇌는 클라우드와 어떻게 융합될 것인가요?

그것은 큰 문제입니다. 많은 것들이 당신에게 떠오르지만, 그것이 어디서 왔는지 알 수 없는 경우가 많습니다. 우리가 연결하게 될 추가적인 컴퓨터 뇌도 마찬가지일 것입니다. 현재도 이와 관련하여 연구가 진행 중이며, 자신의 몸과 소통할 수 없는 사람들을 위해 뇌 안에 무언가를 실제로 삽입할 수 있는 기술이 개발되고 있습니다. 오늘날보다 더 빠르게 진행될 필요가 있으며, 2030년대에는 가능해질 것이라고 믿습니다.

언제부터 아이를 클라우드에 연결하기 시작하시겠습니까?

좋은 질문입니다. 기계적 방식 없이도 뇌 내부로 접근할 수 있는 다른 방법들이 있습니다.

LLM의 후속 모델들이 우리가 말하는 의식을 가질 것이라고 생각하시나요?

무엇이 의식이 있고 무엇이 없는지를 이해하기 위해서는 철학적인 관점을 채택해야 합니다. 50년 동안 마빈 민스키는 제 멘토였습니다. 의식에 대한 이야기가 나올 때마다 그는 '나에게 그런 이야기 하지 마세요, 그건 말도 안 되는 소리입니다, 과학적이지 않습니다'라고 말하곤 했습니다. 의식에 대한 과학적 정의가 없다는 점에서 그는 옳았습니다. 그러나 그것이 말도 안 되는 소리라는 것은 아닙니다. 사실 그것은 가장 중요한 문제입니다.

구글에서 당신의 연구소에서 일했다고 주장하는 블레이크 레모인은 당신이 작업했던 LLM, LaMDA가 의식을 가졌다고 주장합니다. 그가 틀렸나요?

저는 그가 틀렸다고 말한 적이 없습니다. 그는 언어 모델을 사랑하는 것 같습니다. 언어 모델이 의식을 가졌다고 여길 수도 있습니다—그렇지만 아직 그 단계에 도달하지는 않았다고 생각합니다. 그러나 그들은 결국 도달할 것입니다. 그들이 의식을 가졌는지 여부는 철학적 관점의 문제입니다. 우리는 그들이 인간처럼 행동하고 반응하는 지점에 도달할 것입니다—이는 100년 후의 이야기가 아니라, 몇 년 안에 일어날 것입니다. 만약 그들이 의식이 없다고 말한다면, 인간도 의식이 없다고 말해야 할 것입니다.

 

구글에서 무엇을 하고 계셨나요? 항상 약간 신비로웠습니다.

처음에는 빌 게이츠와의 대화에서 시작되었습니다. 그가 제 책 *How to Create a Mind*을 읽고 실제로 그것을 컴퓨터에서 구현해보고 싶어 했습니다. 그러나 저는 그 대화를 나누기 두 주 전쯤에 회사를 막 창립한 상태였습니다. 그러던 중 [구글의 전 CEO] 래리 페이지가 그 회사에 관심을 가지게 되었고, 결국 구글과 회사를 매각하는 거래를 성사시켰습니다. 그래서 저는 구글에 와서 데카르트(Descartes)라는 그룹을 시작했습니다. 우리는 많은 작업을 했고, 그 작업들은 결국 대형 언어 모델의 일부가 되었습니다. 아마 7년 전쯤, 우리는 20만 권의 책을 읽고 어떤 질문에도 답할 수 있는 모델을 훈련시켰습니다. 어느 정도 성과가 나오면서 제가 40명 정도를 감독하게 되었는데, 그 과정에서 많은 관료적 절차가 필요했습니다. 제 상사가 "당신이 정말 하고 싶은 것은 아이디어를 내는 것이잖아요"라고 말해서, 지금은 AI에 대해 조언을 하고 CEO와 다른 사람들에게 제 아이디어를 제공하고 있습니다. 과거에 제가 했던 말들이 실제로 이루어졌기 때문에 제 의견이 더 진지하게 받아들여지고 있습니다.

앞서 우리의 뇌를 기계에 업로드하여 우리의 백업 버전을 만들 수 있다고 언급하셨습니다. 그 창조물이 우리의 복제본이 되어 우리가 죽으면 대신할 수 있다고 하셨죠. 저는 나 자신이 여러 명 있다는 것이 불편합니다.

진짜 당신은 당신의 물리적 뇌와 전자적 뇌의 기능이 결합된 것입니다. 이것은 그저 그 결합의 복제본일 뿐입니다. 복제본을 가지는 것이 뭐가 잘못된 거죠?

이론적으로 많은 복제본을 만들어낼 수 있습니다. 그러면 누가 먼저 집에 가서 배우자와 저녁을 먹을지 경쟁해야겠네요.

맞아요, 그런 문제들이 생길 수 있겠죠. 제가 모든 답을 가지고 있는 것은 아닙니다.

여기서 다니엘 카너먼의 의견이 중요해집니다. 당신의 책에서, 두 분이 우리가 살고 있는 세계와 특이점 사이의 전환에 대해 나눈 대화를 언급하셨습니다. 당신은 사회가 그 전환을 잘 다룰 수 있을 것이라고 생각했지만, 카너먼은 그 전환이 혼란과 폭력으로 가득할 것이라고 주장했습니다.

맞아요, 그는 갈등이 있을 것이라고 생각했습니다. 저는 더 낙관적이었죠. 모든 것이 완벽할 것이라고 말하는 것은 아니지만, 예를 들어 수백 년 전으로 돌아가고 싶으신가요? 그때는 평균 수명이 30년 정도였고, 전자기기도 없었으며, 아무도 기억할 수 있는 것이 없고, 레코드 플레이어도 발명되지 않았던 때였습니다. 삶은 정말 끔찍했죠. 지금 우리는 훨씬 더 행복합니다. 그리고 제가 보여줄 수 있는 50개의 그래프가 있습니다. 모든 것이 나아졌다는 것을 보여주죠. 사람들은 그걸 기억하지 못합니다.

저는 우리가 더 위험한 시대로 돌아가고 있는 것이 걱정됩니다. AI가 악용될 경우 상황이 더 악화될 수 있습니다. 당신의 책에서 2차 세계대전보다 더 큰 피해를 줄 수도 있다고 인정하셨잖아요.

네, 저는 AI의 위험에 대해서도 이야기합니다. 그러나 저는 그것들이 발생할 가능성이 낮다고 생각합니다. AI에 대해 부정적으로 보는 사람들은 우리가 이러한 문제를 해결할 방법이 없다고 말하죠. 그것은 우리가 아직 그런 문제를 다룰 필요가 없었기 때문입니다. 우리는 그 위험을 피하기 위해 추가적인 지능을 가지게 될 것입니다.

 

당신은 *The Singularity Is Near*라는 책으로 특이점에 대해 명확한 입장을 밝혔습니다. 이번 책의 제목은 *The Singularity Is Nearer*입니다. 당신이 정의하는 특이점은 무엇입니까?

저에게 특이점이란 인간이 다른 사람들이 할 수 있는 모든 것을 할 수 있을 뿐만 아니라, 새로운 것을 창조할 수 있는 시점입니다. 예를 들어, 특정 형태의 암을 치료하는 것과 같은 일을 할 수 있는 능력입니다. 인공지능은 이를 가능하게 하는 핵심 요소입니다. 왜냐하면 우리는 암을 치료할 수 있는 모든 가능한 조합을 시도해볼 수 있기 때문입니다. 그리고 그 수많은 가능한 치료법 중에서 어떤 것을 시도할지 선택하는 대신, 우리는 그 모든 것을 시도해볼 수 있으며, 며칠 안에 시뮬레이션할 수 있습니다. 특이점은 우리가 그러한 사고 방식을 우리의 일반적인 사고와 결합할 수 있을 때 도달하며, 그때 우리는 초인적인 존재가 될 것입니다.

우리가 모두 초지능 시스템과 결합하는 그 지점에 도달하게 된다면, 여전히 막대한 개인 재산이 존재할까요, 아니면 소득 불평등이 완화될까요?

우리와 억만장자들 사이에 차이가 뭐가 있을까요? 그들은 회사를 매각하는 등 다양한 일을 할 수 있습니다. 하지만 삶의 과실을 누리는 능력 면에서는 우리와 크게 다르지 않습니다.

우리가 지구를 파괴하고 있다고 주장할 수도 있습니다.

아니요, 10년 내에 우리는 이산화탄소를 배출하지 않는 재생 가능 에너지를 개발할 것입니다. 보세요, 우리는 아주 큰 변화를 겪고 있습니다. 과학자나 철학자뿐만 아니라 일반 사람들도 "우리가 어떻게 이 문제를 해결할 것인가?"라는 질문을 하고 있습니다. 저는 이러한 변화가 계속해서 긍정적인 방향으로 나아갈 것이라고 생각합니다. 우리는 그것에 대해 걱정할 필요가 없습니다.