미래의 인공지능은 인간의 뇌와 합쳐질 것

단순히 인공지능이 발전한다를 넘어 인공지능과 인간이 합쳐지는 미래를 그리고 있습니다. 10년 후의 미래는 정말 어떻게 되는 것일까요?

---

 

 

AI 과학자 레이 커즈와일: '인간의 지능이 2045년까지 백만 배로 확장될 것'

 

미국의 컴퓨터 과학자이자 기술 낙관론자인 레이 커즈와일은 인공지능(AI)에 대한 오랜 권위자였다. 그의 2005년 베스트셀러 '특이점이 온다 The Singularity Is Near'는 컴퓨터가 2029년까지 인간 수준의 지능에 도달하고 2045년경에는 우리가 컴퓨터와 융합하여 초인간이 될 것이라는 공상과학 같은 예측으로 상상력을 자극했었다. 그는 이를 "특이점"이라고 불렀다.

 

거의 20년이 지난 지금, 76세의 커즈와일은 후속작 '특이점이 더 가까워졌다 The Singularity Is Nearer'를 출간했다. 커즈와일의 본업은 구글의 수석 연구원이자 AI 비전 제시자 Principal researcher and AI visionary 이다. 그는 저자, 발명가, 미래학자로서의 개인적 자격으로 TheGuardian과 대화를 나눴다.

 

이 책을 왜 집필했나요?

 

'특이점이 온다'는 미래에 대해 이야기했지만, 20년 전에는 사람들이 AI가 무엇인지 몰랐을 때였다. 내게는 무슨 일이 일어날지 분명했지만, 모든 사람에게 분명하지는 않았다. 이제 AI가 대화를 지배하고 있다. 우리가 이룬 진전 - 대규모 언어 모델(LLM)은 사용하기에 꽤 즐겁다 - 과 다가올 획기적인 발전을 다시 살펴볼 때일 것이다.

 

당신의 2029년과 2045년 예측은 변하지 않았군요 

 

나는 일관성을 유지했다. 그래서 2029년은 인간 수준의 지능과 인공 일반 지능(AGI)에 대한 것인데 인간 수준의 지능은 일반적으로 특정 영역에서 가장 숙련된 인간의 능력에 도달한 AI를 의미하며 2029년까지 대부분의 측면에서 이를 달성할 것이다. (2029년이 되어도 오스카상을 수상할 만한 시나리오를 쓰거나 깊이 있는 새로운 철학적 통찰을 생성하는 것과 같은 몇 가지 주요 기술에서 AI가 최고의 인간을 능가하지 못하는 분야가 나올 수 있지만 몇 년 후에는 달성할 것이다.) AGI는 모든 인간이 할 수 있는 모든 것을 할 수 있지만 더 우수한 수준의 AI를 의미한다. AGI는 더 어려워 보이지만, 동시에 올 것이다. 그리고 내 5년 후 추정치는 실제로 보수적이다: 일론 머스크는 최근 2년 안에 일어날 것이라고 말했다.

왜 우리가 당신의 날짜를 믿어야 할까요? 

 

나는 실제로 오늘날 우리가 보고 있는 엄청난 AI 관심을 예측한 유일한 사람이었다. 1999년에 사람들은 그것이 한 세기 이상 걸릴 것이라고 생각했다. 나는 30년이라고 말했고 지금 우리가 가진 것을 보라. 가장 중요한 요소인 컴퓨팅 파워 양의 기하급수적으로 증가하고 있다. 우리는 15개월마다 가격 대비 성능을 두 배로 늘리고 있다. LLM은 계산 능력의 증가로 인해 2년 전에야 작동하기 시작했다.

 

2029년에 당신이 예측하는 수준으로 AI를 끌어올리기 위해 현재 무엇이 부족한가요? 

 

하나는 더 많은 컴퓨팅 파워이다 - 그러나 해결될 것이다. 이는 맥락적 기억력, 상식적 추론, 사회적 상호작용의 개선을 가능하게 할 것인데, 이 모든 영역에서 여전히 결함이 남아있다. 그 다음으로 우리는 더 많은 질문에 답하기 위해 더 나은 알고리즘과 더 많은 데이터가 필요할 것이다. LLM의 환각hallucinations [무의미하거나 부정확한 출력을 만들어내는 경우]은 2029년까지는 확실히 훨씬 덜 문제가 될 것이다 - 이미 2년 전보다 훨씬 덜 발생하고 있다. 이 문제는 그들이 답을 가지고 있지 않고, 그것을 모르기 때문에 발생한다. 그들은 최선의 것을 찾지만, 그것이 틀리거나 적절하지 않을 수 있다. AI가 더 똑똑해짐에 따라, 자신의 지식을 더 정확하게 이해하고 모를 때 인간에게 더 정확하게 보고할 수 있을 것이다.

 

특이점이 정확히 무엇인가요? 

 

오늘날, 우리는 더 똑똑해지기 위해 넘어설 수 없는 하나의 뇌 크기를 가지고 있었다. 하지만 클라우드는 점점 더 똑똑해지고 있고 정말로 한계 없이 성장하고 있다. 물리학에서 빌려온 은유인 특이점은 우리가 우리의 뇌를 클라우드와 병합할 때 발생할 것이다. 우리는 우리의 자연 지능과 사이버네틱 지능의 조합이 될 것이고, 이 모든 것이 하나로 통합될 것이다. 이를 가능하게 하는 것은 궁극적으로 나노봇 - 분자 크기의 로봇 - 이 될 뇌-컴퓨터 인터페이스일 것이다. 이들은 모세혈관을 통해 비침습적으로 우리의 뇌로 들어갈 것이다. 우리는 2045년까지 지능을 백만 배로 확장할 것이고, 이는 우리의 인식과 의식을 깊게 할 것이다.

고급 AI 시스템의 실존적 위험 existential risk- 예상치 못한 능력을 얻어 인류에 심각한 해를 끼칠 수 있다는 것 - 에 대해서는 어떻게 생각하시나요? AI "대부" 제프리 힌튼은 작년에 부분적으로 이러한 우려 때문에 구글을 떠났고, 일론 머스크와 같은 다른 유명 기술 리더들도 경고를 했습니다. 이달 초, OpenAI와 Google DeepMind 직원들은 안전 문제를 제기하는 내부고발자들에 대한 더 큰 보호를 요구했습니다. 

 

책에는 이와 같은 위험에 대한 내용도 실려있다. 나는 최선의 방법을 찾기 위해 노력해 왔고 아실로마 AI 원칙 Asilomar AI Principles [2017년 책임 있는 AI 개발을 위한 법적 구속력 없는 지침 세트] 개발을 도왔다. 우리는 인공지능의 잠재력을 인식하고 AI가 하고 있는 일을 모니터링해야 할 것이다. 하지만 단순히 반대하는 것은 현명하지 않다. 모든 주요 회사들이 새로운 진전을 만들어내는 것보다 그들의 시스템이 안전하고 인간의 가치와 일치하도록 하는 데 더 많은 노력을 기울이고 있는데, 이는 긍정적이다.

 

 

컴퓨팅 파워에 물리적 한계가 있어서 제동을 걸지 않을까요? 

 

오늘날 우리가 가진 컴퓨팅은 기본적으로 완벽하다: 매년 더 나아질 것이고 그 영역에서 계속될 것이다. 우리는 칩을 계속 개선할 수 있는 많은 방법이 있다. 우리는 3차원 [3D 칩 만들기]을 사용하기 시작했을 뿐인데, 이는 우리를 수년 동안 이끌 것이다. 나는 우리가 양자 컴퓨팅이 필요할 것이라고 보지 않는다: 우리는 그 가치를 입증할 수 없었다.

 

당신은 AI가 인간과 구별할 수 없게 문자로 의사 소통할 수 있는 튜링 테스트가 2029년까지 통과될 것이라고 주장합니다. 하지만 이를 통과하려면 AI는 능력을 낮춰야 할 것입니다. 어떻게 그렇죠? 

 

인간은 그렇게 정확하지 않고 많은 것을 모른다! 오늘날 LLM에게 어떤 분야의 어떤 이론에 대해 매우 구체적으로 물어볼 수 있고, 그것은 매우 지적으로 대답할 것이다. 하지만 누가 그렇게 할 수 있을까? 만약 인간이 그렇게 대답한다면, 당신은 그것이 기계라는 것을 알 것이다. 그래서 그것이 능력을 낮추는 목적이다 - 왜냐하면 그 테스트는 인간을 모방하려고 하기 때문이다. 일부 사람들은 GPT-4가 튜링 테스트를 통과할 수 있다고 보고하고 있다. 나는 이 문제를 해결하는 데 몇 년 더 걸릴 것이라고 생각한다.

당신이 구상하는 미래의 기술을 모든 사람이 감당할 수 있을 것 같지는 않습니다. 기술적 불평등이 걱정되지 않나요? 

 

부유하다는 것은 이러한 기술들을 초기에 감당할 수 있게 해주지만, 그것들이 잘 작동하지 않는 시점이기도 할 것이다. [모바일] 전화기가 새로 나왔을 때, 그것들은 매우 비쌌고 또한 형편없는 성능을 보였다. 그것들은 매우 적은 정보에만 접근할 수 있었고 클라우드와 통신하지 않았다. 지금은 매우 저렴하고 극도로 유용하다. 전 세계 사람들의 약 4분의 3이 하나를 가지고 있다. 그래서 여기서도 같은 일이 일어날 것이다: 이 문제는 시간이 지나면 사라질 것이다.

 

이 책은 AI의 일자리 파괴 가능성을 자세히 살펴봅니다. 우리가 걱정해야 할까요? 

 

네, 그리고 아니오. 특정 유형의 일자리는 자동화될 것이고 사람들이 영향을 받을 것이다. 하지만 새로운 능력은 또한 새로운 일자리를 만들어낸다. "소셜 미디어 인플루언서"와 같은 직업은 10년 전만 해도 말이 되지 않았다. 오늘날 우리는 그 어느 때보다 많은 일자리를 가지고 있고, 미국의 근로 시간당 평균 개인 소득은 100년 전에 비해 오늘날의 달러로 환산하면 10배이다. 2030년대에 시작될 보편적 기본 소득은 일자리 혼란의 피해를 완화하는 데 도움이 될 것이다. 그 시점에서는 충분하지 않을 것이지만 시간이 지나면 그렇게 될 것이다.

 

일자리 손실을 넘어, AI가 세상을 변화시킬 것이라고 약속하는 다른 불안한 방식들이 있습니다: 허위 정보 확산, 편향된 알고리즘을 통한 해악 유발, 감시 능력 대폭 강화 등입니다. 당신은 이런 점들에 대해 많이 다루지 않았는데요... 

 

우리는 특정 유형의 문제들을 해결해야 할 것이다. 다가오는 선거가 있고 "딥페이크" 비디오가 걱정된다. 나는 우리가 실제로 [가짜를] 알아낼 수 있다고 생각하지만, 선거 직전에 일어난다면 시간이 없을 것이다. 편향성 문제에 대해서는, AI가 인간으로부터 배우고 있고 인간에게는 편향이 있다. 우리는 진전을 이루고 있지만 우리가 원하는 곳에 있지는 않다. AI에 의한 공정한 데이터 사용과 관련된 문제들도 있는데, 이는 법적 절차를 통해 해결되어야 할 것이다.

 

구글에서 무엇을 하시나요, 그리고 이 책이 출판 전 검토를 거쳤나요? 나는 LLM을 포함하여 그들의 제품을 개선하고 기술을 발전시킬 수 있는 다양한 방법에 대해 조언한다. 이 책은 개인 자격으로 쓰였다. 구글은 내가 이런 것들을 출판하는 것을 기쁘게 생각하고 검토는 없었다.

 

많은 사람들이 당신의 육체적, 디지털 불멸에 대한 예측을 의심스럽게 여길 것입니다. 당신은 2030년대에 우리 몸에 들어가 수리를 수행할 수 있는 의료 나노봇이 도착하여 우리가 무기한 생존할 수 있게 될 것이라고 예상하며, 2040년대에는 "사후" 기술이 등장하여 우리가 생물학적 죽음을 겪더라도 우리의 마음을 업로드하여 복원할 수 있게 - 심지어 설득력 있는 안드로이드에 넣을 수 있게 - 될 것이라고 합니다.

 

모든 것이 기하급수적으로 진행되고 있다: 컴퓨팅 파워뿐만 아니라 생물학에 대한 우리의 이해와 훨씬 더 작은 규모로 엔지니어링할 수 있는 능력도 그렇다. 2030년대 초반에 우리는 수명 탈출 속도에 도달할 것으로 예상할 수 있을 것이다. 이는 노화로 인해 잃는 생명의 매년을 과학적 진보로 인해 되찾게 되는 것이다. 그리고 그 이상으로 나아가면서 우리는 실제로 더 많은 년수를 되찾을 것이다. 이것이 영원히 살 수 있다는 확실한 보장은 아니다 - 여전히 사고는 있다 - 하지만 당신이 죽을 확률은 해마다 증가하지 않을 것이다. 떠난 인간을 디지털로 되살리는 능력은 몇 가지 흥미로운 사회적, 법적 질문을 제기할 것이다.

 

당신 자신의 불멸 계획은 무엇인가요? 

 

내 첫 번째 계획은 살아남는 것이다, 따라서 수명 탈출 속도에 도달하는 것이다. 나는 건강을 유지하기 위해 하루에 약 80알의 알약을 먹는다. 극저온 냉동은 대안이다. 나는 또한 나 자신의 복제품 [사후 AI 아바타]을 만들 계획인데, 이는 2020년대 후반에 우리 모두가 가질 수 있는 옵션이 될 것이라고 생각한다. 나는 아버지와 함께 그와 비슷한 일을 했었다, 그의 일생 동안 쓴 모든 것을 모아서, 그것은 약간 그와 대화하는 것 같았다. [내 복제품]은 더 많은 자료를 활용할 수 있어서 내 성격을 더 충실하게 표현할 수 있을 것이다.

 

미래를 가장 잘 준비하기 위해 우리는 지금 무엇을 해야 할까요? 

 

이것은 우리 대 AI의 대결이 아닐 것이다: AI는 우리 내부로 들어갈 것이다. 그것은 우리가 이전에는 실현 불가능했던 새로운 것들을 만들 수 있게 해줄 것이다. 꽤 환상적인 미래가 될 것이다.

 

---

 

커즈와일의 신작 The Singularity Is Nearer: When We Merge with AI은 7월 출간 예정이며 현재 예약 주문을 받고 있다.