100년안에 인류는 AI로 인해 멸종한다

AI 연구원 로만 얌폴스키(Roman Yampolskiy)는 지난 일요일 공개된 렉스 프리드먼과의 인터뷰에서 향후 100년 내에 99.9%의 확률로 AI가 인간을 멸망시킬 것이라고 말했다.

 

 

 

로만 얌폴스키(Roman Yampolskiy)는 루이빌 대학교에서 컴퓨터 과학을 가르치며 “AI: 설명 불가, 예측 불가, 통제 불가”라는 책을 최근 출간했다.

 

 

그는 프리드먼의 팟캐스트에서 2시간 넘게 AI의 위험성에 대해 논의했는데, 그의 예측은 상당히 암울했다.

 

그는 AI가 인류를 멸망시킬 가능성은 인간이 향후 100년 내에 버그가 전혀 없는 매우 복잡한 소프트웨어를 만들 수 있는지 여부에 달려 있다고 말했습니다. 얌폴스키는 사람들이 AI에게 원래 의도한 대로 작동하지 않게 만드는 시도를 한 적이 없었던 AI 모델은 아직 없기 때문에 이것이 가능하지 않다고 생각한다고 말했습다.

 

“그들은 이미 실수를 저질렀다.“라고 얌폴스키는 말했다. “우리는 사고를 겪었고, 그들은 탈옥되었습니다. 오늘날 개발자가 의도하지 않은 일을 성공적으로 하지 않은 대형 언어 모델은 단 하나도 없다고 생각한다.”

 

지난 2년간의 AI 모델의 초기 버전들은 잠재적 오용 또는 허위 정보의 다양한 경고 신호를 제기했다. 딥페이크는 여성 공인의 가짜 포르노 이미지를 생성하고, 대통령 바이든을 흉내 내는 AI 로보콜로 선거에 영향을 미치려고 위협한 사례가 있다.

 

구글의 Gemini AI 모델을 기반으로 한 Google AI 오버뷰는 최근 출시된 제품으로, 검색 결과 상단에 특정 문의에 대한 신속한 정보 개요를 제공하기 위한 것이었지만, 피자에 접착제를 사용하거나 아프리카에 K로 시작하는 국가가 없다는 등 터무니없는 답변을 내놓아 화제가 되었다.

 

얌폴스키는 AI를 통제하기 위해서는 영구적인 안전 장치가 필요하다고 말했는데, 최근 오픈AI의 경영자인 알트먼 또한 AI와 관련된 “모든 SF적인 것들,” 즉 “정말 잘못될 수 있는 상황을 쉽게 상상할 수 있는 것들”이 자신을 밤잠 못 이루게 한다고 말했다.

 

ChatGPT가 2022년 11월에 세계를 강타한 이후, AI가 인류의 몰락을 초래할 수 있다는 다양한 예측이 제기되었다.

 

그러나 얌폴스키는 “더 똑똑한 시스템이 무엇을 할지 예측할 수 없다”고 경고했다. 그는 인간과 인공지능 일반화(AGI)를 다람쥐와 비교하며, AI가 우리가 아직 존재조차 모르는 무언가를 생각해낼 것이라고 말했다.

 

얌폴스키에 따르면, 세 가지 결과 영역이 있다. 하나는 모두가 죽는 위험, 또 다른 하나는 모두가 고통받고 차라리 죽기를 바라는 상황, 그리고 마지막은 인간이 완전히 목적을 잃는 것이다.

 

마지막 경우는 AI 시스템이 인간보다 더 창의적이고 모든 일을 수행할 수 있는 세상을 말한다. 그 현실에서 인간이 무엇을 하여 기여할 수 있을지는 불명확하다고 얌폴스키는 말하며, AI가 인간의 일자리를 빼앗기 시작할지에 대한 일부 우려를 반영했다.

 

대부분의 전문가들은 AI와 관련된 일정 수준의 위험을 인정하지만, 상황이 나쁘게 끝날 가능성은 낮다고 생각한다. 일론 머스크는 AI가 인류를 파괴할 가능성을 10-20%로 예측했다.

 

구글 전 CEO 에릭 슈미트는 사이버 및 생물학적 공격과 같은 AI의 진정한 위험이 3-5년 내에 올 것이라고 말했다. AI가 자유 의지를 갖게 되면, 슈미트는 간단한 해결책을 제시했다: 인간이 AI의 플러그를 뽑으면 된다는 것이다.

 

---

 

AI의 위험이 이토록 이야기되는 이유는 현재의 AI가 어떻게 동작하는지 아무도 모르며, 또 그렇기 때문에 앞으로 어떻게 발전할지도 인류가 예측하지 못하기 때문이다.

 

인류 멸종의 가능성을 원천적으로 차단하기 위해 AI 개발을 전면 중단할 수도 없는 노릇이고, 결국 인류는 기술의 힘으로 이 또한 이겨낼 것이라고 믿는 것도 너무나 순진한 생각일 수 있다.

 

과거 인류 멸종 시나리오가 식량 고갈이나 운석 충돌 등 우리가 통제하지 못하는 것에서 발생하는 것이라면 이제는 핵전쟁과 저출산 그리고 AI까지 인류 스스로의 선택에 따라 존속할지 멸종할지를 결정하는 시대가 되었다.