OpenAI, 브로드컴과 AI칩 개발 논의

(TheInformation) 작년에, 세계 최고의 인공지능 개발자들이 점점 더 큰 컴퓨터 클러스터를 사용하여 그들의 작업 속도를 높이기 위해 경쟁하고 있을 때, OpenAI의 CEO 샘 알트만은 더 장기적인 게임을 하려고 했다. 그는 새로운 AI 칩을 개발하고 생산할 수 있으며, 이를 만들기 위한 칩 공장과 이를 수용할 데이터 센터를 설립하는 데 도움을 줄 수 있는 새로운 회사를 시작하기로 결정했다.

그의 계획은 그 이후로 수많은 변화를 겪었다. 하지만 그의 새로운 칩 구축 노력이 별도의 벤처가 아닌 OpenAI 내에서 시작하여 형태를 갖추고 있다는 징후들이 있다.

 

OpenAI는 구글의 AI 칩인 텐서 프로세싱 유닛을 생산하는 구글 부서의 전직 구성원들을 고용해 왔으며, AI 서버 칩을 개발하려고 노력해 왔다고 이 대화에 관여한 세 사람이 말했다. 이들에 따르면, OpenAI는 브로드컴을 포함한 칩 설계자들과 이 칩 작업에 대해 논의해 왔다.

이 팀은 최종 칩이 알트만이 구상한 새로운 벤처를 어떻게 도울 수 있을지에 대해 논의해 왔다고 한 사람이 말했다. 이 벤처는 OpenAI와 같은 AI 개발자들을 위한 컴퓨팅 파워를 증가시키는 것을 목표로 한다.

엔비디아가 만드는 것과 경쟁할 수 있는 새로운 서버 칩은 결실을 맺기까지 수년이 걸릴 장기적인 도전이다. 그리고 칩을 개발하려는 시도는 OpenAI의 가장 중요한 칩 공급업체인 엔비디아를 화나게 할 위험이 있다.

하지만 이는 또한 OpenAI에게 향후 엔비디아와의 가격 협상에서 잠재적인 영향력을 제공할 수 있다. OpenAI와 같은 고객들이 실행 가능한 대안이 없기 때문에, 엔비디아는 AI에 집중된 그래픽 처리 장치에서 전례 없는 이익 마진과 판매를 창출하고 있다.

알트만의 노력은 구글과 메타 플랫폼과 같은 현금이 풍부한 기술 회사들과의 경쟁에 대한 OpenAI의 우려를 반영한다. 이 회사들은 최고의 AI를 개발하기 위해 데이터 센터와 특수 서버에 막대한 투자를 하고 있다. 알트만은 오랫동안 이들을 이기고 "초지능"이라는 꿈을 달성하기 위해서는 OpenAI가 현재보다 몇 배나 더 많은 컴퓨팅 능력이 필요할 것이라고 말해왔다. 이런 종류의 AI는 예를 들어 인간이 화성을 개척하거나 핵융합 에너지를 개발하는 데 도움을 줄 수 있으며, 이는 현재 OpenAI의 대화형 AI가 할 수 있는 것과는 거리가 멀다.

 

새로운 유형의 칩을 개발하는 것은 알트만의 계획 중 일부에 불과했다. 2023년에 시작되어 올해까지 계속된 대화에서, 알트만은 TSMC의 한 고위 관리자에 따르면, 엔비디아의 칩을 만드는 TSMC와 같은 주요 칩 제조업체 및 공급업체의 임원들과 대화를 나누며 그들이 더 많은 엔비디아 칩을 만들거나 알트만이 제안한 새로운 AI 칩을 만들 수 있는 능력을 높일 수 있는지에 대해 논의했다.

 

엔비디아에 대한 도전?

그리고 알트만이 새로운 AI 칩을 만들 계획이 있는지, 그리고 어떻게 만들 것인지에 대한 의문이 있다. 이 대화에 관여한 사람들에 따르면, 구글에서도 TPU를 작업했던 리처드 호가 이끄는 OpenAI의 칩 중심 팀은 새로운 칩을 개발하는 데 도움을 줄 브로드컴과 같은 미국 회사를 선택할 가능성이 높다고 한다. 이 사람들은 브로드컴이 구글과 함께 TPU를 만들고 있으며 OpenAI 칩 팀과 대화를 나눴다고 말했다. 이 중 일부 사람들에 따르면, AIchip Technologies와 같은 브로드컴의 대만 경쟁사들도 OpenAI에 이런 종류의 서비스를 제안했다고 한다.

OpenAI 팀은 아직 칩 설계를 시작하지 않은 것으로 보이며, 빨라도 2026년까지는 생산되지 않을 것이라고 한 사람이 말했다. 이 팀은 칩의 성능을 극대화하기 위해 다양한 칩 패키징과 메모리 구성 요소를 고려하고 있다고 이 사람은 말했다.

알트만은 올해 초 삼성전자와 SK하이닉스와 같은 메모리 칩 제조업체들과 자신의 칩 계획에 대해 논의했다고 이 대화에 대해 알고 있는 두 사람이 말했다. 두 회사 모두 프로세서와 메모리 사이에 고속 연결을 제공하는 고대역폭 메모리 칩을 만들어, 칩이 AI 계산을 할 때 더 빠른 데이터 전송과 처리를 가능하게 한다.

이러한 메모리 칩들은 공급이 부족하여 엔비디아의 칩들에 문제를 야기하고 있다.

만약 OpenAI나 새로운 벤처가 새로운 AI 칩 설계를 진행한다면, 이는 엔비디아에 대한 도전으로 여겨질 수 있다. 이 칩 설계 회사는 OpenAI가 ChatGPT와 다른 제품들을 개발할 수 있도록 마이크로소프트에 수십만 개의 그래픽 처리 장치를 공급해 왔다.

 

그러나 엔비디아에게 고객이 자신들의 영역으로 진출하는 것은 익숙한 광경일 것이다. 예를 들어, 구글과 다른 대형 엔비디아 고객들처럼 마이크로소프트도 엔비디아 칩에 대한 의존도를 줄이려고 자체 AI 전용 서버 칩을 개발하고 있다. 하지만 OpenAI가 마이크로소프트 칩을 사용하려 한다는 징후는 없다. 알트만은 2월에 X에서 자사의 AI 개발을 위한 충분한 엔비디아 GPU가 없다고 한탄했다.

 

그 이후로 OpenAI는 마이크로소프트로부터 더 많은 엔비디아 기반 서버에 접근할 수 있게 되었다. 그리고 2025년 중반까지 오라클과 마이크로소프트는 OpenAI에 세계에서 가장 강력한 엔비디아 서버 클러스터 중 하나를 제공할 예정인데, 이는 연간 약 25억 달러의 임대 비용이 들 것이다.

 

하지만 이는 알트만에게 충분한 컴퓨팅 능력이 아니다. 이미 마이크로소프트와 OpenAI는 최대 1,000억 달러의 비용이 들 수 있는 미래의 데이터 센터에 대해 논의했는데, 이는 OpenAI 내에서 "스타게이트"로 알려져 있다. 이 시설과 서버 클러스터의 예상 규모는 에너지 돌파구가 필요하거나 아니면 전력 부족에 직면할 가능성이 있음을 의미한다. 스타게이트 논의가 알트만의 별도의 AI 데이터 센터 대화의 일부가 되었는지는 명확하지 않다.