Apple Private Cloud
애플은 월요일에 열린 세계 개발자 회의에서 처음으로 인공지능을 활용하여 제품 라인업을 강화하려는 비전을 공개했습니다. 주요 기능은 거의 모든 제품 라인에서 실행될 애플 인텔리전스(Apple Intelligence)로, 민감한 데이터를 안전하게 유지하면서 개인화된 AI 서비스를 제공하는 기능입니다.
이것은 AI가 우리의 개인 데이터를 활용하여 작업을 수행하는 방식을 크게 발전시키는 애플의 가장 큰 도약을 나타냅니다. 프라이버시를 희생하지 않고 이를 수행할 수 있다는 것을 증명하기 위해, 애플은 클라우드에서 민감한 데이터를 처리하는 새로운 방법을 구축했다고 말합니다.
애플은 프라이버시 중심 시스템이 먼저 기기 자체에서 AI 작업을 수행하려 시도할 것이라고 말합니다. 클라우드 서비스와 데이터가 교환될 경우, 데이터는 암호화된 후 삭제될 것입니다. 이 과정을 프라이빗 클라우드 컴퓨트(Private Cloud Compute)라고 부르며, 독립 보안 연구자들에 의해 검증될 것이라고 합니다.
이 제안은 엄청난 양의 개인 데이터를 수집하고 저장하는 알파벳, 아마존, 메타와 같은 기업들과의 암묵적인 대조를 제공합니다. 애플은 클라우드로 전달되는 개인 데이터가 요청이 완료된 후에는 AI 작업을 위해서만 사용되며, 디버깅이나 품질 관리를 위해서도 회사가 이를 유지하거나 접근할 수 없다고 말합니다.
간단히 말해, 애플은 사람들이 우리의 삶의 친밀한 세부 사항을 포함한 사진, 메시지 및 이메일과 같은 데이터를 분석하고, 데이터를 온라인에 저장하거나 취약하게 만들지 않으면서 자동화된 서비스를 제공할 수 있다고 말하고 있습니다.
iOS의 향후 버전에서 이것이 어떻게 작동할지 몇 가지 예를 보여주었습니다. 예를 들어 친구가 보낸 팟캐스트를 찾기 위해 메시지를 스크롤하는 대신, 시리에게 찾아서 재생해달라고 요청할 수 있습니다. 소프트웨어 엔지니어링 부사장 크레이그 페더리기는 또 다른 시나리오를 설명했습니다: 이메일로 회의 일정이 변경되었지만, 그의 딸이 그날 밤 연극에 출연합니다. 그의 휴대폰은 이제 공연 정보가 담긴 PDF를 찾아 현지 교통 상황을 예측하고 그가 제시간에 도착할 수 있는지 알려줄 수 있습니다. 이러한 기능은 애플이 만든 앱을 넘어 개발자가 애플의 AI를 활용할 수 있도록 확장될 것입니다.
회사가 광고보다 하드웨어와 서비스로 더 많은 수익을 올리기 때문에 애플은 다른 회사보다 개인 온라인 데이터를 수집할 동기가 적어 아이폰을 가장 개인적인 장치로 위치시킬 수 있습니다. 그럼에도 불구하고 애플은 이전에 프라이버시 옹호자들의 비난을 받은 적이 있습니다. 보안 결함으로 인해 2014년 iCloud에서 노골적인 사진이 유출되었고, 2019년에는 시리 녹음을 품질 관리 목적으로 청취하는 계약직 직원들이 발견되었습니다. 법 집행기관의 데이터 요청을 처리하는 방식에 대한 논쟁도 계속되고 있습니다.
애플에 따르면 프라이버시 침해에 대한 첫 번째 방어선은 가능한 한 AI 작업에 클라우드 컴퓨팅을 피하는 것입니다. “개인 지능 시스템의 초석은 기기 내 처리입니다.“라고 페더리기는 말합니다. 이는 많은 AI 모델이 클라우드가 아닌 아이폰과 맥에서 실행됨을 의미합니다. “개인 데이터를 수집하지 않고 개인 데이터를 인식합니다.”
이는 몇 가지 기술적 장애물을 제시합니다. AI 붐이 시작된 지 2년이 지난 지금, 간단한 작업을 위해서도 모델을 호출하는 데 엄청난 양의 컴퓨팅 파워가 필요합니다. 전화와 노트북에서 사용되는 칩으로 이를 달성하는 것은 어렵기 때문에 구글의 가장 작은 AI 모델만이 휴대폰에서 실행될 수 있으며 나머지는 모두 클라우드를 통해 처리됩니다. 애플은 2020년부터 출시된 M1 칩으로 이어지는 칩 설계 연구를 통해 기기 내 AI 계산을 처리할 수 있다고 말합니다.
그러나 애플의 가장 진보된 칩조차도 회사가 AI로 수행할 것을 약속한 전체 작업을 처리할 수 없습니다. 시리에게 복잡한 작업을 요청하면, 그 요청과 함께 데이터를 애플 서버에서만 사용할 수 있는 모델로 전달해야 할 수도 있습니다. 이 단계는 보안 전문가들에 따르면 외부 악의적인 행위자들에게 또는 최소한 애플 자체에 정보를 노출할 수 있는 여러 취약점을 도입할 수 있습니다.
“데이터가 기기를 떠나는 순간 훨씬 더 취약해진다는 점을 항상 경고합니다.“라고 NYU 로스쿨 정보법 연구소의 레지던트 실무자이자 감시 기술 감독 프로젝트의 전무 이사인 알버트 폭스 칸은 말합니다.
애플은 새로운 프라이빗 클라우드 컴퓨트 시스템으로 이 위험을 완화했다고 주장합니다. “사상 처음으로, 프라이빗 클라우드 컴퓨트는 애플 장치의 업계 최고의 보안 및 프라이버시를 클라우드로 확장합니다.“라고 애플 보안 전문가들은 발표에서 썼으며, 개인 데이터는 “사용자 외에는 누구도 접근할 수 없습니다. 애플조차도 접근할 수 없습니다.“라고 말했습니다. 어떻게 작동할까요?
역사적으로 애플은 민감한 iCloud 데이터를 보호하기 위해 사람들에게 종단 간 암호화(메신저 앱인 Signal에서도 사용되는 동일한 유형의 기술)를 선택하도록 권장했습니다. 그러나 이는 AI에는 적용되지 않습니다. 메시징 앱과 달리, WhatsApp과 같은 회사는 메시지를 친구에게 전달하기 위해 메시지 내용을 볼 필요가 없지만, 애플의 AI 모델은 응답을 생성하기 위해 기본 데이터에 대한 암호화되지 않은 접근이 필요합니다. 이 지점에서 애플의 프라이버시 프로세스가 작동합니다. 첫째, 데이터는 현재 작업을 위해서만 사용됩니다. 둘째, 이 과정은 독립 연구자들에 의해 검증될 것입니다.
물론 이 시스템의 구조는 복잡하지만 이를 암호화 프로토콜로 상상할 수 있습니다. 휴대폰이 더 큰 AI 모델의 도움이 필요하다고 판단하면, 프롬프트와 특정 모델을 포함하는 요청을 패키지로 묶고 그 요청에 잠금을 걸 것입니다. 사용될 특정 AI 모델만이 올바른 키를 가지고 있을 것입니다.
MIT 테크놀로지 리뷰가 클라우드 기반 AI 모델로 요청이 전송될 때 사용자에게 알림이 있는지 질문했을 때, 애플 대변인은 사용자에게 투명성을 제공할 것이라고 말했지만 더 이상의 세부 사항은 제공하지 않았습니다.
UC 버클리 책임 있는 분산 인공지능 센터의 공동 디렉터이자 프라이빗 컴퓨팅 전문가인 돈 송은 애플의 새로운 개발이 고무적이라고 말합니다. “그들이 발표한 목표 목록은 잘 생각된 것입니다.“라고 그녀는 말합니다. “물론 그 목표를 달성하는 데에는 몇 가지 도전 과제가 있을 것입니다.”
칸은 애플이 지금까지 공개한 내용을 기준으로 판단하면, 이 시스템이 현재 존재하는 다른 AI 제품들보다 프라이버시를 더 잘 보호하는 것 같다고 말합니다. 그러나 그의 분야에서 흔히 하는 말은 “믿지만 검증하라”입니다. 다시 말해, 애플이 약속한 대로 독립 연구자들이 검증할 수 있을 때까지 이 시스템이 우리의 데이터를 얼마나 안전하게 보호하는지 알 수 없다는 것입니다.
“연구자들이 검토할 수 있도록 자신을 개방하는 것은 훌륭한 단계입니다.“라고 그는 말합니다. “그러나 연구자들이 당신이 듣기 싫어하는 것을 말할 때 어떻게 반응할 것인지가 중요합니다.” 애플은 연구자들의 피드백을 어떻게 평가할 것인지에 대한 MIT 테크놀로지 리뷰의 질문에 응답하지 않았습니다.
프라이버시와 AI의 균형
애플은 AI 모델이 지루한 작업을 자동화할 수 있다면 많은 사람들이 개인 데이터를 거의 제한 없이 제공할 것이라고 기대하는 유일한 회사가 아닙니다. OpenAI의 샘 알트만은 MIT 테크놀로지 리뷰에 자신의 꿈의 AI 도구를 “내 삶에 대한 모든 것을 알고 있는 도구, 모든 이메일, 모든 대화를 알고 있는 도구”라고 설명했습니다. 구글은 5월 개발자 회의에서 일상 생활에 도움이 되는 “범용 AI 에이전트”를 구축하는 야심찬 프로젝트인 프로젝트 아스트라(Project Astra)를 발표했습니다.
이것은 많은 사람들이 처음으로 AI 모델이 우리의 데이터와 장치와 상호작용하는 데 어떤 역할을 하기를 원하는지 고려하게 만들 것입니다. ChatGPT가 처음 등장했을 때, 우리는 그저 생일 카드나 시를 작성해주는 텍스트 생성기였기 때문에 그런 질문을 할 필요가 없었습니다.
이제 불과 2년이 채 지나지 않아, 빅 테크 기업들은 이러한 시스템의 안전성을 신뢰하여 우리가 개인 정보를 제공할 것이라는 수십억 달러의 베팅을 하고 있습니다. 우리가 그 결정을 내릴 만큼 충분히 알고 있는지, 또는 원할 경우 선택을 거부할 수 있는지 여부는 아직 명확하지 않습니다. “AI 군비 경쟁이 우리의 데이터를 점점 더 다른 사람들의 손에 넘기게 할까봐 걱정됩니다,“라고 칸은 말합니다.
애플은 곧 애플 인텔리전스 기능의 베타 버전을 출시할 예정이며, 올 가을 아이폰 15와 새로운 macOS Sequoia부터 시작됩니다. macOS Sequoia는 M1 칩 또는 그 이상의 칩을 장착한 맥과 아이패드에서 실행될 수 있습니다. 애플 CEO 팀 쿡은 “애플 인텔리전스가 필수불가결할 것이라고 생각합니다.“라고 말했습니다.
Says Apple CEO Tim Cook, “We think Apple intelligence is going to be indispensable.”
Apple is promising personalized AI in a private cloud. Here’s how that will work.
Apple’s first big salvo in the AI wars makes a bet that people will care about data privacy when automating tasks.
www.technologyreview.com