To Deploy Generative AI Successfully, Look to Earlier Automations
The most experienced firms are widening their lead in cost savings and productivity.
At a Glance
• 기술 회사들 중 자동화에 가장 많이 투자하는 기업들이 비용 절감과 새로운 파괴적 기술 채택에서 다른 기업들을 능가하고 있다.
• 리더와 후발 주자 간의 격차는 리더들이 IT 예산에서 자동화 투자를 늘리면서 점점 더 벌어지고 있다.
• 리더들은 후발 주자들보다 생성 AI에 평균 3배 이상을 투자할 계획이다.
• 성공적인 자동화 프로그램은 전사적 롤아웃, 결합된 기술, 가치 창출, 그리고 직원들의 적극적인 참여를 포함하고 있다.
엔비디아는 오랜 기간 동안 자동화와 인공지능(AI)을 엔지니어링 작업에 성공적으로 확장해 온 역사를 가지고 있으며, 지난해 자사의 칩 설계자들의 생산성을 높이기 위해 생성 AI를 테스트한 최초의 회사 중 하나라고 발표했을 때 큰 놀라움은 없었다. 엔비디아가 ‘ChipNeMo’라고 부르는 이 프로그램은 공개적으로 이용 가능한 대형 언어 모델(LLMs)을 활용해 엔비디아의 30년간의 데이터를 학습시키고 일부 세부 조정을 거친다. 이 도구는 챗봇, 전자 설계 자동화 도구 스크립트 작성기, 버그 리포트 요약기 등의 역할을 수행한다.
엔비디아와 마찬가지로, 전통적인 형태의 자동화(예: 로봇 프로세스 자동화(RPA)와 분석 AI) 프로그램을 개발하고 확장한 오랜 경험을 가진 기술 회사들은 이제 이러한 경험을 바탕으로 생성 AI에서 초기에 유리한 위치를 선점하고 있다. 전통적인 자동화와 마찬가지로, 진정한 성공은 파일럿 프로그램이 대규모 프로그램으로 전환되어 기업 전반에 걸쳐 투자 대비 높은 수익을 제공할 때 이루어진다.
Bain의 최근 조사에 따르면, 전 세계 893명의 자동화 임원들 중 124명의 기술 회사 임원을 포함한 조사를 통해, 자동화에 가장 많은 투자를 하는 기업들이 절감된 비용과 새로운, 더 혁신적인 기술 채택에서 후발 주자들보다 더 큰 성과를 거두고 있다는 사실이 밝혀졌다. (여기서 리더란, 지난 2년간 IT 예산의 최소 20%를 자동화에 투자한 회사를 의미하며, 이 그룹은 평균 22%의 비용 절감을 달성했다. 반면, 후발 주자들은 IT 예산의 5% 미만을 자동화에 투자했으며, 이들은 평균적으로 8% 미만의 절감 성과를 거두었다.)
2023년 기술 기업에서 자동화 리더들은 프로세스 비용을 17% 절감한 반면, 후발 주자들은 8% 절감하는 데 그쳤다. 응답자들은 또한 저부가가치 작업을 줄이고, 프로세스 완료 시간을 단축하며, 서비스 품질과 정확성을 향상시킨 이점도 언급했다.
예를 들어, 마이크로소프트는 금융 부문에서 오랜 기간 자동화를 적용해왔다. 2010년부터 2020년까지 마이크로소프트는 수익을 145% 증가시키는 동안 금융 인력은 15%만 증가시켰다. 또한, AI는 마이크로소프트의 금융 예측을 더 빠르고 정확하게 만들어 주었는데, 과거에는 100명의 전임 인력이 한 달을 소비하던 예측 작업을 이제는 2명의 전임 인력이 이틀 만에 처리한다.
이제 리더들은 빠르게 생성 AI 구현으로 이동하고 있으며, 후발 주자들보다 IT 예산에서 생성 AI에 3배 이상 많은 투자를 할 계획을 세우고 있다.
More than cost reductions
자동화의 지속적인 물결은 상당한 가치를 창출하고 있다. 예를 들어, AT&T는 2015년에 RPA(로봇 프로세스 자동화)를 도입해 이 기술의 가장 초기 사용자 중 하나가 되었으며, 여러 해 동안 AI를 운영 전반에 걸쳐 적용해왔다. AI는 AT&T가 현장 기술자들의 경로를 최적화해 연료 소비를 줄이고 더 많은 고객에게 서비스를 제공할 수 있게 하고, 문서를 번역하고 단순화하며, 코더와 개발자의 생산성을 향상시키는 데 도움을 준다.
전통적인 자동화 방식, 즉 워크플로 자동화, RPA, 스크립팅, 광학 문자 인식(OCR) 등을 성공적으로 확대한 기업들은 이미 LLM(대형 언어 모델) 외부에서도 AI를 적용하고 있다. 예를 들어, 문서 처리에서의 머신 러닝이나 직무 설명에서의 자연어 처리 등이 그 예시이다.
게다가 기술 회사들에서 리더와 후발 주자 간의 격차는 더욱 벌어졌으며, 이는 앞으로도 계속될 가능성이 크다. 리더들은 IT 예산에서 차지하는 투자 비율을 더욱 높일 계획을 세우고 있는 반면, 후발 주자들은 더 보수적인 접근을 계획하고 있다. 우리의 조사에 따르면, 2022년에는 리더 중 21%가 투자를 크게 늘릴 계획이었으나, 2024년에는 33%로 증가할 예정이고, 후발 주자는 2022년에 19%였던 것이 2024년에는 13%로 줄어들 예정이다.
생성형 AI는 자동화를 새로운 수준의 효과와 가치로 이끌 것이다. 대부분의 응답자는 세 가지 단계의 사용 사례를 위해 생성형 AI를 현재 사용하고 있거나 사용할 계획이다(그림 4 참조). 첫 번째 단계에서는 새로운 마케팅 콘텐츠를 생성하는 등 과거에는 불가능했던 사용 사례에 이 기술을 적용하고 있다. 두 번째 단계에서는 주문 처리 등 현재 사용 중인 기술을 대체할 계획이다. 세 번째 단계는 미지급 및 미수금과 같은 현재 사용 사례를 개선하는 것이다. 이러한 논리는 이미 리소스를 투자하고 통합을 구축하며 직원들을 훈련시킨 사용 사례를 처음부터 다시 시작하기보다는 생성형 AI를 새로운 영역에 적용하려는 데 있다.
Automation principles that apply to generative AI
생성형 AI를 빠르게 활용하려면 다음 원칙을 숙달한 기업들이 유리한 위치에 서게 될 것이다.
Elevate automation from narrow pilots to cross-company strategic initiatives. 자동화를 좁은 시범 프로젝트에서 벗어나 기업 전반의 전략적 이니셔티브로 확대한다.
일반적인 함정은 개별 부서에서 소규모 자동화 프로젝트를 여러 개 크라우드소싱한 후 이를 하나씩 실행하려고 하는 것이다. 이로 인해 주요한 비용 절감이나 다른 혜택을 얻기 어렵다. 자동화 선도 기업들은 과감한 목표를 설정하고, 이를 수백만 달러의 잠재적 가치를 달성할 수 있는 목표로 제시한다. 이들은 최고 경영진의 후원을 얻고, 자동화를 전체 전략 의제의 중요한 축으로 자리 잡게 한다.
Combine automation technologies. 자동화 기술을 결합한다.
개별 작업이 다른 기술로 자동화되면 큰 가치를 얻기 어렵고, 오히려 자동화가 제공하는 비용 절감보다 더 많은 프로세스 복잡성을 야기할 수 있다. 자동화 선도 기업들은 비즈니스 요구와 프로세스를 먼저 고려하고, 그에 따라 적절한 기술 조합을 결정한다.
Insist on realizing value from automation. 자동화로부터 가치를 실현하도록 요구한다.
소프트웨어와 구현 리소스에 투자하기 전에, 고위 경영진은 투자 요청자에게 절감 효과와 그 외 이점을 실현할 계획과 함께 그 가치를 달성할 것이라는 약속을 요구한다. 자동화가 배치된 후에는 비즈니스 프로세스를 재설계하고, 팀이 주장한 가치를 어떻게 실현했는지 증거를 확인하려 한다.
Coax and convince to reach full adoption. 전체 채택을 이끌어내기 위해 직원들을 설득하고 납득시킨다.
직원들이 새로운 방식으로 일하는 것을 관리하는 것은 자동화 프로그램의 성공 여부를 좌우할 수 있다. 자동화 도구의 최대 채택을 위해서는 새로운 작업 방식을 문서화하고 교육하며, 교육에 투자하고, 채택률을 추적하고, 사람들이 기술을 활용하는 방식을 지속적으로 개선하는 데 노력해야 한다.
자동화의 수준과 성숙도는 기업마다 크게 다르다. 그러나 뒤처진 기업들도 투자를 늘리고, 사람들이 일하는 방식을 변화시키기 위한 지속적인 노력을 기울인다면 따라잡을 수 있다. 다행히도 전통적인 자동화 기술에서 배운 교훈은 생성형 AI와 같은 신기술의 효과적인 배포에도 도움을 줄 수 있다. 기술 적용, 거버넌스 문제, 프로세스 변경 등은 모두 유사하므로, 생성형 AI를 활용하면 비용을 효율적으로 관리하고 고객 경험을 개선하는 신선한 접근 방식을 제시할 수 있다.
Beyond Code Generation: More Efficient Software Development
Generative AI saves time, but meaningful improvements require a broader agenda.
At a Glance
• 생성형 AI의 도입은 소프트웨어 개발 조직에 더 큰 효율성을 입증해야 한다는 압박을 가하고 있다.
• 실제로, 생성형 AI는 소프트웨어 엔지니어링 총 시간의 약 10%에서 15%를 절약하는 것으로 보이지만, 많은 기업들이 그 절감된 시간을 수익성 있게 활용하지 못하고 있다.
• 30% 이상의 개선도 가능하지만, 이를 위해서는 생성형 AI의 잠재력을 최대한 활용하고 더 광범위한 계획이 필요하다.
생성형 AI 코딩 보조 도구의 도입은 소프트웨어 개발의 효율성을 향상시킬 것이라는 기대를 높였다. 실제로, 이러한 도구를 사용하는 엔지니어링 조직들은 평균적으로 약 10%에서 15%의 효율성 향상을 보고하고 있다(그림 1 참조). 그러나 많은 경우, 기업들은 절약된 시간과 자원을 생산적인 용도로 재배치하지 못해 이러한 성과를 수익화하지 못하고 있다.
그러나 더 많은 것이 가능하다. 보다 포괄적인 접근 방식을 취하는 조직들은 30% 이상의 효율성 향상을 볼 수 있다. 이러한 추가적인 성과는 생성형 AI 코드를 생성하는 것에 그치지 않고, 생성형 AI를 다른 작업에도 활용하며, 적절한 기준과 지표를 설정하는 등 효율성 향상을 위한 보다 포괄적인 접근 방식을 취한 결과로 나타난다.
Real efficiency gains
개발자들은 코드를 작성하고 테스트하는 데 약 절반의 시간을 소비하며, 이 활동들에서 생성형 AI로 인해 30%의 개선을 보고하고 있지만, 이는 개발자 전체 시간에서 순 효율성 개선이 15%에 불과하다. 보다 포괄적인 효율성 접근 방식은 생성형 AI 지원 코드 생성 및 테스트에만 그치지 않고, 세 가지 차원을 포괄적으로 살펴보는 것이다. 즉, 올바른 작업에 집중하고, 신속하고 높은 품질의 실행을 보장하며(여기에는 생성형 AI의 최대 잠재력을 활용하는 것이 포함됨), 자원 비용을 최적화하는 것이 중요하다.
Focus on the right work
효율성을 개선하는 가장 빠른 방법은 가장 높은 가치를 창출하는 작업에 노력을 재집중하는 것으로, 몇 가지 행동 세트에 집중하는 것이다:
- 제품 및 시장 전반에 걸쳐 전략과 투자를 일치시킨다. 엔지니어링 시간의 할당이 회사의 전략과 일치하는가? 고객과 시장 인사이트를 바탕으로 전략과 로드맵이 결정되는가?
- 제품별 비용 대 수익 비율을 평가한다. 오래된 제품이 새로운 개발의 자원을 빼앗고 있는가? 비용을 절감하기 위해 지원을 외주화해야 하는가?
- 신규 개발, 제품 개선, 유지보수, 기술 부채, 품질 간의 자원 할당을 균형 있게 조정한다. 기술 부채 문제를 해결하는 데 너무 적은 자원을 투입하면 결국 개발 속도가 느려질 수 있다.
- 제품 전략을 일상적인 개발자 우선 순위와 연결한다. 명확한 우선 순위가 없으면 개발자는 자신이 가장 중요한 문제라고 생각하는 것을 처리하게 되는데, 이는 반드시 전략적 목표와 일치하지 않을 수 있다.
실제로 시간이 어떻게 사용되는지에 대한 가시성을 높이면 리더십의 목표와 자원 할당의 현실 간에 불일치가 드러나는 경우가 많다.
Ensure speedy, high-quality execution
빠르고 높은 품질로 실행하는 데는 여러 가지 측면이 있다. 오늘날에는 생성형 AI가 주목받고 있지만, 지속적 전달(Continuous Delivery)과 현대적 아키텍처와 같은 기본적인 요소들이 효율성을 높이는 데 더 효과적인 방법이 될 수 있다. (도표 3 참조)
Deploy full potential generative AI. 최대의 잠재력을 지닌 생성형 AI를 배포하라. 생성형 AI 도입에서 리더들은 최적의 배포를 통해 최대 30%의 효율성을 달성할 수 있다. 소비자 및 소기업을 위한 금융 기술 플랫폼인 Intuit는 "임시 테스트"에서 규모 있는 개발로 전환하기 위한 좋은 예를 제공한다. Intuit는 두 가지 주제를 중심으로 효율성과 생산성을 향상시키고자 했다. 첫째, 1억 명의 고객에게 신제품과 솔루션을 빠르게 대규모로 제공하기 위해 개발 속도를 높이고자 했다. 둘째, 현대적 개발 플랫폼에서 생성형 AI의 고유한 이점을 최대한 활용하여 소프트웨어 개발 생애 주기의 중요한 작업을 앞으로 가져오는 "시프트 레프트"를 통해 개발 전 과정을 간소화하고자 했다. 30개 이상의 다양한 사례를 테스트하고 확장한 주요 결과는 다음과 같다:
• Beyond code generation. 코드 생성 이상. Intuit는 자체 생성형 AI 운영 시스템(GenOS)을 사용하여 개발자 지원 문서, 로그 및 기타 기록을 분석하고 개발자들이 과거에 공통 문제를 어떻게 해결했는지 파악하여 이를 추출해 개발 속도를 높였다. 이 회사는 개발 팀의 일상 작업을 지원하는 환경(통합 개발 환경, 개발 포털, Slack 등)에 솔루션을 제공하는 도구를 만들어 효율성을 높였다.
• Accelerating with context. 컨텍스트를 활용한 가속화. Intuit의 초기 생성형 AI 기반 코드 생성 도구는 10%에서 15%까지 속도를 높였으나, Intuit의 코드 컨텍스트 패턴(리포지토리, 구성 요소 라이브러리 등)을 활용하여 통합 작업 완료 시간을 2배에서 3배로 단축했다.
• Improving the end-to-end development process. 전체 개발 프로세스 개선. Intuit는 생성형 AI 도구를 사용하여 다양한 사용자 그룹(소프트웨어 개발자, 디자이너, 데이터 엔지니어 및 분석가, 기술 프로그램 관리자 등)을 위한 코드와 문서의 표준화를 개선했다.
Plan for continuous integration and delivery 지속적인 통합 및 배포 계획. 개발 팀이 새로운 코드를 배포하기 전에 라이브 제품에 문제가 없거나 보안 위험을 유발하지 않도록 해야 한다. 수동 테스트는 시간이 많이 소요되며, 라이브 환경에 배포하는 것은 위험할 수 있다. 가상 제품 환경에서 테스트를 자동화하는 것이 새로운 코드의 타당성을 확인하는 더 효율적이고 안전한 방법이다.
새로운 코드의 지속적인 통합 및 배포는 효율성을 높인다. 개발자가 각 배포의 영향을 평가할 수 있어 위험 관리가 더 효율적이며, 보안 위협이 발견될 때 즉시 대응할 수 있어 잠재적 피해를 줄일 수 있다. 고객들은 발견된 문제에 대한 빠른 대응과 지속적인 제품 개선을 높이 평가한다.
Maintain a modern architecture. 현대적인 아키텍처 유지. 모듈형 아키텍처는 전체를 새로 만들지 않고도 팀이 제품을 적응하고 개선할 수 있도록 한다. 모듈 설계에 지속적으로 투자하면 기술 발전을 따라가지 못해 나중에 경쟁 우위를 되찾기 위해 큰 투자를 해야 하는 기술 부채에 빠지지 않도록 방지할 수 있다.
Optimize resource costs
속도가 유사하고 품질이 동일한 두 소프트웨어 개발 조직이라도, 각 조직의 모델과 인재 구조에 따라 비용 프로필이 크게 다를 수 있다. 지리적 배치, 아웃소싱 수준, 시니어 엔지니어와 다른 팀 구성원의 비율, 그리고 다양한 기능의 역할 등이 비용을 결정하는 데 기여한다. 예를 들어, 시니어 엔지니어가 과도하게 많은 인력 구성은 비용이 높고 새로운 방식을 채택하는 속도가 느릴 수 있다. 반면에 주니어 엔지니어가 너무 많은 경우 기술적 깊이가 부족하여 비용 절감에도 불구하고 오히려 더 높은 비용이 발생할 수 있다.
How to measure impact
많은 기업이 기본적인 효율성을 이해하고, 생성형 AI와 같은 새로운 이니셔티브에서 얻으려는 개선 효과를 측정하는 데 어려움을 겪고 있다. 설문에 응답한 리더 중 약 3분의 2는 자신들이 얻고 있는 통찰력에 만족하지 못하고 있으며, 많은 고위 경영진은 소프트웨어 엔지니어링을 '블랙 박스'로 인식하여 자금이 어디로 가는지 알지 못하고 있다.
효과적인 측정 시스템을 구축하려면 맞춤형 접근 방식과 집중적인 관심이 필요하다. 과부하를 방지하려면 고위 경영진 수준에서 3~5개의 핵심성과지표(KPI)를 설정하고, 엔지니어링 리더십에는 최대 10개의 KPI를 설정하는 것이 좋다. 계층화된 시스템은 각 그룹의 필요를 충족시킬 수 있다:
- 경영진은 제품 성과, 비용, 그리고 우선순위에 따른 자원 배분에 초점을 맞춰야 한다.
- 기술 리더십은 자신의 노력이 올바른 비즈니스 성과를 달성하고 있는지 확인하고, 장벽과 다가오는 과제를 식별할 수 있어야 한다.
- 팀은 자신들의 작업이 요구 사항에 부합하는지 확인해야 한다.
효율성을 측정할 수 있는 전용 엔지니어링 생산성 도구는 필수적인 지원 도구이다. 소프트웨어 개발에서 의미 있는 개선은 가능하지만, 생성형 AI 코딩 어시스턴트 도입 이상의 노력이 필요하다. 효율성을 높이고, 실행을 개선하며, 비용을 최적화하는 투자는 일관되게 수익을 창출하며, 모든 연구개발(R&D) 또는 소프트웨어 개발 조직에서 충분히 가치 있는 노력이다.
Why Software Companies’ Customer Success Is Failing
Spending on customer success is up, but customer retention is down. Post-sales teams must evolve
At a Glance
• 최근 베인(Bain) 조사에 따르면, 고객 성공에 대한 투자가 증가했음에도 불구하고 소프트웨어 회사 중 75%가 순수익 유지율이 감소한 것으로 나타났습니다.
• 또한 거의 3분의 2에 달하는 소프트웨어 고객들은 판매 후 요구 사항이 중간 수준으로만 충족되거나 그 이하로만 충족된다고 느끼고 있습니다.
• 이는 공급업체가 제공하는 지원 방식과 고객이 가치를 두는 부분 사이에 불일치가 있음을 나타내며, 특히 기술적 구현 지원에서 이러한 격차가 두드러집니다.
• 선도 기업들은 명확한 제품 및 고객 여정 청사진을 개발하고, 판매 후 역할을 더 명확하게 정의하고 조정하며, AI 기반의 셀프 서비스 도구에 투자하고 있습니다.
소프트웨어 회사들은 예상치 못한 불일치에 직면하고 있다. 팬데믹 이후 판매 후 인력에 대한 상당한 투자가 이루어졌음에도 불구하고, 고객 유지율은 하락했다. 최근 베인(Bain) 조사에 따르면, 약 60%의 소프트웨어 회사가 고객 성공 관련 지출을 늘렸음에도 불구하고, 순수익 유지율(NRR)이 75%의 소프트웨어 회사에서 감소했다(그림 1 참조).
좌절한 경영진들은 이러한 투자가 성과를 내지 못한 이유를 의문시하고 있으며, 더 나쁜 것은 상황을 악화시켰을 가능성이 있다는 점이다. 실제로 고객들이 원하는 서비스 방식과 공급업체가 생각하는 필요 사이에는 큰 괴리가 존재한다.
또한, 많은 공급업체는 고객 성공 기능을 고립시켜 기술 지원, 고객 성공, 전문 서비스 전반에서 일관된 판매 후 패키지를 제공할 기회를 놓치고 있다.
효과적인 판매 후 활동은 소프트웨어 구매자들이 소프트웨어를 구현하고, 채택을 증가시키며, 필요에 따라 사용 방식을 조정하고, 투자 대비 수익(ROI)을 달성하도록 돕는다. 이 모든 것은 팬데믹 동안 소프트웨어 구매가 가속화되고 소프트웨어-서비스(SaaS) 제품의 복잡성이 증가하면서 그 어느 때보다 중요해졌다.
팬데믹 이후 판매 둔화와 구독 기반에서 고객 사용량 기반 가격 모델로의 전환은 고객 유지와 더 많은 소비를 유도하는 데 있어 더 중요한 역할을 하게 되었다. 소프트웨어 공급업체들은 주로 고객 성공 팀에 의존하여 제품 사용을 극대화해 왔다. 고객 성공 실무자의 지출이 증가했을 뿐만 아니라, 더 많은 소프트웨어 회사들이 전담 고객 성공 팀을 구성하고 있다.
베인의 링크드인(LinkedIn) 및 기타 데이터를 분석한 결과, 올해 미국 엔터프라이즈 소프트웨어 회사의 60%가 고객 성공 팀을 보유하고 있으며, 이는 4년 전 약 40%에서 증가한 수치다. 고객 관계를 심화하기 위해 공급업체들은 고객 성공 관리자, 기술 계정 관리자, 성공 설계자와 같은 더 능동적이고 전문화된 고객 성공 역할에 중점을 두고 있다.
한편, 자동화를 통해 반응형 기술 지원 역할에 대한 지출은 감소하고 있으며, 생성형 AI가 이를 더욱 가속화할 수 있다. 그 결과, 고객 성공 역할이 판매 후 인력에서 더 큰 비중을 차지하게 되었다(그림 2 참조).
그러나 이러한 투자들은 원하는 결과를 내지 못했다. 소프트웨어 공급업체의 악화된 NRR(순수익 유지율)은 고객 성공 설문 조사 데이터와 일치하며, 거의 3분의 2에 달하는 소프트웨어 고객들이 판매 후 필요가 적절히 충족되지 못하고 있다고 느끼고 있다(그림 3 참조).
왜 그럴까? 연구에 따르면 공급업체가 지원을 제공하는 방식과 고객이 가치를 두는 방식 사이에는 불일치가 있다.
최근 설문 조사에서 소프트웨어 구매자들은 기술 구현 또는 배포 지원을 고객 성공의 최우선 과제로 꼽았지만, 실무자들은 이를 6위로 평가했다(그림 4 참조).
공급업체들은 일반적인 지원을 제공하지만, 시스템 통합 파트너에게 너무 많은 기술 구현을 넘기고 있다. 분명히 고객들은 시스템 통합업체가 주요 작업을 계속하더라도, 공급업체가 아키텍처 지원과 기술 구현 모범 사례를 제공할 역할이 있다고 보고 있다.
또한, 고객들은 고객 성공의 주요 연락처로 기술적 역할을 선호하지만, 공급업체는 비기술적인 고객 성공 관리자를 할당하는 경향이 있다는 또 다른 불일치가 설문 조사에서 확인되었다.
고객 성공 기능은 IT 비용 절감 추진, 내부 예산에 대한 강화된 검토, 유료 프리미엄 고객 성공 서비스와 같은 추가 서비스에 대한 고객의 조달팀의 저항 등 여러 요인으로 인해 상당한 압박을 받고 있다. 이렇게 이러한 도전 과제는 고객 성공 투자에 대한 수익을 증명하기 어려운 문제와 이 팀들이 비용 센터로 인식되는 문제를 더욱 악화시키고 있다. 또한 일부 공급업체는 사후 판매 모델을 충분히 검증하지 않고 고객 성공 팀을 과도하게 확장하여, 사후 판매 기능을 보다 효율적으로 배치할 기회를 놓치고 있다.
What does good look like?
전 세계 소프트웨어 기업들과의 작업과 높은 순매출 유지율(NRR)을 가진 기업들의 분석을 바탕으로, 떠오르는 리더들이 다음과 같은 주요 단계에 집중하고 있음을 발견했다.
1. Step into your customer’s shoes. 고객의 입장이 되어보기: 떠오르는 리더들은 먼저 고객이 제품과 어떻게 상호작용하고 가치를 얻는지를 파악한 후, 초기 고려 단계부터 구매, 사후 지원, 갱신에 이르는 더 넓은 고객 여정을 매핑한다. 당연한 것처럼 들리지만, 많은 기업의 제품 및 엔지니어링 팀은 제품의 가치 실현 여정을 명확히 설명하지 않거나 고객의 요구, 원하는 결과, 주요 접점을 깊이 이해하려 하지 않는다. 이러한 이해는 사후 판매 팀이 중요한 순간에 집중할 수 있도록 도울 뿐만 아니라 제품의 부족한 부분도 식별하는 데 도움이 된다. 선도적인 기업들은 제품 우수성이 고객 성공의 진정한 기초라는 기본 원칙을 잊지 않는다.
2. Redefine post-sales roles to better deliver on the customer success mandate. 고객 성공을 더 잘 달성하기 위해 사후 판매 역할 재정의: 사후 판매 기능 간의 경계가 흐릿해지면서 고객에게 혼란을 주고 공급업체에게 비효율성을 초래했다. 선도적인 기업들은 백지 상태에서 접근하여 고객 여정에 필요한 모든 활동을 명확히 정의하고, 고객의 관점에서 역할을 합리화한다. 각 역할은 개별적으로 명확한 책임을 가지고 있으며, 이를 통해 고객 성공의 전달에 공백이 없도록 한다. 많은 선도 기업들은 또한 고객에게 성공이 무엇인지 정의하도록 요청하는 결과 기반의 성공 계획을 수립하고 있으며, 이를 통해 공급업체가 고객의 요구에 맞춘 사후 판매 서비스 작업 목록을 개발할 수 있도록 한다. 이렇게 하면 개별 고객과 제품의 특성을 간과하지 않으면서도 효율성을 개선할 수 있다.
3. Coordinate the front lines. 전방을 조정하기: 재조직만으로는 고객 성공 문제를 해결할 수 없으며, 기업은 전방 팀을 더 잘 조정해야 한다. 최고 고객 책임자(CCO)는 고객 성공, 기술 지원, 전문 서비스 팀 간의 일관성을 감독하는 데 도움을 줄 수 있지만, 단순히 이 역할을 만드는 것만으로는 충분하지 않다. 회사는 소통의 장벽을 허물고 사후 판매 기능과 파트너 간의 유연한 업무 이관을 설계하여 원활한 고객 경험을 보장해야 한다.
핵심은 계정 지원 역할 내에서 각 역할이 담당하는 "수영 레인"을 정의하는 것이다. 여기에는 영업 및 사후 판매 역할을 포함하여 각 역할이 동료와 상호작용하는 명확한 활동과 접점을 설정하는 것이 포함된다. 이를 통해 명확한 책임과 협업의 청사진을 보장할 수 있다. 선도적인 기업들은 또한 고객 성공 매니저를 효과적으로 교육하고, 권한을 부여하며 관리하는 것을 우선시하고 있으며, 이들이 성공적인 고객 참여 모델에서 중요한 역할을 한다는 점을 인식하고 있다.
떠오르는 리더들은 적절한 자원을 적절한 활동에 적시에 투입하기 때문에, 많은 경우 비용을 줄이면서도 더 나은 결과를 달성하고 있다. 예상대로, 우리의 분석에 따르면 높은 NRR을 가진 기업들은 비용 효율적으로 고객 성공 자원을 배치하는 데 있어 낮은 성과를 내는 기업보다 훨씬 뛰어난 것으로 나타났다.
4. Don’t jump into generative AI applications before reassessing the underlying business process. 기본 비즈니스 프로세스를 재평가하기 전에 생성형 AI 애플리케이션에 뛰어들지 말아야 한다. 생성형 AI로부터 가장 큰 이점을 얻고 있는 고객 성공 팀은 먼저 기존 비즈니스 프로세스를 철저히 평가하여 문제점과 변화의 기회를 식별하는 데서 시작한다. 이러한 기반을 마련한 후, 주요 프로세스를 재설계하여 생성형 AI와 기타 첨단 도구를 최대한 활용하고, 비효율성과 기존 문제를 자동화하여 확대시키는 일을 방지한다. 선도적인 기업들은 생산성 향상의 출처를 정량화하고 사용 사례를 전략적으로 우선시하는 종합적인 AI 로드맵을 구축하고 있다.
5. Empower customers with digital self-service tools. 고객에게 디지털 셀프 서비스 도구 제공: 많은 고객이 교육, 온보딩, 지원에 대한 셀프 서비스 옵션을 선호한다. 강력한 디지털 셀프 서비스 도구는 고객 만족도를 높이고 사후 판매 직원들이 고객의 가장 큰 문제를 해결하는 데 대부분의 시간을 사용할 수 있도록 돕는다. 생성형 AI는 이 분야에서 변화를 가져올 수 있지만, 이는 회사가 잘 정의된 제품 및 고객 여정 청사진을 가지고 있을 때만 가능하다.
The starting point
앞으로 가장 효과적인 사후 판매 조직은 고객의 요구와 시장 트렌드에 민첩하게 적응할 것이다. 적절한 전략을 찾기 위해, 고객 성공 실무자들은 다음과 같은 질문을 스스로에게 던질 수 있다:
- 어떤 활동이 고객의 소프트웨어 투자 수익 및 이후 구매 결정에 가장 큰 영향을 미치며, 이를 어떻게 측정할 수 있을까?
- 고객 성공 서비스를 수익화하는 방식을 포장하면서도 고객의 ROI를 촉진하는 활동을 놓치지 않도록 하고 있는가?
- 자동화 및 디지털 셀프 서비스에 적합한 활동은 무엇인가?
- 원활한 고객 경험을 보장하기 위해 사후 판매 기능을 어떻게 효과적으로 조정할 수 있을까?
Updating Enterprise Technology to Scale to “AI Everywhere”
생성형 AI의 빠른 도입으로 인해 CIO들은 업무 방식에 큰 변화를 관리하고 있다.
At a Glance
• 기업들은 기술 기능을 재구성하지 않으면 AI 솔루션을 확장할 수 없다.
• 기술 스택을 "AI가 어디에나 있는" 방식으로 재설계하는 것은 중요한 기초 단계이다.
• 또한 새로운 AI 솔루션을 최적화하여 활용하기 위해 현재의 작업 방식을 개선하는 것도 똑같이 중요하며, 이는 소프트웨어 개발의 규율을 AI 모델 채택에 적용하는 것을 필요로 한다.
기업들은 개념 증명과 최소 기능 제품(MVP)의 실험 단계를 넘어, 생성형 AI를 조직 전체에 확장하기 시작하고 있다. 이를 진행하면서 CIO들은 생산 등급의 AI 솔루션을 개발하고 유지하는 동시에 이를 효율적으로 대규모로 제공해야 한다. 동시에, 배포 중인 생성형 AI 도구를 활용하여 자신들의 기능 생산성도 향상시켜야 한다. 이는 여러 중요한 방식으로 아키텍처, 운영 모델, 인재, 자금 조달 접근 방식을 포함한 기술 기능을 근본적으로 재편하게 될 것이다.
- "AI가 어디에나 있는" 접근 방식으로 전체 기술 스택을 재설계하고, 머신 러닝(ML) 및 생성형 AI를 통합
- 제품 관리, 소프트웨어 개발, 운영, 지원 프로세스 전반에서 AI 솔루션 개발을 통합하기 위해 작업 방식을 업그레이드
- AI 시스템을 생산 등급으로 통합, 테스트, 확장할 수 있도록 엔지니어링 팀을 재교육하고, AI 도구를 사용해 엔지니어링 생산성을 향상
- AI 투자와 인프라 운영 비용을 지원하기 위한 기술 지출의 구성을 재정의하고, 소프트웨어 개발 및 서비스 관리와 같은 영역서 AI로부터 효율성을 확보
- AI 모델을 성공적으로 배포하고 업그레이드하기 위해 위험 관리와 거버넌스를 검토
이 다섯 가지 과정 모두 기술 기능을 재편하겠지만, 그중에서도 첫 두 가지인 "AI가 어디에나 있는" 아키텍처와 작업 방식의 업그레이드가 우선적으로 제대로 되어야 할 중요한 기초이다.
Architecture with AI everywhere
생성형 AI는 전체 기업의 시스템에 영향을 미칠 것이다.
• 운영 시스템 중에서 많은 비정형 데이터를 가진 시스템은 생성형 AI가 이전에 충분히 활용되지 않던 데이터 소스를 사용할 수 있게 함에 따라 대대적인 재설계가 필요할 것이다. 우리의 경험에 따르면, 운영 시스템 내에서 생성형 AI의 사용 사례에 대한 가장 일반적인 솔루션 패턴은 콘텐츠 생성, 지식 관리, 보고 및 문서화 영역에 속한다(그림 1 참조). CIO와 기타 기술 구매자는 이러한 용도를 위해 생성형 AI 솔루션을 구축할지 구매할지 결정해야 하며, 이는 잠재적인 경쟁 우위와 필요한 비용 및 능력에 따라 달라진다. 현재 많은 기업들이 필요한 솔루션이 상용화되지 않은 상황에서 기초 모델을 사용하여 솔루션을 구축하거나 맞춤화하고 있다. 구매는 기존 소프트웨어 서비스(SaaS) 솔루션이 생성형 AI를 통합함에 따라 더 실용적이고 인기를 끌게 될 수 있다.
• 통합, 워크플로우, 오케스트레이션 시스템은 AI 모델과 원활하게 작동하여 더 복잡한 자동화 워크플로우를 가능하게 해야 한다. 또한, 생성형 AI는 API 기반의 통합 및 클라우드 우선 인프라와 같은 기업 아키텍처의 현대화를 가속화하여 생성형 AI 솔루션을 보다 효과적으로 배포할 수 있도록 한다. 시간이 지남에 따라, 워크플로우와 오케스트레이션 시스템은 반자율적으로 행동할 수 있는 에이전틱 AI에 의해 구동되거나 대체될 수 있으며, 이러한 능력이 성숙해질 것이다.
• 데이터 분석 및 ML 시스템은 더 많은 비정형 데이터 자산을 다루어야 하며, 공통 구성 요소의 재사용과 새로운 모델의 효율적 배포를 위해 AI 서비스(AIaaS) 플랫폼과 머신러닝 운영(MLOps)을 필요로 한다. 데이터 플랫폼 기능은 비정형 데이터 세트를 더 많이 통합하고 이를 정형 데이터와 동일한 방식으로 다루기 위해 강화되어야 하며, 공유 데이터 카탈로그, 데이터 버전 관리, 데이터 라인리지를 데이터 제품 팀이 지원해야 한다. 승인된 모델과 공통 구성 요소(예: 벡터 인덱싱 또는 검색 증강 생성)를 다양한 사용 사례에 걸쳐 사용할 수 있도록 하기 위해, 각 사용 사례에 대해 포인트 솔루션이 아닌 통합된 AIaaS 플랫폼을 구축해야 한다.
Upgraded ways of working
생성형 AI 모델의 사용 사례가 중요한 시스템에 걸쳐 배포되고 복잡성이 증가함에 따라(예: 데이지 체인된 AI 사용 사례), 협업, 품질 관리, 신뢰성 및 확장성에 대한 요구가 더욱 커질 것이다. AI 모델은 소프트웨어 코드와 마찬가지로 MLOps 프로세스를 채택하여 DevOps를 사용해 생애 주기 전반을 관리함으로써 동일한 규율로 다루어야 한다. 기업은 AI 서비스 플랫폼에 맞춘 연합형 AI 개발 모델을 구축해야 하며, 여기에는 AI 서비스를 생산하고 소비하는 팀의 역할과 연합형 기여의 프로세스, 데이터 세트 및 모델을 공유하는 방법이 정의되어야 한다.
생성형 AI의 빠른 발전 속도를 감안할 때, 새로운 솔루션과 아키텍처의 빠른 반복을 가능하게 하는 AI 우선 소프트웨어 개발 프로세스를 구축하는 것도 필수적이다. 애자일 팀은 애플리케이션, AI 모델, 데이터 팀 간의 의존성을 고려해야 한다.
소프트웨어 개발 및 서비스 관리 프로세스도 코딩 어시스턴트, 지식 관리, 오류 탐지 등 생성형 AI 도구를 채택해야 한다. 이러한 도구를 배포하고, 그 영향을 정기적으로 모니터링하며, 위험을 관리하는 명확한 지침이 필요하다.
많은 결정은 급변하는 생성형 AI 기술의 환경에서 이루어져야 하며, 지금 당장 후회 없는 선택을 하면서도 적응할 수 있는 유연성을 유지해야 한다. 결과적으로 이 주제는 CIO에게 우선순위가 될 것이며, 최근 몇 년 동안 본 것 이상으로 기능에 상당한 변화를 일으킬 것이다.
'Global IB > Bain' 카테고리의 다른 글
베인앤드컴퍼니, AI 보고서 4 (9) | 2024.09.27 |
---|---|
베인앤드컴퍼니, AI 보고서 3 (15) | 2024.09.27 |
베인앤드컴퍼니, AI 보고서 2 (21) | 2024.09.26 |
베인앤드컴퍼니, AI 보고서 1 (12) | 2024.09.26 |