[SAMSUNG SDS] 'AI 시대의 혁신과 기회'로 바라본 클라우드 시장 전망

https://www.samsungsds.com/kr/insights/cloud-computing-market-outlook-in-the-ai-age.html

‘AI 시대의 혁신과 기회’로 바라본 클라우드 시장 전망 | 인사이트리포트 | 삼성SDS

---

멀티클라우드 운영으로 인한 비용/복잡성 문제로 기업들이 리소스를 데이터센터로 옮기는 추세가 한동안 이어져 왔다.

하지면 AI 혁신으로 클라우드 분야가 다시금 활성화되고 있음.

 

IDC에 따르면, 퍼블릭 클라우드 서비스에 대한 2024년 전 세계 지출은 8,050억 달러에 달하며 3년 뒤인 2028년에는 규모가 두 배로 늘어날 전망

 

IDC 데이터 및 분석 부문 리서치 매니저 안드레아 마논 曰,

인공지능의 급속한 발전이 클라우드 지출의 급증을 크게 견인하고 있음. AI 플랫폼 구축/테스트/배포하는 기업의 증가에 따라 클라우드 인프라 간 상호 의존성 높아짐에 따라 클라우드 서비스가 AI 개발 및 배포의 중추로 자리매김 중.

 

가트너에 따르면, 퍼블릭 클라우드 서비스에 대한 전 세계 최종 사용자의 지출은 2023년 대비 2024년에 20.4% 증가할 전망IDC와 일부 수치는 다를 수 있지만 비슷한 예측.

 

가트너 애널리스트 시드 내그 曰,

범용 파운데이션 모델이 지속적으로 생성되고, 대규모로 AI 지원 애플리케이션을 지원했기 때문에 퍼블릭 클라우드 지출이 지속적으로 성장할 것으로 예상. 이로 인해 퍼블릭 클라우드 최종사용자 지출이 2020년대에 1조 달러 돌파할 것으로 전망. 

 

클라우드 주요 트렌드와 이로 인해 기업이 어떤 혜택 누릴 수 있는지 살펴보려 한다. 

 

AI 특화 대안 벤더의 등장

퍼블릭 클라우드 시장 점유율 순위

1. AWS(32%)
2. 마이크로소프트 애저 (23%)
3. 구글 클라우드 (12%)

위 빅 3를 합치면 전체 시장의 67% 차지. 이외에도 알리바바, IBM, 세일즈포스 등 소규모 업체들은 각 2~4%대의 점유율

최근 오라클 점유율이 올라 3%대로 세일즈포스와 어깨를 나란히 하고 있다. 

 

이처럼 빅 3 기업이 클라우드 시장을 점령하고 있는 상황에, 생성형 AI의 부상으로 소규모 스타트업에게 기회가 제공되기 시작했다. 스타트업인 만큼, 시작부터 GPU 기반의 고성능 데이터센터를 구축함으로써 AI 학습 및 추론을 위한 GPU 클러스터를 공급하는 비지니스 기회를 포착. 

코어위브(CoreWeave), 벌처(Vultr), 네비우스(Nebius), 오리(Ori), 람다 랩스(Lambda Labs) 등이 대표적인 스타트업 기업.

이들은 특수 목적에 맞게 구축된 자사 플랫폼이 기존의 플랫폼보다 훨씬 빠르고 저렴하다고 주장. 

 

데이터센터 투자 증가를 주도하는 AI

하이퍼스케일러가 운영하는 대형 데이터센터의 수는 2024년 초에 1,000개 돌파하여 불과 4년 전의 두 배를 달성.

당연하게도 데이터센터 공간을 주로 보유한 기업은 아마존, 마이크로소프트, 구글로 전체 하이퍼스케일 데이터센터 용량의 60%를 차지함. 이 빅 3의 데이터센터 확장은 빠르고 맹렬하게 이어지고 있음.

• 마이크로소프트
  • 최근 일본 데이터센터 인프라에 29억 달러, 영국에 31억 6,000만 달러, 인디애나에 10억 달러, 위스콘신에 33억 달러를 투자한다고 발표
  • 향후 몇 년 동안 데이터센터 용량을 두 배로 늘릴 계획
• AWS
  • 2024년 상반기에만 버지니아의 여러 사이트에 350억 달러, 인디애나에 110억 달러, 미시시피에 100억 달러 등 총 500억 달러 규모의 데이터센터 투자를 발표
• 구글
  • 캔자스시티, 아이오와주 시더래피즈, 버지니아 북부, 멕시코, 그리스, 말레이시아, 뉴질랜드, 노르웨이, 오스트리아, 스웨덴에 새로운 데이터센터 구축할 계획이라고 밝힘

시너지 리서치 그룹 曰,

향후 4년 내에 전체 하이퍼스케일 데이터센터 용량이 또 두 배로 늘어날 것으로 전망

새롭게 개소하는 데이터센터의 규모가 더욱 커지면서 용량 증가가 더욱 가속화될 것이고, 이러한 규모 증가의 주요 원인으로 생성형 AI 기술이 꼽힘

 

최근 빅 3가 AI 데이터센터 수요에 대응하기 위해 원자력 발전에 관심 보인다는 발표도 있었음

AI 프로젝트가 계획 → 구현 단계로 넘어가는 가운데, 하이퍼스케일러들이 대규모 언어 모델(LLM) 워크로드와 관련된 방대한 데이터셋 처리할 수 있는 역량 갖추게 된다는 점은 기업 IT에 큰 의미. 

새로운 퍼블릭 클라우드 데이터센터는 더 많은 가용성 영역을 의미

→ 사용자가 클라우드 기반 애플리케이션 및 데이터 소스에 물리적으로 가까이 있지 않아 발생하는 지연 시간&성능 문제가 줄어듦

 

산업 클라우드(수직 클라우드)의 지속적 증가

• 산업 클라우드
  • 특정 업종의 고유한 요구 사항 충족하도록 맞춤화된 특수 클라우드 환경으로, 사전 구성된 솔루션을 제공

 

가트너 애너리스트 그레고 페트리 曰,

산업 클라우드 플랫폼은 클라우드 플랫폼을 비즈니스 플랫폼으로 전환한다. 기술 혁신 도구를 비즈니스 혁신 도구로도 사용할 수 있게 하는 것. 

사전 정의된 일회성 수직적 SaaS 솔루션이 아닌 산업별 패키지 비즈니스 기능 카탈로그로 지원되는 모듈식 구성 가능한 플랫폼으로 제공됨

 

최근 가트너의 설문조사에서 응답자의 약 39%가 산업 클라우드 플랫폼 도입 시작했다고 답함, 14%는 파일럿 단계에 있다고 답함. 

 

비즈니스 이니셔티브를 가속화하기 위해 산업 클라우드를 사용하는 기업 비율이 2023년에는 15% 미만이었지만 2027년에는 70% 이상일 것으로 예상. 

AWS와 애저는 의료 클라우드, 세일즈포스는 금융 서비스 클라우드, 오라클은 리테일 클라우드, 지멘스는 제조 클라우드, 구글은 교육 클라우드를 제공.

대부분의 하이퍼스케일러는 여러 버티컬 클라우드 제공하는 가운데, 틈새시장에서도 수많은 업체가 참여 중.

 

비용 관리 솔루션 시장도 커진다

클라우드 비용 평가 시에는 실제 비용/예상 비용 두 가지 측면을 고려해야 함.

클라우드 분석가 데이비드 린티컴 曰

클라우드 비용이 조직의 예상보다 2.5배나 더 많이 발생하고 있다고 추정. 

클라우드 최적화를 위해 레거시 애플리케이션을 리팩토링하거나 재작성하지 않고 단순 퍼블릭 클라우드로 '리프트 앤 시프트'한 조직이 결국 더 높은 비용을 부담하게 됨. 많은 조직이 오버프로비저닝을 하고 클라우드 리소스 사용률을 추적하는 데 소홀했음

클라우드 지출 관리가 AI와도 관련 있음. 클라우드 비용 폭등하면 조직은 대규모 AI 프로젝트 시작하는 데 필요한 재정적 자원 확보할 수 없기 때문. 

 

게다가 기업들은 클라우드 사용을 지속적으로 늘리고 있음.

CGI(비즈니스 및 IT 컨설팅 회사) 부사장 겸 클라우드 현대화 실무 리더 마양크 바르가바 曰,

조직들이 디지털 혁신 여정을 계속하며 더 중요한 워크로드와 데이터를 클라우드로 마이그레이션하고 있음 → 자연스레 비용 상승으로 이어짐.

 

하지만 조직이 클라우드 비용을 더 적극적으로 관리할 여지가 있음.

포레스터 리서치 曰,

클라우드 비용 관리 및 최적화(CCMO)시장이 급격히 성장 중. 

 

이 범주의 도구들은 하이브리드 및 멀티클라우드 환경 전반의 모든 클라우드 비용에 대한 가시성 제공, 클라우드 지출 최적화할 기회 파악, 일부 작업을 자동화.

포레스터의 최근 평가에서,

• 해당 영역의 3대 리더로 부상한 기업
  • IBM(클라우드빌리티 및 터보노빅)
  • 브로드컴(클라우드헬스)
  • 플렉세라
• 강력한 성과를 보인 업체
  • 하네스(Harness)
  • 모피어스 데이터(Morpheus Data)
  • 클라우드볼트(CloudBolt)
  • 클라우드제로(CloudZero)

CCMO는 재무 및 여타 현업 부서와 연계된, 보다 포괄적인 접근 방식인 핀옵스로 가는 디딤돌로 볼 수 있음.

핀옵스 팀은 클라우드 비용 최적화할 뿐만 아니라 클라우드 지출을 비즈니스 성과와 연결하는 업무를 수행.

핀옵스 분야 공급업체: 앱티오(Apptio), 루시더티(Lucidity), 덴시파이(Densify), 핀아웃(Finout) 등

 

하이퍼스케일러가 지속 가능성 문제 해결에 나섬

엔터프라이즈 IT는 데이터센터 탄소 배출량 줄여야 한다는 압박 받는 중. 

리소스를 클라우드로 전환한다고 해서 단순히 해결될 문제가 아님.

 

GPU 칩은 기존 CPU보다 더 뜨겁게 작동하여 더 많은 냉각이 필요 → 더 많은 전력 수요를 의미

AI가 지속 가능성 노력에 걸림돌이 되는 측면.

 

하이퍼스케일러들은 엔터프라이즈 IT에 비해 좀 더 적극적인 역할 하고 있음. 이들의 비즈니스에 데이터센타가 차지하는 비중이 커서 동기화 수준이 다름. 

+ 최고 경영진의 지원, 기술 전문성, 재정적 자원

+ 특정 물리적 위치에 묶여 있는 대부분의 기업과 달리 전 세계에 지속 가능한 에너지 공급 가능한 지역 모색 가능

 

대형 클라우드 공급업체들은 지속 가능성 목표를 설정함. 

• 마이크로소프트
  • 2012년부터 탄소 중립 실천해왔으며 2030년까지 탄소 중립 달성할 것으로 예상
  • 지속 가능성 관점에서 클라우드 리소스 추적하고 최적화하는 데 도움되는 도구를 제공 - 애저 탄소 최적화 및 애저 배출량 인사이트
• AWS
  • 2023년, 소비되는 전력의 100%를 재생 에너지로 충당한다는 목표 달성
  • 2040년까지 탄소 순배출 제로 달성한다는 계획.
  • 지속 가능성 관점에서 클라우드 리소스 추적하고 최적화하는 데 도움되는 도구를 제공 - 고객 탄소 발자국 도구
• 구글
  • 지속 가능성 관점에서 클라우드 리소스 추적하고 최적화하는 데 도움되는 도구를 제공 - 탄소 발자국 도구