마이크로소프트 2023년 4분기 실적발표 내용 정리 & 인사이트

Q&A 세션

1. ai와 관련없는 클라우드 서비스의 성장도 이루어지고 있는가?
   1. 기존에 클라우드 최적화는 이제는 끝난 것으로 보인다. 원래 워크로드 사이클인 워크로드 생성 ⇒ 해당 워크로드 최적화 ⇒ 새로운 워크로드 추가 생성의 사이클 중에, ‘새로운 워크로드’에 해당하는 부분은 23년 3분기까지는 잘 없었는데, 이제 침체기가 끝나서, 정상 사이클이 많이 보이기 시작했다. 즉 회사들이 새로운 IT프로젝트들을 활발히 진행하기 시작했다!
2. 현재 클라우드에서 ai관련 리소스를 쓰는 것의 수요는 무엇인가? 추론인가 학습인가?
   1. 대부분이 추론이다. 우리 클라우드에서 LLM학습은 거의 전무하다.
      1. 추론: 훈련된 AI 모델을 실시간 데이터에 적용하여 예측하거나 문제를 해결하는 것이다. 추론 작업을 통해 클라우드 사용 기업들은 생산성 향상이나 수익 증대와 같은 혜택을 기대할 수 있다고 한다.
   2. 우리가 노리는 것은 전적으로 이러한 AI가 해주는 추론에 대한 수요이다.
   3. 대부분 AI 학습에 대한 수요가 끝나면 GPU가 더 이상 필요없어질 것 이라고 했는데, 사실 상 지금도 학습 단계는거의 없는편, 추론 수요도 GPU 20~30만개 이상 확보했어도 감당할 수 없는 수준 
3. AI 인프라에 투자하고 있는 비용도 많은데, 마진 개선이 놀랍다. 이 부분이 어떻게 가능한가?우리가 구축하고 있는 기술 스택은 어떤 팀이건 AI 활용을 포함하고 있습니다. 즉, 많은 자원을 추가하지 않고도 일관성을 유지하면서 구축한다는 것입니다. 이것은 우리의 전체 투자 인프라 AI 활용이라는 흐름에 맞춰 전환되고 있다는 것을 의미합니다. 말로만 AI를 얘기하는 것이 아니라, 사람들이 매일 하는 일에 있어서도, AI 중심의 입장으로 전환하고 있다는 것입니다. 이를 통해, 인력을 크게 늘리지 않고 한 흐름에 align하여 AI 중심의 작업으로 전환하는 일관성을 유지하면, 그런 종류의 활용을 얻게 됩니다. 중요한 점은, 다음 10년을 결정할 것에 투자하고, 일상적인 업무를 수행할 수 있도록 계속 집중하는 것입니다.
   • 기술 스택: 애플리케이션을 개발하기 위해 사용하는 기술들의 집합을 말합니다. 프로그래밍 언어, 프레임워크, 데이터베이스, 프론트엔드와 백엔드 도구, API 등이 포함
   • GPU 확보에 막대한 자본을 쏟아 붙더라도, 내부 노동력을 AI 업무쪽으로 결집 시키고, 업무들을 모두 새로운 먹거리에 맞게 Align하면서 여전히 좋은 영업 이익을 전달하고 있다
4. GPU 공급에 제약이 있다거나, 병목 현상은 없는지? AI 인프라 스케일링에 어려움에 대해 듣고 싶다.

• 우리는 일년 전쯤부터 GPU와 인프라 구축에 자본 지출이 엄청 늘고 있어.
• 그리고 가끔 우리 자체 보유한 인프라로 감당이 안 되는 사용량이 있을 땐, 써드 파티 케파를 사용하기도해. 그래서, 우린 계속해서 수 분기동안, 계속해서 케파를 늘릴 거야 (AI 추론 수요를 감당하기위해 훨씬 더 많은 엔비디아 GPU가 필요하다는 뜻, 한 번에 확보할 수 없어서 매 분기 늘려 나갈 계획)

5. 매출 상승 22%에 6%정도는 AI 매출이라고 했는데, 그것들을 세분화 해줄 수 있어(OpenAI inferencing GitHub Copilot, Copilots, Azure OpenAI service 등등)?

• Azure OpenAI 서비스 api나, azure 기반으로 운영되는 OpenAI 호출이 제일 큰 부분이야 => 추론 API 수요가 대부분!
• 그러나 학습 수요도 생각보다 많아(기존 GPT 3.x 모델을 파인튜닝하거나 RLHF하는 것)
• 써드 파티 모델을 azure에서 사용하는 것도 이 상승에 포함되었음