트렌드포스컨설팅이 최근 발표한'AI 서버 산업 분석 보고서'에 따르면 2024년에는 대형 클라우드 서비스 제공업체 (csp)와 브랜드 고객의 높은 수준의 AI 서버 수요가 예상된다.SK 하이닉스, 삼성, 마이크론 (마이크론테크놀로지) 등 카우오스 오리지널 TSMC와 HBM (고대역폭메모리) 오리지널 제조사들의 점진적인 생산량 확대로 올해 2분기 이후 물량 부족 상황이 크게 완화됐다.엔비디아의 메인 프로그램 H100의 리드 타임 (Lead Time)이 기존 40~50주에서 16주 미만으로 감소했기 때문에 트렌드포스 컨설팅은 2분기 AI 서버 출하량이 20% 가까이 증가하고, 연간 출하량은 최대 167만 대까지 수정될 것으로 내다봤다.연간 성장률은 41.5%다.

트렌드포스컨설팅은 올해 대형 csp (cloud service provider) 예산이 AI 서버 조달을 위해 지속적으로 집중되면서 일반 서버의 성장을 밀어내고 있는데, AI 서버의 높은 증가율에 비해 일반 서버 출하량은 1.9% 증가에 그쳤다고 분석했다.전체 서버 출하량에서 AI 서버가 차지하는 비중은 2023년보다 약 3.4% 포인트 증가한 12.2%에 달할 전망이다.생산액을 추산할 경우 AI 서버의 매출 성장 기여도가 일반 서버보다 뚜렷해 2024년 AI 서버의 생산액은 187억 달러에 달해 성장률이 69%, 전체 서버의 생산액은 65%에 달할 것으로 추산된다.

AI 칩 종류를 탑재한 AI 서버 관점에서 북미 (AWS, Meta 등)의 csp 들은 자체 개발한 ASics (application specific integrated circuits)를 지속적으로 확대하고 있으며, 중국 현지 업체들도:Alibaba, Baidu, Huawei 등 다른 기업들은 자체 ASIC 솔루션을 적극적으로 확대하고 있으며, 전체 AI 서버에서 ASIC 서버의 비중이 2024년에는 26%까지 증가할 것으로 전망하고, gpu를 탑재한 주류 AI 서버의 비중은 약 71%에 달할 것으로 전망하고 있다.

AI 서버를 장착한 AI 칩 공급업체의 분포에서 gpu만 장착된 AI 서버를 보면 Nvidia 가 90%에 육박하며 가장 높은 시장 점유율을 보이고 있고 AMD의 시장 점유율은 약 8%에 불과합니다.다만 GPU, ASIC, FPGA (programmable logic array) 등 모든 AI 서버 AI 칩을 더하면 엔비디아의 올해 시장 점유율은 약 64%다.

트렌드포스 컨설팅의 조사에 따르면, 높은 수준의 AI 서버에 대한 시장 수요는 2025년에도 여전히 강력하며, 특히 엔비디아의 새로운 세대 블랙웰 (GB200, B100/B200 등 포함)이 호퍼 플랫폼을 대체하여 시장의 주류가 될 것이며, 이는 또한 카우스와 HBM 수요를 견인할 것이라고 한다.엔비디아 B100의 경우 칩 크기가 H100의 2배가 되며 카우스 소비량도 더 많이 소모될 것으로 보인다.2025년 주요 공급업체인 TSMC의 카우로스 생산 규모는 연말까지 550k-600k에 달해 80%에 가까운 성장률을 보일 것으로 추정된다.또한 HBM 소비 측면에서도 2024년에는 주류인 H100이 80GB HBM3를 장착하고, 2025년에는 Nvidia Blackwell Ultra나 AMD MI350 같은 메인 칩이 288GB HBM3e를 장착할 것이며, AI 서버에 대한 지속적인 강세로 단위 소비량은 3배 이상 성장할 것입니다.2025년에는 HBM 전체 공급량을 두 배로 늘릴 전망이다.