출처 : https://eetimes.itmedia.co.jp/ee/articles/2405/13/news084.html

 

생성형 AI의 붐으로 인해 데이터센터용 GPU 및 AI ASIC 시장은 2029년에 2,330억 달러 규모로 성장할 것으로 예측된다.

 

▣ 생성형 AI가 이끄는 반도체 업계, 현재의 승자와 미래 전망

 

생성형 AI(인공지능)를 중심으로 하는 AI 활용은 다양한 업계에서 확대되고 있다. 일전에 독일 하노버에서 개최된 세계 최대 규모의 산업전시회 ‘HANNOVER MESSE’와 뉘른베르크에서 개최된 도입 기술 전시회 ‘embedded world’에서도 데이터시트 등의 분석 및 코드 자동 생성, 제품 설계 지원, 제조 현장 작업자 지원 등 생성형 AI를 활용하는 솔루션을 많이 볼 수 있었다.

 

그렇다면 생성형 AI는 반도체 시장에 어떤 영향을 미치며, 앞으로는 어떻게 전개될 것인지 예측이 쉽지 않다.

 

프랑스의 시장조사회사인 Yole Group은 2024년 4월에 ‘Exploring the impact of Generative AI: identifying the winners.(생성형 AI의 임팩트 조사 : 승자를 특정하다)’라는 제목의 보도자료를 발표했다. 거기서는 시장 예측 및 ‘승자’라 할 수 있는 제조사, 그리고 미래 전망을 제시한다.

 

▣ ‘주역’인 NVIDIA는 공세를 더 강화

 

모두 아는 바와 같이, 생성형 AI로 인해 빠르게 확대되고 있는 반도체 주요의 중심이 되는 것은 AI 액셀러레이션용 데이터센터 GPU이며, 그 수요에 따라 약진하고 있는 기업이 바로 NVIDIA이다. 2023년에 Intel과 Samsung Electronics(이하, Samsung) 등 주요 반도체 기업의 매출이 일제히 줄어들었던 상황에서도 NVIDIA는 2023년의 매출이 전년도 대비 2.3배인 609억 220만 달러, 순수익은 6.8배인 297억 6,000만 달러로 급성장하여, 시장의 TOP(파운드리 제외)이 되었다. 기업의 매출을 모두 반도체가 차지하는 것은 아니지만, 지금까지 각 시장조사회사가 발표해 온 시장조사를 보더라도 NVIDIA가 큰 성장을 거두고 지금까지 1위 다툼을 해 온 Intel이나 Samsung을 크게 압박할 정도로 성장한 것은 분명하다.

 

플래그십 GPU ‘H100 Tensor 코어 GPU(이하, H100)’를 중심으로 약진해 온 NVIDIA는 2023년 11월에 H100과 같은 Hopper 아키텍처 기반으로 광대역폭 메모리(High Bandwidth Memory : HBM)의 최신 세대인 HBM3E를 탑재한 개량된 GPU ‘H200 Tensor 코어 GPU(이하, H200)’를(2024년 3월에 출하 시작), 2024년 3월 18일에는 신 GPU 아키텍처 ‘Blackwell’ 기반의 신 GPU ‘NVIDIA B100 Tensor 코어 GPU(이하, B100)’ 및 ‘NVIDIA B200 Tensor 코어 GPU(이하, B200)’을 잇따라 발표(2024년 후반에 출시할 예정)하는 등 공세를 더욱 강화했다. 대만의 시장조사회사 TrendForce에 따르면 2개의 B200과 Grace CPU를 NVLink로 결합한 ‘GB200 Grace Blackwell Superchip(이하, GB200)’의 출하 대수는 2025년이면 수백만 기를 넘어서서, NVIDIA의 하이엔드 GPU 매출 규모의 40~50%를 차지하게 될 가능성이 있다고 한다.

 

<그림1> 칩렛(Chiplet) 기술을 도입한 2대 구성의 B200과 H100의 비교

 

▣ 커스텀 AI ASIC이 ‘NVIDIA의 주요 경쟁 상대’가 됨

 

Yole은 ‘NVIDIA는 자체 플래그십 GPU를 무기로 생성형 AI 시장의 선두 주자가 되었으며, 자체의 데이터센터를 대상으로 하는 사업에서 크게 성장했지만, AMD의 ‘MI300’ 시리즈도 기세를 더하고 있다’고 설명한다. 또한 이러한 데이터센터용 GPU의 주요 고객인 Google과 Amazon, Meta, 중국의 4대 테크놀로지 기업 ‘BATX(Baidu, Alibaba, Tencent, Xiaomi)’ 등의 하이퍼 스케일러가 데이터센터 GPU에 대한 의존도를 낮추고 비용 절감 및 니즈에 맞는 프로세서를 이용하기 위해 특화형 커스텀 AI ASIC을 개발하고 있다는 점도 언급했다. 또한 ‘이러한 AI ASIC은 NVIDIA의 주요 경쟁 상대이다’라고 덧붙였다.

 

이러한 커스텀 ASIC 개발에서 일찍이 이름을 올린 Broadcom과 Marvell Technology 외에 ‘Gaudi’를 전개하는 Intel과 다양한 접근방식을 가진 신흥기업도 잇따라 시장에 진출하고 있다.

 

<그림2> 데이터센터용 GPU 및 AI ASIC 시장의 주요 플레이어

 

Yole에 따르면, AI 액셀러레이션용 데이터센터 프로세서(GPU 및 AI ASIC) 시장은 2023년에 506억 달러로 확대될 것이라고 예측한 바 있다. 앞으로도 플래그십 GPU 및 AI ASIC 둘 다 강력하게 성장하여 시장은 불과 2년 후인 2025년에는 3배 이상에 달하는 1,560억 달러가 될 것이며, 2029년에는 2,330억 달러 규모로 성장할 것으로 예측했다. 2,330억 달러의 내역을 보면, 데이터센터 GPU가 1,620억 달러, AI ASIC이 710억 달러이며, 각각 2023~2029년의 연평균 성장률(CAGR)은 약 26%, 약 35%가 될 전망이다.

 

<그림3> 2023년 데이터센터용 GPU 및 AI ASIC 시장의 매출과 그 브레이크다운

 

▣ HBM3E으로의 전환으로 경쟁 심화

 

또한 Yole은 ‘웨이퍼 및 메모리의 생산, 기판과 2.5D/3D 패키징을 포함한 공급망 전체가 이 시장 확대의 영향을 받을 것으로 예상된다’고 설명했다. 특히 AI 액셀러레이터용 광대역폭 메모리(High Bandwidth Memory : HBM) 시장은 2023년부터 2029년 사이에 8배로, IC 기판 시장도 같은 시기에 10배로 확대될 것으로 내다보았다.

 

HBM에 대해서는 여러 기사에서도 다루고 있는 바와 같이, HBM3에서는 SK hynix가 시장 점유율을 90% 이상 차지하는 상태였지만, 향후 HBM3E으로의 전환 속도가 빨라질 것으로 예측된다.

 

NVIDIA의 H200은 2024년 후반에 출하 규모가 확대되어, H100을 대체하는 주류가 될 것으로 보이며, GB200 및 B100에서도 HBM3E가 채용된다. 또한 TrendForce에 따르면, AMD도 2024년 말까지 HBM3E를 채용하는 ‘MI350’을 투입할 것이며, 그전까지는 H200에 대항하는 HBM3E를 채용한 ‘MI32x’와 같은 모델을 투입할 가능성이 있다고 한다. 메모리 기업들은 HBM3E 제품을 개발하며, 2024년 2월에는 Micron Technology(이하, Micron)가 HBM3E를 H200용으로 출하할 것임을 발표하는 등 경쟁이 심화되고 있다.

 

TrendForce에 따르면, HBM의 판매 단가는 기존 DRMA의 몇 배, DDR5의 약 5배라고 한다. 또한 싱글 디바이스의 HBM 용량을 증가시키는 AI칩 기술의 제품이 개량되면서 2023년부터 2025년에 걸쳐 DRAM 시장의 용량과 시장 가치 모두에서의 HBM의 점유율이 극적으로 상승할 전망이다.

구체적으로 말하면, DRAM의 총 비트 용량에서 HBM이 차지하는 점유율이 2023년에 2%에서 2024년에는 5%로 상승하고, 2025년에는 10%가 넘어갈 것으로 추정된다. 시장 가치로 보면, HBM은 2024년에 DRAM 시장 전체의 20% 이상을 차지하고, 2025년에는 30%를 넘어갈 가능성이 있다.

또한 HBM 수요의 연간 성장률은 2024년에 200% 가까이 향상되고, 2025년에는 거기서 2배가 더 증가할 것으로 보인다.

 

▣ 첨단 패키징 시장, 2029년까지 연간 10.7% 성장하여 695억 달러 규모로 성장

 

첨단 패키징 영역에서는 Intel, TSMC, Samsung 등이 고성능 애플리케이션용 2.5D 및 3D 기술에서 주도권을 쥐고 있으며, Yole은 ‘이들 기업은 하이엔드 패키징 시장의 이노베이션을 이끌고 있다. 2023년은 IC 기판 제조사가 살아남기 힘든 해였지만, 최근의 투자, 생산 능력 확대, 유리 코어 기판의 개발로 인해 AI 붐이 장기적으로는 업계에 긍정적인 영향을 미칠 것으로 보인다’라고 설명했다.

Yole에 따르면, 첨단 패키징 시장은 2023년에 반도체 시장 전체의 침체에 영향을 받았지만, 2024년에는 첨단 패키징의 채용이 확대되어 회복세로 돌아설 전망이다. 특히 생성형 AI 및 HPC(고성능 컴퓨팅)와 같은 메가 트렌드를 배경으로 시장 규모가 2023년에 378억 달러였던 것이 2029년에는 695억 달러로, 연평균 성장률(CAGR) 10.7%로 성장할 것으로 예측된다.

또한 Intel, TSMC, Samsung 외에 ASE, Amkor, JCET와 같은 대형 OSAT(Outsourced Semiconductor Assembly and Test)을 포함한 첨단 패키징 사업을 대상으로 하는 투자 금액이 총 최대 115억 달러에 달할 것으로 내다본다.

 

<그림4> 2021~2025년까지의 첨단 패키징 시장의 매출 추이와 예상(분기별)

 

Yole은 AI 액셀러레이터 시장 동향에 대해, ‘레이어 수를 최소화하는 것보다 크고 다양한 폼 팩터를 도입하여, 커스텀 AI 액셀러레이터에 칩렛을 사용할 수 있게 한다. 유리 코어 기판은 그 유연성과 비용 대비 효과, 기계적 안정성으로 인해 바람직한 선택지로 여겨질 것으로 예상된다. 2.5D 및 3D 플랫폼 등의 고도의 패키징 기술은 데이터센터 애플리케이션에서의 AI 액셀러에이터의 성능과 효율 조건을 충족하기 위해 꼭 필요하다. 이러한 플랫폼은 낮은 레이턴시, 고속성, 낮은 소비전력을 보증함과 동시에 미래 세대에서는 고밀도 집적화를 통해 진화하게 될 것’이라고 설명한다.

 

▣ QLC SSD 수요도 증가

 

이밖에는 데이터센터용 QLC(Quad Level Cell) SSD의 수요도 증가할 것으로 보고한다. TrendForce에 따르면 ‘북미의 이용자는 AI 추론 서버에서 에너지 효율이 중요한 우선 사항이 됨에 따라 스토리지 제품의 주문이 증가하고 있다’고 말하며, 읽어 들이는 속도의 향상과 TCO(총 소유 비용)의 이점으로 인해 엔터프라이즈용 ALC SSD의 수요가 확대된다고 한다. 비트 출하량은 2024년에 30EB(엑사바이트)로, 2023년에 비해 4배가 증가할 것으로 예상한다. 또한 TrendForce에 따르면, ‘현재 Solidigm과 Samsung만이 인증을 끝낸 QLC 제품을 전개하고 있다. Solidigm은 QLC 제품을 적극적으로 추진하고 있으며, 그 수요 증가로 인해 이득을 얻고 있다’고 설명한다. Solidigm은 이러한 수요에 힘입어 2024년 하반기에 144층 디바이스의 생산을 확대할 예정이다. 또한 Samsung도 176층 디바이스에 주력하고 있으며, TrendForce는 ‘큰 경쟁 상대도 없으니 대용량 QLC 제품의 수급 압박으로 인해 이득을 얻고 있다’고 설명한다. 이러한 배경으로 인해, 엔터프라이즈용 SSD의 계약 가격은 2024년 3분기까지 상승(1분기에는 23~28%, 2분기에는 20~25%, 3분기에는 5~10% 상승할 것으로 예측됨)할 전망이다.

 

이와 같이 생성형 AI의 수요는 AI 액셀러레이터용 데이터센터를 대상으로 하는 GPU를 중심으로 그 공급망 전체에 큰 영향력을 미칠 것으로 예상된다. 한편 NVIDIA의 GPU를 비롯한 AI 반도체의 공급 부족도 계속되고 있다.

 

 

[생성형 AI 시대의 AI 반도체 개발, 시장 전모와 사업화 전략] 보고서 상세보기

https://www.irsglobal.com/shop_goods/goods_view.htm?category=02000000&goods_idx=96511&goods_bu_id=