- AI 모델 토큰 처리량 급증, HBM·DRAM 동반 성장
AI 모델의 진화가 메모리 수요 급증의 핵심 원인으로 지목됐다. 최근 AI 모델은 매개변수 처리능력보다 Token 처리 능력에 보다 집중하고 있는 상황이다. 매개 변수 증가에 따른 메모리 소요량은 비례해서 증가하지만 Token 수의 증가는 메모리의 수요를 4 배로 가속화시키기 때문이다. 이는 매개변수 증가 시 메모리가 비례해서 증가하는 것보다 훨씬 가파른 수준이다.
Context Window 확대도 메모리 수요 증가의 주요 동인이다. GPT-4 Turbo/4o의 경우 128K 토큰 처리 시 46조 9000억 바이트의 메모리가 필요하지만, GPT-4.1은 1M 토큰 처리를 위해 2조 8600억 바이트가 필요하다. 이는 토큰 수가 약 7.81배 증가하면서 메모리 사용량이 약 61배 증가하는 것으로, Token count의 제곱에 Hidden size와 Layer를 곱한 구조로 계산된다.
HBM 시장 규모는 가파른 성장세를 보일 전망이다. 2024년 122억 Gb에서 2025년 225억 Gb, 2026년 295억 Gb, 2027년 372억 Gb으로 증가할 것으로 예상된다. 매출액 기준으로는 2024년 174억 달러에서 2025년 335억 달러, 2026년 533억 달러, 2027년 808억 달러로 성장이 예상된다.
DRAM 시장 내 HBM 비중도 빠르게 확대될 전망이다. 2024년 26.9%에서 2025년 35.4%, 2026년 44.4%, 2027년 55.2%로 증가해 2027년에는 과반을 넘어설 것으로 예상된다. 가격 프리미엄으로 출하량 대비 매출액 규모가 훨씬 높게 나타나는 영향이다.
HBM 수요처도 다변화될 전망이다. 2025년에는 NVIDIA가 HBM 물량의 75%인 170억 Gb을 사용할 것으로 예상되지만, 2026년에는 점유율이 64%인 190억 Gb으로 하락할 전망이다. 대신 Google의 TPU가 9.5%에서 19%로, Amazon이 5.5%에서 8%로 비중이 확대될 것으로 예상된다. TPU v7은 192GB HBM을 사용하고 Trainium3는 144GB HBM을 채택하면서 ASIC 시장의 HBM 수요가 급증하고 있다.
공급 측면에서는 SK하이닉스의 독점 구조가 과점으로 전환될 전망이다. 2025년 SK하이닉스의 HBM 시장 점유율은 60%에 가까울 것으로 예상되지만, 2026년에는 50% 내외로 하락할 것으로 전망된다. 삼성전자가 HBM3e보다는 HBM4 시장 진입에 집중하고 있으며, 2026년 NVIDIA 내 점유율은 16%로 추정된다.
2018년과 달리 2026년 메모리 시장 붕괴 가능성은 낮다는 분석이다. 생산능력 확대가 제한적이고 AI 수요가 견고하며 재고가 건전한 상황이기 때문이다. HBM 할당량 확대로 전체 DRAM 공정 내 HBM 비중이 지속 상승하면서 Wafer당 생산량이 1/3에 불과한 구조적 제약이 존재한다. CSP들의 투자도 2026년까지 증가세를 유지할 것으로 예상되며, 특히 AI Neo-cloud의 연평균 성장률이 26%로 가장 높을 전망이다.
주지숙 데이터투자 기자 pr@datatooza.com
