AI 서버에는 HBM이 필요할까, NAND가 필요할까? 마이크론, 샌디스크, SK하이닉스 사업의 차이는 무엇일까?

완전한 AI 서버는 일반적으로 NAND, DDR 메모리, HBM을 동시에 사용합니다. 데이터는 먼저 NAND 플래시 메모리 기반의 기업용 SSD에 저장되고, 연산 작업이 시작되면 시스템 메모리로 로드된 후, 최종적으로 GPU나 AI 가속기 근처에 위치한 HBM으로 전송되어 연산을 완료합니다.

이 프로세스는 NAND를 거대한 창고, DDR을 환승 거점, HBM을 GPU에 바로 인접한 고속 작업대로 쉽게 이해할 수 있습니다. HBM이 없다면 GPU는 데이터를 기다리는 동안 전체 연산 성능을 온전히 발휘하지 못할 수 있으며, NAND가 없다면 서버는 끊임없이 확장되는 학습 데이터, 모델 파라미터, 벡터 데이터베이스, 추론 캐시를 저장하는 데 어려움을 겪게 됩니다.

학습 단계에서 GPU는 모델 파라미터와 중간 연산 결과에 자주 접근해야 하므로 HBM의 대역폭, 용량, 소비 전력에 매우 민감합니다. HBM3E 및 HBM4와 같은 제품으로의 업그레이드를 통해 단일 AI 가속기가 더 큰 모델을 처리하는 동시에 데이터 이동으로 인한 대기 시간을 줄일 수 있습니다.

추론 단계에서는 NAND의 중요성이 한층 더 커집니다. 수많은 사용자가 모델을 동시에 호출하면 막대한 양의 KV 캐시, 벡터 데이터, 상호작용 로그가 생성됩니다. 이 모든 데이터를 비싼 HBM에 저장한다면 비용을 감당하기 어려워집니다. 마이크론 테크놀로지는 HBM, DDR, LPDDR, NAND, 데이터센터용 SSD를 아우르는 제품 포트폴리오를 확장하며, HBM은 고빈도 모델 연산과 핫 KV 캐시를 처리하고 기업용 SSD는 영구 캐시와 데이터 레이크를 담당하도록 명확히 제안했습니다.

SK하이닉스 역시 계층형 저장 아키텍처를 추진하며 SALT-KV와 같은 솔루션을 사용해 데이터 접근 빈도에 따라 KV 캐시를 HBM, DRAM, SSD에 할당하고 있습니다. 또한 이 회사는 HBM과 기존 SSD 사이에 새로운 저장 계층을 구축하기 위해 고대역폭 플래시(HBF)를 개발하여 용량, 속도, 비용 간의 균형을 맞추고 있습니다.

따라서 HBM과 NAND는 상호 대체재가 아닙니다. AI 학습은 HBM에 더 크게 의존하지만, 추론, AI 에이전트, 긴 컨텍스트 응용 프로그램은 HBM, 시스템 메모리, NAND에 대한 수요를 동시에 견인할 것입니다.

마이크론: HBM과 서버용 DRAM, 핵심 AI 성장 동력

마이크론은 미국 시장을 대표하는 메모리 반도체 기업 중 하나로, AI 사업은 주로 HBM, 서버용 DRAM, 기업용 SSD에 집중되어 있다.

AI 서버 아키텍처에서 마이크론은 고속 메모리와 서버용 저장장치 사업을 모두 영위하고 있어, AI 설비투자(CAPEX) 증가의 수혜를 비교적 직접적으로 누리고 있다.

최근 몇 년간 마이크론은 포트폴리오 내 고부가가치 데이터센터 제품의 비중을 지속적으로 확대해 왔다. 마이크론은 앞서 데이터센터 사업이 전체 실적 성장의 핵심 동력이 되었다고 공개한 바 있으며, HBM은 시장에서 가장 큰 주목을 받는 제품 중 하나다. AI 가속기의 성능이 꾸준히 향상됨에 따라 GPU당 HBM 탑재 용량도 증가하고 있으며, 이는 AI 서버당 메모리 채용 가치를 더욱 높일 전망이다.

한편, 서버용 DRAM 역시 이에 못지않게 중요하다. 전통적인 서버는 일반적으로 RDIMM과 같은 메모리 모듈을 사용하며, AI 인프라가 지속적으로 확장함에 따라 일반 목적의 CPU 서버 수도 늘어나고 있어 서버용 DRAM 수요를 한층 더 견인할 것으로 예상된다.

트렌드포스는 이전 DRAM 시장 조사 보고서에서 공급업체들이 생산 능력의 일부를 HBM 및 서버용 애플리케이션으로 계속 전환함에 따라 PC 및 스마트폰용 DRAM 공급이 압박을 받아 전체 DRAM 시장이 수급 타이트 상태를 유지하고 있다고 지적했다.

이는 마이크론과 샌디스크의 가장 큰 차이점 중 하나이기도 하다.

샌디스크는 주로 낸드(NAND) 및 SSD 가격 상승의 수혜를 입는 반면, 마이크론은 HBM과 DRAM 가격 상승 수혜를 동시에 누릴 수 있다. 따라서 AI 서버가 고성능 메모리 수요를 계속 견인할 경우, 마이크론의 매출 및 마진 탄력성은 DRAM과 HBM에서 더 크게 나타날 수 있다.

하지만 동시에 마이크론은 HBM 경쟁 구도와 DRAM 주기에 더욱 노출되어 있기도 하다. 삼성전자와 SK하이닉스 모두 HBM 생산 능력을 공격적으로 확장하고 있는 만큼, 향후 시장에 공급이 늘어남에 따라 HBM 가격 결정력과 수익성은 재평가될 필요가 있다.

SK하이닉스: HBM, 가장 두드러진 AI 메모리 투자 포인트

SK하이닉스는 오랜 기간 DRAM 분야에 깊이 뿌리를 내려왔으며 HBM 시장에 일찍 진입했다. 엔비디아 등 AI 반도체 기업들이 연산 성능을 지속적으로 끌어올림에 따라, HBM은 AI 가속기를 지원하는 가장 핵심적인 고부가가치 메모리 제품으로 자리 잡았다.

SK하이닉스는 현재 HBM4를 추진하며 차세대 제품을 지속적으로 개발하고 있다. SK하이닉스의 2026년 2분기 실적 발표에 따르면 고성능 DRAM과 HBM에 대한 수요가 매출 성장을 지속적으로 견인하고 있으며, HBM4가 성능 및 소비전력 측면에서 고객사 기준을 충족하여 공급 물량을 늘리기 시작했다고 밝혔다.

이는 AI 가속기 출하량이 계속 증가하거나 AI 칩 각각에 탑재되는 HBM 용량이 늘어나는 한, SK하이닉스가 성장을 지속할 기회를 갖고 있음을 의미한다.

하지만 SK하이닉스의 경쟁력이 HBM에만 국한되는 것은 아니다.

자회사인 솔리다임을 통해 낸드 및 기업용 SSD 시장에도 참여하고 있다. 최근 몇 년간 솔리다임은 고용량 QLC 기업용 SSD 개발에 집중해 왔으며, 이는 고용량이면서도 비용 효율적인 저장장치를 필요로 하는 AI 데이터센터의 수요에 완벽히 부합한다.

따라서 SK하이닉스는 실제로 AI 서버의 두 가지 주요 메모리 및 저장장치 수요를 동시에 충족하고 있다. 모회사인 SK하이닉스는 주로 HBM과 서버용 DRAM의 수혜를 입고, 솔리다임은 기업용 SSD 시장에 참여하는 방식이다.

샌디스크: 주요 AI 기회는 낸드 및 기업용 SSD에서 창출

샌디스크가 마이크론이나 SK하이닉스와 가장 크게 다른 점은 샌디스크가 HBM을 생산하지 않는다는 것이다.

샌디스크는 주로 낸드 플래시 및 관련 저장장치 제품에 집중하고 있다. 따라서 AI로 인한 기회는 AI 가속기에 사용되는 HBM보다는 기업용 SSD 및 고용량 저장장치 수요에서 주로 발생한다.

이것이 샌디스크가 AI 서버 시장에서 상대적으로 작은 역할을 한다는 것을 의미하지는 않는다.

오히려 AI 모델이 학습 단계를 넘어 광범위한 실제 적용 단계로 진입함에 따라 데이터센터가 저장해야 할 데이터의 양은 지속적으로 늘어날 가능성이 높다. 특히 AI 추론, AI 에이전트, 장기 데이터 아카이빙은 초고속 읽기와 장기 보관이 필요한 방대한 양의 데이터를 생성할 것이다.

이에 따라 AI 서버에는 GPU와 HBM뿐만 아니라 점점 더 많은 고용량 기업용 SSD가 필요해지고 있다.

트렌드포스는 2026년 기업용 SSD 수요가 생성형 AI, AI 에이전트 서비스, 하이퍼스케일 데이터센터 구축에 의해 지속적으로 견인될 것으로 전망하고 있다. 주요 미국 클라우드 서비스 제공업체들도 최근 기업용 SSD 구매 전망을 상향 조정함에 따라 2026년 4분기 기업용 SSD 주문도 성장세를 유지할 것으로 예상된다.

이는 현재 샌디스크가 맞이한 가장 큰 산업적 기회를 나타낸다.

그러나 마이크론 및 SK하이닉스와 비교했을 때 샌디스크는 낸드 주기 위험에 더 크게 노출되어 있다. 트렌드포스는 신규 생산 능력 가동과 소비재 전자제품 수요 둔화로 수급 균형이 점차 개선됨에 따라 2027년 하반기에는 낸드 수급 타이트 현상이 완화되기 시작할 것으로 전망한다.

따라서 SNDK의 주가와 실적은 AI 데이터센터 수요뿐만 아니라 낸드 가격 주기의 영향도 함께 받는다.

세 기업의 가장 큰 차이점은 제품 포트폴리오의 범주와 HBM 및 낸드 시장에 대한 의존도다. 마이크론과 SK하이닉스는 DRAM, HBM, 낸드 사업을 동시에 영위하는 반면, 샌디스크는 주로 낸드 플래시와 SSD에 집중하고 있다.

AI 서버가 GPU 클러스터와 거대 모델 학습을 중심으로 계속 확장될 경우, HBM은 가치 상승 가능성이 가장 명확한 부문 중 하나로 남게 된다. 이러한 시나리오에서 SK하이닉스는 HBM에 대한 직접적인 사업 노출도가 더 높은 반면, 마이크론은 HBM, 서버용 DRAM, 데이터센터용 SSD 수요의 동시 수혜를 입는다.

AI 산업의 성장 무게중심이 학습에서 추론으로 서서히 이동한다면 낸드의 중요성이 크게 높아질 것이다. AI 에이전트 애플리케이션, 기업용 지식 기반 구축, 영상 생성, 롱 콘텍스트(long-context) 모델 등은 모두 장기 보관이 필요한 더 많은 데이터를 생성한다. 기업 입장에서 모든 콘텐츠를 고가의 HBM에 저장할 수는 없기 때문에 대용량 SSD를 활용해 계층화된 스토리지 아키텍처를 구축해야 한다. 이러한 흐름 속에서 샌디스크는 낸드 및 기업용 SSD 수요 변화에 대한 민감도가 높으며, SK하이닉스와 마이크론 또한 각사의 낸드 사업을 통해 추가적인 수혜를 입을 전망이다.

HBF와 같은 신기술이 메모리와 스토리지 간의 경계를 한층 더 모호하게 만들 수 있다는 점에 주목할 필요가 있다. HBF는 HBM과 유사한 적층 방식을 활용해 낸드 대역폭을 향상시킴으로써 기존 SSD와의 성능 격차를 줄이는 동시에 HBM을 훨씬 뛰어넘는 용량을 제공하는 것을 목표로 한다. 다만 단기적으로 HBF는 HBM을 대체하기보다는 HBM과 SSD 사이의 보완적 계층 역할을 할 가능성이 더 높다.

이 콘텐츠는 AI를 활용하여 번역되었으며, 명확성을 확보할 수 있도록 검토 과정을 거쳤습니다. 정보 제공 용도로만 제공됩니다.