AI 서버 HBM 및 디램 메모리 탑재량 (ft. 디시 뿌잉님)

반도체 업황 및 산업과 관련하여 디시인사이드의 뿌잉님의 글을 검색하여 많은 도움이 되고 있습니다. 뿌잉님의 글의 내용을 읽기만 하는 것보다는 한 번 더 쓰면서 복습하고 정리해두면 도움이 많이 되어 정리해보았습니다.

 

뿌잉님 글 다시 쓰며 요약 (24.09.27.)

마이크론이 사실상 커머디티로만 어닝 서프라이즈 낸게 의미가 큼

위 표는 2023년 기준임. 2024년 기준으론 AI/HPC에 일반 디램 탑재량도 2T로 예상치 늘림. 또한 2023년 H100을 기준으로 했을 때고 H200과 블랙웰이 나오면 메모리 탑재량도 더 커질 것으로 예상됨. 즉 지금 시장에서는 HBM에만 집중하는데, AI 서버는 말 그대로 다른 메모리, 서버 RDIMM과 eSSD를 굉장히 많이 소비함. 커머디티 메모리 소비가 급증한다는 말임. 

 

그런 관점에서 2024년 3분기 마이크론 실적 발표의 중요한 점은 마이크론이 HBM 없이 커머디티로만 어닝 서프라이즈를 찍었다는 점임. 마이크론 3분기 매출액이 77.5억불인데 HBM 매출액이 아무리 봐도 컨센서스인 3억불 미만일 것 같음. 현재까지 HBM은 마이크론 매출액에서 의미가 없는 수준임. 결국 아직 마이크론은 HBM 수율이 안 좋다는 추론이 가능하며 실제로 컨콜에서도 HBM 생산 Ramp-up 과정에서 일부 지연이 있다고 언급함.

 

 

그런데도 마이크론 실적이 잘 나온것은 서버 RDIMM과 특히 eSSD 매출이 크게 증가했기 때문임. 현재 서버향 DDR5의 경우 업계 평균 영업이익률이 40%대 후반의 영업이익률로 추정됨. 하이닉스의 HBM 영업이이률이 약 50~60%임을 감안하면 서버 RDIMM과 eSSD는 HBM 파는것과 크게 차이가 나지 않는 고부가가치 제품임. 하이닉스가 24년 2분기 컨콜에서 "커머디티 디램의 수익성이 HBM을 초과할 수 있다"고 괜히 말한게 아님. 즉 AI의 수혜가 HBM에서 디램뿐만 아니라 낸드까지, 일반 커머디티 메모리까지 본격적으로 확산되고 있음. 이게 가장 핵심임.

 

더불에 HBM뿐만 아니라 일반 서버 투자 역시 살아남에 따라 서버향 메모리 수급이 더욱 타이트해지는 상황임. 그러다보니 메모리 3사 중에서 AI/서버 노출도가 가장 높은 하이닉스는 이미 2분기 기준으로 전체 디램 매출에서 서버/HBM이 차지하는 비중이 60%에 달했고,  내년에는 거의 80%를 넘길 것으로 예상됨. 즉 PC와 모바일 수요의 영향을 거의 받지 않게 변화중.

 

 

그리고 이런 서버향 선단공정 디램 수급을 더욱 타이트하게 만드는건 HBM 캐파의 급증임. 위 그림을 보면 HBM 출하량을 보여주는데, 가장 중요한건 HBM3E임. HBM3E부터 D1a 이상의 선단공정을 사용하면서 DDR5/LPDDR5 찍을 커머디티 디램 CAPA를 잠심하기 때문임. 이 HBM3E 출하량이 24년 4분기부터 폭발적으로 늘어나는데, 그만큼 다른 선단공정 디램(DDR5/LPDDR5) 수급이 타이트해 질수밖에 없음. 즉, HBM으로 인한 선단공정 커머디티 쇼티지는 이제부터가 본격적인 시작임. 그러니까 마이크론이 8월 컨퍼런스에서 "25년도 디램 수요를 대응하기 위해 지금부터 재고를 축적해야 한다"고 말한 것임. 또 이번 컨콜에서도 "선단 공정 수급은 앞으로도 계속 타이트할 것이며, 커미디티 쇼티지 로직이 작동할 것이다"고 언급한 것임. 

 

 

의미있는 댓글들

1. 삼성 고성능 서버용 디램은 마이크론과 비교했을 경쟁력과 성능이 떨어지는 편임.

 

2. 낸드는 eSSD를 제외하고는 계속 수요가 안 좋음. IT 세트 수요가 늘어나야 낸드가 좋아지는데 IT 세트 수요는 당분간 답이 없어 보임.