지식인초대석 EP.121 · 2026.04.11

HBM·HBF와 메모리 센트릭 컴퓨팅

김정호 KAIST 교수 (HBM의 아버지) — AI 시대 반도체 패권은 GPU가 아닌 메모리가 결정한다
1000x
메모리 수요 증가
8~16x
HBF 용량 배수
70%
SK하이닉스 HBM4 점유율
2036
HBF 매출 역전 전망
AI 시대 메모리 대역폭과 용량은 현재 대비 1,000배 증가 필요 — 반도체 경쟁의 승패는 GPU가 아닌 메모리가 결정한다
1
메모리 계층 아키텍처
연산
GPU
행렬 계산 처리
NVIDIA · AMD · Google TPU
단기기억 (참고서)
HBM
DRAM 수직 적층 + TSV
고대역폭 / 저지연 캐시
장기기억 (도서관)
HBF
NAND 수직 적층 + TSV
AI 모델 전체 저장 (8~16배)
제어
메모리 컨트롤러
HBM 베이스 다이 탑재
데이터 교통 정리
2
패러다임 전환 — GPU 중심 vs 메모리 센트릭
현재: GPU 중심
  • CPU → GPU(중심) → HBM
  • 메모리 대역폭이 병목
  • GPU 수 증가로 확장
  • GPU 가격이 비용 지배
  • Intel → NVIDIA 패권 이동
VS
미래: 메모리 센트릭
  • HBM/HBF(중심) ← GPU(부품)
  • 연산 처리량이 병목
  • 메모리 용량/대역폭 확장
  • 메모리 가격이 비용 지배
  • NVIDIA → SK하이닉스/삼성
3
시대별 핵심 반도체 전환
1990~2010
CPU
Intel 지배
PC 시대
2010~2020
AP
Qualcomm · Apple
스마트폰 시대
2020~현재
GPU
NVIDIA 지배
AI 훈련 시대
2030~
HBM + HBF
SK하이닉스 · 삼성
메모리 센트릭 시대
2026 H2
HBM4 본격 양산
베이스 다이 시스템 반도체 기능 탑재 / SanDisk HBF 첫 샘플
2027
HBM4E + HBF 디바이스 샘플
삼성 HBM4E 본격 양산, HBF 탑재 AI 추론 디바이스 등장
2028
HBF 본격 채용
구글/엔비디아/AMD 중 한 곳 HBF 첫 채용
~2031
HBM5~6: 아파트 타운화
수평 확장 구조, 액체 냉각 도입
~2036
HBF 매출 역전
HBF 판매액이 HBM 추월 전망
~2038
HBM7~8: 메모리 센트릭 완성
내부 직접 수냉 / GPU 내부 부품화
메모리 생산
SK하이닉스 / 삼성
TSV 본딩
국내 장비사
GPU 연결
NVIDIA / AMD
모듈 통신
브로드컴 / 포토닉스
AI 서비스
OpenAI / Google
구분SK하이닉스삼성전자
HBM 초기적극 투자 → 현재 1위투자 지연 → 후폭풍
HBM4 (2026)12단 36GB 최초 공급, MR-MUF양산 출하 후 HBM4E 로드맵
HBF 전략SanDisk + OCP 표준화 선점HBM4E 집중 + HBF 병행
점유율Rubin HBM4 ~70% (UBS)선제 공격 전략으로 전환
공통 강점DRAM + NAND 동시 보유 → HBM + HBF 양쪽 수혜