HBM 다음은 HBF? SK하이닉스·샌디스크가 보는 AI 메모리 반도체의 진짜 변화
이번 이슈의 핵심은 단순히 “HBM이 필요 없어지냐”가 아닙니다.
진짜 중요한 포인트는 AI 서버 안에서 메모리 구조가 HBM 하나로 버티는 시대를 지나, HBM·HBF·SSD가 역할을 나눠 갖는 계층형 메모리 시대로 이동하고 있다는 점입니다.
특히 SK하이닉스가 자사 핵심 수익원인 HBM을 위협할 수도 있는 HBF 기술을 샌디스크와 함께 추진한다는 점은 메모리 반도체 시장의 판이 바뀌고 있다는 신호로 볼 수 있습니다.
이 글에서는 HBF가 무엇인지, HBM 수요를 실제로 줄일 수 있는지, AI 반도체와 데이터센터 투자 흐름에 어떤 영향을 주는지, 그리고 투자자와 산업 관점에서 무엇을 봐야 하는지까지 한 번에 정리해보겠습니다.
1. 한 줄 뉴스 요약: HBF는 HBM의 대체재가 아니라 ‘중간층 메모리’입니다
SK하이닉스와 샌디스크가 협력 중인 것으로 알려진 HBF는 NAND Flash 기반의 고대역폭 메모리 구조입니다.
쉽게 말하면 SSD에 쓰이던 낸드 플래시를 여러 층으로 쌓아 AI 칩 가까이에 붙이는 방식입니다.
기존 AI 서버 구조에서 GPU 바로 옆에는 HBM이 붙고, 멀리에는 SSD가 있었습니다.
HBM은 빠르지만 비싸고 용량이 제한적입니다.
SSD는 싸고 용량이 크지만 GPU 입장에서는 너무 멀고 느립니다.
HBF는 이 둘 사이에 들어가는 새로운 메모리 계층입니다.
즉, HBM만큼 빠르지는 않지만 SSD보다 훨씬 가깝고, HBM보다 훨씬 큰 용량을 제공하는 방식입니다.
2. 주방 비유로 이해하는 HBM·HBF·SSD 구조
AI 서버를 주방으로 보면 GPU는 요리사입니다.
요리사가 계산을 하고, AI 모델을 돌리고, 답변을 만들어냅니다.
HBM은 요리사 바로 앞에 있는 작은 작업대입니다.
손만 뻗으면 재료를 바로 꺼낼 수 있어서 속도가 아주 빠릅니다.
하지만 작업대는 좁고 비쌉니다.
SSD는 주방 저 멀리 있는 대형 창고입니다.
재료를 엄청 많이 보관할 수 있고 비용도 상대적으로 저렴합니다.
하지만 요리사가 매번 창고까지 다녀오면 시간이 오래 걸립니다.
HBF는 작업대와 창고 사이에 놓인 대형 이동식 선반에 가깝습니다.
작업대만큼 빠르지는 않지만 창고보다 훨씬 가깝고, 작업대보다 훨씬 많은 재료를 올려둘 수 있습니다.
3. 왜 갑자기 HBF가 필요해졌나: 에이전틱 AI가 메모리 병목을 키우고 있습니다
과거의 AI는 질문 하나를 받고 답변 하나를 내놓는 방식이 많았습니다.
하지만 지금의 AI 트렌드는 완전히 달라지고 있습니다.
이제 AI 에이전트는 긴 대화를 기억하고, 문서를 읽고, 코드를 실행하고, 외부 도구를 호출하고, 여러 단계의 작업을 이어갑니다.
짧게 끝나는 작업이 아니라 1시간, 5시간, 10시간 동안 이어지는 장기 작업도 가능해지고 있습니다.
이런 구조에서는 AI가 기억해야 할 데이터, 즉 컨텍스트가 폭발적으로 커집니다.
컨텍스트가 커진다는 것은 GPU 주변에 더 많은 메모리가 필요하다는 뜻입니다.
결국 에이전틱 AI 확산은 메모리 반도체 수요를 키우는 핵심 요인입니다.
최근 HBM 가격 상승과 데이터센터 투자 확대의 배경에도 이 흐름이 깔려 있습니다.
4. 핵심 기술: KV 캐시 오프로딩이 HBF의 존재 이유입니다
최근 AI 인프라에서 가장 중요하게 봐야 할 키워드 중 하나가 KV 캐시 오프로딩입니다.
KV 캐시는 대형언어모델이 문맥을 기억하고 다음 토큰을 예측할 때 활용하는 핵심 데이터입니다.
문제가 되는 건 이 KV 캐시가 AI 모델이 길고 복잡한 작업을 할수록 점점 커진다는 점입니다.
모든 KV 캐시를 HBM에 올리면 속도는 빠르지만 비용이 너무 커집니다.
반대로 SSD로 넘기면 비용은 줄어도 GPU가 데이터를 기다리느라 멈추는 병목이 생깁니다.
그래서 중간 계층이 필요해졌습니다.
자주 쓰고 즉각 반응해야 하는 데이터는 HBM에 두고, 크지만 상대적으로 덜 급한 데이터는 HBF에 두고, 장기 저장 데이터는 SSD에 두는 방식입니다.
이 구조가 본격화되면 AI 서버는 단순히 더 빠른 칩을 넣는 경쟁이 아니라, 메모리 계층을 얼마나 잘 설계하느냐의 경쟁으로 바뀝니다.
5. HBF의 스펙이 중요한 이유: 용량은 HBM보다 압도적으로 큽니다
원문 기준으로 HBF는 최대 약 512GB급 용량이 거론됩니다.
HBM4 한 스택이 약 24GB 수준으로 언급되는 기준과 비교하면, 용량 차이는 약 20배 수준까지 벌어질 수 있습니다.
물론 실제 제품 구성과 세대별 스펙에 따라 숫자는 달라질 수 있습니다.
중요한 것은 방향성입니다.
HBF는 HBM보다 훨씬 큰 용량을 GPU 가까이에 배치하려는 기술입니다.
대역폭도 등급에 따라 초당 약 0.4TB에서 최대 3TB 수준까지 거론됩니다.
최상위 구간에서는 HBM4와 비교 가능한 수준의 대역폭이 가능하다는 기대도 있습니다.
여기에 UCI 계열의 공통 연결 규칙을 통해 다양한 CPU와 GPU에 붙일 수 있는 구조가 논의되고 있습니다.
이 부분이 중요한 이유는 HBF가 특정 회사 전용 부품에 머무르지 않고, AI 반도체 생태계 전체로 확장될 가능성이 있기 때문입니다.
6. “HBF가 나오면 HBM은 끝난다?” 이 해석은 반만 맞습니다
HBF가 등장하면 일부 HBM 수요는 조정될 수 있습니다.
특히 AI 모델의 가중치처럼 크지만 자주 바뀌지 않는 데이터는 HBF로 옮겨갈 수 있습니다.
지금은 좁고 비싼 HBM 위에 너무 많은 데이터가 올라가 있는 상황입니다.
이 중 일부는 HBF라는 더 넓은 선반으로 내려가는 것이 합리적입니다.
하지만 HBF가 HBM을 완전히 대체하는 것은 어렵습니다.
HBM은 DRAM 기반이고, HBF는 NAND Flash 기반입니다.
낸드 플래시는 구조적으로 DRAM보다 반응 속도가 느리고, 쓰기·지우기 반복에 따른 수명 문제가 있습니다.
방금 계산한 데이터, 계속 바뀌는 데이터, 조금만 늦어도 GPU가 멈추는 데이터는 여전히 HBM 위에 있어야 합니다.
그래서 HBF의 등장은 HBM의 종말이 아니라 HBM에 올라갈 데이터의 기준이 더 까다로워지는 변화로 보는 게 맞습니다.
7. SK하이닉스가 왜 자기 효자 상품을 흔들 수 있는 기술을 만들까
이 부분이 이번 이슈에서 가장 흥미로운 대목입니다.
SK하이닉스 입장에서 HBM은 현재 가장 강력한 성장 동력입니다.
그런데도 HBF를 추진한다는 건 단기 제품 매출보다 AI 메모리 생태계 전체를 보겠다는 전략으로 해석할 수 있습니다.
애플이 아이팟을 지키는 대신 아이폰 안에 음악 기능을 넣었던 사례와 비슷합니다.
아이폰이 팔릴수록 아이팟 수요는 줄었지만, 애플은 더 큰 스마트폰 시장을 잡았습니다.
SK하이닉스도 HBM 하나를 최대한 많이 파는 전략에서 벗어나, AI 서버 전체의 메모리 구조를 장악하려는 방향으로 움직이는 것으로 볼 수 있습니다.
가장 빠른 층에는 HBM을 팔고, 중간층에는 HBF를 팔고, 더 큰 저장 영역에는 엔터프라이즈 SSD를 파는 구조입니다.
이렇게 되면 단일 제품 경쟁이 아니라 AI 데이터센터 전체 메모리 지갑을 가져가는 전략이 됩니다.
8. 글로벌 경제 전망 관점: HBF는 AI 서비스 비용을 낮추는 기술입니다
현재 AI 산업의 가장 큰 고민 중 하나는 비용입니다.
GPU도 비싸고, HBM도 비싸고, 전력도 많이 들고, 데이터센터 투자 규모도 커지고 있습니다.
AI 서비스 기업 입장에서는 모델 성능을 높이고 싶지만, 추론 비용이 너무 높으면 수익성이 악화됩니다.
HBF가 제대로 자리 잡으면 모든 데이터를 비싼 HBM에 올리지 않아도 됩니다.
그만큼 AI 서버 한 대당 메모리 비용 구조를 더 유연하게 만들 수 있습니다.
AI 서비스 비용이 낮아지면 기업들은 더 많은 AI 서비스를 배포할 수 있습니다.
사용량이 늘어나면 다시 데이터센터 투자가 늘어납니다.
이 과정에서 AI 반도체, 메모리 반도체, 반도체 공급망 전체가 함께 커질 수 있습니다.
즉, HBF는 단순한 부품 신기술이 아니라 AI 경제성 개선과 연결되는 인프라 기술입니다.
9. 다른 뉴스에서 잘 안 짚는 진짜 핵심: HBF는 ‘락인 구조’를 강화합니다
많은 뉴스는 HBF를 “HBM 대체재냐 아니냐” 정도로만 다룹니다.
그런데 더 중요한 포인트는 고객 락인입니다.
과거 범용 DRAM 시대에는 가격이 맞지 않으면 고객이 공급사를 바꾸는 일이 상대적으로 쉬웠습니다.
하지만 HBM과 HBF는 단순 메모리 부품이 아닙니다.
GPU, CPU, 패키징, 인터커넥트, 소프트웨어, 냉각 구조까지 함께 설계되어야 합니다.
특히 HBF가 GPU 옆에 붙고, HBM과 함께 동작하고, 광통신 기반 연결까지 확장된다면 시스템 단위 최적화가 필수가 됩니다.
이렇게 되면 고객은 특정 메모리 업체의 기술 생태계 안으로 깊게 들어가게 됩니다.
앞으로는 “메모리 가격이 싸니까 다른 업체로 바꾸자”가 쉽지 않아질 수 있습니다.
이게 SK하이닉스와 삼성전자 같은 메모리 기업들이 노리는 장기 전략의 핵심입니다.
10. 삼성전자와 SK하이닉스에 주는 의미
SK하이닉스는 HBM 시장에서 강한 입지를 확보한 상태에서 HBF라는 중간 계층까지 주도하려는 그림을 그리고 있습니다.
이 전략이 성공하면 단순 HBM 공급사를 넘어 AI 서버 메모리 아키텍처의 핵심 설계 파트너로 올라설 수 있습니다.
삼성전자 입장에서는 HBM 경쟁력 회복뿐 아니라 차세대 메모리 계층 전략도 중요해집니다.
HBM만 잘 만드는 것으로는 충분하지 않을 수 있습니다.
AI 모델 구조, 데이터 이동 방식, 패키징, 파운드리, 낸드 플래시까지 연결된 통합 전략이 필요합니다.
결국 메모리 반도체 경쟁은 DRAM 대 NAND의 구분을 넘어, AI 서버 전체를 누가 더 효율적으로 설계하느냐의 싸움으로 진화하고 있습니다.
11. 샌디스크가 중요한 이유: NAND Flash의 역할이 다시 커집니다
샌디스크는 NAND Flash와 SSD 분야에서 강력한 기술력을 가진 기업입니다.
HBF가 NAND Flash 기반이라면 샌디스크 같은 업체의 역할은 매우 중요해집니다.
그동안 AI 메모리 시장의 주인공은 HBM이었고, HBM은 DRAM 기업 중심으로 움직였습니다.
하지만 HBF가 본격화되면 NAND Flash 기업들도 AI 반도체 시장의 중심부로 들어올 수 있습니다.
이는 낸드 시장에도 긍정적인 변화입니다.
스마트폰과 PC 중심의 낸드 수요가 둔화되는 구간에서도 AI 데이터센터라는 새로운 고부가 수요처가 생길 수 있기 때문입니다.
결국 HBF는 DRAM 기업과 NAND 기업의 협업 모델을 키우는 계기가 될 수 있습니다.
12. 앞으로 반드시 봐야 할 3가지 체크포인트
첫 번째는 실제 샘플 성능입니다.
표준이나 발표 자료에서 제시된 대역폭과 용량이 실제 샘플에서도 유지되는지 확인해야 합니다.
AI 서버는 발표 스펙보다 실사용 성능이 훨씬 중요합니다.
GPU 옆에서 안정적으로 작동하면서 병목을 얼마나 줄이는지가 핵심입니다.
두 번째는 열과 수명입니다.
HBF는 NAND Flash 기반이기 때문에 열과 쓰기 수명 문제가 중요합니다.
GPU 주변은 온도가 높고 전력 밀도가 강합니다.
이 환경에서 HBF가 장기간 안정적으로 동작할 수 있는지가 상용화의 관건입니다.
특히 데이터를 자주 쓰고 지우는 워크로드에서 내구성을 어떻게 확보할지가 중요합니다.
세 번째는 생태계 채택입니다.
아무리 좋은 메모리라도 GPU 업체, 클라우드 기업, 서버 제조사, 소프트웨어 플랫폼이 받아들이지 않으면 시장은 열리지 않습니다.
엔비디아, AMD, 인텔, 주요 클라우드 기업들이 HBF를 실제 시스템에 넣을지 봐야 합니다.
또한 AI 프레임워크와 모델 설계 단계에서 HBM·HBF·SSD를 나눠 쓰는 소프트웨어 최적화가 가능해야 합니다.
13. 투자자 관점: HBF는 HBM 피크아웃 논쟁보다 더 큰 테마입니다
시장에서는 HBM 수요가 언제 꺾일지에 관심이 많습니다.
하지만 HBF 이슈는 단순한 피크아웃 논쟁보다 더 큰 흐름을 보여줍니다.
AI가 발전할수록 필요한 메모리 총량은 계속 늘어납니다.
다만 그 메모리가 모두 HBM일 필요는 없습니다.
앞으로는 HBM, HBF, SSD가 각각 다른 가격대와 성능대에서 역할을 나눠 갖게 됩니다.
이는 메모리 기업 입장에서는 제품 포트폴리오를 더 넓힐 기회입니다.
또한 글로벌 경제 전망 측면에서도 AI 인프라 투자 사이클이 단기간 유행이 아니라 구조적 투자로 이어질 가능성을 보여줍니다.
데이터센터 투자, 전력 인프라, 냉각 기술, 첨단 패키징, 파운드리 수요까지 함께 봐야 하는 이유입니다.
14. 결론: HBF의 등장은 HBM의 위기가 아니라 AI 메모리 시장 확장의 신호입니다
HBF가 나오면 HBM이 사라진다는 해석은 너무 단순합니다.
정확히는 HBM이 맡아야 할 일과 HBF가 맡아야 할 일이 나뉘는 것입니다.
HBM은 가장 빠르고 민감한 데이터를 처리하는 초고속 작업대 역할을 계속합니다.
HBF는 크지만 상대적으로 덜 민감한 데이터를 GPU 가까이에 두는 대형 선반 역할을 맡습니다.
SSD는 장기 저장과 대용량 보관을 담당합니다.
이렇게 메모리 계층이 세분화될수록 AI 서버는 더 효율적으로 바뀝니다.
그리고 AI 서비스 비용이 낮아지면 전체 AI 수요는 오히려 더 커질 수 있습니다.
결국 HBF는 HBM을 죽이는 기술이 아니라, AI 메모리 반도체 시장 전체를 더 크게 만드는 기술로 보는 게 맞습니다.
< Summary >
HBF는 NAND Flash를 기반으로 GPU 가까이에 붙이는 차세대 고용량 메모리입니다.
HBM보다 용량은 크고 SSD보다 GPU에 가까운 중간층 메모리 역할을 합니다.
에이전틱 AI 확산으로 컨텍스트와 KV 캐시가 커지면서 HBF 필요성이 커지고 있습니다.
HBF가 일부 HBM 수요를 대체할 수는 있지만, 빠른 연산 데이터는 여전히 HBM이 필요합니다.
진짜 핵심은 HBM의 종말이 아니라 HBM·HBF·SSD로 나뉘는 계층형 AI 메모리 구조의 시작입니다.
SK하이닉스가 HBF를 추진하는 이유는 단일 HBM 매출보다 AI 서버 전체 메모리 생태계를 장악하려는 전략으로 볼 수 있습니다.
앞으로는 샘플 성능, 열과 수명, GPU·클라우드 기업의 생태계 채택 여부가 가장 중요한 체크포인트입니다.
