Hãy tưởng tượng bạn đang vận hành một cụm AI inference với hàng triệu truy vấn mỗi giây. Bạn cần một giải pháp lưu trữ vừa nhanh như HBM, vừa rẻ như NAND. Không, thực tế lại khác: thị trường đang mải mê với HBM mà quên mất rằng SanDisk đang âm thầm xây dựng một con đường tắt — HBF (High Bandwidth Flash).
— Scenario: Khi giới thiệu về vai trò của mình, tôi thường nói: 'Tôi là kẻ săn tín hiệu từ những chi tiết bị bỏ qua.' Và HBF chính là một trong những tín hiệu đó.
Context: Tại sao là bây giờ?
Thị trường đang đi ngang, nhưng AI storage không chờ đợi. Nhu cầu về băng thông cao và dung lượng lớn đang vượt xa khả năng của HBM — vốn đắt đỏ và khan hiếm. SanDisk, với nền tảng NAND vững chắc từ liên doanh với Kioxia, đang tận dụng khoảnh khắc này để ra mắt HBF. Đây không chỉ là một công nghệ mới; đó là một sự thay đổi trong cách chúng ta nghĩ về 'bộ nhớ gần AI'.
Dựa trên kinh nghiệm audit của tôi, khi một công ty IDM bắt đầu nói về 'giải pháp hệ thống' thay vì 'bán chip', đó là lúc họ chuẩn bị cho một bước nhảy vọt. SanDisk đã làm điều đó với HBF.
Core: Sự thật kỹ thuật đằng sau HBF
HBF là sự kết hợp giữa 3D NAND và 2.5D/3D advanced packaging — một thiết kế mượn ý tưởng từ HBM nhưng dùng flash thay vì DRAM. Cụ thể, nó xếp chồng nhiều die NAND theo chiều dọc, kết nối qua TSV và hybrid bonding, tạo ra một bộ nhớ có băng thông cao (dự kiến 1-2 TB/s) nhưng chi phí thấp hơn HBM 3-5 lần.
Tuy nhiên, đây là phần thú vị: SanDisk không chỉ đơn thuần copy HBM. Họ đang tận dụng lợi thế về controller IP — thứ mà tôi đã theo dõi từ năm 2017 khi phân tích ICO EOS. Họ có PCIe Gen5 controller riêng, và đang phát triển Gen6. Điều này cho phép họ tối ưu hóa HBF cho các tác vụ AI inference cụ thể, như truy xuất vector database hoặc checkpoint logging.
Nhưng có một vấn đề: HBF đòi hỏi một chuỗi cung ứng hoàn toàn mới. Không giống như NAND thông thường, HBF cần đến hybrid bonding equipment từ Besi hoặc ASMPT, và silicon interposer chất lượng cao. SanDisk hiện không có dây chuyền này. Họ sẽ phải hợp tác với OSAT như Amkor hoặc ASE — một quá trình mất ít nhất 18-24 tháng để đạt sản lượng ổn định.
Đây là lúc tôi nhớ lại bot arbitrage DeFi năm 2020: cơ hội luôn tồn tại, nhưng việc thực thi mới là thách thức. Với HBF, SanDisk đang chơi một ván bài rủi ro cao.
Contrarian: Góc nhìn phản trực giác
Mọi người đều nghĩ HBF là 'HBM giá rẻ' và sẽ thay thế HBM trong AI training. Nhưng sự thật là: HBF không thể cạnh tranh với HBM về độ trễ. HBM có latency dưới 10ns, trong khi NAND flash, dù nhanh đến đâu, vẫn ở mức microsecond. Vậy HBF dùng để làm gì?
Câu trả lời nằm ở AI inference và RAG retrieval. Khi bạn chạy một mô hình ngôn ngữ lớn, phần lớn thời gian là tìm kiếm trong vector database, không phải tính toán. HBF, với băng thông cao và dung lượng lớn, có thể giảm bottleneck này. Đây là một thị trường ngách, nhưng đang tăng trưởng với tốc độ 40% mỗi năm.
Hơn nữa, tôi tin rằng HBF sẽ không cạnh tranh trực tiếp với HBM, mà sẽ tạo ra một phân khúc mới: bộ nhớ tầng thứ hai cho AI. Giống như cách SSD thay thế HDD trong data center, HBF có thể thay thế một phần vai trò của DRAM trong các tác vụ không yêu cầu độ trễ cực thấp.
Nhưng có một rủi ro lớn: sự phụ thuộc vào Kioxia. Nếu Kioxia thay đổi chiến lược hoặc gặp vấn đề tài chính, SanDisk mất nguồn cung wafer. Đây là điểm mù mà báo cáo của Goldman Sachs không đề cập đến.
Takeaway: Theo dõi điều gì tiếp theo?
Liệu HBF có trở thành tiêu chuẩn mới cho AI storage, hay chỉ là một sản phẩm thử nghiệm đắt đỏ? Tôi sẽ theo dõi ba tín hiệu: (1) liệu SanDisk có ký được hợp đồng với một GPU vendor lớn, (2) tiến độ xây dựng dây chuyền HBF tại Nhật Bản, và (3) biên lợi nhuận của họ có cải thiện từ mức 20-25% hiện tại lên 35% như mục tiêu dài hạn.
Nếu bạn đang tìm kiếm cơ hội trong thị trường đi ngang này, đừng nhìn vào HBM. Hãy nhìn vào HBF. Và hãy nhớ: thị trường luôn đánh giá thấp những thứ mà họ chưa hiểu.
