SK Hynix và SanDisk đã bắt đầu chuẩn hoá Flash băng thông cao, bộ nhớ trung gian giữa HBM và SSD

SK Hynix và SanDisk công bố ra mắt cấp độ bộ nhớ mới – High Bandwidth Flash (HBF) – trong khuôn khổ dự án Open Compute Project

Cái gì là HBF
* Định vị:

HBF là “cấp trung gian” giữa bộ nhớ siêu nhanh HBM và SSD dung lượng lớn.

Nó lấp đầy khoảng trống giữa tốc độ cao của HBM và dung lượng lớn của SSD, cung cấp vừa mở rộng khối lượng dữ liệu, vừa tiết kiệm năng lượng cần thiết cho các tác vụ AI.

* Vai trò trong kiến trúc:

Khác với HBM, vốn cung cấp tốc độ chính, HBF đóng vai trò lớp bộ nhớ phụ trợ, bổ sung cho hệ thống tổng thể.

Cách SanDisk nhìn nhận HBF
| Đặc tính | Thông số của SanDisk | Công nghệ |
|---|---|---|
| Bộ nhớ NAND sử dụng BiCS NAND và công nghệ CBA (CMOS Direct Bonded to Array). | Dung lượng 8–16 lần lớn hơn HBM với băng thông tương đương. | Giá trị gần bằng HBM trong các cấu hình hệ thống điển hình. |

Bộ xếp thế hệ đầu tiên
* Băng thông đọc: lên tới 1,6 TB/s (256 Gb/s trên chip).
* Tổng dung lượng bộ xếp (16 chip): lên tới 512 GB.
* Thông số vật lý: bộ xếp được thiết kế để phù hợp tối đa với kích thước, tiêu thụ năng lượng và chiều cao của HBM4 – mô hình tích hợp tương tự các bộ xếp HBM hiện đại trên các bộ tăng tốc AI.

Hiệu suất
Các thử nghiệm nội bộ cho thấy HBF chỉ khác 2,2 % so với “HBM không giới hạn dung lượng” khi tải dựa trên cấu hình 8-bit của Llama 3.1 405B.

*Quan trọng:* So sánh sử dụng một HBM giả định không có giới hạn dung lượng, vì vậy không đo lường trực tiếp lợi ích từ dung lượng lớn hơn.

Độc lập năng lượng
HBF giữ dữ liệu khi mất nguồn – khác với bộ nhớ DRAM, vốn cần nguồn liên tục để cập nhật dữ liệu.

Kế hoạch tương lai (Gen 2 và Gen 3)
| Thế hệ | Băng thông đọc mục tiêu | Dung lượng bộ xếp | Tiêu thụ năng lượng (so với Gen 1) |
|---|---|---|---|
| Gen 2 | > 2 TB/s | tới 1 TB | 0,8× so với Gen 1 |
| Gen 3 | > 3,2 TB/s | tới 1,5 TB | 0,64× so với Gen 1 |

Điều tiếp theo
* Chuẩn hoá: SK Hynix và SanDisk đã xác định HBF như bước tiếp theo trong khuôn khổ Open Compute Project.
* Triển khai: Lịch trình chính xác chưa được công bố.

Như vậy, HBF hứa hẹn trở thành lớp bộ nhớ “trung gian” mới, kết hợp tốc độ của HBM với dung lượng của SSD, đồng thời vẫn tiết kiệm năng lượng và tương thích với các bộ tăng tốc AI hiện có.