Micron đã giới thiệu bộ nhớ LPDDR‑SOCAMM2 đầu tiên thế giới với dung lượng 256 GB, hoàn hảo cho trí tuệ nhân tạo.

Micron ra mắt loại bộ nhớ mới cho trung tâm dữ liệu

Công ty Micron đã giới thiệu trên thế giới module bộ nhớ RAM LPDRAM SOCAMM2 đầu tiên có dung lượng 256 GB, được thiết kế đặc biệt cho các trung tâm xử lý dữ liệu cao cấp và nhiệm vụ trí tuệ nhân tạo.

Điều gì mới?
Tham số Bộ nhớ truyền thống LPDRAM SOCAMM2
Tiêu thụ năng lượng – thấp hơn gấp ba lần
Kích thước module – nhỏ gọn, được xây dựng từ các tinh thể đơn lỗ 32 Gb
Băng thông – tăng cường cho suy luận AI
Độ trễ – giảm đáng kể

Khi chạy trên bộ xử lý tám kênh và tổng cộng 2 TB bộ nhớ, tốc độ khởi động mô hình AI (thời gian tới token đầu tiên) tăng hơn hai lần rưỡ.

Ai cần nó?
Module được hướng đến:

- Triển khai các mô hình ngôn ngữ lớn;
- Bất kỳ tải công việc nào mà dung lượng bộ nhớ, băng thông và độ trễ là yếu tố quan trọng;
- Các kịch bản khi một phần KV‑cache có thể chuyển từ bộ nhớ đồ họa sang bộ nhớ hệ thống tiết kiệm hơn mà không làm giảm hiệu suất.

Hình thức và hợp tác
SOCAMM2 – phiên bản nhỏ gọn của định dạng RDIMM, nhưng với tiêu thụ năng lượng thấp hơn. Việc phát triển bộ nhớ được thực hiện cùng với Nvidia, nhấn mạnh tính phù hợp cho tăng tốc GPU AI.

Do đó, Micron cung cấp một giải pháp hiệu quả cho trung tâm dữ liệu, giúp giảm chi phí năng lượng và không gian, đồng thời cải thiện hiệu suất tải công việc AI.