Nvidia đang chuẩn bị cho cuộc chiến về suy luận, tạo chip dựa trên công nghệ Groq cho OpenAI và các tác nhân AI.

Chip mới của Nvidia - bước tiến tới các ứng dụng AI nhanh hơn

Nvidia dự định ra mắt trong tháng Ba một bộ xử lý được thiết kế đặc biệt để tăng tốc suy luận (tính toán mô hình đã được huấn luyện) và nhắm vào khách hàng như OpenAI. Đây là sự thay đổi hướng đi của công ty, vốn trước đây chủ yếu tập trung vào việc huấn luyện hệ thống AI.

Cụ thể sẽ có gì
- Nền tảng mới sẽ được giới thiệu tại hội nghị dành cho nhà phát triển GTC (Graphics Technology Conference).

- Trọng tâm của nền tảng sẽ bao gồm chip từ startup Groq – một trong những giải pháp suy luận nhanh nhất hiện nay.

- Nền tảng này nhằm cạnh tranh với các bộ tăng tốc riêng của Google và Amazon, đã đạt được nhiều thành công đáng kể.

Tại sao điều này quan trọng
Với sự gia tăng phổ biến của “web‑coding” (tạo mã AI từ văn bản), nhu cầu về cơ sở hạ tầng nhanh và tiết kiệm năng lượng đang tăng lên.

Đối với OpenAI, bộ xử lý mới trở thành yếu tố then chốt:

- Vào tháng Một công ty đã ký hợp đồng với Cerebras cho một chip hướng tới suy luận, mà theo đánh giá của họ nhanh hơn đối thủ.
- Ngay trước đó OpenAI công bố một thỏa thuận lớn với Nvidia, trong đó họ nhận được “điểm mạnh dành riêng cho suy luận” và đầu tư 30 tỷ đô la từ nhà sản xuất “xanh”.

Môi trường cạnh tranh
Công ty | Sản phẩm | Hướng đi
Nvidia | GPU dòng Hopper, Blackwell, Rubin | Huấn luyện và suy luận
Google | TPU | Suy luận
Amazon | Trainium | Suy luận
Cerebras | Chip chuyên dụng | Suy luận
Groq | Chip với “khối xử lý ngôn ngữ” | Suy luận

Nvidia giữ hơn 90% thị phần GPU, nhưng chip của họ thường được coi là đắt và tiêu tốn năng lượng cho các tác vụ suy luận. Điều này thu hút sự chú ý của những công ty đang tìm kiếm giải pháp thay thế.

Các ứng dụng chính
- Tạo mã: Các dịch vụ Claude Code (Anthropic) và Codex (OpenAI) sử dụng hạ tầng đám mây của Amazon và Google, nhưng Codex dự định chuyển sang nền tảng Nvidia mới.
- Nhắm mục tiêu quảng cáo: Meta hợp tác với Nvidia để suy luận các hệ thống AI, nơi bộ xử lý trung tâm trở nên hiệu quả nhất.

Kết luận
Nvidia không chỉ mở rộng dòng sản phẩm mà còn tham gia vào cuộc cạnh tranh trực tiếp với những ông lớn trong ngành. Chip mới được tích hợp với startup Groq có thể trở thành yếu tố quyết định cho các công ty khao khát xử lý mô hình AI nhanh hơn và tiết kiệm chi phí.