OpenAI đang nghi ngờ hiệu quả của các bộ tăng tốc Nvidia cho suy luận và đang tích cực tìm kiếm thay thế

Cái gì đang xảy ra trong thế giới công nghệ AI
Điểm chính: Các nhà chơi lớn OpenAI và Nvidia được coi là dẫn đầu thị trường trí tuệ nhân tạo, nhưng họ đang tìm kiếm những đối tác mới. Sắp tới sẽ có một thỏa thuận – kỳ vọng hợp đồng trị giá 100 triệu đô la giữa hai công ty này. Vấn đề với các bộ tăng tốc của Nvidia: Chip hiện tại không luôn cung cấp hiệu suất cần thiết khi thực thi (sử dụng mô hình đã được huấn luyện). OpenAI đang tìm kiếm sự thay thế.

Cách thức phát triển giải pháp mới
1. OpenAI → Cerebras + Groq

- Công ty muốn thay thế tới 10% bộ tăng tốc của mình bằng chip của nhà cung cấp bên thứ ba, phù hợp hơn cho thực thi.

- Hợp tác với Cerebras đã được ký kết: OpenAI sẽ mua “công cụ tăng tốc” từ họ, xuất sắc trong xử lý các mô hình ngôn ngữ lớn.

2. Groq và Nvidia

- Năm ngoái Nvidia đã mua lại Groq với giá 20 triệu đô la, đề nghị cấu trúc giao dịch có lợi hơn.

- Sau khi mua, Groq mất một phần độc lập: hầu hết các nhà phát triển bộ tăng tốc chuyển sang đội ngũ của Nvidia, còn phần còn lại chỉ có thể bán phần mềm cho hệ thống đám mây.

3. AMD và các lựa chọn khác

- OpenAI vẫn phụ thuộc mạnh vào bộ tăng tốc của Nvidia và AMD, những chiếc dùng bộ nhớ ngoài HBM.

- Đối với thực thi, chip có dung lượng bộ nhớ tích hợp lớn hơn là phù hợp – chính những loại mà Groq, Cerebras và Google cung cấp.

Tại sao điều này quan trọng
- Hiệu quả thực thi rất quan trọng cho các mô hình ngôn ngữ lớn (ChatGPT, Codex).

- Vấn đề với Codex: khi phát triển AI agent Codex, OpenAI gặp phải sự kém hiệu quả của bộ tăng tốc Nvidia. Điều này nhấn mạnh nhu cầu thay đổi nền tảng phần cứng.

- Giải pháp tương lai – OpenAI dự định sử dụng các giải pháp Cerebras và có thể những chip khác để nâng cao hiệu suất công cụ dành cho nhà phát triển.

Kết luận
OpenAI đang tích cực tìm kiếm đối tác công nghệ mới, tránh phụ thuộc hoàn toàn vào Nvidia. Đồng thời, công ty xây dựng chiến lược đầu tư vào các startup (Cerebras, Groq) và xem xét các giao dịch lớn với Nvidia cùng khả năng đầu tư lên tới 100 triệu đô la. Điều này sẽ giúp cải thiện thực thi và thúc đẩy phát triển sản phẩm AI.