OpenAI đã bổ nhiệm một “trưởng phòng chuẩn bị”, người sẽ giám sát an toàn trí tuệ nhân tạo.

OpenAI đã bổ nhiệm người lãnh đạo mới về an toàn trí tuệ nhân tạo

Trong bối cảnh các câu hỏi ngày càng tăng về việc sử dụng AI một cách an toàn, công ty OpenAI thông báo về thành viên mới trong đội ngũ – Dylan Scandino với chức vụ *Head of Preparedness* (Giám đốc Chuẩn bị).

Ai là Dylan Scandino?
| Thời gian | Công ty | Vai trò |
|-----------|---------|--------|
| Tháng 5 2023 – tháng 2 2024 | Anthropic | Trưởng dự án an toàn AI |
| Tháng 9 2022 – tháng 5 2025 | DeepMind (Google) | Chuyên gia dữ liệu tổng hợp cho Gemini |
| Trước năm 2022 | Palantir, Unity Technologies, Everyday Robots | Các vị trí khác trong lĩnh vực học máy và phát triển phần mềm |

Scandino nổi tiếng với việc đã thực hiện các nhiệm vụ tương tự về giảm rủi ro trong quá trình phát triển mô hình AI tại những nơi làm việc trước đây.

Ý nghĩa của bổ nhiệm mới là gì?
* Vai trò: Chức vụ lãnh đạo trong nhóm “chuẩn bị” – chịu trách nhiệm chuẩn bị và triển khai các biện pháp giúp phát triển các mô hình mạnh mẽ mà không gây nguy hại cho người dùng.
* Điều kiện: Mức lương $550 000/ năm cộng với cổ phiếu OpenAI.
* Bối cảnh: Từ năm 2023, công ty đã có một “đội ngũ chuẩn bị”, trước đây được lãnh đạo bởi Alexander Madrid, chuyên gia từ MIT.

Nhận định của Giám đốc điều hành OpenAI
Giám đốc điều hành Sam Altman cho biết rằng với tốc độ phát triển nhanh chóng của các mô hình, công ty sẽ phải đối mặt với những rủi ro mới và nghiêm trọng hơn. Ông nhấn mạnh:

> “Chúng ta sẽ làm việc với những mô hình rất mạnh mẽ. Điều đó đòi hỏi các biện pháp phòng ngừa thích hợp để đảm bảo tiếp tục mang lại lợi ích lớn.”

Altman bày tỏ sự tin tưởng vào năng lực của Scandino:
*«Anh ấy là ứng viên tốt nhất cho vai trò này trong số tất cả những người mà tôi từng gặp», – ông nói.
Ông thêm rằng nhờ có nhà lãnh đạo mới, đội ngũ sẽ có thể tập trung vào an toàn lâu dài và “sẽ ngủ ngon hơn”.*

Kỳ vọng đối với Scandino
Scandino đã thừa nhận rằng các mô hình AI phát triển nhanh chóng có thể gây ra “thiệt hại cực đoan và thậm chí không thể đảo ngược”. Do đó, nhiệm vụ của anh là:
* Phát triển chiến lược giảm thiểu rủi ro;
* Triển khai thực hành đào tạo và vận hành an toàn cho các mô hình;
* Điều phối nỗ lực của toàn bộ đội ngũ OpenAI trong lĩnh vực này.

Kết luận
OpenAI mở rộng cấu trúc an toàn của mình bằng cách thu hút một chuyên gia có kinh nghiệm từ những công ty hàng đầu trong ngành. Bổ nhiệm mới nhấn mạnh sự cam kết của công ty đối với phát triển AI có trách nhiệm và chuẩn bị cho những thách thức tương lai.