Chủ tịch bộ phận an ninh mạng AI tại Anthropic rời công ty, thừa nhận rằng “thế giới đang bị đe dọa”.

Mrinank Sharma rời Anthropic: thư gửi đồng nghiệp và kế hoạch tương lai

Cựu trưởng phòng nghiên cứu an ninh AI tại công ty Anthropic, Mrinank Sharma (Mrinank Sharma), đã đăng tải vào đầu tuần một bức thư chia tay trên mạng. Trong đó anh giải thích lý do rời đi, chia sẻ suy nghĩ về những rủi ro hiện tại và kể về những gì anh sẽ làm tiếp theo.

Nội dung của thư
* Thành tựu – Sharma ghi nhận rằng “anh đã đạt được mọi điều mình mong muốn ở đây”. Các dự án được đề cập bao gồm phát triển cơ chế bảo vệ chống lại khủng bố sinh học bằng AI và nghiên cứu tác động của mạng nơ-ron tới xã hội.

* Lý do rời đi – tác giả kết luận rằng đã đến lúc tiến lên phía trước. Anh liên tục suy ngẫm về “điều nguy hiểm mà AI, vũ khí sinh học và chuỗi khủng hoảng liên quan có thể mang lại ngay bây giờ”. Theo anh, chúng ta đang dần tới cột mốc mà trí tuệ phải tăng trưởng song hành với khả năng ảnh hưởng của chúng ta tới thế giới; nếu không sẽ gặp những hậu quả khó lường.

* Rào cản văn hóa – Sharma nhấn mạnh sự khó khăn trong việc giữ vững giá trị dưới áp lực. Anh thấy điều này tồn tại cả bên trong bản thân, trong công ty nơi đôi khi phải từ bỏ điều quan trọng vì ảnh hưởng ngoại vi, và trong xã hội nói chung.

* Kế hoạch tương lai – sau khi rời đi anh dự định làm những công việc phù hợp với nguyên tắc của mình, đồng thời học tập thơ ca và các lĩnh vực sáng tạo khác.

Sự kiện tại Anthropic
* Nhiều nhà phát triển hàng đầu đã rời công ty, tăng cường làn sóng thay đổi nhân sự.

* Anthropic đang đàm phán thu hút thêm vốn. Nếu thỏa thuận thành công, giá trị thị trường có thể lên tới 350 tỷ đô la.

* Tuần trước đã ra mắt phiên bản mới của mô hình Claude Opus 4.6. Nó nâng cao năng suất làm việc văn phòng và hiệu quả lập trình, mở rộng cửa sổ ngữ cảnh cho tài liệu lớn và hỗ trợ các tác vụ phức tạp hơn.

Nơi tìm thư
Toàn bộ nội dung thư chia tay của Sharma được công bố trong bài viết Business Insider. Điều đó sẽ cung cấp cái nhìn chi tiết hơn về suy nghĩ và động lực của anh.