Anthropic đã giới thiệu một phương pháp ngừng phát triển trí tuệ nhân tạo trong tình huống khẩn cấp

Anthropic kêu gọi “tự giới hạn” phát triển AI

Công ty Anthropic, nổi tiếng với nỗ lực trong lĩnh vực đạo đức trí tuệ nhân tạo, lại trở thành trung tâm chú ý sau cuộc xung đột với Bộ Quốc phòng vào đầu năm. Tuần này, công ty khởi nghiệp đã liên hệ với các đại diện ngành để đề nghị sẵn sàng giới hạn phát triển công nghệ nếu chúng bắt đầu gây nguy cơ mất kiểm soát của con người.

Các luận điểm chính trong bức thư

* Việc tự hoàn thiện lặp lại toàn bộ của AI có thể dẫn đến việc các hệ thống tạo ra “đệ tử” của mình mà không cần sự can thiệp của con người.

* Trong trường hợp đó, khả năng giám sát và giới hạn hành vi của những hệ thống này trở nên vô cùng quan trọng.

> “Nếu các hệ thống có khả năng tự tạo ra những đệ tử của chính chúng, tầm quan trọng của việc kiểm soát, giám sát và giới hạn hành vi của chúng sẽ tăng lên đáng kể,” – công bố Anthropic.

Tại sao điều này quan trọng?

Trong tháng trước, hơn 80 % mã mới mà công ty sử dụng đã được tạo ra bởi tác nhân Claude riêng của họ. Điều này xác nhận rằng Anthropic biết mình đang nói gì: nếu AI tự tạo ra các phiên bản mới của chính nó, việc kiểm soát chúng càng trở nên khó khăn hơn.

Các đại diện của công ty cho rằng toàn thế giới cần có khả năng làm chậm hoặc tạm dừng phát triển các mô hình tiên tiến để cộng đồng có thời gian thích nghi và phân tích những thay đổi. Đồng thời, sự phối hợp giữa tất cả các bên tham gia thị trường là rất quan trọng: nếu không có biện pháp thống nhất, những người chơi không trung thực có thể gây hại cho an ninh công cộng.

Kế hoạch của công ty

* Trong vài tháng tới, Anthropic dự định phát triển các công cụ giám sát xu hướng nguy hiểm trong sự phát triển AI.

* Song song, công ty sẽ tiến hành công tác xã hội để thảo luận về cơ chế điều tiết và thành lập một cơ quan giám sát có thể áp dụng chế độ “tự giới hạn”.

Như công ty nhấn mạnh, một tổ chức không thể thay đổi tình hình một mình. Cần sự hợp tác của tất cả các nhà phát triển AI hàng đầu để đảm bảo sự phát triển an toàn của công nghệ.