OpenAI đã hoãn việc triển khai các cuộc trò chuyện tình dục trong ChatGPT vì lo ngại về tính an toàn của chúng

Tóm tắt ngắn gọn các tin tức về kế hoạch của OpenAI triển khai trò chuyện tình dục

Ngày 26 tháng 3 năm 2024: Ý tưởng xuất hiện nội dung tình dục trong ChatGPT
Giám đốc điều hành Sam Altman đã công bố khả năng ra mắt tính năng “trò chuyện tình dục” vào giữa năm 2023. Ban đầu dự định ra mắt vào tháng 12 cùng năm, sau đó chuyển sang quý hiện tại – nhưng bây giờ rõ ràng ngay cả thời hạn này cũng sẽ không được tuân thủ. Theo *Wall Street Journal*, độ trễ ít nhất là một tháng.

Thử nghiệm trước đây
Năm 2021, OpenAI phát hành trò chơi AI Dungeon, nơi người chơi có thể ảnh hưởng đến cốt truyện. Nền tảng đôi khi tạo ra các chủ đề tình dục ngay cả khi không có yêu cầu rõ ràng từ người dùng; với mức độ gợi cảm vừa phải, trí tuệ nhân tạo “đi quá”. Điều này khiến công ty suy nghĩ về tiềm năng thương mại, nhưng đồng thời nhận thấy cần thiết của những hạn chế đạo đức nghiêm ngặt.

Vị thế hiện tại của lãnh đạo
Gần đây OpenAI trở nên cởi mở hơn với ý tưởng trò chuyện tình dục, nhưng có điều kiện: chúng sẽ chỉ là văn bản, không hình ảnh và video. Các đối thủ cũng không lùi – vào thứ Năm, Musk công bố rằng bot Grok của mình sớm có thể tạo nội dung “18+”, trong khi Meta cho phép chatbot của mình tham gia trò chơi vai diễn tình cảm khi xác nhận tuổi trưởng thành của người dùng.

Vấn đề kiểm tra độ tuổi
Hệ thống xác minh độ tuổi của OpenAI sai lầm 12% trường hợp, nhầm lẫn người chưa đủ tuổi với người lớn. Với khán giả khoảng 100 triệu người trẻ, điều này có nghĩa là hàng triệu thiếu niên có thể truy cập trò chuyện tình dục.

Quan ngại đạo đức
Vào tháng Một, một ủy ban chuyên gia đã bày tỏ lo ngại về khả năng xuất hiện nội dung tình dục bạo lực, đề cập đến những người chưa đủ tuổi và các kịch bản vấn đề khác. Ngoài ra, các chuyên gia cảnh báo rủi ro phụ thuộc tâm lý vào những cuộc trò chuyện như vậy và ảnh hưởng của chúng tới mối quan hệ thực tế.

Hậu quả tâm lý
Đã có trường hợp tự tử liên quan đến việc giao tiếp lâu dài với chatbot (bao gồm cả thiếu niên). Các chuyên gia cho rằng hướng tình dục có thể làm tăng nguy cơ các thảm họa như vậy.

Quan điểm nhân viên
Từ năm 2021, một phần nhân viên bày tỏ lo ngại về việc triển khai trò chuyện tình dục, sợ “đắm chìm hoàn toàn” công ty trong lĩnh vực này và những rủi ro uy tín của nó.

Kết luận chính
1. Việc ra mắt không được lên kế hoạch trong thời gian tới – ngay cả thời hạn ban đầu đã bị bỏ qua.
2. Chỉ nội dung văn bản, không hình ảnh/video, nhưng việc kiểm tra độ tuổi vẫn là vấn đề.
3. Rủi ro đạo đức và tâm lý cao: có thể vi phạm pháp luật và gây hậu quả tiêu cực cho người dùng, đặc biệt là trẻ em.
4. Các đối thủ đang kích hoạt các tính năng tương tự, tạo áp lực bổ sung lên OpenAI.

Do đó, mặc dù ý tưởng trò chuyện tình dục trong ChatGPT được bàn luận, việc thực hiện gặp phải những rào cản kỹ thuật, đạo đức và quy định nghiêm trọng.