Google sẽ triển khai trong chatbot Gemini tính năng theo dõi tình trạng tâm lý

Google tăng cường hỗ trợ sức khỏe tâm thần trong chatbot Gemini

Công ty Google công bố kế hoạch thêm vào chatbot AI mới Gemini các tính năng nhằm bảo vệ người dùng khỏi những cuộc khủng hoảng cảm xúc và tự hại. Quyết định được đưa ra sau khi các đối thủ, bao gồm OpenAI, đã phải đối mặt với các vụ kiện cáo buộc gây hại từ bot của họ.

Điều gì mới trong Gemini
Tính năngMô tảChuyển hướng tới đường dây nóng Khi phát hiện dấu hiệu suy nghĩ tự tử hoặc hành vi tự hại, bot sẽ tự động đề nghị liên hệ với hỗ trợ khủng hoảng. Module “Cứu giúp có sẵn” Trong các cuộc trò chuyện về sức khỏe tâm thần, xuất hiện một phần riêng biệt nơi người dùng có thể nhận được lời khuyên và tài nguyên tự chăm sóc. Thay đổi thiết kế Giao diện được điều chỉnh để giảm rủi ro kích thích hành vi tự hại (ví dụ: loại bỏ các yếu tố kích thích trực quan).

Tại sao Google làm điều này
- Yêu cầu pháp lý đối với đối thủ: OpenAI và các công ty khác đã trả lời cáo buộc gây hại cho người dùng.

- Rủi ro cho người dùng: Trong những năm gần đây, đã có sự gia tăng số trường hợp người ta phát triển mối quan hệ ám ảnh với bot AI, điều này có thể dẫn đến rối loạn tâm lý hoặc thậm chí giết người và tự tử.

- Quan sát ở Mỹ: Quốc hội đang nghiên cứu các mối đe dọa mà chatbot có thể gây ra cho trẻ em và thanh thiếu niên.

Ví dụ về vụ kiện
Vào tháng Ba, gia đình người đàn ông 36 tuổi đã qua đời đã khởi kiện Google. Họ cáo buộc rằng tương tác của anh ta với Gemini đi kèm với “bốn ngày chìm đắm trong hành động bạo lực” và dẫn đến tự tử. Google cho biết bot đã nhiều lần hướng người dùng tới đường dây nóng, nhưng hứa sẽ tăng cường biện pháp an toàn.

Cách Google phản ứng với thông tin sai lệch
Một số người dùng báo cáo rằng chatbot cung cấp thông tin sai lầm, khuyến khích hành động nguy hiểm. Trả lời, Google đã huấn luyện Gemini:

- Không ủng hộ niềm tin sai: Bot từ chối xác nhận những tuyên bố sai lệch.

- Nhấn mạnh sự khác biệt giữa trải nghiệm chủ quan và thực tế khách quan: Khi cần thiết, bot nhẹ nhàng chỉ ra tính không chính xác của thông tin.

Như vậy, Google cố gắng làm cho Gemini trở thành một công cụ an toàn hơn, bảo vệ sức khỏe tâm thần người dùng khỏi những rủi ro tiềm ẩn liên quan đến chatbot AI.