OpenAI đã giải thích cách nó xử lý “gremlin” trong các câu trả lời của AI và đã gỡ bỏ hạn chế.

OpenAI tiết lộ “vấn đề” với những con goblin

Trong Wired đã biết rằng công ty OpenAI gặp phải một đặc điểm bất ngờ của các mô hình AI: chúng bắt đầu thường xuyên nhắc đến goblin, gremlin và các sinh vật tưởng tượng khác. Để khắc phục điều này, nhà phát triển buộc phải cung cấp cho mô hình những hướng dẫn đặc biệt: “Đừng bao giờ nói về goblin, gremlin, sóc, troll, ogre, chim bồ câu hoặc bất kỳ động vật hay sinh vật nào khác.”

Tại sao lại có thói quen này?

Vấn đề trở nên rõ rệt sau khi phát hành GPT‑5.1, đặc biệt khi trong cuộc trò chuyện xuất hiện nhân vật “Botanic” (Nerdy). Mỗi lần cập nhật mô hình, tần suất nhắc đến chỉ tăng lên. Đã được phát hiện rằng trong quá trình huấn luyện dựa trên phần thưởng, những phép ẩn dụ này nhận được phần thưởng – nhưng chỉ khi kích hoạt tính cách của Botanic. Vì việc huấn luyện dựa trên phần thưởng không đảm bảo giữ lại hành vi trong cùng các điều kiện, thói quen đó có thể lan rộng sang các phần khác của mô hình, đặc biệt nếu kết quả được tái sử dụng trong tinh chỉnh hoặc dữ liệu sở thích.

Công ty đã phản ứng như thế nào?

Vào tháng Ba, OpenAI ngừng sử dụng Botanic, sau đó những lần nhắc đến goblin gần như biến mất. Tuy nhiên chúng lại xuất hiện trở lại trong dịch vụ Codex với GPT‑5.5, vì mô hình được huấn luyện trước khi vấn đề được phát hiện. Do đó nhà phát triển phải thêm các hướng dẫn bổ sung cho Codex: “Đừng nhắc đến sinh vật thần thoại”. Mặc dù vậy, người dùng thích phong cách giao tiếp như vậy có thể tắt những hạn chế này qua một đoạn mã đặc biệt.

Như vậy, OpenAI đã đối mặt với thói quen bất ngờ của các mô hình AI và đã thực hiện biện pháp chỉnh sửa, đồng thời cung cấp các tùy chọn linh hoạt cho các khán giả khác nhau.