OpenAI CEO Sam Altman hiện đang dính vào một vài vụ tranh cãi tại tòa, nhưng các kỹ sư tại phòng thí nghiệm OpenAI vừa giải quyết một vụ việc nhỏ, thực ra khá hài hước, liên quan đến ChatGPT.
OpenAI đã đăng tải một báo cáo dài, chi tiết trên website của mình, về goblins. Thật đấy. Kể từ khi ra mắt GPT 5.1, các mô hình ChatGPT bắt đầu có một sở thích kỳ lạ với goblins và gremlins, thường xuyên nhắc tới chúng trong những ngữ cảnh không hợp lý. Người dùng đã để ý và OpenAI cũng nhận ra, dẫn đến một cuộc điều tra. Bạn có thể đọc toàn bộ báo cáo nếu muốn biết chi tiết, nhưng về cơ bản, vấn đề bắt nguồn từ việc hiểu sai (hoặc chưa đủ) về cách các “nerd” suy nghĩ.
Nếu bạn chưa từng dùng ChatGPT, chatbot AI này cung cấp nhiều “personality” (tính cách) để bạn tùy chỉnh giọng điệu trả lời. Một trong số đó, cho tới gần đây mới bị gỡ bỏ, là “nerdy”. Theo nghiên cứu của OpenAI, mặc dù các phản hồi “nerdy” chỉ chiếm 2,5 % tổng số truy vấn, nhưng 66,7 % toàn bộ các đề cập về goblins đều xuất phát từ nhóm 2,5 % này. Sau đó, những phản hồi này dường như được “khen thưởng” và lan rộng sang các tính cách khác, không chỉ riêng “nerdy”.
OpenAI giải thích nguyên nhân trong một phần của báo cáo:
“Các phần thưởng chỉ được áp dụng trong điều kiện Nerdy, nhưng học tăng cường không đảm bảo hành vi đã học sẽ chỉ giới hạn trong điều kiện tạo ra chúng,” OpenAI viết. “Khi một thói quen phong cách được thưởng, quá trình huấn luyện sau này có thể lan truyền hoặc củng cố nó ở những nơi khác, đặc biệt nếu các đầu ra này được tái sử dụng trong fine‑tuning có giám sát hoặc dữ liệu ưu tiên.”
Cuối cùng, sau mọi diễn biến, OpenAI đã ngừng cung cấp tính cách “nerdy” vào tháng Ba và yêu cầu các mô hình mới không nhắc tới goblins hay gremlins trừ khi thực sự cần thiết.OpenAI,goblins,ChatGPT
