—
Reese Witherspoon thực sự muốn chúng ta học cách sử dụng AI hiệu quả.
—
Tôi đã yêu cầu ChatGPT xác định danh tính của “một nam ngôi sao giấu tên”, người được cho là đã gửi cho Lena Dunham một tin nhắn tán tỉnh vào đêm khuya sau khi gặp cô ấy tại hậu trường chương trình The View năm 2012. Ban đầu, AI đưa ra các câu trả lời chung chung, sau đó gợi ý tên Chris Evans và Chris Hemsworth – cả hai đều từng xuất hiện trong một tập phát sóng khác cùng năm đó. Khi tôi yêu cầu xác nhận lại, ChatGPT rất tự tin khẳng định đó là Don Rickles, danh hài lừng danh với phong cách châm biếm, chế giễu.
Tôi bật cười vì Don Rickles đã 85 tuổi vào năm 2012. Mô tả trong mẩu tin “ẩn danh” (blind-item) – “phiên bản Mỹ của Hugh Grant, nổi tiếng với sự duyên dáng trong giao tiếp, một danh hài đang quảng bá cho một bộ phim mang màu sắc u tối” – hoàn toàn không khớp với hình tượng của Rickles.
Danh hài chế giễu huyền thoại Don Rickles trong một bức ảnh tư liệu không rõ ngày tháng. Nguồn: Ron Galella/Ron Galella Collection qua Getty Images
Tại sao ChatGPT lại sai?
- Dữ liệu khan hiếm: Các hướng dẫn trên IMDb về các tập phim The View năm 2012 còn thiếu sót và không có đoạn video nào được công khai. Bằng chứng duy nhất về việc Lena Dunham xuất hiện là một bài viết trên blog Vulture ngày 20/4/2012, trong đó có kèm một đoạn clip YouTube nhưng hiện đã được đặt ở chế độ riêng tư.
- Ảo giác (Hallucination): Khi thiếu thông tin, AI thường “bịa đặt” hoặc suy diễn từ những dữ kiện rời rạc để tạo ra một câu trả lời nghe có vẻ hợp lý. Thực tế, Chris Evans và Chris Hemsworth đã xuất hiện trong tập ngày 4/5/2012, trong khi cuộc gặp giữa Dunham và Rickles xảy ra trong một tập năm 2016. Chính sự nhầm lẫn thời gian này đã dẫn đến kết quả sai lệch.
Vấn đề lớn hơn
Sai lầm của ChatGPT phản ánh một vấn đề nghiêm trọng hơn: AI có thể tạo ra thông tin sai lệch một cách rất tự tin, đặc biệt khi nguồn dữ liệu tham khảo hạn chế. Việc đoán mò có thể chấp nhận được trong các cuộc trò chuyện xã giao, nhưng lại cực kỳ thiếu tin cậy khi dùng cho nghiên cứu thực tế. Rủi ro nằm ở chỗ người dùng có thể tin tưởng và lan truyền những thông tin bịa đặt này mà không hề kiểm chứng.
Bài học cho quy trình làm việc với AI
- Kiểm tra chéo các thông tin quan trọng: Luôn xác minh lại dữ liệu do AI cung cấp thông qua các nguồn đáng tin cậy.
- Hiểu rõ giới hạn của AI: Cần nhận thức rằng các mô hình ngôn ngữ không phải là cơ sở dữ liệu; chúng tạo ra văn bản dựa trên các mẫu thống kê chứ không dựa trên hồ sơ sự kiện đã được xác thực.
- Kỳ vọng vào sự cải thiện dần dần: Khi dữ liệu có cấu trúc ngày càng phong phú và các mô hình hỗ trợ truy xuất thông tin (retrieval-augmented) ngày càng hoàn thiện, các lỗi “ảo giác” sẽ giảm đi, dù không thể biến mất ngay lập tức.
—
Đọc toàn bộ câu chuyện trên Business Insider.
Tags: AI Hallucination, ChatGPT Errors
