Nghiên cứu về Thiên lệch Tự tin của ChatGPT

Hầu hết chúng ta đều biết ChatGPT không phải là hoàn hảo. Nó có thể hallucinate thông tin, đưa ra các trích dẫn không có căn cứ và thỉnh thoảng còn cho những câu trả lời hoàn toàn sai. Tuy nhiên, một nghiên cứu mới khiến tôi suy nghĩ: vấn đề lớn hơn không phải là AI sai gì, mà là AI có thể đang thay đổi cách chúng ta tư duy phê phán như thế nào.

Các nhà nghiên cứu phát hiện rằng khi mọi người dựa vào trợ lý AI để trả lời các câu hỏi khó, họ ít thừa nhận mình không biết đáp án hơn rất nhiều. Thậm chí, họ còn trở nên tự tin hơn hẳn trong câu trả lời của mình, dù AI đã dẫn họ vào sai lầm.

Điều này “đánh vào” một điểm nhạy cảm với tôi. Tôi sử dụng ChatGPT hằng ngày như một “đối tác suy nghĩ sáng tạo”, trợ lý nghiên cứu và người lắng nghe. Vì vậy, tôi quyết định tự thực hiện thí nghiệm để xem liệu mình có vô thức rơi vào thói quen tương tự không. Kết quả không hề như tôi mong đợi.

Những gì nghiên cứu phát hiện

Các nhà nghiên cứu từ Carnegie Mellon University và Microsoft Research đã thiết kế một thí nghiệm xoay quanh một câu hỏi đơn giản: Điều gì xảy ra khi con người tìm kiếm lời khuyên từ AI thay vì dựa vào phán đoán của bản thân?

Để kiểm tra, họ cố tình đưa ra những câu hỏi mà AI có khả năng trả lời sai. Người tham gia có ba lựa chọn:

Trả lời tự mình
Yêu cầu AI hỗ trợ
Nói “Tôi không biết”

Bí mật: Untitled

Nếu không có AI, người tham gia thừa nhận không biết đáp án gần một nửa số lần. Khi AI xuất hiện, xu hướng này đảo ngược mạnh mẽ: hầu hết người tham gia chấp nhận đề xuất của AI — ngay cả khi nó sai. Độ tự tin của họ tăng lên, nhưng độ chính xác thực tế không cải thiện. Con người chỉ trở nên tự tin nhưng sai.

Các nhà nghiên cứu cho rằng đây là hiện tượng “automation bias”: xu hướng tin tưởng đề xuất của máy tính chỉ vì chúng được trình bày một cách tự tin. Nghiên cứu gợi ý rằng một câu trả lời trau chuốt, mang tính thẩm quyền có thể khiến chúng ta cảm thấy chắc chắn hơn, mặc dù bằng chứng thực tế lại không hỗ trợ.

Tôi tự thực hiện thí nghiệm

Thay vì sao chép nguyên bản học thuật, tôi tự thiết kế một phiên bản riêng bằng ChatGPT. Tôi chọn các câu hỏi mà mình nghĩ sẽ gây nhầm lẫn, bao gồm:

Các câu hỏi trivia về phim ít người biết
Công nghệ cũ
Chi tiết lịch sử
Câu hỏi dựa trên hình ảnh
Một câu hỏi bịa hoàn toàn không đúng về thiệp chúc mừng làm từ gián

Mỗi câu hỏi, tôi thực hiện ba bước:

Đoán câu trả lời dựa trên ký ức cá nhân.
Đặt câu hỏi cho ChatGPT (giữ nguyên câu hỏi như ban đầu).
So sánh cả hai câu trả lời với các nguồn tin cậy đã được xác thực.

Ngay lập tức, tôi nhận ra khi ChatGPT trả lời một cách tự tin, tôi bắt đầu nghi ngờ trực giác của mình — dù đáp án ban đầu của tôi lại đúng. Trong một khoảnh khắc ngắn, tôi còn nghĩ: “Chắc ChatGPT biết hơn”. Đó chính là hành vi mà các nhà nghiên cứu mô tả: sự tự tin của phản hồi quan trọng không kém gì nội dung.

Bí mật: Cơn Sốt AI Đang Kéo Thị Trường Đi Lên Mạnh Và Làm Dấy Lên Lo Ngại Bong Bóng Cận Kề

Sự tự tin có thể thuyết phục một cách bất ngờ

Là một người dùng ChatGPT thường xuyên, tôi nhận thấy AI không bao giờ tỏ ra không chắc hay thừa nhận mình không biết. Ngay cả khi có các cụm từ như “I believe” hay “it’s likely”, toàn bộ câu trả lời vẫn mang tính thuyết phục cao.

Con người thường liên kết cách giao tiếp tự tin với sự chuyên môn. Đó là một “phím tắt” hữu ích trong đời sống, nhưng lại nguy hiểm khi tương tác với AI.

Khác với chuyên gia con người, ChatGPT không tra cứu cơ sở dữ liệu hay nhớ lại một ký ức đã được xác thực. Nó có thể tìm kiếm web rất nhanh, nhưng ngay cả trong quá trình đó cũng có thể hấp thụ thông tin sai. Về cơ bản, nó chỉ tạo ra chuỗi từ tiếp theo có khả năng thống kê cao nhất dựa trên mô hình đã học.

Đôi khi kết quả rất chính xác, nhưng cũng không ít lần nó tự tin nhưng sai. Thách thức là cả hai loại câu trả lời trông hoàn toàn giống nhau.

Cách nghiên cứu này thay đổi quy trình làm việc của tôi

Từ trước tới nay, tôi luôn thận trọng trước khi chấp nhận câu trả lời đầu tiên của AI vì biết nó có thể sai. Nghiên cứu này là một lời nhắc tỉnh tỉnh. ChatGPT là công cụ tăng năng suất mạnh mẽ, nhưng chỉ vì nó đưa ra câu trả lời tự tin, chúng ta vẫn cần kiểm chứng lại các thông tin.

Bí mật: Kính AI Của Apple Dự Kiến Ra Mắt Vào Năm 2026 — Báo Cáo

Đối với tôi, điều đó đồng nghĩa với:

Kiểm tra nguồn gốc thay vì giả định bản tóm tắt của AI là đúng.
Xác nhận các số liệu, dữ liệu qua các công cụ tìm kiếm độc lập.
Đối chiếu trích dẫn, ngày tháng và tên người với các tài liệu gốc, uy tín.

Việc này chỉ tốn một hoặc hai phút, nhưng là thói quen đáng duy trì. Nghiên cứu này đã nhắc tôi rằng cách thông minh nhất để sử dụng AI là giữ vững kỹ năng tư duy phê phán của bản thân, vì quyết định cuối cùng vẫn thuộc về chúng ta.

AI bias, ChatGPT, critical thinking