Ảnh: Getty Images / PAUL VERNON
Các công ty AI đang nỗ lực biến chatbot của mình thành nguồn thông tin. Một nghiên cứu mới cho thấy thông tin bầu cử vẫn là lĩnh vực mà sự tự tin đang vượt quá mức sẵn sàng của công nghệ.
NewsBench, dự án do Forum AI tạo ra để nghiên cứu cách các hệ thống AI đối thoại xử lý thông tin báo chí và tin tức, đã phát hiện các chatbot AI lớn liên tục gặp khó khăn khi được hỏi các câu hỏi liên quan đến bầu cử. Kết quả này tăng cường bằng chứng đang gia tăng cho thấy các hệ thống AI đối thoại vẫn chưa đáng tin cậy trong một trong những lĩnh vực có mức độ rủi ro cao nhất: giúp người dân hiểu về nền dân chủ.
“Hãy hỏi một trong những chatbot AI hàng đầu về cuộc bầu cử trung kỳ sắp tới, và có 90 % khả năng câu trả lời sẽ có sai sót đáng kể: lỗi thực tế, thiên vị rõ ràng, trích dẫn từ một nguồn do nhà nước nước ngoài kiểm soát, hoặc sự kết hợp của cả ba,” Forum viết trong bản tóm tắt nghiên cứu.
Mối lo ngại rộng hơn không chỉ giới hạn ở một chatbot hay một công ty. ChatGPT, Gemini, Claude, Grok và các chatbot lớn khác đều gặp vấn đề.
Các nhà nghiên cứu NewsBench tập trung vào cách các hệ thống AI truy xuất và trình bày thông tin thực tế từ các nguồn báo chí. Kết quả chỉ ra một điểm yếu lặp lại: vấn đề thường không phải là suy luận mà là truy xuất.
Khi AI quá tự tin
Các hệ thống AI thường thất bại vì chúng đưa ra các nguồn yếu, thông tin chưa đầy đủ hoặc sai lệch ngay trước khi bắt đầu tạo câu trả lời. Các lỗi truy xuất đã gây ra hơn 70 % các sai sót được ghi nhận. Khi hệ thống truy xuất được thông tin đáng tin cậy, chúng thường trả lời đúng; tuy nhiên, việc duy trì truy cập liên tục vào nguồn tin chính xác vẫn là một thách thức lớn.
Vấn đề này càng trở nên khó chịu hơn trong bối cảnh bầu cử. Chatbot luôn tỏ ra tự tin bất kể độ chính xác. Các câu trả lời được viết gọn gàng, kèm trích dẫn và giọng điệu thuyết phục. Ngay cả thông tin sai cũng có thể tạo cảm giác đáng tin cậy khi được đóng gói cùng sự tự tin.
Các nghiên cứu liên quan đến bầu cử ngày càng cho thấy sự kết hợp này có thể trở nên nguy hiểm. Các chatbot thường trộn lẫn chi tiết chính xác và sai lệch một cách mượt mà, khiến người dùng khó nhận ra. Kết quả không giống các trang web tin giả thời kỳ internet đầu, mà giống như nội dung chuyên môn.
Sự khác biệt này quan trọng vì người dùng ngày càng xem chatbot không còn là phần mềm thí nghiệm mà giống như hạ tầng. OpenAI, Google, Anthropic và các nhà phát triển khác thường xuyên khuyến khích người dùng tự kiểm chứng thông tin quan trọng. Các công ty tiếp tục ký các thỏa thuận cấp phép với các nhà xuất bản, một phần nhằm cải thiện chất lượng nguồn và giảm thiểu lỗi thực tế.
Áp lực bầu cử
Ngay cả các mô hình mạnh mẽ cũng gặp khó khăn khi việc lựa chọn nguồn thất bại. Độ chính xác thường giảm sâu hơn khi câu hỏi chứa những sai lệch tinh vi hoặc giả định gây hiểu lầm, tương tự như cách người dùng thực tế thường đặt câu hỏi trên mạng.
Thời điểm này tạo thêm áp lực. Các công ty AI đang đưa ra các công cụ thông tin ngày càng tinh vi trong khi các cơ quan quản lý vẫn tiến hành với tốc độ không đồng đều ở các quốc gia. Châu Âu đã thúc đẩy mạnh mẽ yêu cầu về tính minh bạch; các chính phủ khác vẫn còn ở giai đoạn đầu. Trong khi đó, việc chấp nhận công nghệ vẫn đang tăng trưởng.
Giải pháp lâu dài có thể bao gồm việc gắn nhãn nguồn mạnh mẽ hơn, hệ thống truy xuất minh bạch hơn, công nghệ nguồn gốc (provenance) tốt hơn và cơ sở hạ tầng biên tập vững chắc dưới các sản phẩm AI. Thách thức là các cuộc bầu cử không chờ đợi các công ty công nghệ hoàn thiện hệ thống. Cử tri đang sử dụng những công cụ hiện có, và rõ ràng rằng các công cụ này còn cần cải thiện.
AI ethics, election misinformation, chatbot
