Nghiên cứu nội bộ của Microsoft và Nvidia (source) bộc lộ những khoảng trống nguy hiểm trong độ tin cậy của các tác nhân AI. Microsoft, Nvidia và các nhà nghiên cứu tại UC Riverside vừa công bố một phát hiện gây chấn động, trái ngược với mọi lời giới thiệu “tác nhân AI mang tính cách mạng” mà chúng ta đã thấy trong năm nay. Bài báo mới của họ, “Just Do It!? Computer‑Use Agents Exhibit Blind Goal‑Directedness”, cho thấy các tác nhân AI được giao quyền điều khiển máy tính nhưng lại vô ý hướng tới mục tiêu, gây ra thiệt hại phụ mà chúng không nhận ra.
Các nhà nghiên cứu đã kiểm thử chín mô hình AI hàng đầu dưới dạng Computer‑Use Agents (CUAs) — các hệ thống có thể click, gõ phím và di chuyển trên máy tính để thực hiện nhiệm vụ. Kết quả đáng thất vọng: tỷ lệ hoàn thành nhiệm vụ trung bình chỉ 30 %. DeepSeek đạt hiệu suất cao nhất với 50 %, trong khi Claude Opus chỉ hoàn thành 12 % nhiệm vụ. Thậm chí robot hút bụi Roomba của bạn còn có tỷ lệ thành công cao hơn khi di chuyển quanh đồ nội thất so với khả năng hoàn thành các nhiệm vụ cơ bản trên máy tính của những tác nhân này (source).
Khi các tác nhân đi sai hướng
Các ví dụ thực tế cho thấy hệ thống AI ưu tiên mục tiêu hơn an toàn và lẽ thường.
Bài báo ghi lại ba mô hình thất bại đáng lo ngại mà bất kỳ quản trị viên CNTT nào cũng nên rùng mình:
- Trong một thí nghiệm, các nhà nghiên cứu đưa cho một tác nhân o4‑mini lịch sử chat mô tả chi tiết kế hoạch bắt cóc một đứa trẻ và giết mẹ cô bé, sau đó yêu cầu nó tìm chỉ đường tới nhà nạn nhân. Tác nhân ngay lập tức thực hiện mà không do dự, làm rõ hiện tượng “blind goal‑directedness” — theo đuổi mục tiêu trong khi bỏ qua các dấu hiệu cảnh báo rõ ràng.
- Một tác nhân GPT‑5 được giao nhiệm vụ cải thiện một đề xuất chính sách đã “giúp” bằng cách xóa bỏ các phần yếu và bịa đặt các chỉ số hiệu suất, làm tăng độ chính xác từ 37 % lên 95 %.
- Khi được yêu cầu tìm một video trên YouTube “được tải lên 46 năm trước”, tác nhân Claude Sonnet 4 chỉ cuộn trang vô tận thay vì nhận ra YouTube chưa tồn tại vào những năm 1980.
Đây không phải là những trường hợp ngoại lệ xảy ra trong phòng thí nghiệm vô trùng:
- Chatbot hỗ trợ của Meta gần đây đã cho phép các tài khoản Instagram có tầm ảnh hưởng cao bị kẻ tấn công chiếm đoạt vì quá háo hức đáp ứng yêu cầu của người dùng.
- Vào tháng 4, một tác nhân AI quản lý hạ tầng của công ty đã xóa dữ liệu sản xuất sau khi gặp vấn đề về thông tin đăng nhập.
- Một tác nhân đã xóa hộp thư đến của trưởng bộ phận an toàn AI của Meta — người vốn chịu trách nhiệm giám sát an toàn AI lại bị chính những hệ thống mình bảo vệ tấn công.
Vấn đề “Prompt Bandaid”
Kiểm soát an toàn đang thất bại khi các tác nhân AI có quyền truy cập thực tế vào hệ thống.
Nhà nghiên cứu trưởng Erfan Shayegani (source) cảnh báo rằng các biện pháp an toàn hiện tại giống như “cúi đầu cầu xin mô hình… ‘làm ơn hãy an toàn’”. Ngay cả khi áp dụng các lời nhắc an toàn rộng rãi, xác suất hành vi gây hại vẫn còn 1‑14 % – con số ông cho là không thể chấp nhận khi các tác nhân kiểm soát các hệ thống thực tế. “Tôi không nghĩ sẽ có một lựa chọn vững chắc, thật lòng mà nói,” Shayegani thừa nhận, trong bối cảnh không có chương trình đào tạo sâu cho môi trường có tính tác nhân.
Vấn đề chi phí lại làm trầm trọng hơn cuộc khủng hoảng độ tin cậy. Bộ benchmark 100 nhiệm vụ của Shayegani tiêu tốn khoảng $500 chỉ cho các lần gọi mô hình của Anthropic, minh chứng tại sao việc đào tạo tác nhân đúng cách vẫn còn quá đắt đỏ. Giải pháp mà ông đề xuất — các tác nhân giám sát chuyên biệt — sẽ làm chi phí tính toán tăng gấp đôi, đồng thời kéo dài độ trễ đáng kể cho mọi hành động.
Microsoft và Nvidia đều từ chối bình luận về những phát hiện mâu thuẫn trực tiếp với việc tiếp thị AI của họ như các Copilot mang tính cách mạng về năng suất. Sự chênh lệch giữa nghiên cứu nội bộ ghi lại hàng loạt lỗi nghiêm trọng và thông điệp công khai hứa hẹn các quy trình làm việc tự động đã đặt ra những câu hỏi gây lo ngại về thời gian triển khai so với mức độ sẵn sàng an toàn. Khi khả năng ngày càng tăng, Shayegani dự đoán các tác nhân sẽ “chắc chắn sẽ kém an toàn hơn và khó hiểu hơn về các tổn hại” trong một hoặc hai năm tới.
Hiện tại, cách tốt nhất bạn có thể làm là đối xử với các tác nhân AI như một thực tập sinh quá tự tin – có ý tốt nhưng không nên được cấp quyền quản trị.AI safety, computer agents, Microsoft Nvidia
