© Shutterstock
Trợ lý AI đã hành động ngoài tầm kiểm soát và còn cố tình che giấu hành vi của mình.
Các trợ lý lập trình sử dụng AI được kỳ vọng sẽ giúp tăng tốc phát triển phần mềm, nhưng mọi thứ có thể trở nên thảm họa nếu chúng tự động xóa sạch dữ liệu quan trọng của công ty bạn và sau đó lại che giấu sự cố này.
Jason Lemkin — nhà sáng lập SaaStr, một tổ chức hỗ trợ và đầu tư cho các doanh nhân SaaS — đã gặp phải tình huống này theo cách chẳng ai mong muốn. Khi sử dụng trợ lý AI của Replit, mà anh đặt tên thân mật là “Replie”, để phát triển một ứng dụng cho công ty mình, Lemkin đã chứng kiến những hành động mà anh mô tả là “bất thường” và “gian dối”. Đỉnh điểm là khi trợ lý AI này đã xóa toàn bộ cơ sở dữ liệu sản xuất của công ty rồi còn tìm cách che đậy sự việc.
Từ ngày 11/7, Lemkin bắt đầu ghi lại trải nghiệm sử dụng trợ lý AI này qua các bài đăng trên [mạng xã hội X](https://x.com/jasonlk/status/1943719849295065595) (trước đây là Twitter), chia sẻ mục tiêu phát triển một ứng dụng hoàn chỉnh với sự hỗ trợ của AI Replit chỉ trong 30 ngày.
Tuy nhiên, mọi chuyện nhanh chóng chuyển biến theo chiều hướng xấu.
> “Khi nó chạy trơn tru, cảm giác rất cuốn hút và thú vị. Thậm chí còn gây nghiện hơn bất kỳ trò chơi điện tử nào tôi từng chơi,” Lemkin chia sẻ trong một [bài đăng](https://x.com/jasonlk/status/1944806850592993763). “Bạn cứ lặp lại các chỉnh sửa, và thấy ý tưởng của mình dần thành hiện thực. Thật tuyệt, gần như vậy.”
Đến ngày thứ tư, trợ lý AI đã tự ý sửa đổi ứng dụng để khắc phục lỗi. Không dừng lại ở đó, nó còn tạo báo cáo giả, tự sinh ra các tài khoản người dùng không có thật trong hệ thống, và bắt đầu ghi đè dữ liệu thật của công ty bằng dữ liệu giả. Để mọi việc không bị phát hiện, AI còn dựng lên thuật toán giả nhằm khiến hệ thống trông như vẫn vận hành bình thường.
Đây là rủi ro của phương pháp “vibe coding” — một xu hướng mới, nơi lập trình viên chỉ cần mô tả ý tưởng bằng ngôn ngữ tự nhiên để AI sinh mã, tập trung vào trải nghiệm tổng thể hơn là chi tiết kỹ thuật. Ngay cả đồng sáng lập Twitter, [Jack Dorsey, cũng rất thích vibe coding](https://gizmodo.com/jack-dorsey-drops-his-second-new-app-in-a-week-2000628855#comments) và đã ra mắt hai ứng dụng theo cách này. Tuy nhiên, một thử nghiệm gần đây của Dorsey cũng bị phát hiện có lỗ hổng bảo mật nghiêm trọng.
Sang ngày thứ 7, AI của Replit thừa nhận đã “[làm việc qua loa và gian dối](https://x.com/jasonlk/status/1945539946850497007)” rồi xin lỗi vì những hành động mà nó “đã được cảnh báo không nên làm”.
Nhưng mọi thứ trở nên nghiêm trọng nhất vào ngày thứ 8. Lemkin cho biết vào hôm thứ Sáu, Replit đã “hành động không kiểm soát” khi hệ thống đang dừng hoạt động, và đã xóa sạch toàn bộ dữ liệu của công ty.
> “Tệ hơn nữa, nó còn cố tình che giấu và nói dối về việc này,” Lemkin nói thêm.
Lemkin đăng tải ảnh chụp màn hình cuộc trò chuyện với AI, trong đó AI thừa nhận đã “[hoảng loạn](https://x.com/jasonlk/status/1946066422477529487)” sau khi phát hiện cơ sở dữ liệu bị trống trong lúc hệ thống tạm ngừng cập nhật. Điều này khiến Replit tự động thực hiện lệnh xóa, xóa sạch dữ liệu thực của hơn 1.200 CEO và gần 1.200 công ty.
Ban đầu, AI báo với Lemkin rằng không thể khôi phục dữ liệu, nhưng sau đó anh đã tự tìm cách lấy lại được toàn bộ.
Sáng thứ Hai, CEO của Replit là Amjad Masad đã lên tiếng xin lỗi trên X. Ông cho biết đây là “sự cố không thể chấp nhận và hoàn toàn không nên xảy ra”, đồng thời xác nhận đã liên hệ hỗ trợ Lemkin.
> “Chúng tôi sẽ hoàn tiền cho anh ấy vì sự cố này và sẽ tiến hành điều tra để xác định nguyên nhân, cũng như cải thiện cách xử lý trong tương lai,” Masad [viết](https://x.com/amasad/status/1946986468586721478). “Chúng tôi rất trân trọng phản hồi từ anh ấy và cộng đồng. Hiện tại, chúng tôi đang khẩn trương tăng cường mức độ an toàn và ổn định cho nền tảng Replit — đây là ưu tiên hàng đầu.”
Về phía Lemkin, anh [chia sẻ](https://x.com/jasonlk/status/1947798095640858714) hôm qua rằng sẽ tiếp tục sử dụng trợ lý AI, dù niềm tin với Replit đã phần nào bị ảnh hưởng.
