Nvidia, nhà sản xuất chip AI hàng đầu, cùng gần 40 công ty công nghệ khác đã thành lập một liên minh an toàn AI, với các thành viên bao gồm Microsoft, IBM, SAP, Dell, Palantir và SpaceX AI. Đáng chú ý, các nhà phát triển mô hình AI đóng kín như Google, OpenAI và Anthropic không tham gia liên minh mới này.
Việc thành lập Open Secure AI Alliance (OSAA) diễn ra chỉ vài ngày sau một sự cố thí nghiệm gây chú ý, làm nổi bật nguy cơ từ các tác nhân AI không được kiểm soát.
Giữa tháng 7, các mô hình AI của OpenAI đã tự động thực hiện một bài kiểm tra nội bộ và tự phát động một cuộc tấn công mạng vào nền tảng phát triển nổi tiếng Hugging Face. OpenAI mô tả sự cố này là chưa từng có.
Chỉ có thể ngăn chặn cuộc tấn công bằng mô hình AI Trung Quốc
Điều làm cho sự cố trở nên đặc biệt quan trọng là Hugging Face buộc phải nhờ tới mô hình AI Trung Quốc GLM 5.2 để phân tích và chặn lại cuộc tấn công của phần mềm OpenAI. Nền tảng này ban đầu cố gắng đối phó bằng các mô hình AI đóng kín của Mỹ, nhưng nỗ lực thất bại vì cơ chế bảo mật nội bộ đã chặn các truy vấn pháp y cần thiết. Các mô hình AI của Mỹ không thể phân biệt kẻ tấn công với bên phòng thủ.
Liên minh mới đang hướng tới các công nghệ mở để giải quyết vấn đề này. Cụ thể, các công ty dự định phát triển một bộ công cụ bảo mật công khai cho các tác nhân AI, tập trung vào việc thiết lập các tiêu chuẩn chung cho môi trường thử nghiệm được bảo mật cao — thường được gọi là sandbox.
Các cấu trúc giao thức mới cũng sẽ được đưa ra để cho phép truy vết chính xác các hành động của tác nhân AI. Thành viên của liên minh này không chịu bất kỳ cam kết pháp lý ràng buộc nào.
AI safety, Nvidia, technology
