- Nvidia và Microsoft là hai thành viên sáng lập của Open Secure AI Alliance.
- Các công ty AI, dịch vụ tài chính, công nghệ và các tổ chức khác đang phát triển dịch vụ AI đã tham gia liên minh.
- Các ngoại lệ đáng chú ý bao gồm OpenAI, Anthropic và Google.
Nvidia đã xác nhận việc tham gia liên minh mới Open Secure AI Alliance, một tập hợp các công ty công nghệ, tài chính và AI hàng đầu đang hợp tác để duy trì tính mở trong ngành AI. Đáng chú ý, trong khi Microsoft và OpenAI nằm trong số các thành viên sáng lập, Google, OpenAI và Anthropic lại không có mặt.
Được lấy cảm hứng từ phong trào nguồn mở và sáng kiến ứng phó với mối đe dọa mạng AI do Linux Foundation dẫn đầu trong dự án Akrites AI, Open Secure AI Alliance hướng tới việc sử dụng công nghệ mở để công khai và khắc phục các lỗ hổng bảo mật.
Trích dẫn vụ việc gần đây của Hugging Face, trong đó các công cụ AI đóng đã cản trở việc điều tra đầy đủ, thông báo thành lập của Open Secure AI Alliance nhấn mạnh tầm quan trọng của các mô hình mở và chỉ ra rằng an ninh mạng là một trong những lĩnh vực hưởng lợi nhất từ phần mềm nguồn mở.
Phản hồi của Hugging Face?
Một nhóm lớn các công ty danh tiếng đã tham gia Open Secure AI Alliance, trong đó có OpenAI, Palantir, Palo Alto Networks, Microsoft, Crowdstrike, IBM, Linux Foundation và Hugging Face.
Đáng chú ý trong danh sách này là Google, Palantir và dĩ nhiên là OpenAI – công ty chịu trách nhiệm gây ra vụ tấn công vào Hugging Face. Vì sự cố xảy ra trong quá trình kiểm tra chuẩn an ninh mạng và mô hình của OpenAI đã thực hiện một cuộc tấn công hoàn toàn tự động vào máy chủ của Hugging Face, điều này là minh chứng quan trọng cho những rủi ro tiềm ẩn của các mô hình đóng trong thế giới AI.
“Khi những nhà phòng thủ không thể kiểm tra, điều chỉnh và chạy AI tiên tiến trên hạ tầng của riêng mình, khả năng phản ứng của họ bị giới hạn ngay vào thời điểm tốc độ là quan trọng nhất,” liên minh Open Secure AI Alliance cho biết, đồng thời nhấn mạnh sứ mệnh: “đảm bảo các nhà phòng thủ trên toàn thế giới có được những công cụ mở, tiên tiến mà họ có thể tin tưởng và kiểm soát.”
Sự thiếu minh bạch của OpenAI trong việc xử lý sự cố, cùng với những khó khăn ban đầu của Hugging Face trong việc phân tích cuộc xâm nhập do các mô hình đóng, thực sự làm nổi bật tầm quan trọng của liên minh mới này.
Mở vs. Đóng
Các tranh luận về mô hình phần mềm mở và đóng không có dấu hiệu chấm dứt trong thời gian tới, nhưng Open Secure AI Alliance đã đưa ra lập luận mạnh mẽ ủng hộ các mô hình mở. Mặc dù chúng có thể trở thành rủi ro nếu bị sửa đổi hoặc lạm dụng, nhưng những rủi ro này vốn đã tồn tại trong các hệ thống đóng.
Do đó, quan điểm của liên minh là cung cấp cho các nhà phòng thủ công cụ để đối phó với các mối đe dọa, thay vì cấm đoán chúng. Hàng thập kỷ nghiên cứu an ninh mạng đã chỉ ra rằng lựa chọn tốt nhất là hợp tác và kiểm thử – như Open Secure AI Alliance tuyên bố: “Con đường an toàn hơn là con đường cho phép nhiều nhà phòng thủ hơn có khả năng kiểm thử, xác minh và củng cố các hệ thống mà xã hội phụ thuộc vào.”
Với vai trò của OpenAI trong vụ việc Hugging Face, sự vắng mặt của họ trong liên minh là điều dễ hiểu – nhưng còn Google và Anthropic thì sao? Khi sự hợp tác giữa các công ty đang thúc đẩy phát triển công nghệ mới dưới các tiêu chuẩn chặt chẽ (ví dụ như công việc của Connectivity Standards Alliance với Matter và Aliro), có vẻ như Open Secure AI Alliance đang đi đúng hướng.
AI security, Open Secure AI Alliance, Nvidia
