Nvidia đã khởi xướng một liên minh mới gồm hơn 30 công ty công nghệ lớn, trong đó có Microsoft, SpaceX và Linux Foundation, mang tên Open Secure AI Alliance. Nhóm này đặt mục tiêu phát triển và phân phối các công cụ nguồn mở nhằm nâng cao an toàn và bảo mật trước các cuộc tấn công bằng AI.
Mặc dù liên minh quy tụ nhiều tên tuổi đình đám, ba nhà phát triển mô hình tiên tiến nhất thế giới — OpenAI, Google và Anthropic — không có trong danh sách.
Dựa trên vụ tấn công tự động vào HuggingFace gần đây do hệ thống AI mất kiểm soát của OpenAI gây ra, thông cáo ra mắt liên minh của Nvidia cho rằng đây là minh chứng rõ ràng cho nhu cầu xây dựng các hệ thống phòng ngừa AI mạnh mẽ hơn. Đặc biệt, các hệ thống này cần được cung cấp rộng rãi, không chỉ do các tổ chức sở hữu độc quyền kiểm soát.
Để tạo ra một hệ sinh thái bảo mật mới, liên minh đã mời các “ông lớn” trong lĩnh vực hạ tầng, phát triển phần mềm, an ninh mạng và các nền tảng nguồn mở. Nổi bật trong số đó có Nvidia, Microsoft, SpaceX, Dell, Cloudflare, Cisco, Adobe, Red Hat, Salesforce, Siemens, SK Telecom, IBM, Hugging Face và Capital One, cùng nhiều đối tác khác.
- Open Secure AI Alliance company list.
Credit: Nvidia
Về phần mình, Nvidia sẽ cung cấp các mô hình mở, trọng số mô hình, và dữ liệu về các thiết kế tác nhân mới để hỗ trợ việc xây dựng bảo mật tốt hơn cho các tổ chức. Hugging Face đã đề xuất định dạng safetensors – một định dạng lưu trữ trọng số mô hình an toàn. IBM và Red Hat cũng đã đưa ra sáng kiến Lightwell, cung cấp khả năng khắc phục lỗi phần mềm và cải thiện nền tảng dựa trên AI.
SpaceX AI và Microsoft cũng đã mở rộng hệ thống Grok Build và MDAS của mình nhằm nâng cao các giải pháp bảo mật.
Liên minh còn kêu gọi các nhà làm chính sách và cơ quan quản lý trên toàn cầu chú ý hơn đến an ninh AI, đồng thời hợp tác đầu tư vào các nền tảng và chương trình mới giúp chống lại các cuộc tấn công của AI và các hệ thống AI có tính tác nhân.
Tính đến thời điểm viết, OpenAI, Google và Anthropic chưa có phản hồi công khai nào về liên minh. Tuy nhiên, Anthropic đã yêu cầu chính phủ kiểm soát chặt chẽ hơn các mô hình mới và việc tiếp cận chúng, cho rằng cần hoàn thành các kiểm tra an toàn trước khi bất kỳ mô hình nào được công bố rộng rãi – kể cả những mô hình đến từ nước ngoài.
AI security, tech alliance, Nvidia
