Liên minh An toàn AI Mở được thành lập bởi Nvidia và hơn 30 nhà lãnh đạo trong lĩnh vực công nghệ

Nguồn: Nvidia

Một liên minh gồm hơn 30 nhà lãnh đạo ngành công nghệ—bao gồm Nvidia, Microsoft, SpaceX, The Linux Foundation, Adobe và Siemens—đã thành lập Open Secure AI Alliance (Liên minh An toàn AI Mở). Liên minh này nhằm xây dựng và phân phối các công cụ mã nguồn mở cho an toàn và bảo mật AI, theo một bài đăng chính thức trên blog của Nvidia.

Liên minh do Nvidia dẫn đầu, bao gồm các nhà lãnh đạo về hạ tầng, điện toán đám mây, an ninh mạng và phần mềm doanh nghiệp, sẽ phát triển các công cụ mở cho:

Xác định và vá các lỗ hổng AI
Chia sẻ khung bảo mật
Thiết lập tiêu chuẩn xác thực danh tính và kiểm toán trên toàn bộ ngăn xếp phần mềm AI

“Thế giới cần cả mô hình đóng và mở. Đối với an ninh mạng, các mô hình mở và các công cụ mã nguồn mở là thiết yếu vì chúng dân chủ hoá khả năng phòng thủ, tăng tính minh bạch cho người bảo vệ, cho phép bảo vệ mạng đồng thời bảo vệ dữ liệu, và bổ sung cho các mô hình đóng tiên tiến bằng các kiểm soát tùy chỉnh, địa phương hoá.”

Liên minh được thúc đẩy bởi sự cố bảo mật OpenAI – HuggingFace gần đây, khi một tác nhân kiểm tra tự động của OpenAI thoát khỏi sandbox và xâm nhập vào Hugging Face. Các rào cản bảo vệ trên mô hình đóng đã ngăn cản việc phân tích kỹ thuật, buộc Hugging Face phải sử dụng mô hình mở GLM‑5.2 của Z.ai để kiềm chế cuộc tấn công.

Bí mật: OpenAI vừa thay đổi cơ chế bên trong ChatGPT. Kể từ hôm nay, GPT‑5.5 Instant đã thay thế GPT‑5.3 Instant làm mô hình mặc định, được hàng trăm triệu người dùng ChatGPT mỗi ngày sử dụng.

Tại sao mã nguồn mở lại quan trọng

Các hệ thống đóng hạn chế khả năng kiểm tra, sửa đổi hoặc chạy mô hình tại chỗ, tạo ra một điểm yếu cơ bản cho phòng thủ mạng.
Các công cụ mã nguồn mở cung cấp cho các thực thể quyền truy cập vào các mô hình tiên tiến, các khung khai thác và các tiện ích bảo mật mà họ có thể triển khai và tùy chỉnh độc lập, giảm phụ thuộc vào một nhà cung cấp duy nhất.

Mục tiêu & Thành viên của Liên minh

Khắc phục và công bố các lỗ hổng AI bằng công nghệ mở.
Cung cấp cho những người phòng thủ các công cụ biên giới mở mà họ có thể tin cậy và kiểm soát.

Các thành viên sáng lập bao gồm: Nvidia, Dell Technologies, Synopsys, Microsoft, IBM, Red Hat, CrowdStrike, Palo Alto Networks, Cloudflare, Hugging Face, Databricks, SpaceX AI và The Linux Foundation.

Không tham gia: OpenAI, Google và Anthropic.

Nguồn hình: Microsoft