OpenAI đã giới thiệu GPT‑Red, một hệ thống AI tự động được thiết kế để phát hiện lỗ hổng bảo mật trong các mô hình ngôn ngữ của mình. Tên GPT‑Red lấy cảm hứng từ “red teaming” trong an ninh mạng – thực hành cố tình tấn công hệ thống để xác định điểm yếu trước khi kẻ tấn công khai thác.
Trong một bài đăng vào ngày thứ Tư, OpenAI cho biết công cụ này đã giúp GPT‑5.6 khó bị tấn công bằng Prompt Injection hơn trước khi đưa vào hoạt động.
“Khi khả năng của mô hình ngày càng tăng, an toàn và việc điều chỉnh cũng phải phát triển cùng nó,” OpenAI viết trên X. “Red‑teaming là điều thiết yếu, nhưng các phương pháp hiện nay khó mở rộng, tạo ra một nút thắt nghiêm trọng. GPT‑Red là cách chúng tôi đang giải quyết vấn đề này.”
Theo OpenAI, GPT‑Red được huấn luyện qua quá trình học tăng cường tự‑play (self‑play reinforcement learning), liên tục tạo ra các cuộc tấn công Prompt Injection mạnh hơn trong khi các mô hình phòng thủ học cách chống lại chúng. Công ty cho biết những đợt tấn công này đã được tích hợp vào quy trình đào tạo GPT‑5.6, và GPT‑Red đạt tỷ lệ thành công 84 % trong các kịch bản đánh giá nội bộ, so với 13 % của các thành viên người của red team trong cùng một bài kiểm tra.
“GPT‑Red học thông qua trò chơi đối kháng tự động, mục tiêu của nó là thực hiện Prompt Injection trên một loạt các mô hình phòng thủ đa dạng,” OpenAI viết. “Mỗi cuộc tấn công thành công mà GPT‑Red phát hiện sẽ được dùng để cải thiện các mô hình phòng thủ, khiến GPT‑Red luôn tìm ra những lỗi ngày càng rộng hơn và phức tạp hơn.”
Trong một nghiên cứu trường hợp, OpenAI cho biết hệ thống đã thao túng một tác nhân máy bán hàng tự động, khiến nó hạ giá, đặt hàng giảm giá cho hàng tồn kho và hủy đơn của khách hàng khác trước khi các lỗ hổng được công bố và khắc phục.
GPT‑Red là bước tiếp nối các nỗ lực an ninh mạng của OpenAI kể từ khi ChatGPT ra mắt công chúng. Năm 2023, công ty đã ra mắt Mạng lưới Red Teaming của OpenAI, tuyển dụng các nhà nghiên cứu an ninh mạng và chuyên gia bên ngoài để dò tìm các lỗi bảo mật trong ChatGPT và các mô hình khác trước khi phát hành. GPT‑Red mở rộng nỗ lực này bằng cách tự động hoá phần lớn quy trình, dùng một mô hình AI tạo ra các cuộc tấn công Prompt Injection và các bài kiểm tra đối kháng ở quy mô mà chỉ các nhà nghiên cứu con người khó có thể đạt được.
Thông báo của OpenAI phản ánh xu hướng chung là dùng AI để bảo vệ AI. Đầu tháng này, Ethereum Foundation cho biết đã đội red team kiểm tra hạ tầng mạng quan trọng, phát hiện một lỗ hổng trong phần mềm được các client đồng thuận của Ethereum sử dụng. Các nhà nghiên cứu cho rằng các tác nhân AI có thể tìm kiếm trong cơ sở mã nguồn lớn hơn hơn con người, nhưng thách thức hiện nay đã chuyển sang việc chứng minh những lỗi nào thực sự có thể khai thác.
Theo OpenAI, GPT‑Red sẽ vẫn là công cụ nội bộ vì nó chứa các khả năng gây hại được phát triển có chủ đích.
“Chúng tôi tin rằng với GPT‑Red, chúng tôi đã bắt đầu mở khóa một cơ chế quay vòng tương tự trong an toàn, nơi các mô hình ngày hôm nay có thể được dùng để làm cho các mô hình ngày mai mạnh mẽ hơn, điều chỉnh tốt hơn và đáng tin cậy hơn,” họ nói.
AI security, Prompt Injection, GPT-Red
