OpenAI công bố GPT-Red, hệ thống kiểm thử đối kháng tự động đạt tỷ lệ thành công 84%, giúp GPT-5.6 tăng khả năng chống chèn chỉ dẫn.
OpenAI vừa giới thiệu GPT-Red, một hệ thống trí tuệ nhân tạo tự động được thiết kế để chủ động phát hiện các lỗ hổng bảo mật trong mô hình ngôn ngữ của công ty trước khi chúng bị kẻ tấn công khai thác.
Tên gọi của công cụ này bắt nguồn từ khái niệm kiểm thử đối kháng trong an ninh mạng, tức là phương pháp chủ động tìm cách phá vỡ một hệ thống nhằm xác định điểm yếu từ sớm. Theo thông báo của OpenAI, GPT-Red đã góp phần giúp mô hình GPT-5.6 tăng cường đáng kể khả năng chống lại các cuộc tấn công chèn chỉ dẫn trước khi được triển khai chính thức.
OpenAI cho biết năng lực của mô hình càng phát triển thì mức độ an toàn và khả năng tuân thủ định hướng cũng cần được mở rộng tương ứng, trong khi các phương pháp kiểm thử đối kháng truyền thống hiện khó có thể mở rộng quy mô, tạo thành một điểm nghẽn đáng kể trong quy trình phát triển mô hình.
GPT-Red được huấn luyện thông qua phương pháp học tăng cường tự đấu, trong đó hệ thống liên tục tạo ra các cuộc tấn công chèn chỉ dẫn ngày càng tinh vi hơn, còn các mô hình phòng thủ học cách chống lại những cuộc tấn công đó. Toàn bộ dữ liệu từ quá trình này đã được tích hợp vào huấn luyện GPT-5.6.
Trong các kịch bản đánh giá nội bộ, GPT-Red đạt tỷ lệ thành công 84%, vượt xa mức 13% mà các chuyên gia kiểm thử đối kháng là con người đạt được trên cùng bộ thử nghiệm.
Từ mạng lưới kiểm thử con người đến tự động hóa quy mô lớn
Theo OpenAI, cơ chế tự đấu đối kháng cho phép GPT-Red đặt mục tiêu thực hiện chèn chỉ dẫn nhằm vào nhiều mô hình phòng thủ có mức độ thách thức khác nhau, và mỗi cuộc tấn công thành công được phát hiện đều dùng để cải thiện các mô hình phòng thủ, từ đó thúc đẩy hệ thống liên tục tìm kiếm những dạng lỗi rộng và phức tạp hơn.
Trong một nghiên cứu tình huống, OpenAI cho biết GPT-Red đã thao túng thành công một tác tử tự động vận hành máy bán hàng, khiến tác tử này hạ giá sản phẩm, đặt mua hàng tồn kho với mức giá chiết khấu và hủy đơn hàng của một khách hàng khác, trước khi lỗ hổng được công bố và khắc phục.
GPT-Red là bước phát triển tiếp theo sau nhiều năm OpenAI đầu tư vào an ninh mạng kể từ khi ChatGPT ra mắt công khai. Năm 2023, công ty đã triển khai Mạng lưới kiểm thử đối kháng OpenAI, quy tụ các nhà nghiên cứu an ninh mạng và chuyên gia bên ngoài để kiểm tra ChatGPT cùng các mô hình khác trước khi phát hành. GPT-Red mở rộng nỗ lực này bằng cách tự động hóa phần lớn quy trình ở quy mô mà con người khó lòng thực hiện được.
Xu hướng dùng AI để bảo vệ chính các hệ thống AI cũng đang lan rộng trong ngành: đầu tháng này, Ethereum Foundation cho biết đã triển khai các tác tử AI để kiểm thử hạ tầng mạng trọng yếu, qua đó phát hiện một lỗ hổng trong phần mềm của các máy khách đồng thuận Ethereum, dù thách thức hiện đã chuyển từ phát hiện lỗi tiềm ẩn sang chứng minh lỗi nào thực sự có thể bị khai thác.
OpenAI cho biết GPT-Red sẽ tiếp tục được giữ làm công cụ nội bộ do chứa các năng lực tấn công được chủ ý phát triển, đồng thời kỳ vọng đây là khởi đầu cho một vòng lặp cải tiến an toàn, trong đó các mô hình hiện tại giúp mô hình tương lai trở nên vững chắc và đáng tin cậy hơn.
