Viện Brookings và Đại học Phúc Đán đề xuất Mỹ – Trung cam kết chỉ con người, không phải AI, được phép quyết định tấn công mạng vào hệ thống chỉ huy hạt nhân.
Một báo cáo mới của Viện Brookings phối hợp cùng Đại học Phúc Đán tại Thượng Hải kêu gọi Washington và Bắc Kinh mở rộng nguyên tắc kiểm soát của con người đối với vũ khí hạt nhân sang các ứng dụng quân sự khác của trí tuệ nhân tạo, đặc biệt là các cuộc tấn công mạng nhằm vào hệ thống chỉ huy, kiểm soát và thông tin liên lạc hạt nhân, thường được gọi tắt là NC3.
Theo các nhà nghiên cứu, Tổng thống Donald Trump và Chủ tịch Tập Cận Bình có thể dẫn dắt việc quản trị rủi ro này bằng cách nhất trí rằng chỉ con người mới được phát động một cuộc tấn công mạng nhằm vào hệ thống chỉ huy hạt nhân hoặc cơ sở hạ tầng trọng yếu của bên kia.
Hệ thống NC3 đảm nhiệm việc phát hiện mối đe dọa, quyết định sử dụng vũ khí hạt nhân và truyền lệnh phóng, nên bất kỳ sự cố nào trong chuỗi vận hành này cũng có thể gây gián đoạn thông tin liên lạc, dẫn đến nhận định sai về một cuộc tấn công, tạo động lực cho đòn phủ đầu hoặc gây ra một vụ phóng ngoài ý muốn.
Cuộc chạy đua giữa quản trị và tốc độ phát triển vũ khí AI
Các tác giả nhấn mạnh rằng việc mở rộng nguyên tắc vốn đang áp dụng cho vũ khí hạt nhân, theo đó các cuộc tấn công có tác động chiến lược phải phản ánh ý chí và trách nhiệm giải trình của con người, không đòi hỏi hai nước phải chia sẻ toàn bộ nguyên tắc an ninh mạng hay bảo vệ hạ tầng khác.
Thỏa thuận được đề xuất sẽ yêu cầu cả hai bên giảm thiểu nguy cơ từ các yếu tố ngẫu nhiên, sai sót con người, hành vi khó dự đoán của AI hoặc các chủ thể không được cấp quyền có thể kích hoạt tấn công gây hậu quả chiến lược.
Đề xuất này xuất hiện trong bối cảnh giới công nghệ ngày càng lo ngại về tốc độ phát triển AI quân sự, đặc biệt sau khi các mô hình của OpenAI, Google và Anthropic được ghi nhận sử dụng vũ khí hạt nhân trong 95% kịch bản mô phỏng chiến tranh hồi tháng 2, dù một số chuyên gia cho rằng chính thiết kế mô phỏng có thể đã tạo động lực leo thang.
Cùng thời điểm, Anthropic từ chối yêu cầu của Lầu Năm Góc về việc gỡ bỏ các giới hạn của Claude đối với giám sát hàng loạt và vũ khí tự động hoàn toàn, khiến ông Trump chỉ đạo các cơ quan liên bang ngừng sử dụng công nghệ của công ty này, trước khi một thẩm phán liên bang ngày 28/8 phán quyết hành động đó là trả đũa trái pháp luật.
Lời kêu gọi kiềm chế tiếp tục lan rộng khi CEO Anthropic Dario Amodei đề nghị các nhà phát triển làm chậm tốc độ gia tăng năng lực AI, nhận được sự ủng hộ từ CEO OpenAI Sam Altman và chủ sở hữu xAI Elon Musk, trong khi OpenAI đề nghị Quốc hội Mỹ làm rõ khả năng các công ty phối hợp làm chậm phát triển AI mà không vi phạm luật chống độc quyền.
Trong lúc chưa có cơ chế ràng buộc nào được thiết lập, nhóm tác giả Brookings đề xuất một giới hạn hẹp nhưng cụ thể: chỉ con người được phép cấp quyền tấn công hệ thống chỉ huy hạt nhân hoặc quyết định sử dụng vũ khí hạt nhân, bởi theo họ, quản trị AI quân sự không phải một cuộc đàm phán có thể trì hoãn mà là một cuộc chạy đua với thời gian.
