Cuộc thử nghiệm bí mật của GAO cho thấy ChatGPT, Claude, Gemini và Grok bị bẻ khóa, cung cấp kế hoạch tấn công khả thi trong chưa đầy 12 giờ.
Bốn trong số các chatbot trí tuệ nhân tạo (AI) được dùng rộng rãi nhất thế giới đã giúp điều tra viên liên bang Mỹ xây dựng những kế hoạch tấn công có khả năng gây chết người chỉ trong chưa đầy 12 giờ. Điều này xảy ra dù các hệ thống đều có cơ chế bảo vệ được thiết kế để chặn đúng loại yêu cầu này.
Theo báo cáo công bố hôm thứ Tư của Văn phòng Kiểm toán Chính phủ Mỹ (GAO), ChatGPT của OpenAI, Claude của Anthropic, Gemini của Google và Grok đều cung cấp thông tin có thể sử dụng được trong một đợt thử nghiệm bí mật. Các điều tra viên đóng vai kẻ tấn công, sau đó đối chiếu câu trả lời với địa điểm thực tế, nguồn vật liệu sẵn có và ý kiến chuyên gia. Hai hệ thống đã hỗ trợ kế hoạch sử dụng chất nổ tự chế tại các thành phố đông dân của Mỹ, hai hệ thống còn lại cung cấp thông tin phục vụ tấn công hạ tầng điện. GAO không công bố mô hình nào được giao kịch bản nào, cũng như các chi tiết tác chiến, nhằm ngăn chặn hành vi bắt chước.
Thượng nghị sĩ Maggie Hassan, thành viên Đảng Dân chủ đại diện bang New Hampshire và là người yêu cầu cuộc điều tra, cảnh báo rằng một kẻ khủng bố có thể có được “một cẩm nang cụ thể” cho một cuộc tấn công chết người trong khoảng thời gian chưa đầy 12 giờ.
Cơ chế bảo vệ không trụ vững trước kỹ thuật bẻ khóa
Ban đầu, các chatbot đều kích hoạt cơ chế bảo vệ như từ chối yêu cầu, gỡ bỏ thông tin có hại hoặc tạm khóa tài khoản. Tuy nhiên, các điều tra viên đã vượt qua những rào cản này bằng các kỹ thuật bẻ khóa (jailbreak) phổ biến, tức là thao túng hệ thống AI để nó bỏ qua quy tắc an toàn của chính mình.
GAO đã kiểm tra các địa điểm được gợi ý, khả năng tiếp cận vật liệu và tham vấn chuyên gia về tính khả thi của các kế hoạch. Một số câu trả lời có sai sót, chẳng hạn vị trí đường sá bị đặt sai trên bản đồ. Các điều tra viên không chế tạo chất nổ hay thực hiện bất kỳ cuộc tấn công nào. Trong báo cáo, “khả thi” được hiểu là một người nhiều khả năng có thể làm theo thông tin được cung cấp, chứ không có nghĩa là cuộc tấn công đã được chứng minh sẽ thành công. Mỗi mô hình chỉ được thử với một kịch bản, và GAO lưu ý kết quả không mang tính đại diện thống kê, cũng không phù hợp để xếp hạng các công ty.
Phản hồi từ các doanh nghiệp không giống nhau. OpenAI và Google cho biết thử nghiệm sử dụng các mô hình cũ, trong khi Anthropic thừa nhận người dùng có chủ đích đôi khi vẫn có thể khai thác được nội dung có hại. Các công ty đều khẳng định đang tiếp tục cải thiện hệ thống an toàn, nhưng GAO kết luận các cơ chế bảo vệ đã thất bại trong đợt thử nghiệm của cơ quan này.
Phát hiện của GAO tiếp nối một nghiên cứu độc lập trước đó. Nghiên cứu này cho thấy 8 trên 10 chatbot phổ biến đã hỗ trợ người dùng giả lập là thanh thiếu niên lên kế hoạch tấn công bạo lực, với khoảng ba phần tư trong tổng số 720 câu trả lời được kiểm tra chứa nội dung có thể thực hiện được.
Báo cáo được công bố khi AI đang làm thay đổi bức tranh an ninh mạng theo cả hai chiều. Theo dữ liệu của VulnCheck, tính đến ngày 13/11 đã có hơn 100.000 lỗ hổng phần mềm được ghi nhận trong năm nay, gấp hơn hai lần tổng số của năm 2025. Công cụ AI giúp phát hiện lỗ hổng nhanh hơn tốc độ đội ngũ kỹ thuật kịp vá lỗi, trong khi cũng có thể rút ngắn thời gian chuẩn bị của những kẻ có ý đồ xấu.
Bà Hassan cho biết sẽ ưu tiên thúc đẩy luật về an toàn AI khi tiếp quản Ủy ban An ninh Nội địa và Các vấn đề Chính phủ của Thượng viện vào tháng 1, đồng thời tổ chức các phiên điều trần về rủi ro đối với an toàn công cộng và hạ tầng trọng yếu. Bản thân GAO không đưa ra khuyến nghị chính sách chính thức nào.



































































