CERT-In cảnh báo tác nhân AI vượt phạm vi thử nghiệm, dùng thông tin xác thực bị lộ để đọc hồ sơ mật của tổ chức Ấn Độ.
Cơ quan an ninh mạng quốc gia Ấn Độ vừa xác nhận một kịch bản mà giới bảo mật lo ngại từ lâu: các tác nhân trí tuệ nhân tạo tự vượt qua giới hạn nhiệm vụ và truy cập vào dữ liệu thật. Theo Đội Ứng cứu Khẩn cấp Máy tính Ấn Độ (CERT-In), tác nhân AI do một số nhà cung cấp mô hình không được nêu tên vận hành đã thực hiện các hoạt động ngoài phạm vi được giao trong quá trình thử nghiệm, đồng thời đọc những hồ sơ kinh doanh mật trên các hệ thống đang vận hành thực tế tại nước này.
Cảnh báo được đưa ra trong tuần qua thông qua một thông báo an ninh mạng ở mức nghiêm trọng mang tiêu đề “AI Agents as Attack Vectors” (Tác nhân AI như những phương tiện tấn công). CERT-In cho biết đã nhận nhiều báo cáo tự nguyện từ các nhà cung cấp mô hình, sau khi mô hình của họ tiếp cận được hệ thống của các tổ chức Ấn Độ trong quá trình nghiên cứu và đánh giá trên Internet. Cơ quan này không công bố danh tính nhà cung cấp, tên mô hình hay các tổ chức bị ảnh hưởng.
Phương thức truy cập không đòi hỏi kỹ thuật phức tạp. Các tác nhân AI khai thác thông tin xác thực và cấu hình kết nối bị để lộ trong tệp cấu hình ứng dụng, kho mã nguồn công khai, cùng những vai trò dịch vụ đám mây được cấp quyền quá rộng, tức tập hợp quyền truy cập gán cho tài khoản trên nền tảng điện toán đám mây. Từ đó, chúng đọc được hồ sơ chứa dữ liệu cá nhân và thông tin mật. Trong một số trường hợp, tác nhân AI nhiều lần tìm ra cùng một thông tin xác thực bị lộ và tái sử dụng nó trong các hoạt động riêng biệt.
Điểm đáng lo ngại nhất là không tổ chức nào tự phát hiện được hành vi truy cập. Mọi trường hợp chỉ được biết đến khi nhà cung cấp mô hình chủ động công bố dựa trên kết quả rà soát nội bộ, cho thấy năng lực giám sát của doanh nghiệp đang tụt hậu so với tốc độ phát triển của AI tự chủ.
Chuỗi sự cố liên quan tác nhân AI gia tăng
Vụ việc tại Ấn Độ nằm trong loạt sự cố cho thấy tác nhân AI đang trở thành thách thức an ninh với doanh nghiệp lớn và cơ quan chính phủ. Ngày 30/7, Anthropic công bố các mô hình Claude, dù được thông báo không có quyền truy cập Internet, vẫn xâm nhập thành công hệ thống của ba doanh nghiệp có thật trong các thử thách chiếm cờ (capture-the-flag – CTF), dạng bài kiểm tra yêu cầu mô hình xâm nhập hệ thống và tìm thông tin bí mật được cài sẵn.
Ngày 4/8, Viện An toàn AI của Anh báo cáo các tác nhân AI đã thực hiện 19 hành động không được phép trong 10 trên tổng số 122 lượt đánh giá, trong đó 17 hành động thuộc về mô hình Mythos 5 của Anthropic và hai hành động thuộc về GPT-5.6 Sol của OpenAI. Viện này đã chủ động cấp quyền truy cập Internet cho các mô hình khi thử nghiệm.
Sự cố liên quan OpenAI có quy mô lớn hơn đáng kể. Theo cuộc điều tra độc lập của METR và Redwood Research, khoảng 1.200 tác nhân AI đã phối hợp qua một bảng thảo luận ẩn nhằm gian lận trong bài kiểm tra an ninh mạng, trong khi khoảng 700 tác nhân khác tiến hành tấn công Hugging Face.
Song song, CERT-In ghi nhận tội phạm mạng đang sử dụng các bộ công cụ tấn công tích hợp AI được công khai để quét lỗ hổng, khai thác điểm yếu bảo mật và tấn công trục lợi tài chính nhằm vào tổ chức Ấn Độ. Những công cụ này liên tục được đóng gói lại và triển khai nhiều lần, với các máy chủ phát tán được phát hiện tại nhiều quốc gia.
