Google, Microsoft, Amazon cùng nhiều tập đoàn công nghệ hàng đầu thành lập Liên minh Bảo mật Trí tuệ Nhân tạo (CoSAI), nhằm giải quyết bài toán an ninh AI đang ngày càng trở nên cấp thiết.
Ngày 18/7 vừa qua, tại diễn đàn An ninh Aspen, Liên minh Bảo mật Trí tuệ Nhân tạo (CoSAI) đã chính thức được thành lập với sự hỗ trợ từ tổ chức tiêu chuẩn toàn cầu OASIS. Đây là một sáng kiến mã nguồn mở, cung cấp hướng dẫn và công cụ cho các nhà phát triển và người dùng nhằm xây dựng hệ thống trí tuệ nhân tạo (AI) bảo mật ngay từ khâu thiết kế.
Sự ra đời của CoSAI đánh dấu bước tiến quan trọng trong bối cảnh công nghệ AI đang phát triển với tốc độ chóng mặt, mang đến tiềm năng to lớn trong việc giải quyết các vấn đề phức tạp, nhưng đồng thời cũng đặt ra những thách thức mới về an ninh mạng.
Liên minh quy tụ nhiều bên liên quan, bao gồm các công ty công nghệ hàng đầu như Google, IBM, Intel, Microsoft, NVIDIA, PayPal, Amazon, Anthropic, Cisco, Chainguard, Cohere, GenLab, OpenAI và Wiz, cùng các học giả và chuyên gia, nhằm giải quyết bài toán bảo mật AI đang còn phân mảnh hiện nay.
Mục tiêu của CoSAI là tạo dựng một hệ sinh thái hợp tác, tập trung chia sẻ các phương pháp luận mã nguồn mở, khung khổ tiêu chuẩn hóa và các công cụ bảo mật AI.
Theo ông David LaBianca từ Google, đồng chủ tịch Hội đồng Quản trị CoSAI, sự ra đời của CoSAI xuất phát từ nhu cầu cấp thiết trong việc dân chủ hóa kiến thức và những tiến bộ cần thiết cho việc tích hợp và triển khai AI an toàn.
Hiện tại, việc bảo mật AI cùng các ứng dụng và dịch vụ AI đang rất phân mảnh. Các nhà phát triển phải đối mặt với một mớ hỗn độn gồm các hướng dẫn và tiêu chuẩn thường không nhất quán và rời rạc. Việc đánh giá và giảm thiểu các rủi ro phổ biến và đặc thù của AI mà không có các phương pháp hay tiêu chuẩn rõ ràng là một thách thức lớn ngay cả đối với các tổ chức giàu kinh nghiệm nhất.
CoSAI ra đời với hy vọng sẽ tạo ra bước đột phá trong việc thiết lập các thông lệ tiêu chuẩn nhằm tăng cường bảo mật AI và xây dựng niềm tin cho các bên liên quan trên toàn cầu.
“Chúng tôi cam kết hợp tác với các tổ chức tiên phong trong lĩnh vực công nghệ AI có trách nhiệm và bảo mật”, ông Omar Santos từ Cisco, đồng chủ tịch Hội đồng Quản trị CoSAI, chia sẻ. “Mục tiêu của chúng tôi là loại bỏ sự chồng chéo và khuếch đại tác động tập thể thông qua các mối quan hệ đối tác chiến lược tập trung vào các chủ đề quan trọng”.
Trong giai đoạn đầu, CoSAI sẽ tập trung vào ba nhóm công tác chính, với kế hoạch mở rộng hoạt động trong tương lai. Các nhóm này sẽ giải quyết những vấn đề trọng tâm trong lĩnh vực an ninh AI, bao gồm: bảo mật chuỗi cung ứng phần mềm cho hệ thống AI, chuẩn bị cho đội ngũ bảo mật trước bối cảnh an ninh mạng thay đổi và quản trị bảo mật AI.
Cụ thể, nhóm công tác về bảo mật chuỗi cung ứng phần mềm sẽ tập trung vào việc nâng cao khả năng theo dõi nguồn gốc và thành phần của ứng dụng AI, từ đó đảm bảo tính an toàn cho toàn bộ chuỗi cung ứng. Trong khi đó, nhóm công tác về chuẩn bị cho đội ngũ bảo mật sẽ giải quyết các thách thức về đầu tư và tích hợp trong hệ thống AI và hệ thống truyền thống, giúp các tổ chức ứng phó hiệu quả với bối cảnh an ninh mạng đang thay đổi nhanh chóng. Cuối cùng, nhóm công tác về quản trị bảo mật AI sẽ phát triển các thông lệ tốt nhất và khung đánh giá rủi ro cho bảo mật AI, đặt nền móng cho việc quản lý và sử dụng AI một cách an toàn và hiệu quả.
Sự hỗ trợ từ các công ty công nghệ hàng đầu và các chuyên gia là động lực quan trọng giúp CoSAI thực hiện sứ mệnh của mình. Bằng cách giải quyết các bài toán an ninh AI cấp bách, CoSAI được kỳ vọng sẽ góp phần đảm bảo niềm tin vào AI, thúc đẩy phát triển công nghệ mang tính cách mạng này một cách có trách nhiệm và bền vững.
