Phó thống đốc Ngân hàng Anh Sarah Breeden cảnh báo tác nhân AI đe dọa an ninh mạng, thị trường tài chính, đề xuất “công tắc ngắt khẩn cấp” cho công cụ giao dịch tự động.
Sarah Breeden, Phó thống đốc phụ trách ổn định tài chính của Ngân hàng Anh, đã lên tiếng cảnh báo về mối đe dọa ngày càng gia tăng từ các hệ thống AI tự chủ đối với thị trường tài chính, an ninh mạng và hạ tầng thanh toán toàn cầu. Phát biểu tại diễn đàn thường niên của Ngân hàng Trung ương châu Âu (ECB) ở Sintra, Bồ Đào Nha ngày 30 tháng 6, bà nhấn mạnh rằng tác nhân AI đang phát triển với tốc độ vượt xa dự đoán của các cơ quan quản lý.
Theo bà, nếu như vào năm 2019, độ dài các tác vụ phần mềm mà những mô hình AI hàng đầu có thể hoàn thành tăng gấp đôi sau mỗi bảy tháng, thì đến năm 2024, chu kỳ tăng gấp đôi này đã rút ngắn xuống chỉ còn bốn tháng, và các đột phá trong phát hiện lỗ hổng an ninh mạng vào mùa xuân năm nay cho thấy tốc độ này có thể đã tiếp tục gia tăng.
Từ tạo nội dung đến hành động tự chủ trong tài chính
Bà Breeden phân tích ba giai đoạn phát triển quan trọng của công nghệ AI, từ các hệ thống AI tạo sinh chỉ phản hồi khi được nhắc lệnh vào đầu thập niên này, đến việc các mô hình được huấn luyện để suy luận qua nhiều bước vào cuối năm 2024, và hiện nay là các hệ thống tác nhân có khả năng tự lập kế hoạch cùng thực thi chuỗi quyết định hoàn toàn độc lập mà không cần sự giám sát của con người.
Khi ứng dụng vào lĩnh vực tài chính, bà mô tả một hệ thống đang tiến tới trạng thái vận hành tự chủ hơn, ở quy mô lớn hơn và tốc độ nhanh hơn, trong đó các tác nhân AI có thể giao dịch chứng khoán, xử lý thanh toán và phản ứng với các mối đe dọa an ninh mạng thay mặt cho người tiêu dùng, bên bán hàng và các nền tảng giao dịch với sự can thiệp hạn chế của con người.
Trong số các rủi ro đối với ổn định tài chính, Phó thống đốc Ngân hàng Anh đặc biệt nhấn mạnh an ninh mạng là vấn đề nghiêm trọng nhất, dẫn chứng từ Viện An ninh AI của Chính phủ Anh cho thấy sự cải thiện đáng kể trong năng lực của tác nhân AI trên internet. Bà cảnh báo rằng cùng những công cụ giúp bên phòng thủ phát hiện và vá lỗ hổng cũng trao cho bên tấn công khả năng tương tự để khai thác chúng, làm gia tăng đáng kể nguy cơ xảy ra các cuộc tấn công có thể gây tổn hại đến ổn định tài chính.
Từ đó, bà đề xuất các công cụ giao dịch tự chủ có thể cần được tích hợp cơ chế “công tắc ngắt khẩn cấp” nhằm ngăn chặn các cú sốc thị trường, một đề xuất thể hiện sự khác biệt đáng kể so với khuôn khổ quy định hiện hành.
Bên cạnh rủi ro an ninh mạng, bà Breeden cũng chỉ ra mối lo ngại liên quan đến nguồn vốn tài trợ cho hạ tầng AI.
Ủy ban Chính sách Tài chính của Ngân hàng Anh, trong kết luận đưa ra vào tháng 4, cho biết dù các công ty công nghệ lớn ban đầu tài trợ xây dựng hạ tầng AI bằng dòng tiền và vốn chủ sở hữu, việc sử dụng vốn vay đang tăng nhanh và chuyển sang các hình thức phức tạp hơn, khiến một đợt sụt giảm đột ngột trong định giá tài sản liên quan đến AI có thể tạo ra hiệu ứng lan truyền lớn trên thị trường tín dụng.
Một đánh giá chuyên sâu hơn về chủ đề này dự kiến được ủy ban công bố vào ngày 7 tháng 7. Ngoài các khuyến nghị về quản lý rủi ro, bà Breeden cũng cho rằng bản thân các ngân hàng trung ương cần thích ứng bằng cách tự ứng dụng AI trong công tác giám sát hệ thống tài chính, thay vì chỉ tập trung vào việc kiểm soát những rủi ro mà công nghệ này tạo ra.
