Hệ thống phòng vệ AI của Coinbase tự động chặn 91% giao dịch, tương đương 4,7 triệu USD, gửi tới buổi phát trực tiếp deepfake Elon Musk giả mạo Tesla.
Coinbase cho biết hệ thống phòng chống lừa đảo dùng AI của công ty đã chặn 4,7 triệu USD mà khách hàng định gửi cho một nhóm lừa đảo. Nhóm này dùng hình ảnh deepfake của Elon Musk trong một buổi phát trực tiếp để quảng bá chương trình tặng tài sản mã hóa giả mạo của Tesla. Theo bài đăng trên blog của Coinbase hôm thứ Ba, hệ thống đã ngăn khoảng 91% số giao dịch liên quan mà không cần con người can thiệp.
Vụ việc xảy ra trong buổi trình diễn “ô tô bay” của Tesla hồi tháng trước. Kẻ lừa đảo dựng một buổi phát trực tiếp trên YouTube giống hệt kênh chính thức của Tesla, có hình ảnh deepfake của Musk. Màn hình hiển thị địa chỉ ví, mã QR và lời hứa nhân đôi mọi khoản tài sản mã hóa gửi tới. Theo Coinbase, hơn 500.000 người đã xem buổi phát sóng này. Chỉ trong khoảng hai giờ, hàng trăm khách hàng của Coinbase đã tìm cách gửi tổng cộng hàng triệu USD tới các địa chỉ trên màn hình.
Điểm khó của vụ việc là không có ai bị hack. Không tài khoản nào bị xâm nhập, không mật khẩu hay thông tin đăng nhập nào bị đánh cắp. Như Coinbase mô tả, hàng trăm khách hàng, nhiều người là người dùng lâu năm, “đã tự quyết định gửi tiền cho một người lạ”. Đây là điểm mù của các hệ thống phát hiện gian lận theo thời gian thực hiện nay: chúng được thiết kế để phát hiện truy cập trái phép, nhưng rất khó chặn những giao dịch mà chính chủ tài khoản đã bị thuyết phục để tự phê duyệt.
Tác nhân AI nhận diện mánh khóe chưa từng gặp
Để xử lý điểm mù này, Coinbase kết hợp hai lớp phòng vệ. Lớp đầu tiên dùng các mô hình học máy chấm điểm rủi ro cho mỗi giao dịch gửi tiền, gắn cờ những giao dịch khớp với mô thức tặng thưởng, mạo danh thương hiệu hoặc gửi tới ví mới tạo. Với giao dịch bị gắn cờ, hệ thống điều động một tác nhân AI chuyên trách. Tác nhân này xem xét bối cảnh, giải thích cho khách hàng cách kiểu lừa đảo này được dàn dựng và đặt câu hỏi để làm lộ những điểm bất hợp lý trong câu chuyện của kẻ lừa đảo.
Theo Coinbase, điều đáng chú ý là tác nhân chưa từng gặp hình thức lừa đảo này. Các chương trình tặng thưởng dùng deepfake gắn với một sự kiện ra mắt sản phẩm trực tiếp không có trong dữ liệu huấn luyện. Dù vậy, tác nhân vẫn nhận ra cấu trúc quen thuộc của mánh khóe: lời hứa nhân tiền, áp lực thời gian của một sự kiện chỉ kéo dài vài giờ, và một giao dịch không thể đảo ngược. Tác nhân đã xử lý toàn bộ, từ giao dịch bị gắn cờ đầu tiên đến giao dịch cuối cùng, mà không cần nhân viên tham gia.
Trường hợp này cho thấy cuộc đua giữa AI tấn công và AI phòng thủ trong ngành tài sản mã hóa đang tăng tốc. Deepfake giúp kẻ lừa đảo tạo ra nội dung giả mạo đủ thuyết phục để đánh lừa hàng trăm người dùng có kinh nghiệm chỉ trong vài giờ. Ngược lại, các tác nhân AI cho phép nền tảng can thiệp ở quy mô và tốc độ mà đội ngũ con người khó theo kịp. Coinbase cho biết sẽ tiếp tục đầu tư mạnh vào phòng vệ AI, hướng tới các mô hình có thể bắt kịp những hình thức lừa đảo mới thông qua nghiên cứu do AI dẫn dắt.


































































