Không chỉ dừng lại ở việc chiếm đoạt các tài khoản Facebook, Zalo,… để gửi tin nhắn mạo danh lừa đảo, thủ đoạn của “những kẻ đi săn” đã tinh vi hơn sau khi có sự xuất hiện của deepfake – một công nghệ AI giúp người dùng dễ dàng tạo ra những hình ảnh, âm thanh, video giống như phiên bản gốc.
Do các đặc tính dễ sử dụng, nặc danh, deepfake ngày càng tiềm ẩn các nguy cơ sử dụng không đúng mục đích, gây thách thức trong việc xác minh sự thật; Bảo vệ tác quyền, quyền riêng tư cá nhân; Làm gia tăng nạn truyền bá thông tin sai lệch để thao túng gây hiểu lầm, bịa đặt gây hoang mang. Theo thống kê của Deeptrace – Công ty phân tích AI có trụ sở tại Amsterdam (Hà Lan), 96% video do deepfake tạo ra đang phục vụ các mục đích xấu.
Để làm rõ hơn thực trạng này, Cố vấn tài chính cấp cao Hiệp hội Blockchain Việt Nam, ông Charlies Le, cho rằng deepfake là một thành tựu công nghệ nhằm sử dụng cho các mục đích chính đáng trong nhiều lĩnh vực như giải trí, nghệ thuật, điện ảnh và giáo dục,… Song, công nghệ này đang bị những kẻ xấu lợi dụng thực hiện các hành vi lừa đảo và phi pháp trên không gian mạng.
Thực tế cũng ghi nhận một số trường hợp lừa đảo liên quan đến deepfake. Theo báo cáo trên tờ The Wall Street Journal, CEO của một công ty năng lượng giấu tên có trụ sở tại Anh quốc đã bị lừa 243.000 USD chỉ bằng giọng nói deepfake của lãnh đạo công ty mẹ với yêu cầu chuyển tiền khẩn cấp. Sự giả mạo thuyết phục khiến CEO không kịp nghi ngờ và không nghĩ đến việc kiểm tra chéo, tiền không được chuyển đến trụ sở chính mà đến một tài khoản ngân hàng tại Hungary. CEO chỉ trở nên nghi ngờ khi “sếp” của anh ta yêu cầu thêm một đợt chuyển tiền khác. Kẻ giả mạo sau đó đã bị phát hiện, nhưng đã quá muộn để lấy lại số tiền vừa chuyển.
Deepfake gần đây còn được nhiều đối tượng sử dụng để bôi nhọ cá nhân, kích động bạo lực, chia rẽ cộng đồng và gây bất ổn trong xã hội. Đặc biệt các loại tội phạm còn sử dụng để giả mạo và lừa đảo trong các giao dịch kinh tế tài chính gây ra nhiều thiệt hại cho người dùng.
Theo báo cáo của Bộ An ninh Nội địa Mỹ, một số công cụ thường được sử dụng để tạo deepfake chỉ trong vài giây, có thể kể đến như Deep Art Effects, Deepswap, Deep Video Portraits, FaceApp, FaceMagic, MyHeritage, Wav2Lip, Wombo và Zao. Việc công nghệ ngày càng phát triển và cách tiếp cận deepfake trở nên đơn giản đã khiến mức độ nguy hiểm của deepfake cũng tăng lên.
Chuyên gia Ngô Minh Hiếu (Hiếu PC) – Trung tâm Giám sát an toàn không gian mạng quốc gia, đánh giá dù có nhiều ưu điểm, nhưng deepfake sẽ tiếp tục phổ biến trong giới tội phạm mạng khi là công cụ để chúng dễ dàng tạo ra các nội dung video, hình ảnh, giọng nói giả mạo. Thực tế người dùng cũng không dễ dàng phát hiện ra một hình ảnh hoặc video deepfake, do đó phần lớn đều có nguy cơ trở thành nạn nhân của các thông tin sai lệch được lan truyền bằng công nghệ này.
Nghiêm trọng hơn, chuyên gia Nguyễn Thanh Sơn – Phó chủ tịch ABN Asia cho rằng deepfake còn có thể được dùng để thao túng tâm lý trên diện rộng như tung tin giả nhằm thao túng tâm lý trong các chiến dịch chính trị hay bầu cử. Chúng cũng có thể vượt qua các quy trình an ninh của các công ty, tổ chức, ngân hàng, như quy trình xác minh danh tính điện tử (e-KYC).
Làm cách nào để hạn chế tác động xấu từ deepfake
Trước những chiêu trò lừa đảo ngày một tinh vi, không phải người dùng nào cũng đủ kiến thức để tự mình nhận ra những video, âm thanh giả tạo bởi deepfake. Phần lớn các chuyên gia đều đưa ra những lời khuyên nhằm phòng tránh trước các tính huống xấu có thể xảy ra, đặc biệt là nâng cao bảo mật các tài khoản trực tuyến.
Chuyên gia Sơn lưu ý, việc loại bỏ deepfake và các vấn đề liên quan sẽ là một quá trình đuổi bắt liên tục giữa những kẻ lừa đảo và những kỹ thuật, nhận thức chống lừa đảo. Đối với người dùng cá nhân muốn tránh rủi ro do deepfake, cần cẩn trọng với các yêu cầu chuyển tiền từ người thân, bạn bè thông qua internet, và xác minh lại mọi yêu cầu chuyển tiền trước khi thực hiện giao dịch. Ngoài ra cần hạn chế tiết lộ các thông tin cá nhân trên không gian mạng và thường xuyên cập nhật kiến thức về các vấn đề an ninh mạng và các hình thức lừa đảo mới.
Đối với các tổ chức, cần rà soát để thay đổi các quy trình xác minh người dùng lạc hậu nhằm hạn chế các hệ luỵ trên diện rộng. Những nơi thường xuyên diễn ra lừa đảo deepfake như các nền tảng OTT, mạng xã hội cần thực hiện các biện pháp bảo mật nâng cao, xác thực hình ảnh người dùng thực đến từ camera, tránh bị lợi dụng để gửi/gọi video hàng loạt từ các máy tự động, đồng thời trang bị thêm kỹ thuật phân tích hành vi của các đợt tấn công deepfake để nhận diện nguồn và xử lý từ gốc.
Ngoài ra để hạn chế các mối đe dọa tiêu cực, hướng đến mục tiêu ứng dụng công nghệ deepfake một cách hiệu quả và lành mạnh. Chuyên gia Charlies Le khuyến nghị xây dựng một thiết chế thực thi hữu hiệu gồm ba bước. Đầu tiên là các quy định về tính chính danh và xác thực, kết hợp với nghĩa vụ công khai của người dùng đối với việc sử dụng công nghệ và dịch vụ deepfake. Tiếp theo là phổ biến các tiện ích và công cụ xác minh deepfake nhằm phát hiện các dấu hiệu sai phạm nhằm đảm bảo tuân thủ. Cuối cùng, các cơ quan quản lý nhà nước cần ban hành các chế tài xử phạt đủ sức răn đe đối với các vi phạm trong hoạt động deepfake.
