Không chỉ cảnh sát dùng AI để bắt tội phạm, các băng nhóm tội phạm cũng đang dùng công nghệ này tạo nội dung tình dục trẻ em và lừa đảo tài chính.
Theo cảnh sát Phillipe Gravel, điều tra viên từ Trung tâm Điều phối Quốc gia về Bóc lột Trẻ em (NCECC) thuộc RCMP, đây là trường hợp đầu tiên lực lượng cảnh sát ghi nhận AI đang được sử dụng để tạo ra tài liệu lạm dụng tình dục trẻ em.
Theo RCMP, điều đáng lo ngại là những tên tội phạm đang sử dụng công nghệ này sản xuất các nội dung nhạy cảm liên quan đến trẻ em để trao đổi lợi ích, và con số này được dự đoán sẽ còn tăng cao hơn trong thời gian tới khi chúng ngày càng tinh vi hơn trong việc sử dụng công nghệ mới.
Hậu quả từ việc sử dụng AI trong phạm tội không chỉ ảnh hưởng đến nạn nhân trẻ em. Trong bối cảnh văn hóa số hiện nay, việc đăng hình ảnh và video về mọi khía cạnh cuộc sống đã trở thành thường thức ngầm. Nhưng chính việc này đã vô tình tiếp tay cho hoạt động phạm tội, vì AI có thể đọc được những thông tin cá nhân, vị trí, hay thậm chí là con cái của những người đăng trên mạng.
Trung sĩ Gravel khuyến cáo người dân nên cân nhắc kỹ lưỡng trước khi chia sẻ bất cứ thông tin nào trên mạng, đặc biệt là hình ảnh có liên quan đến trẻ em. “Cách tốt nhất để không làm lộ bản thân hoặc con bạn là không đăng bài”, Anh nói thêm.
Bên cạnh đó, Trung tâm Chống Gian lận Canada (CAFC) cũng ghi nhận AI được sử dụng trong các vụ lừa đảo và gian lận, theo ông Jeff Horncastle, nhân viên liên lạc của trung tâm. Có bằng chứng cho thấy công nghệ này trong các cuộc gọi lừa đảo và cơ hội đầu tư giả mạo.
Công nghệ giả mạo giọng nói và deep-fake đang trở nên ngày càng tinh vi, khiến những cái bẫy tinh xảo trở nên thuyết phục hơn bao giờ hết.
Để ngăn chặn các hành vi lừa đảo, Horncastle khuyên người dân nên cẩn trọng, không nên phản ứng vội vàng và luôn xác minh tính xác thực của các thông tin liên lạc đáng ngờ. “Những tên lừa đảo thường tạo cảm giác khẩn cấp, hoảng loạn hoặc kinh sợ để đánh vào tâm lý nạn nhân,” ông nói thêm.
AI trong cuộc chiến chống tội phạm
Mặt khác, AI cũng được sử dụng tích cực trong công tác điều tra của lực lượng cảnh sát. NCECC sử dụng công nghệ này để tăng tốc quá trình điều tra lạm dụng tình dục trẻ em trực tuyến, giúp xác định và bảo vệ trẻ em khỏi môi trường lạm dụng. Công nghệ này giúp các điều tra viên nhanh chóng nhận diện hình ảnh vi phạm, giảm bớt công việc thủ công và bảo vệ sức khỏe tinh thần của nhân viên.
Trong bối cảnh này, Trung tâm Triển khai Công nghệ Quốc gia (NTOP) của RCMP đang đảm bảo việc sử dụng các công nghệ vận hành như AI tuân thủ luật pháp về quyền riêng tư và minh bạch. Michael Billinger, người đứng đầu bộ phận minh bạch và tiếp cận của NTOP, cho biết: “Đội ngũ của chúng tôi được thúc đẩy để giúp tất cả các lĩnh vực của RCMP tập hợp thông tin cần thiết để đảm bảo họ sử dụng công cụ một cách thích hợp và hiệu quả.”
Chương trình NTOP được thành lập vào năm 2021 sau những lo lắng về quyền riêng tư liên quan đến việc RCMP sử dụng công nghệ nhận diện khuôn mặt Clearview AI. NTOP được thiết lập để đảm bảo việc sử dụng công nghệ một cách có trách nhiệm và tăng cường minh bạch với công chúng. Gần đây, NTOP đã công bố “Bản kế hoạch Minh bạch: Tổng quan về Công nghệ Hoạt động”.
RCMP đang thay đổi cách tiếp cận về quyền riêng tư và cam kết tăng cường minh bạch để xây dựng niềm tin với công chúng.
Sự phát triển của AI đang mở ra nhiều cơ hội cũng như thách thức trong lĩnh vực an ninh và tài chính, đòi hỏi các cơ quan chức năng và cộng đồng phải liên tục cập nhật và thích ứng để đảm bảo an toàn và hiệu quả.
