Theo Nhật báo South China Morning Post, Cảnh sát Trung Quốc đã bắt giữ một người đàn ông do sử dụng ChatGPT để tạo tin giả và lan truyền trên mạng xã hội. Đây được xem là vụ bắt giữ đầu tiên liên quan đến việc sử dụng ChatGPT tại đại lục.
Nghi phạm tên “Hong” bị bắt sau khi cảnh sát tiến hành điều tra tin tức về “một vụ tai nạn tàu hoả được phát hiện vào ngày 18/4 khiến 9 người thiệt mạng”. Cảnh sát sau đó xác nhận thông tin trên là giả, do Hong tạo ra từ ChatGPT. Có ít nhất 20 tài khoản đã đồng thời đăng thông tin này lên Baijiahao, một blog nổi tiếng do tập đoàn công nghệ Baidu điều hành. Tin tức đã nhận được hơn 15.000 lượt nhấp vào thời điểm bị phát hiện.
Hong thú nhận đã bỏ qua chức năng kiểm tra trùng lặp nội dung của Baijiahao để đăng tải trên nhiều tài khoản khác nhau. Cụ thể Hong đã nhập các nội dung của những câu chuyện xã hội đang thịnh hành tại Trung Quốc vào ChatGPT, sau đó cho ra kết quả là các phiên bản khác nhau của cùng một câu chuyện mang tính bịa đặt và đăng lên các tài khoản Baijiahao.
Đây là lần đầu tiên một vụ bắt giữ được thực hiện sau khi ‘Quy định về Quản lý Deep Synthesis (tổng hợp sâu) đối với Dịch vụ Internet‘ của Bắc Kinh, nhằm điều chỉnh việc sử dụng công nghệ “deepfake” chính thức có hiệu lực vào tháng Một. Các điều khoản xác định ‘Deep Synthesis’ là sự kết hợp giữa “deep learning” (học sâu) và “fake”, sử dụng các kỹ thuật máy học và trí tuệ nhân tạo mạnh mẽ để chỉnh sửa và tạo ra văn bản, hình ảnh, âm thanh, video và các kịch bản giả mạo.
Cảnh sát cho biết hành vi của Hong đã vi phạm sắc lệnh về các hoạt động ‘chống đối và kích động’, trong đó tội danh thường phải đối mặt với án tù 5 năm. Tuy nhiên, nếu hành vi phạm tội là nghiêm trọng, án tù có thể lên tới 10 năm theo các điều khoản mở rộng của luật. Năm 2013, chính quyền Trung Quốc đã mở rộng phạm vi của sắc lệnh này để bao gồm những người được xem là ‘đã đăng và lan truyền tin giả hoặc tin đồn trên mạng’.
Deep Synthesis tại Trung Quốc
Các cơ quan quản lý internet của Trung Quốc từ lâu đã lên tiếng lo ngại rằng, việc phát triển và sử dụng công nghệ Deep Synthesis không được kiểm soát có thể dẫn đến lạm dụng trong các hoạt động tội phạm như lừa đảo trực tuyến hoặc phỉ báng.
Các quy định do Cục Quản lý không gian mạng Trung Quốc, Bộ Công nghiệp và Công nghệ thông tin và Bộ Công an đồng ban hành nêu rõ, các video và hình ảnh được tạo bằng công nghệ Deep Synthesis phải được ‘dán nhãn phân biệt’ để tránh gây nhầm lẫn cho công chúng.
Trước đây, quy định về Deep Synthesis được phát triển giữa nhiều cơ quan, nhưng động thái mới nhằm thực hiện một quy định độc lập đã cho thấy Trung Quốc muốn kiềm chế sự phát triển nhanh chóng của công nghệ này trước những thách thức pháp lý phải đối mặt.
Một trong những ứng dụng phổ biến và khét tiếng nhất của Deep Synthesis là deepfake, một kỹ thuật kết hợp giữa các thuật toán học sâu và học máy với mục đích tạo ra những video, hình ảnh hoặc âm thanh giả mạo một cách rất chân thực. Việc phát hiện những nội dung như vậy ngày càng khó khăn do sự tiến bộ của công nghệ, hiện chúng đã được sử dụng trên khắp thế giới để tạo các video khiêu dâm giả mạo người nổi tiếng, tạo tin giả và thực hiện các hành vi lừa đảo tài chính.
Các nền tảng truyền thông xã hội như Twitter và Facebook cũng đã đưa ra các biện pháp để phát hiện và ngăn chặn sự lan truyền thông tin sai lệch do deepfake tạo ra.
Khi ChatGPT đang phổ biến trong thời gian gần đây, các cơ quan thực thi pháp luật của Trung Quốc đã nhiều lần lên tiếng nghi ngờ và thậm chí cảnh báo về công nghệ này. Trong một bình luận của cơ quan an ninh Trung Quốc về chatbot vào tháng 2, cảnh sát ở Bắc Kinh đã đặc biệt cảnh báo công chúng hãy cảnh giác với “tin giả” do ChatGPT tạo ra.
ChatGPT hiện đang bị cấm ở Trung Quốc, nhưng người dùng có thể sử dụng VPN để vượt tường lửa. Bất chấp điều này, các dịch vụ trí tuệ nhân tạo tương tự ChatGPT như “Tongyi Qianwen” của Alibaba lại nhận được sự ủng hộ của Chính phủ. Hiện vẫn chưa rõ Tongyi Qianwen có khả năng sáng tạo tốt như ChatGPT hay không.
PCB Tổng hợp
