OpenAI vừa cấm một mạng lưới gốc Nga dùng ChatGPT quảng bá “viện nghiên cứu” giả, với 34/36 bài viết bị phát hiện sao chép.
Theo báo cáo của OpenAI công bố hôm thứ Tư, một mạng lưới có nguồn gốc từ Nga đã sử dụng ChatGPT để quảng bá một tổ chức tự giới thiệu là viện nghiên cứu học thuật mang tên International Burke Institute (IBI), tự nhận có trụ sở tại Israel.
OpenAI cho biết đã cấm một nhóm tài khoản mà những người vận hành sử dụng các câu lệnh bằng tiếng Nga để tạo bài đăng và bình luận trên mạng xã hội, chủ yếu bằng tiếng Anh, đồng thời yêu cầu chatbot che giấu các dấu hiệu cho thấy nội dung có nguồn gốc từ Nga.
Công ty nhận định mặc dù chiến dịch chỉ tiếp cận được lượng đối tượng tương đối nhỏ, cách thức xây dựng công phu khiến nó khác biệt so với các hoạt động gây ảnh hưởng liên hệ với Nga mà OpenAI đã ngăn chặn kể từ khi chiến tranh tại Ukraine bắt đầu. Do ChatGPT không khả dụng tại Nga, nhóm này được cho là đã sử dụng mạng riêng ảo (VPN) để che giấu vị trí truy cập.
Nhóm vận hành đã quảng bá IBI thông qua các hồ sơ có vẻ chính thức và những tài khoản giả dạng người dùng thông thường. Trong quá trình rà soát, OpenAI phát hiện 34 trong số 36 bài viết trên trang web của viện này là nội dung sao chép, trong đó một số bài còn bị gán tên cho những học giả không phải là tác giả thực sự.
Một ví dụ được nêu ra là bài viết về Hành lang Kinh tế Trung Quốc – Pakistan, vốn dường như được sao chép từ bản gốc của Cambridge University Press nhưng lại bị gán sai cho một giáo sư tại Đại học Nottingham, người có chuyên môn về chính trị Nam Á.
Bối cảnh các chiến dịch AI tạo sinh liên hệ với Nga
Đây không phải lần đầu các chiến dịch gây ảnh hưởng chính trị liên hệ với Nga sử dụng trí tuệ nhân tạo tạo sinh. Năm 2024, OpenAI từng xác định một mạng lưới khác mang tên Doppelganger, sử dụng ChatGPT để tạo các bài viết, bài đăng mạng xã hội và bình luận ca ngợi Nga, đồng thời công kích Ukraine, NATO và Mỹ. Ngoài ra, nhóm Forest Blizzard, có liên hệ với tình báo quân sự Nga, cũng từng dùng chatbot để nghiên cứu mục tiêu, viết mã lệnh và hỗ trợ các cuộc tấn công lừa đảo trực tuyến.
Dù nhóm vận hành IBI có thể đã sử dụng các câu lệnh bằng tiếng Nga, OpenAI cho biết không có đủ cơ sở để quy kết chiến dịch này cho Chính phủ Nga. Công ty cũng lưu ý một số cá nhân tại Israel có thể đã đại diện cho viện này tại các hội nghị hoặc thông qua việc gửi bài viết để công bố, nhưng mối quan hệ giữa những cá nhân này với những người vận hành tại Nga vẫn chưa được làm rõ.
