Sự xuất hiện của những sản phẩm do các AI tạo sinh tạo ra đang xáo trộn ngành xuất bản học thuật, gióng lên hồi chuông cảnh báo về nguy cơ sai lệch thông tin.
Hai giáo sư triết học Tomasz Żuradzk và Leszek Wroński đã phát hiện ra phần lớn nội dung trong ba tạp chí thuộc nhà xuất bản Addleton Academic Publishers được tạo ra bằng AI tạo sinh (Gen AI).
Vấn đề này được khẳng định qua việc các bài báo trong những tạp chí này đều theo một khuôn mẫu chung, lạm dụng các thuật ngữ phổ biến và hội đồng biên tập của cả ba tạp chí đều giống hệt nhau, gồm 10 thành viên đã qua đời và cùng sử dụng một địa chỉ không rõ ràng tại Queens, New York.
Theo hai giáo sự, sự tồn tại của các tạp chí “ma” này không chỉ gây ảnh hưởng đến uy tín của các nhà xuất bản mà còn phơi bày lỗ hổng trong hệ thống đánh giá năng lực nghiên cứu.
Hệ thống CiteScore, một trong những thước đo uy tín đã xếp hạng các tạp chí này nằm top 10 về nghiên cứu triết học, do các tạp chí này liên tục trích dẫn các bài của nhau, cho thấy việc lợi dụng hệ thống đánh giá nghiên cứu dễ dàng đến mức nào, và có thể dẫn đến nguy cơ tương tự trong các ngành nghề tri thức khác.
Hai giáo sư này đánh giá, nếu các tạp chí “ma” và thông tin giả mạo tràn lan, uy tín của toàn bộ hệ thống nghiên cứu khoa học sẽ bị lung lay. Bởi vì các bảng xếp hạng như CiteScore được sử dụng để đánh giá chất lượng nghiên cứu và đóng vai trò quan trọng trong các quyết định liên quan đến giải thưởng học thuật, tuyển dụng và thăng chức.
Trước những bất cập về việc lợi dụng công cụ AI trong ngành học thuật, gây ảnh hưởng tiêu cực đến uy tín của các nhà nghiên cứu chân chính và tạo ra sự bất công trong đánh giá năng lực, đòi hỏi cần tái cấu trúc toàn diện các hệ thống đánh giá nghiên cứu để đảm bảo chúng phản ánh chính xác hơn chất lượng nghiên cứu thực sự và không bị lợi dụng bởi những nội dung giả tạo.
Để đối phó với nguy cơ này, cần có những giải pháp đồng bộ nhằm ngăn chặn và xử lý các trường hợp lạm dụng AI trong nghiên cứu khoa học. Các tổ chức và cơ quan chức năng cần nâng cao nhận thức về vấn đề này, đồng thời xây dựng các cơ chế kiểm soát chặt chẽ hơn đối với việc xuất bản khoa học, đảm bảo tính minh bạch và trung thực trong nghiên cứu.
Về lâu dài, cần nghiên cứu và phát triển các công cụ hiệu quả hơn để phát hiện và ngăn chặn các bài báo giả mạo, bảo vệ uy tín cho ngành nghiên cứu khoa học.
Đây cũng là lời cảnh tỉnh cho cộng đồng nghiên cứu khoa học về những nguy cơ tiềm ẩn từ AI tạo sinh. Việc đảm bảo tính trung thực và uy tín của hệ thống nghiên cứu là điều tối quan trọng để duy trì sự phát triển bền vững của khoa học trong tương lai.
