OpenAI đang nghiên cứu công cụ phát hiện bài viết do ChatGPT tạo ra, nhưng còn lưỡng lự trong việc phát hành do lo ngại về hiệu quả và tác động.
Theo báo cáo từ The Wall Street Journal, OpenAI, công ty đứng sau chatbot đình đám ChatGPT đang phát triển một công cụ có khả năng phát hiện học sinh gian lận bằng cách sử dụng ChatGPT để viết bài.
Tuy nhiên, công ty hiện đang suy xét thận trọng do sự phức tạp liên quan và tác động tiềm tàng của nó đối với hệ sinh thái rộng lớn hơn ngoài OpenAI.
Người phát ngôn của công ty đồng thời cho biết: “Phương pháp đánh dấu văn bản mà chúng tôi đang phát triển rất hứa hẹn về mặt kỹ thuật, nhưng có những rủi ro quan trọng mà chúng tôi đang cân nhắc trong khi nghiên cứu các giải pháp thay thế, bao gồm khả năng bị những kẻ xấu lợi dụng và tiềm năng tác động không đồng đều đến các nhóm dùng như những người không dùng tiếng Anh như ngôn ngữ mẹ đẻ”.
Đây là một cách tiếp cận khác với hầu hết các nỗ lực trước đây để phát hiện văn bản do AI tạo ra, vốn phần lớn chúng không hiệu quả. Trước đó, chính OpenAI cũng đã đóng cửa công cụ phát hiện văn bản AI của mình vào năm ngoái do tỷ lệ chính xác thấp.
Với phương pháp mới, OpenAI sẽ tập trung vào việc phát hiện văn bản được viết bởi ChatGPT, không phải từ các mô hình của các công ty khác.
Họ thực hiện điều này bằng cách tinh chỉnh những thay đổi nhỏ về cách ChatGPT chọn từ, về cơ bản tạo ra một dấu hiệu không nhìn thấy được trong văn bản, sau đó có thể được phát hiện bởi một công cụ riêng biệt.
Sau khi bài báo của The Wall Street Journal được công bố, OpenAI cũng đã cập nhật một bài đăng trên blog vào tháng 5 về nghiên cứu của họ về việc phát hiện nội dung do AI tạo ra.
Cập nhật cho biết đánh dấu văn bản đã được chứng minh tính chính xác và thậm chí hiệu quả chống lại việc can thiệp cục bộ, chẳng hạn như việc diễn giải lại.
Tuy nhiên, phương pháp này kém hiệu quả hơn trước việc can thiệp toàn cầu hóa; như sử dụng hệ thống dịch thuật, viết lại bằng một mô hình tạo sinh khác, hoặc yêu cầu mô hình chèn một ký tự đặc biệt vào giữa mỗi từ và sau đó xóa ký tự đó.
OpenAI nói rằng, phương pháp này “dễ dàng bị những kẻ xấu lợi dụng”. Cập nhật của công ty cũng nhấn mạnh quan điểm của người phát ngôn về phương pháp đánh dấu văn bản có thể “kỳ thị việc sử dụng AI như một công cụ viết hữu ích cho những người không phải là người bản ngữ tiếng Anh.”
