Perplexity hậu huấn luyện GLM 5.2 kết hợp cơ chế cố vấn, đạt hiệu năng ngang Claude Opus 4.8 với chi phí chỉ bằng một phần ba.
Perplexity vừa công bố phiên bản thử nghiệm nghiên cứu của một biến thể GLM 5.2 do Z.AI phát triển, được hậu huấn luyện riêng để hoạt động trong khung tác nhân máy tính của công ty và hiện đã được triển khai trong môi trường vận hành thực tế.
GLM 5.2 là mô hình có khoảng 744 tỷ tham số do Z.ai phát triển, trước đây là Zhipu AI, phòng thí nghiệm tại Bắc Kinh đã bị đưa vào Danh sách Thực thể của Mỹ từ tháng 1 năm 2025. Được phát hành theo giấy phép MIT vào tháng 6, GLM 5.2 hiện nằm trong nhóm các mô hình AI hàng đầu trên các bộ tiêu chuẩn đánh giá lập trình dài hạn, trong khi chi phí sử dụng giao diện lập trình ứng dụng chỉ bằng một phần nhỏ so với các đối thủ.
Việc công khai trọng số mô hình đồng nghĩa với việc bất kỳ ai cũng có thể tải xuống, chỉnh sửa và tinh chỉnh mô hình cho mục đích thương mại mà không bị hạn chế, và Perplexity đã tận dụng chính đặc điểm này.
Cơ chế “công cụ cố vấn” giúp tiết kiệm chi phí suy luận
Perplexity sử dụng phương pháp hậu huấn luyện để dạy GLM 5.2 một kỹ năng cốt lõi là nhận biết khi nào nên tự xử lý một tác vụ và khi nào cần chuyển tác vụ đó cho một mô hình mạnh hơn. Cơ chế chuyển tiếp này được tích hợp dưới dạng “công cụ cố vấn”, cho phép mô hình nhận biết khi truy vấn vượt quá khả năng của mình và chuyển sang một mô hình tiên tiến của bên thứ ba, trong khi phần lớn tác vụ không bao giờ cần chuyển đến mô hình có chi phí cao.
Tổng giám đốc điều hành Aravind Srinivas viết trên X rằng khi kết hợp với một mô hình cố vấn, hệ thống này đạt hiệu năng ở cấp độ Opus 4.8 với chi phí chỉ bằng một phần nhỏ.
Theo chỉ số hiệu quả nội bộ của Perplexity, đo lường chi phí cần thiết để hoàn thành các tác vụ phức tạp, mô hình đã được tinh chỉnh kết hợp với công cụ cố vấn có chi phí vận hành cao gấp khoảng hai lần so với phiên bản GLM 5.2 cơ bản.
Trong khi đó, việc sử dụng mô hình Opus 4.8 cao cấp cho mọi tác vụ có chi phí lớn hơn nhiều, vào khoảng gấp sáu lần. Bằng cách kết hợp các công cụ này, hệ thống của Perplexity đạt chất lượng hiệu năng tương đương Opus nhưng với chi phí chỉ bằng khoảng một phần ba.
Nguồn mở xóa nhòa ranh giới địa chính trị
Giấy phép MIT của GLM 5.2 khiến việc sử dụng một mô hình Trung Quốc trở nên đơn giản, bởi không có hợp đồng API nào có thể bị vi phạm và cũng không có công tắc truy cập nào mà một chính phủ có thể ngắt.
Perplexity từng áp dụng cách tiếp cận tương tự khi DeepSeek R1 gây tiếng vang lớn đầu năm 2025, khi công ty tinh chỉnh mô hình này thành R1-1776 bằng cách xác định khoảng 300 chủ đề mà mô hình gốc từ chối thảo luận do cơ chế kiểm duyệt của Chính phủ Trung Quốc, sau đó huấn luyện lại để giảm thiên lệch.
Đội ngũ Perplexity khi đó từng viết trên blog rằng công ty không thể tận dụng năng lực suy luận mạnh của R1 nếu chưa xử lý các vấn đề về thiên lệch và kiểm duyệt của mô hình.
Động thái lần này đi theo cùng khuôn mẫu, nhưng mục tiêu mang tính kinh tế hơn là chính trị. Sản phẩm Computer của Perplexity hiện điều phối hơn 19 mô hình AI, và phiên bản GLM được tinh chỉnh được thiết kế để trở thành lựa chọn mặc định chi phí thấp, đảm nhận phần lớn tác vụ trước khi cần dùng đến một mô hình tiên tiến hơn.
Ông Srinivas cho biết Perplexity có vị thế thuận lợi để giải quyết bài toán này nhờ hạ tầng đã được triển khai ở quy mô lớn, trong đó mô hình hiện vận hành trên các bộ xử lý đồ họa Nvidia B200 tại Mỹ. Mục tiêu tiếp theo của công ty là hậu huấn luyện Nemotron 3 Ultra nhằm tái tạo cùng kiến trúc bằng một mô hình nguồn mở của Mỹ. Các kết quả đánh giá đầy đủ và một bài báo nghiên cứu dự kiến được công bố trong những tuần tới.
