Tether ra mắt QVAC MedPsy với 1,7 tỷ tham số vượt qua MedGemma-27B trên HealthBench Hard, sử dụng tài nguyên tính toán thấp hơn ba lần và không cần hạ tầng đám mây.
Tether, công ty nổi tiếng với stablecoin USDT, vừa công bố QVAC MedPsy, một dòng mô hình AI y tế được thiết kế để vận hành trực tiếp trên điện thoại thông minh, thiết bị đeo và các thiết bị biên mà không cần kết nối đám mây. Điểm đáng chú ý nhất không phải là nguồn gốc bất thường của sản phẩm, một công ty stablecoin lấn sân AI y tế, mà là các con số hiệu năng đi kèm.
Trên HealthBench Hard, bộ tiêu chuẩn của OpenAI đánh giá AI qua các cuộc hội thoại lâm sàng nhiều lượt được chấm điểm bởi 262 bác sĩ, mô hình 1,7 tỷ tham số của Tether vượt qua MedGemma-27B của Google, mô hình lớn hơn gần 16 lần về quy mô.
Mô hình 4 tỷ tham số cũng vượt các đối thủ lớn hơn gần bảy lần trong khi chỉ sử dụng trung bình 909 token cho mỗi phản hồi, so với mức 2.953 token ở các hệ thống tương đương, tương đương mức giảm 3,2 lần về chi phí tính toán.
Lợi thế về hiệu quả token không chỉ là con số kỹ thuật. Ít token hơn đồng nghĩa với tốc độ phản hồi nhanh hơn, chi phí thấp hơn và quan trọng nhất là khả năng vận hành hoàn toàn cục bộ trên phần cứng tiêu dùng phổ thông.
Các mô hình được phát hành dưới dạng tập tin GGUF đã lượng hóa với dung lượng lần lượt 1,2GB và 2,6GB, đủ nhỏ để cài đặt trên thiết bị di động trong khi vẫn duy trì phần lớn hiệu năng trên các bộ đánh giá từ MedQA-USMLE đến AfriMedQA, bộ tiêu chuẩn tập trung vào bối cảnh chăm sóc sức khỏe thiếu nguồn lực tại châu Phi.
Quyền riêng tư dữ liệu — lợi thế cạnh tranh thực sự
Giám đốc điều hành Tether, Paolo Ardoino, định vị QVAC MedPsy không phải là cuộc cạnh tranh về quy mô mà là bài toán hiệu quả: suy luận y khoa ngay tại nơi dữ liệu tồn tại, bên trong hệ thống bệnh viện hoặc trên thiết bị cá nhân, mà không cần chuyển thông tin nhạy cảm lên hạ tầng của bên thứ ba.
Trong bối cảnh phần lớn AI y tế hiện nay đều xử lý dữ liệu bệnh nhân qua máy chủ đám mây và tạo ra rủi ro liên quan đến quy định HIPAA, đây là lập luận có trọng lượng thực tiễn đối với các hệ thống bệnh viện và phòng khám vùng sâu.
Tuy vậy, tiềm năng kỹ thuật không đồng nghĩa với sẵn sàng lâm sàng. Một nghiên cứu của Đại học Oxford công bố tháng 2 cho thấy các mô hình ngôn ngữ lớn vẫn thường xuyên đưa ra lời khuyên y khoa sai lệch và xử lý kém các triệu chứng phức tạp, các nhà nghiên cứu kết luận AI nên đóng vai trò “thư ký, không phải bác sĩ.”
QVAC MedPsy được phát hành trong bối cảnh thị trường AI y tế hiện có quy mô khoảng 36 tỷ USD và được dự báo vượt 500 tỷ USD vào năm 2033, một không gian đủ lớn để các mô hình chạy trên thiết bị tìm được chỗ đứng riêng, ngay cả khi chưa thay thế được vai trò của bác sĩ lâm sàng.
