Anthropic gỡ bỏ hệ thống theo dõi ẩn khỏi Claude Code sau tranh cãi quyền riêng tư, giữa lúc hãng cáo buộc 28,8 triệu lượt trao đổi bị trích xuất trái phép.
Anthropic vừa gỡ bỏ một hệ thống theo dõi ẩn khỏi Claude Code sau khi một nhà nghiên cứu bảo mật phát hiện trợ lý lập trình AI này sử dụng các dấu hiệu nhận dạng không được công bố để xác định vị trí người dùng, hành vi sử dụng proxy và các mối liên hệ có thể có với những phòng thí nghiệm AI của Trung Quốc.
Tính năng này được nhà phát triển có biệt danh “Thereallo” phát hiện vào tháng 6, khi phân tích cho thấy các tín hiệu đã được nhúng vào lời nhắc hệ thống của Claude Code nhằm đánh dấu những người dùng mà Anthropic nghi ngờ đang vượt qua các hạn chế sử dụng hoặc cố gắng trích xuất năng lực của mô hình.
Theo Thereallo, mục tiêu của Anthropic là phát hiện các bên bán lại API trái phép, các cổng Claude Code không được ủy quyền và những quy trình có dấu hiệu chưng cất mô hình. Nhà phát triển này chỉ ra rằng một địa chỉ ANTHROPIC_BASE_URL tùy chỉnh trỏ đến tên miền bán lại đã biết, hay một tên máy chủ chứa các từ khóa liên quan đến những mô hình Trung Quốc, đều được xem là tín hiệu đáng chú ý đối với hệ thống này.
Dù thừa nhận mục đích của Anthropic là có cơ sở, Thereallo chỉ trích cách triển khai, cho rằng việc che giấu tín hiệu theo dõi bằng các dấu đánh dấu Unicode và danh sách tên miền được mã hóa, thay vì công bố công khai qua tài liệu hoặc ghi chú phát hành, là một lựa chọn thiếu minh bạch đối với một công cụ dành cho nhà phát triển vốn cần sự tin cậy.
Bối cảnh cạnh tranh địa chính trị quanh chưng cất mô hình
Sau khi thông tin lan truyền, kỹ sư Anthropic Thariq Shihipar xác nhận trên mạng xã hội X rằng tính năng này được đưa vào từ tháng 3 dưới dạng một thử nghiệm nhằm ngăn chặn lạm dụng tài khoản từ các bên bán lại không được ủy quyền và bảo vệ Claude khỏi các cuộc tấn công chưng cất.
Ông cho biết nhóm phát triển từ đó đã áp dụng các biện pháp giảm thiểu mạnh hơn và đã lên kế hoạch gỡ bỏ phần này từ trước, với thay đổi được hợp nhất và dự kiến khôi phục hoàn toàn trong bản phát hành kế tiếp.
Sự việc diễn ra trong bối cảnh Anthropic ngày càng lên tiếng mạnh mẽ về rủi ro chưng cất mô hình AI, tức là hành vi sử dụng đầu ra của một hệ thống để huấn luyện mô hình khác. Dù đây là thực tiễn phổ biến trong nghiên cứu AI, nó đang trở thành vấn đề an ninh quốc gia khi gắn với bối cảnh cạnh tranh Mỹ – Trung.
Đầu tháng này, Alibaba đã cấm nhân viên sử dụng Claude Code vì cho rằng đây là phần mềm rủi ro cao. Trước đó, vào tháng 2, Anthropic từng cáo buộc các nhà phát triển AI Trung Quốc, trong đó có DeepSeek, Moonshot AI và MiniMax, sử dụng tài khoản gian lận để trích xuất hàng triệu phản hồi của Claude phục vụ huấn luyện mô hình cạnh tranh, dù cáo buộc này vấp phải hoài nghi từ giới chuyên gia.
Căng thẳng tiếp tục leo thang vào tháng 6 khi Tổng giám đốc điều hành Anthropic, Dario Amodei, kêu gọi Quốc hội Mỹ tăng cường bảo vệ trước hoạt động trích xuất AI từ nước ngoài, sau khi cáo buộc các thực thể liên quan đến Alibaba đã tạo ra 28,8 triệu lượt trao đổi với Claude thông qua gần 25.000 tài khoản gian lận.
