Tóm lại
- Anthropic đã xóa các dấu theo dõi ẩn khỏi Mã Claude sau khi các nhà nghiên cứu phát hiện ra mã được sử dụng để nhận dạng một số người dùng Trung Quốc.
- Công ty cho biết thử nghiệm này nhằm ngăn chặn việc lạm dụng tài khoản và phát hiện khả năng chắt lọc mô hình AI.
- Phát hiện này được đưa ra khi Anthropic thúc đẩy các nhà lập pháp trấn áp việc sao chép trái phép các mô hình AI biên giới.
Anthropic đã xóa hệ thống theo dõi ẩn khỏi Claude Code sau khi một nhà nghiên cứu bảo mật phát hiện ra trợ lý mã hóa AI đang sử dụng các điểm đánh dấu không được tiết lộ để xác định vị trí, việc sử dụng proxy của một số người dùng và các liên kết có thể có với các phòng thí nghiệm AI của Trung Quốc.
Tính năng, phát hiện vào tháng 6 bởi nhà phát triển “Thereallo”, các tín hiệu được nhúng trong lời nhắc hệ thống của Claude Code có thể gắn cờ những người dùng mà Anthropic tin rằng đang vượt qua các hạn chế hoặc cố gắng trích xuất các khả năng của mô hình.
Thereallo viết: “Anthropic có thể muốn phát hiện các đại lý API, các cổng Claude Code trái phép và các đường ống ‘tấn công chưng cất’ theo mô hình. “Một ANTHOPIC_BASE_URL tùy chỉnh trỏ đến miền của người bán lại đã biết là một tín hiệu hữu ích. Tên máy chủ chứa deepseek hoặc zhipu cũng là một tín hiệu hữu ích.”
Thereallo cho biết nỗ lực của Anthropic nhằm phát hiện người bán lại, cổng Claude Code trái phép và các cuộc tấn công chưng cất tiềm năng là hợp lý, nhưng chỉ trích cách thực hiện, lưu ý rằng Claude Code giấu tín hiệu theo dõi bên trong lời nhắc hệ thống bằng cách sử dụng dấu Unicode và danh sách miền được mã hóa thay vì tiết lộ hệ thống thông qua tài liệu hoặc ghi chú phát hành.
Thereallo viết: “Đây không phải là một tính năng độc hại, nhưng nó là một lựa chọn kỳ lạ đối với một công cụ dành cho nhà phát triển đòi hỏi sự tin cậy”.
Sau khi trình theo dõi được tiết lộ trực tuyến, kỹ sư Anthropic Thariq Shihipar cho biết trên X rằng nó được giới thiệu vào tháng 3 như một “thử nghiệm” nhằm ngăn chặn việc lạm dụng tài khoản của những người bán lại trái phép và bảo vệ Claude khỏi các cuộc tấn công chưng cất.
Shihipar: “Nhóm đã tìm ra các biện pháp giảm nhẹ mạnh mẽ hơn kể từ đó và chúng tôi thực sự đã có ý định gỡ bỏ điều này trong một thời gian”. đã viết tuần trước. “Chúng tôi đã sáp nhập [pull request] và tính năng này sẽ được khôi phục hoàn toàn trong bản phát hành ngày mai.”
Tin tức này được đưa ra khi Anthropic tăng cường cảnh báo về việc chắt lọc mô hình AI, trong đó kết quả đầu ra của một hệ thống được sử dụng để đào tạo một mô hình khác. Mặc dù cách làm này phổ biến trong nghiên cứu AI, nhưng khi nói đến địa chính trị, việc chưng cất trở thành một an ninh quốc gia bận tâm. Đầu tháng này, Alibaba bị cấm nhân viên sử dụng Claude Code, gọi công cụ này là phần mềm “rủi ro cao” vì lo ngại về bảo mật.
Vào tháng Hai, nhân loại bị buộc tội Các nhà phát triển AI Trung Quốc DeepSeek, Moonshot AI và MiniMax sử dụng các tài khoản lừa đảo để trích xuất hàng triệu phản hồi Claude nhằm đào tạo các mô hình cạnh tranh. Những tuyên bố này đã thu hút sự phản đối từ các nhà phê bình, những người đặt câu hỏi về cách thực hành này khác với các phương pháp được sử dụng trong ngành AI.
Vào tháng 4, Elon Musk làm chứng rằng xAI đã “một phần” sử dụng các mô hình OpenAI trong khi đào tạo Grok, gọi việc chưng cất là một phương pháp thực hành rộng rãi hơn trong ngành. Vào tháng 6, Giám đốc điều hành Anthropic Dario Amodei kêu gọi Quốc hội tăng cường bảo vệ chống lại việc khai thác AI nước ngoài sau khi cáo buộc các nhà khai thác liên kết với Alibaba đã tạo ra 28,8 triệu sàn giao dịch Claude bằng cách sử dụng gần 25.000 tài khoản lừa đảo.
Anthropic đã không trả lời ngay lập tức yêu cầu bình luận của Giải mã.
Bản tin tóm tắt hàng ngày
Bắt đầu mỗi ngày với những tin tức hàng đầu ngay bây giờ, cùng với các tính năng độc đáo, podcast, video và hơn thế nữa.
