Perplexity đã tinh chỉnh mô hình AI của Trung Quốc để phù hợp với Claude Opus 4.8 với chi phí chỉ bằng một phần ba

Sự bối rối đã biến một mô hình nguồn mở của Trung Quốc thành một công cụ lao động gần biên giới với mức giá chỉ bằng một phần ba chi phí của Claude Opus 4.8.

Công ty đã đưa ra một xem trước nghiên cứu hôm nay là phiên bản được đào tạo sau của GLM 5.2 của Z.AI, được chế tạo đặc biệt để hoạt động bên trong khai thác tác nhân Máy tính và hiện đã có sẵn trong sản xuất.

GLM 5.2 là một mô hình có khoảng 744 tỷ tham số của Z.ai—trước đây là Zhipu AI, một phòng thí nghiệm ở Bắc Kinh đã có mặt trên Danh sách thực thể Hoa Kỳ kể từ tháng 1 năm 2025. (Tham số là tất cả các mặt số và cấu hình khác nhau mà một mô hình có thể xử lý trong quá trình đào tạo. Càng nhiều tham số, mô hình càng phức tạp và mạnh mẽ hơn.) Được phát hành theo giấy phép MIT vào tháng 6, nó nằm trong số các mô hình AI hàng đầu hiện có trên các tiêu chuẩn mã hóa dài hạn với chi phí API chỉ bằng một phần nhỏ.

Trọng lượng mở có nghĩa là bất kỳ ai cũng có thể tải xuống, sửa đổi và tinh chỉnh nó về mặt thương mại mà không bị hạn chế. Sự bối rối đã làm chính xác điều đó.

Tinh chỉnh thực sự là gì

Tinh chỉnh là quá trình sử dụng một mô hình AI đã được đào tạo và đào tạo lại nó trên một tập dữ liệu nhỏ hơn, tập trung hơn để làm cho nó thực hiện tốt hơn một công việc cụ thể.

Hãy nghĩ về nó giống như điều chỉnh một chiếc xe hơi. Ví dụ: các thợ cơ khí khác nhau có thể có cùng một chiếc Honda Civic và giúp xe đua nhanh hơn, đẹp mắt hơn, điều chỉnh nó cho phù hợp với cuộc đua, v.v. Trong AI, các nhà phát triển lấy một mô hình cơ sở và thêm các cài đặt khác nhau để bản chỉnh sửa kết thúc với nhiều kiến ​​thức hơn về một lĩnh vực cụ thể, thành kiến ​​chính trị khác, ít nhiều hạn chế, v.v.

Sự bối rối được sử dụng sau đào tạo—một quy trình tương tự được áp dụng sau đợt đào tạo chính của mô hình—để dạy GLM 5.2 một kỹ năng quan trọng: biết khi nào nên tự xử lý một nhiệm vụ và khi nào cần chuyển sang một nhiệm vụ mạnh mẽ hơn.

Sự leo thang đó là cốt lõi của những gì họ đã xây dựng. GLM 5.2 được tinh chỉnh bao gồm cái mà Perplexity gọi là “công cụ cố vấn”—khả năng gốc để nhận biết khi nào một truy vấn vượt quá khả năng của chính nó và chuyển giao cho mô hình biên giới của bên thứ ba. Hầu hết các nhiệm vụ không bao giờ đạt được mô hình đắt tiền. Chỉ những người thực sự cần nó mới làm.

Điều này giúp tiết kiệm rất nhiều tiền trong suy luận.

Giám đốc điều hành Aravind Srinivas viết trên X. “Khi kết hợp với một cố vấn, mô hình này hoạt động ở hiệu suất cấp Opus 4.8 với chi phí thấp”.

Sự phức tạp đã đánh giá hệ thống so với GLM 5.2 thông thường để thiết lập đường cơ sở về chi phí. Sử dụng thước đo hiệu quả nội bộ của công ty để đo lường chi phí để hoàn thành các nhiệm vụ phức tạp, kết quả cho thấy mô hình được tinh chỉnh có cố vấn đắt gấp đôi so với phiên bản cơ bản. Tuy nhiên, sử dụng mẫu Opus 4.8 cao cấp nhất cho mọi thứ sẽ đắt hơn nhiều (đắt hơn khoảng 600%).

Bằng cách kết hợp các công cụ này, hệ thống của Perplexity đạt được hiệu suất chất lượng tương tự như Opus nhưng chỉ ở mức giá khoảng một phần ba

Tại sao lại là mô hình của Trung Quốc – và tại sao nguồn mở lại khiến điều đó trở nên khả thi

Cuộc đua AI Mỹ-Trung có xu hướng được coi là có tổng bằng 0. Trong thực tế, các mô hình nguồn mở không dừng lại ở biên giới. Giấy phép MIT của GLM 5.2 làm cho phép tính trở nên đơn giản: Không có hợp đồng API nào để vi phạm, không có công tắc truy cập nào mà chính phủ có thể lật đổ. Bạn tải trọng lượng xuống và có thể tinh chỉnh chúng theo bất cứ thứ gì bạn cần.

Sự bối rối đã từng xảy ra trên con đường này trước đây. Khi DeepSeek R1 quét qua thế giới AI vào đầu năm 2025, công ty đã tinh chỉnh nó thành R1-1776—lập bản đồ khoảng 300 chủ đề mà ban đầu từ chối thảo luận do sự kiểm duyệt của chính phủ Trung Quốc, đồng thời đào tạo lại mô hình để khiến nó thiên vị hơn theo hướng có lợi cho Hoa Kỳ. Nó đã trở thành một phiên bản được lưu trữ ở phương Tây của cùng một công cụ lý luận.

Nhóm của Perplexity đã viết vào thời điểm đó trên tạp chí: “Chúng tôi không thể sử dụng khả năng suy luận mạnh mẽ của R1 mà không giảm thiểu sự thiên vị và kiểm duyệt của nó trước tiên”. một bài đăng trên blog.

Vì vậy, động thái GLM 5.2 này tuân theo cùng một khuôn mẫu, ngoại trừ mục tiêu lần này không phải là chính trị mà là kinh tế. sự bối rối Sản phẩm máy tính đã phối hợp hơn 19 mô hình AI; GLM được tinh chỉnh được thiết kế để trở thành mặc định rẻ tiền giúp xử lý phần lớn nhiệm vụ trước khi chạm vào mô hình biên giới.

Srinivas cho biết luận điểm dài hạn rất đơn giản: các mô hình nguồn mở sau đào tạo sẽ có khả năng leo thang tốt, bên trong một khai thác tác nhân đã phục vụ hàng triệu người dùng. Sự bối rối là “vị trí duy nhất” để giải quyết nó, anh ấy đã viếtvì cơ sở hạ tầng đã được triển khai trên quy mô lớn.

Model này chạy trên GPU Nvidia B200 ở Hoa Kỳ. Dòng tiếp theo: bản đào tạo sau của Nemotron 3 Ultra, sẽ tái tạo kiến ​​​​trúc tương tự bằng cách sử dụng mô hình nguồn mở của Mỹ.

Điểm chuẩn đầy đủ và một bài nghiên cứu được mong đợi trong những tuần tới. Mô hình có sẵn dưới dạng bản xem trước nghiên cứu.