Người đồng sáng lập Perplexity: An toàn AI là cái cớ để khóa chặt biên giới

Người đồng sáng lập Perplexity AI và Databricks, Andy Konwinski, cho rằng cuộc trò chuyện về an toàn AI có vấn đề: Nó được sử dụng để tập trung sức mạnh chứ không phải để ngăn chặn tác hại. Đầu tuần này, anh ấy đã xuất bản một bài luận chứng minh trường hợp của mình, với Anthropic là nhân chứng chính.

Trường hợp anh ta xây dựng bắt đầu với một quyết định Anthropic đã đảo ngược sau 48 giờ. Khi Anthropic ra mắt Claude Fable 5 vào ngày 9 tháng 6, một đoạn trong thẻ hệ thống dài 319 trang của nó đã tiết lộ rằng mô hình này sẽ âm thầm làm suy giảm phản hồi của chính nó đối với bất kỳ ai mà nó nghi ngờ đang đào tạo một AI cạnh tranh.

Các nhà nghiên cứu đã tìm thấy nó. Internet đã không hoạt động tốt.

Anthropic đã lùi bước, nhưng đối với Konwinski, điều này không có gì khác biệt khi phân tích bức tranh toàn cảnh hơn. Ông viết: “Vấn đề không phải là Anthropic đã đưa ra một quyết định tồi. “Vấn đề là họ cho rằng quyết định là của họ.”

Của anh ấy tiểu luậncó tiêu đề “Tập trung sức mạnh vào AI là một rủi ro, không phải là một giải pháp”, theo sau Open Frontier, một cuộc họp làm việc mà ông đã triệu tập thông qua Viện Laude phi lợi nhuận của mình tại Exploratorium ở San Francisco vào ngày 30 tháng 6. Khoảng 100 nhà nghiên cứu đã có mặt.

Hiệu trưởng UC Berkeley Jennifer Chayes, người điều hành Trường Cao đẳng Máy tính, Khoa học Dữ liệu và Xã hội, nói với một hội đồng tài trợ rằng các nhà nghiên cứu của Berkeley “tất cả đều đang xây dựng trên các mô hình của Trung Quốc vì chúng tôi không có mô hình biên giới mở của phương Tây” – và rằng thông điệp an toàn từ OpenAI và Anthropic trước đợt IPO của họ đã trở thành một “chiến dịch gây sợ hãi rất hiệu quả”.

Lập luận của Konwinski là việc truy cập tập trung không làm giảm bớt rủi ro; nó tạo ra một cái khác. AI là cơ sở hạ tầng nền tảng—cùng loại với đường sắt, điện và internet. Những công nghệ đó đã tổ chức lại xã hội xung quanh bất kỳ ai kiểm soát lớp bên dưới. Điều tương tự cũng đang đến với AI. Giải pháp thay thế của ông: một nghiên cứu chung với tính toán quy mô biên giới cho phép các nhà nghiên cứu hàng đầu tiếp cận biên giới mà không cần sự cho phép của phòng thí nghiệm tư nhân để thực hiện điều đó.

LeCun: Đó là đế chế Ottoman cấm báo in

Yann LeCun, cựu nhà khoa học trưởng của Meta, đã trả lời bài luận của Konwinski về X một cách rõ ràng. “Tôi đã phổ biến một thông điệp tương tự trong nhiều năm,” anh trả lời trên bài đăng của Konwinski. “Sự tập trung quyền lực vào AI và mong muốn kiểm soát cho đến nay là mối nguy hiểm lớn nhất của AI.”

Ông cũng đã chuẩn bị sẵn một bản so sánh lịch sử. LeCun viết: “Đó là một kiểu chủ nghĩa tối nghĩa thời Trung cổ giống như đế chế Ottoman cấm sử dụng máy in trong 200 năm, một phần để giữ quyền kiểm soát giáo điều nhưng cũng để bảo vệ tập đoàn của các nhà thư pháp và người ghi chép”.

Dự đoán của LeCun về nơi kết thúc của điều này: “Cơ sở hạ tầng muốn mở. Các mô hình nền tảng đang trở thành cơ sở hạ tầng và chắc chắn sẽ trở thành hàng hóa. Về lâu dài, tiền nằm trong lớp ứng dụng.”

LeCun rời Meta vào cuối năm 2025 và ra mắt Phòng thí nghiệm AMI ở Paris với khoản tài trợ ban đầu trị giá 1,03 tỷ USD vào tháng 3 năm 2026—câu trả lời của chính ông cho câu hỏi này. Công ty hoạt động dựa trên các mô hình thế giới và kiến ​​trúc JEPA của ông, có kế hoạch mở nguồn nghiên cứu của mình và dự kiến ​​sẽ không có sản phẩm thương mại nào trong nhiều năm.