Brian Trunzo, giám đốc tăng trưởng tại Succinct Labs, lập luận rằng sự nổi lên của các tác nhân AI tự động đòi hỏi phải sử dụng các bằng chứng không có kiến thức.
Cách đây không lâu, nội dung do AI tạo ra là một trò lừa trong phòng khách – những vị giáo hoàng sáu ngón và những người trông giống Tom Cruise kỳ lạ, gây cười hơn là đáng báo động. Thời đại đó đã qua rồi. Cuộc xung đột ở Iran đã chứng minh điều đó: những cảnh quay tổng hợp về những người lính Mỹ bị giam giữ, những chiếc máy bay chiến đấu của Iran hét lên từ những hầm ngầm dưới lòng đất, những cơ sở radar bị tàn phá, tất cả đều là bịa đặt, tất cả đều lan truyền, tất cả đều được nhiều người tin tưởng, đạt tới hàng trăm triệu trước khi bất kỳ ai có thể xác minh được một khung hình duy nhất.
Internet mà chúng ta từng biết không còn tồn tại nữa. Nơi nhìn thấy một niềm tin đã được thông báo, bây giờ nó gợi lên sự nghi ngờ. Chúng ta đang trải qua một cuộc khủng hoảng niềm tin. Và nó vượt xa những gì chúng ta có thể nhìn thấy bằng mắt.
Brian Trunzo là giám đốc tăng trưởng tại Succinct Labs.
Phát hiện không hoạt động
Phản ứng trực quan là xây dựng các máy dò tốt hơn; AI được huấn luyện để bắt AI. Nó không hoạt động. Bất kỳ ai cũng có thể phá vỡ trình phát hiện hình ảnh hàng đầu thế giới bằng cách thêm độ mờ và biến dạng cơ bản, giảm độ chính xác của chúng xuống mức thấp nhất là 4%. Việc phát hiện không thành công vì lý do cấu trúc tương tự mà phần mềm chống vi-rút không bao giờ loại bỏ được phần mềm độc hại: kẻ tấn công luôn có lợi thế bất đối xứng.
Nhưng sự thất bại của việc phát hiện gần như không còn quan trọng nữa, bởi vì vấn đề đã vượt xa nó.
AI không còn chỉ tạo ra nội dung nữa. Đó là diễn xuất. Các tác nhân tự trị đang duyệt web, mua hàng, xuất bản nội dung, đàm phán với các tác nhân khác và tương tác với con người, và trong một số trường hợp những đứa trẻ có thể không biết mình đang nói chuyện với một cái máy. Và khi các tác nhân này hoạt động ở quy mô lớn, các dạng lỗi sẽ rất thảm khốc.
Một đặc vụ được đào tạo về dữ liệu bị nhiễm độc một cách tinh vi sẽ mắc phải những lỗi nhỏ, hợp lý trong việc thanh toán y tế, khiến toàn mạng lưới bệnh viện gây ra các khoản phí gian lận hàng triệu đô la. Một nhóm đại lý thương mại, tối ưu hóa lợi nhuận, khai thác một cách có hệ thống các lỗ hổng về giá mà các nhà điều hành của họ không bao giờ có ý định và không thể giải thích, dẫn đến thua lỗ hàng tỷ USD.
Một con bướm vỗ cánh trong tập dữ liệu huấn luyện sẽ gây ra cơn lốc xoáy trong nền kinh tế thực.
Khi thiệt hại được thực hiện, không có biên nhận. Lý luận của tác nhân không phải là một dấu vết theo trình tự thời gian. Đó là một lần chuyển qua hàng tỷ tham số không rõ ràng và kết quả đầu ra của nó mang tính xác suất. Hỏi cùng một câu hỏi hai lần và bạn sẽ nhận được những câu trả lời hơi khác nhau. Không có cách nào để xây dựng lại một quyết định dựa trên những biến đổi không ngừng thay đổi. Không có cách nào để kiểm tra những gì đại lý đã được đào tạo, những hướng dẫn mà nó tuân theo hoặc tại sao nó lại làm những gì nó đã làm.
Gần đây báo cáo của Stanford xác định rõ ràng căng thẳng cốt lõi: thách thức rõ ràng của thời đại này là khoảng cách giữa những gì AI có thể làm và những gì xã hội sẵn sàng quản lý. Quy định nằm ở trung tâm của thách thức này và đó là một bãi lầy: sự gia tăng của khuôn khổ liên bang hiện bao gồm hơn 90 khuyến nghịkết hợp với sự bùng nổ của hoạt động cấp nhà nước, trong đó hơn 1.000 tờ tiền được giới thiệu chỉ riêng trong năm 2025. Tuy nhiên, các khung đang được viết được thiết kế cho thế giới chatbot, không phải thế giới của các đại lý mua, bán, xuất bản, tư vấn, thuyết phục và quyết định.
Nhãn nội dung sẽ không giúp ích gì và việc tiết lộ thông tin là không đủ. Khi một tác nhân tự trị hành động, thiệt hại đã được thực hiện. Đây là một vấn đề xác minh.
Và việc xác minh yêu cầu bằng chứng.
Bằng chứng sẽ giải phóng chúng ta
Bằng chứng, trong bối cảnh này, là mật mã và có thể kiểm chứng độc lập. Không phải lời tuyên bố, không phải tiết lộ, không phải hình mờ. MỘT không thể thay đổi bảo đảm rằng một hệ thống AI đã làm những gì nó tuyên bố đã làm, với những đầu vào mà nó tuyên bố đã sử dụng, tạo ra những kết quả đầu ra mà nó tuyên bố đã tạo ra – mà không bao giờ tiết lộ dữ liệu cơ bản.
Đây chính là điều mà mật mã chứng minh không có kiến thức (“ZK”) có thể thực hiện được. Bằng chứng ZK cho phép một bên chứng minh một tuyên bố là đúng mà không tiết lộ bất cứ điều gì ngoài sự thật của chính tuyên bố đó. Lần đầu tiên được chính thức hóa trong bài báo MIT năm 1985 Sự phức tạp về kiến thức của hệ thống chứng minh tương tácban đầu nó được coi là thanh lịch nhưng mang tính lý thuyết. Điều đó đã thay đổi vào năm 2016 khi các nhà nghiên cứu cho thấy nó có thể xác minh đầu đạn hạt nhân mà không làm lộ thiết kế của chúng. Ngay sau đó, nó chuyển sang blockchain, đảm bảo hàng tỷ tài sản kỹ thuật số.
Bây giờ, ZK là đang đến trong AI, nơi vấn đề không phải là tính toán mà là sự thật.
Đối với phương tiện truyền thông, ZK có thể chứng minh một bức ảnh được chụp bằng một thiết bị thật, tại một thời điểm đã được xác minh và không bị thay đổi — mà không tiết lộ bất kỳ thông tin nhạy cảm nào về bức ảnh hoặc nhiếp ảnh gia. Chỉ điều đó thôi cũng sẽ biến đổi môi trường thông tin. Nhưng nguồn gốc của phương tiện truyền thông là điểm vào chứ không phải điểm cuối.
Ứng dụng sâu hơn chính là AI. Khi suy luận, ZK có thể chứng minh rằng một mô hình cụ thể với các tham số cụ thể đã tạo ra một đầu ra cụ thể – một biên nhận có thể xác minh được cho mọi quyết định mà tác nhân đưa ra. Ở đầu vào, nó có thể chứng minh rằng dữ liệu đào tạo không bị nhiễm độc, đến từ các nguồn được ủy quyền và đáp ứng các yêu cầu quy định mà không làm lộ các bộ dữ liệu độc quyền. Ở đầu ra, nó có thể liên kết bằng mật mã kết quả với quy trình đã tạo ra kết quả đó, khiến mọi quyết định sau đó của AI đều có thể kiểm tra được mà không tiết lộ bí mật thương mại. Và ở lớp nhận dạng, ZK cho phép con người chứng minh họ là con người và các đặc vụ chứng minh họ là đặc vụ mà không cần bất cứ ai từ bỏ quyền riêng tư của họ.
Khung khái niệm để khôi phục niềm tin trực tuyến
Vào những năm 1990, trang web gặp vấn đề về độ tin cậy. Bất kỳ ai cũng có thể tạo ra một máy chủ tự xưng là bất kỳ ai. Mật khẩu, thẻ tín dụng và tin nhắn riêng tư được truyền qua internet ở dạng văn bản thuần túy, bất kỳ ai cũng có thể đọc được. Không thể thực hiện thương mại trên quy mô lớn vì không có cách nào để xác minh rằng trang web bạn đang kết nối có thực sự là trang web mà nó tuyên bố hay không.
Cách khắc phục là HTTPS. Theo mặc định, các trình duyệt đã ngừng tin cậy các trang web và bắt đầu yêu cầu bằng chứng mật mã: chứng chỉ, được ký bởi cơ quan được công nhận, ràng buộc miền với khóa chung. Không có bằng chứng, không có biểu tượng ổ khóa trong trình duyệt. Cuối cùng, không có bằng chứng, không có mối liên hệ nào cả. Trang web không trở nên đáng tin cậy vì các nền tảng đã hứa sẽ hoạt động tốt. Nó trở nên đáng tin cậy vì các trình duyệt từ chối truyền dữ liệu nhạy cảm cho bất kỳ ai không thể chứng minh được họ là ai.
Web1 được mở rộng về mặt toán học.
Web2 đã mở rộng quy mô theo một món hời khác. Mục 230 của Đạo luật về khuôn phép trong giao tiếp đã trao cho các nền tảng một lá chắn trách nhiệm pháp lý đối với nội dung do người dùng tạo và Internet xã hội đã bùng nổ trên đó. Đối với lời nói, đó là sự đánh đổi đúng đắn. Không có nó thì không có Facebook, không có YouTube, không có Internet do người dùng tạo ra. Nhưng đó là một món hời được xây dựng cho con người đăng lên các dòng thời gian chứ không phải cho các hệ thống tự trị hoạt động trên thế giới. Nó không bao giờ phải trả lời câu hỏi mà các tác nhân đặt ra hiện nay: ai chịu trách nhiệm khi diễn viên không phải là một con người?
Sau đó đến Web3. Nhà đầu tư Chris Dixon gọi nó là “Đọc Viết riêng“, người dùng kiểm soát dữ liệu của họ, người sáng tạo nắm bắt giá trị của họ, nền tảng trả lời cộng đồng. Mục đích là quyền sở hữu và phân cấp, nhưng nó không thành công. Web3 trở thành đồng nghĩa với đầu cơ NFT và khi định giá giảm, tầm nhìn cũng vậy.
Bản năng của Web3 đã đúng: chúng ta cần một cách để thay thế niềm tin bằng sự đảm bảo. Nhưng chỉ quyền sở hữu thôi thì không thể đưa chúng tôi đến đó. AI và các tác nhân làm rõ điều đó. Câu hỏi không phải là ai sở hữu nền tảng này. Vấn đề là liệu bạn có thể tin tưởng ai và cái gì đang hành động hay không. Mã thông báo là nguyên thủy sai; bằng chứng là đúng nhất.
Trong một mạng Internet tác nhân, các đối tác, dù là con người hay máy móc, đều cần có sự đảm bảo: ai đã xây dựng hệ thống này, dữ liệu nào đã định hình nó, những ràng buộc nào chi phối nó, liệu nó có được phép hành động hay không. Những đảm bảo đó phải được duy trì ngay cả khi các hệ thống cơ bản là độc quyền. Đặc biệt là sau đó.
Mật mã không có kiến thức có thể thực hiện được điều này bằng cách ràng buộc các cam kết trả trước. Nhà phát triển có thể lấy dấu vân tay bằng mật mã cho dữ liệu đào tạo của họ, cho phép bằng chứng ZK xác minh danh tính, nguồn gốc, dữ liệu đào tạo và các ràng buộc hoạt động mà không làm lộ dữ liệu cơ bản. Không phải “tin tưởng tôi” mà là “chứng minh điều đó”.
Đây không còn chỉ là câu hỏi bảo vệ người tiêu dùng nữa. Đó là vấn đề an ninh quốc gia.
Deepfakes là trò chơi mang thai. Đại lý là sự kiện chính. Đối thủ nước ngoài sẽ không dừng lại ở việc thao túng những gì người Mỹ nhìn thấy – họ sẽ triển khai các đặc vụ để thao túng cách họ hành động. Họ sẽ triển khai các hệ thống tự động giao dịch trên thị trường của chúng tôi, giao tiếp với các tổ chức của chúng tôi và thu hút con cái của chúng tôi mà không có cách nào để bất kỳ đối tác nào xác minh họ là ai hoặc ai đã ủy quyền cho họ. Điều này có thể giải quyết được. Nhưng chỉ khi Mỹ xây dựng đường ray trước khi đối thủ học cách khai thác sự vắng mặt của họ.
Chính sách nên tuân theo. Quốc hội nên yêu cầu các tác nhân AI có rủi ro cao, như những người xử lý các giao dịch tài chính hoặc tương tác với trẻ vị thành niên, phải mang theo bằng chứng mật mã về họ là ai, ai đã ủy quyền cho họ và những gì họ được phép làm, có thể được xác minh bởi bất kỳ đối tác nào mà không tiết lộ thông tin độc quyền. Logic tương tự sẽ áp dụng cho những gì các tác nhân đó thực hiện: khi các tác nhân bắt đầu giao dịch thay mặt cho mọi người và doanh nghiệp ở tốc độ máy và quy mô máy, mọi hành động do đó — thanh toán, hợp đồng, giao dịch, trao đổi dữ liệu — phải mang theo bằng chứng về người đã ủy quyền và dưới những ràng buộc nào.
Nền tảng kỹ thuật đã được đặt ra: Bộ Thương mại Hoa Kỳ, thông qua Viện Tiêu chuẩn và Công nghệ Quốc gia, đang khám phá việc tiêu chuẩn hóa không có kiến thức thông qua cơ quan này. Mật mã tăng cường quyền riêng tư sáng kiến. Công việc đó cần được ưu tiên và nâng cao, đồng thời kết quả đầu ra của nó phải đặt ra tiêu chuẩn liên bang. Trách nhiệm pháp lý không gắn liền với nội dung mà gắn liền với việc không có bằng chứng.
HTTPS đã cho chúng tôi đọc. Mục 230 đã cho chúng tôi viết. ZK cho chúng tôi chứng minh.
Đọc Viết Sở hữu Chứng minh.
Lưu ý: Các quan điểm thể hiện trong cột này là của tác giả và không nhất thiết phản ánh quan điểm của CoinDesk, Inc. hoặc chủ sở hữu và các chi nhánh của nó.
