Tóm tắt nhanh
- Anthropic cho biết AI của họ đã phát hiện hàng chục nghìn lỗ hổng phần mềm.
- CEO Dario Amodei cảnh báo chỉ còn “cửa sổ” từ 6 đến 12 tháng để vá các lỗ hổng này.
- Một số chuyên gia cho rằng mức độ rủi ro có thể đang bị phóng đại, dù lo ngại về an ninh mạng ngày càng gia tăng.
Cuộc thảo luận giữa CEO Anthropic Dario Amodei và CEO JPMorgan Chase Jamie Dimon hôm thứ Ba tập trung vào mối đe dọa an ninh mạng ngày càng lớn do trí tuệ nhân tạo tạo ra, khi AI có thể phát hiện lỗ hổng nhanh hơn tốc độ các tổ chức kịp vá lỗi.
Trong sự kiện kéo dài gần hai giờ liên quan đến chiến lược mở rộng sang lĩnh vực tài chính của Anthropic — nơi công ty ra mắt các AI agent phục vụ các tác vụ như pitchbook, đánh giá báo cáo lợi nhuận và compliance — Amodei cho biết có thể chỉ còn khoảng thời gian từ 6 đến 12 tháng để xử lý hàng chục nghìn lỗ hổng được mô hình Mythos phát hiện trước khi các năng lực tương tự trở nên phổ biến rộng rãi.
“Mối nguy nằm ở việc số lượng lỗ hổng, số vụ tấn công và thiệt hại tài chính từ ransomware có thể bùng nổ mạnh, không chỉ với trường học hay bệnh viện mà còn cả các ngân hàng,” Amodei cho biết.
Những phát biểu mới nhất của Amodei nối tiếp các thử nghiệm trước đó với Mozilla, khi một phiên bản đầu của Mythos đã phát hiện 271 lỗ hổng trên trình duyệt Firefox chỉ trong một lần quét, cho thấy AI có thể rà soát các codebase quy mô lớn nhanh hơn rất nhiều so với các nhà nghiên cứu bảo mật truyền thống.
Anthropic cho biết mô hình này có thể phát hiện hàng nghìn điểm yếu chưa từng được công bố trên các phần mềm phổ biến. Nhiều lỗ hổng hiện vẫn chưa được tiết lộ do chưa có bản vá, khiến các điểm yếu này vẫn tồn tại trên hệ thống.
“Nếu chúng tôi công bố khi chưa được vá, hacker sẽ ngay lập tức khai thác chúng,” Amodei nói.
Trong các bài kiểm thử có kiểm soát, Mythos đã hoàn thành các mô phỏng tấn công mạng nhiều bước mà không cần con người can thiệp, cho thấy khả năng không chỉ phát hiện lỗ hổng mà còn tự động khai thác chúng.
Anthropic hiện chỉ giới hạn quyền truy cập mô hình cho một nhóm đối tác nhỏ thông qua Project Glasswing, với mục tiêu xử lý các lỗ hổng trước khi các công cụ tương tự trở nên phổ biến rộng rãi.
Các nhà nghiên cứu cũng cho thấy một số năng lực của Mythos có thể được tái tạo bằng các mô hình AI hiện tại và các kỹ thuật mã nguồn mở, làm dấy lên lo ngại rằng các công cụ tương tự có thể lan rộng nhanh hơn dự kiến.
Những cảnh báo này cũng vấp phải sự hoài nghi trong ngành. Hồi tháng 4, CEO OpenAI Sam Altman cho rằng các lo ngại xoay quanh Mythos có thể đang bị thổi phồng và ám chỉ Anthropic đang sử dụng “fear-based marketing” để nhấn mạnh rủi ro nhằm biện minh cho việc hạn chế quyền truy cập công nghệ.
“Bạn có thể biện minh điều đó theo nhiều cách khác nhau, và một phần là có thật, vì chắc chắn sẽ tồn tại những lo ngại an toàn hợp pháp,” Altman nói. “Nhưng nếu điều bạn muốn là kiểu ‘chúng tôi cần kiểm soát AI, chỉ riêng chúng tôi thôi, vì chúng tôi là những người đáng tin cậy’, thì marketing dựa trên nỗi sợ có lẽ là cách hiệu quả nhất để biện minh cho điều đó.”
Bất chấp những phản đối đó và cả cuộc đối đầu công khai với Anthropic, chính phủ Mỹ được cho là đang sử dụng Claude Mythos để quét các mạng lưới mật nhằm tìm kiếm lỗ hổng và kiểm tra năng lực an ninh mạng của hệ thống, theo Axios. Dù không đề cập trực tiếp tới cuộc chiến pháp lý đang diễn ra, Amodei cho biết Anthropic “mang lại lợi ích cho nước Mỹ.”
“Tôi nghĩ quan điểm của Anthropic vẫn luôn như vậy. Về vấn đề chính trị hóa, điều tôi muốn nói là mọi thứ cần được thực hiện một cách tinh gọn, có hệ thống và công bằng với tất cả,” Amodei nói. “Mục tiêu của luật pháp và việc không xử lý tùy tiện là để mọi công ty — ít nhất trên nguyên tắc, dù thực tế phức tạp hơn — được đối xử theo cùng một cách, và chúng ta nên hướng tới điều đó dù có thể không bao giờ đạt được hoàn hảo.”
Amodei mô tả thời điểm hiện tại như một “cửa sổ hành động” rất hẹp, cảnh báo rằng tốc độ phản ứng của các tổ chức sẽ quyết định liệu các rủi ro có leo thang mất kiểm soát hay được kiềm chế kịp thời.
“Đây là một thời khắc nguy hiểm, nơi nếu chúng ta phản ứng đúng cách — và tôi nghĩ chúng ta đã bắt đầu có những bước đi đầu tiên — thì phía bên kia sẽ là một thế giới tốt đẹp hơn,” Amodei nói. “Số lượng bug tồn tại là hữu hạn.”
Bản tin tổng hợp tin tức hằng ngày
Bắt đầu mỗi ngày với những tin tức nổi bật nhất ngay lúc này, cùng các bài viết độc quyền, podcast, video và nhiều nội dung hấp dẫn khác.
