Các chuyên gia an ninh mạng cho biết sâu phần mềm độc hại AI thích ứng với các mục tiêu mới trong thời gian thực

Những tiến bộ trong đặc vụ AI Nghiên cứu mới cảnh báo có thể đang mở ra cánh cửa cho một mối đe dọa an ninh mạng mới: sâu máy tính thích ứng có khả năng tạo ra các chiến lược tấn công nhanh chóng và lây lan tự động trên các mạng.

các giấytừ các nhà nghiên cứu tại Đại học Toronto, Viện Vector, Đại học Cambridge và ServiceNow, mô tả một loại sâu được hỗ trợ bởi AI bằng chứng khái niệm có thể xác định các lỗ hổng, nghĩ ra các đường tấn công phù hợp, xâm phạm hệ thống và tự sao chép trên mạng trong khi điều chỉnh chiến thuật của nó cho các mục tiêu khác nhau.

Các nhà nghiên cứu viết: “Chúng ta phải chuẩn bị cho những đối thủ có khả năng tạo ra tự trị”. “Các hệ thống phần mềm độc hại lan truyền mà không cần con người điều hành và được xác định không phải bằng mã khai thác cố định mà bằng khả năng suy luận về mục tiêu, thích ứng với các quan sát và tổng hợp logic tấn công trong thời gian thực.”

Sâu máy tính có khả năng tự nhân bản phần mềm độc hại tự động lây lan trên các mạng dễ bị tấn công. Sâu bùng phátbao gồm cả ANH YÊU EM phần mềm độc hại vào năm 2000 và muốn khóc vào năm 2017, đã lây nhiễm hàng triệu máy tính trên toàn thế giới, làm gián đoạn các dịch vụ quan trọng và gây thiệt hại hàng tỷ đô la.

Gần đây hơn, Shai-Hulud phần mềm độc hại cho thấy các cuộc tấn công tự lan truyền có thể lây lan trực tuyến như thế nào, lây nhiễm vào phần mềm được các công ty lớn sử dụng, bao gồm cả OpenAI Và Mistral.

Theo nghiên cứu mới, các nhà nghiên cứu cho biết điều khiến sâu hỗ trợ AI của họ khác biệt so với các phiên bản trước đó là khả năng thích ứng với các mục tiêu khác nhau, sử dụng mô hình ngôn ngữ lớn để xác định các lỗ hổng và tạo chiến lược tấn công trong thời gian thực thay vì dựa vào một tập hợp khai thác cố định.

Họ viết: “Các loại sâu truyền thống, như WannaCry, đã khai thác các lỗ hổng được xác định trước và sự lây lan của chúng có thể bị ngăn chặn bằng cách vá các lỗ hổng đó”. “Ở đây chúng tôi cho thấy rằng các tác nhân trí tuệ nhân tạo tạo ra một mối đe dọa mới về cơ bản: một con sâu tạo ra các chiến lược tấn công phù hợp với từng mục tiêu mà nó gặp phải.”

Trong nghiên cứu, nhóm đã thử nghiệm sâu này trong một mạng ảo biệt lập chứa 33 hệ thống Linux, Windows và IoT có chứa các lỗ hổng phổ biến. Qua 15 thử nghiệm, sâu này đã xác định được trung bình 31,3 lỗ hổng, xâm nhập thành công 23,1 máy chủ và lây lan sang khoảng 20 máy trong suốt 7 ngày hoạt động tự động.

Trong một số thử nghiệm, nghiên cứu cho biết phần mềm độc hại có thể đạt đến bảy thế hệ tự sao chép và không giống như nhiều ứng dụng AI, sâu này không phụ thuộc vào quyền truy cập vào các dịch vụ đám mây AI.

Thay vì dựa vào cơ sở hạ tầng đám mây từ các nhà cung cấp như AWSMicrosoft Azure hoặc Đám mây của Googlephần mềm độc hại chạy các mô hình AI trực tiếp trên các máy bị xâm nhập. Khi nó lây lan, các hệ thống bị lây nhiễm đã trở thành một phần cơ sở hạ tầng máy tính của nó một cách hiệu quả.

Các nhà nghiên cứu cũng nhận thấy hệ thống có thể khai thác các lỗ hổng được tiết lộ sau khi ngừng đào tạo mô hình bằng cách sử dụng các tư vấn bảo mật mới được xuất bản trong thời gian chạy, cho phép hệ thống kết hợp thông tin không phải là một phần của dữ liệu đào tạo ban đầu của mô hình.

Mặc dù thử nghiệm được tiến hành trong môi trường được kiểm soát nhưng các tác giả thừa nhận tính chất sử dụng kép của công việc và cố tình giữ lại một số chi tiết kỹ thuật để giảm nguy cơ sử dụng sai mục đích.

Họ cho biết: “Trước khi phát hành bản in trước này, chúng tôi đã chỉnh sửa bản thảo để đảm bảo rằng việc trình bày phương pháp của chúng tôi cân bằng giữa độ sâu chi tiết cần thiết để cộng đồng nghiên cứu mối đe dọa mới này với nguy cơ tác nhân độc hại sử dụng phương pháp của chúng tôi để tạo phần mềm độc hại”.

Mặc dù vậy, các nhà nghiên cứu cho biết dự án này nhằm mục đích hiểu rõ hơn những rủi ro do sâu máy tính thích ứng gây ra và cung cấp bằng chứng về mức độ phát triển của khả năng mạng hỗ trợ AI.

Họ viết: “Việc giải quyết mối đe dọa này sẽ đòi hỏi hành động phối hợp giữa các cộng đồng nghiên cứu, an ninh, công nghiệp và chính sách: các khung đánh giá kiểm tra khả năng ở cấp độ khai thác, hệ thống phát hiện được điều chỉnh theo dấu hiệu hành vi của các tác nhân tự trị và các biện pháp quản lý giải thích cho tính chất phi tập trung của suy luận trọng lượng mở”.