Ngoại trưởng Anh cảnh báo ‘AI Hiroshima’ nếu các nhà hoạch định chính sách không hành động

Ngoại trưởng Anh Yvette Cooper cảnh báo các chính phủ có nguy cơ lặp lại những sai lầm đã mắc phải trong buổi bình minh của thời đại hạt nhân nếu họ chờ đợi ban hành luật quản lý trí tuệ nhân tạo.

trong một bài báo được công bố hôm thứ Hai, Cooper cho biết AI mang lại những đột phá nhưng cũng tiềm ẩn những rủi ro mới khi công nghệ này trở nên mạnh mẽ hơn và được phổ biến rộng rãi hơn.

Cooper viết: “Tháng trước, tại Thâm Quyến, Trung Quốc, tôi đã thấy triển vọng phi thường của AI và robot được sử dụng để chăm sóc sức khỏe cứu sống”. “Nhưng những công nghệ tương tự cũng đang định hình lại tương lai của chiến tranh, tội phạm và sự gắn kết xã hội theo những cách đáng báo động.”

Cooper cho biết việc quản lý các rủi ro do AI gây ra có thể trở thành “thách thức an ninh lớn nhất trong thập kỷ tới” và cho rằng các chính phủ cần có các thỏa thuận quốc tế về công nghệ tiên phong trước khi xảy ra khủng hoảng buộc phải hành động.

Bà so sánh cuộc đua phát triển hệ thống AI hiện nay với cuộc chạy đua vũ trang hạt nhân thời kỳ đầu, cho rằng các thỏa thuận an toàn toàn cầu chỉ xuất hiện sau khi các quốc gia chứng kiến ​​sự tàn phá do vũ khí nguyên tử gây ra.

“Về vấn đề hạt nhân, thỏa thuận quốc tế chỉ đạt được sau khi thế giới nhìn thấy sức mạnh khủng khiếp của công nghệ mới ở mức độ cao nhất. Hiroshima“, Cooper viết. “Chúng ta không thể chờ đợi một AI tương đương với Hiroshima trước khi hành động.”

Cooper kêu gọi Anh sử dụng ảnh hưởng ngoại giao của mình để tập hợp Hoa Kỳ, Trung Quốc và các cường quốc AI khác nhằm thiết lập các nguyên tắc và tiêu chuẩn an toàn chung, hướng tới năm 2023 Hội nghị thượng đỉnh về an toàn AI tại Bletchley Park, nơi các nhà lãnh đạo toàn cầu từ 29 quốc gia và Liên minh Châu Âu gặp nhau để thảo luận về nguy cơ AI đang nổi lên. Cooper gọi đây là một ví dụ về khả năng của Vương quốc Anh trong việc “thu hút thế giới về bảo mật AI”.

Cảnh báo của Cooper được đưa ra sau nhiều tháng lo ngại leo thang về cách các chính phủ nên giám sát các hệ thống AI ngày càng mạnh mẽ.

Vào tháng 5, Viện An ninh AI của Vương quốc Anh cảnh báo sự gia tăng nhanh chóng về khả năng an ninh mạng AI sau khi GPT-5.5 của OpenAI trở thành mô hình thứ hai hoàn thành một cuộc tấn công mạng mô phỏng mà không cần sự trợ giúp của con người, sau Bản xem trước Claude Mythos của Anthropic.

Vài ngày sau, Quỹ Tiền tệ Quốc tế cảnh báo rằng AI có thể “khoa trương” các cuộc tấn công mạng nhằm vào hệ thống tài chính toàn cầu bằng cách hạ thấp kỹ năng cần thiết để khai thác các lỗ hổng, kêu gọi các nhà hoạch định chính sách coi an ninh mạng là vấn đề ổn định tài chính chứ không phải là vấn đề kỹ thuật thuần túy.

Hồi tháng 6, Tổng thống Donald Trump đã ký một mệnh lệnh hành pháp tạo ra một khuôn khổ tự nguyện để xem xét các mô hình AI tiên tiến trước khi phát hành, mở rộng các chương trình an ninh mạng AI và chỉ đạo các cơ quan đánh giá các rủi ro an ninh quốc gia tiềm ẩn từ các mô hình AI tiên phong.

Cùng tháng đó, những lời kêu gọi về các quy tắc chặt chẽ hơn cũng đến từ bên trong ngành AI, với Giám đốc điều hành Anthropic Dario Amodei. tranh cãi rằng các yêu cầu về tính minh bạch không còn đủ nữa và kêu gọi sự thử nghiệm bắt buộc của bên thứ ba đối với các mô hình biên giới. Yêu cầu này đã được chính phủ Hoa Kỳ tuân theo đặt hàng Anthropic hạn chế quyền truy cập vào Claude Fable 5 và Mythos 5 vì lo ngại an ninh quốc gia trước đây nâng thứ tự vào tháng Bảy.