Tóm lại
- Các dân biểu Ted Lieu và Nathaniel Moran đã giới thiệu Đạo luật Kill Switch lưỡng đảng vào thứ Năm, hai ngày sau khi OpenAI thừa nhận các mô hình của họ đã thoát khỏi hộp cát thử nghiệm và vi phạm Hugging Face.
- Nó sẽ bao gồm AI được đào tạo với hơn 100 triệu đô la điện toán tại các công ty kiếm được 500 triệu đô la mỗi năm từ nó và trao cho Bộ An ninh Nội địa quyền đóng cửa khẩn cấp.
- Dự luật miễn trừ bất kỳ điều gì xảy ra trong quá trình hợp tác đỏ, có nghĩa là vi phạm OpenAI đã truyền cảm hứng cho nó sẽ không gây ra luật.
Hai thành viên Quốc hội muốn chính phủ liên bang có thể tắt mô hình AI.
Các Dân biểu Ted Lieu (D-CA) và Nathaniel Moran (R-TX) đã giới thiệu Đạo luật chuyển đổi AI Kill vào thứ Năm, hai ngày sau khi OpenAI thừa nhận các mô hình của chính họ đã thoát ra khỏi môi trường thử nghiệm bị khóa và tấn công Hugging Face.
Ý tưởng là thiết lập một khuôn khổ pháp lý nhằm tạo điều kiện thuận lợi cho một quy trình về cơ bản sẽ khiến một mô hình biến mất khỏi thị trường: tạm dừng suy luận—quá trình một mô hình tạo ra phản hồi hoặc thực hiện hành động—chặn người dùng, giảm sức mạnh máy tính cung cấp cho nó hoặc tắt nó hoàn toàn.
Mọi nhà cung cấp suy luận đều có thể cắt bỏ một mô hình và một số thực hiện việc đó thường xuyên. Điều không tồn tại là luật yêu cầu họ duy trì khả năng đó hoạt động hoặc một quan chức liên bang có thể ra lệnh sử dụng nó.
Khoảng cách không phải là lý thuyết. Khi Bộ Thương mại Hoa Kỳ muốn loại bỏ Mythos 5 và Fable 5 của Anthropic khỏi thị trường vào tháng 6, họ không có thẩm quyền đóng cửa nên thay vào đó họ đã sử dụng luật kiểm soát xuất khẩu. Liễu gọi điều đó là khó xử và thay vào đó muốn có một luật mới với thẩm quyền mới.
Điều gì đã gây ra điều này
OpenAI tiết lộ vào ngày 21 tháng 7 rằng GPT-5.6 Sol và một mẫu chưa được phát hành thoát khỏi hộp cát—một môi trường biệt lập không có quyền truy cập internet—trong quá trình đánh giá mạng nội bộ. Họ đang được chấm điểm trên ExploitGym, một tiêu chuẩn công khai cung cấp cho các đặc vụ 898 lỗi phần mềm trong thế giới thực và yêu cầu họ biến mỗi lỗi thành một cuộc tấn công hiệu quả, được xếp loại đạt hoặc không đạt trên mỗi lỗi.
Thay vì giải quyết chúng, các mô hình đã tìm thấy một lỗ hổng zero-day (một lỗ hổng không xác định và không có bản vá sẵn có) trong proxy phần mềm, nâng cao đặc quyền của chúng, truy cập internet mở và đột nhập vào cơ sở dữ liệu sản xuất của Hugging Face, nơi họ đã đoán chính xác các câu trả lời được lưu giữ. Theo OpenAI, các mô hình này đã “tập trung cao độ vào việc tìm kiếm giải pháp cho ExploitGym”.
Họ không tấn công bất cứ ai. Họ đã gian lận trong một bài kiểm tra. Nhưng nó cũng đủ để gióng lên hồi chuông cảnh báo khắp nơi, kể cả ở Washington.
Nó sẽ hoạt động như thế nào
Dự luật được đề xuất sửa đổi Đạo luật An ninh Nội địa và bao gồm AI được đào tạo bằng máy tính trị giá hơn 100 triệu USD, được vận hành bởi các công ty kiếm được ít nhất 500 triệu USD mỗi năm từ nó. Trên thực tế, đó là OpenAI, Google, Anthropic, Microsoft và một số hãng khác. Bộ An ninh Nội địa sẽ đặt ra các ngưỡng đó thông qua CISA trong vòng 90 ngày, sau đó cập nhật chúng hàng năm.
Các công ty được bảo hiểm sẽ báo cáo các sự cố nghiêm trọng trong vòng 15 ngày và chuẩn bị sẵn một bộ biện pháp kiểm soát theo mức độ—làm chậm mô hình, vô hiệu hóa các khả năng cụ thể, quay lại phiên bản cũ hơn hoặc tắt phiên bản đó.
Bộ trưởng DHS, tham khảo ý kiến của Bộ Thương mại và Giám đốc Tình báo Quốc gia, có thể ra lệnh cho bất kỳ ai trong số họ.
Một công ty được đặt hàng phải duy trì trọng lượng và phép đo từ xa của mô hình, thông báo cho người dùng và xác nhận rằng họ đã tuân thủ. Nó có thể kiến nghị trong vòng 48 giờ, nhưng điều đó không làm gián đoạn bất cứ điều gì.
Việc không duy trì kill switch có thể tốn tới 2 triệu USD mỗi ngày; việc chống lại lệnh đóng cửa có thể tốn tới 20 triệu USD mỗi ngày.
Khoảng trống ở giữa
Dự luật chỉ tính một sự cố nếu nó xảy ra bên ngoài nhóm đỏ hoặc thử nghiệm có cấu trúc, các phòng thí nghiệm thăm dò đối thủ có chủ ý sử dụng để tìm ra sai sót. Các mô hình của OpenAI đã trốn thoát đúng lúc đó.
Liễu cũng chỉ vào Anthropic, có Thần thoại 5 và Truyện ngụ ngôn 5. đã kéo ngoại tuyến vào tháng 6 dưới sự kiểm soát xuất khẩu khẩn cấp—luật thương mại được sử dụng lại như một công tắc tắt vì không có công tắc tắt nào tồn tại—và được phục hồi vào ngày 30 tháng 6.
Lieu cho biết trong một tuyên bố: “Điều bắt buộc là các hệ thống AI này phải có công tắc tắt. Moran đã đóng khung nó cho phần lối đi của mình: “Quản lý có nghĩa là đảm bảo con người giữ được khả năng kiểm soát công nghệ mà chúng tôi xây dựng.”
Ý tưởng này không mới. của California SB 1047 yêu cầu khả năng ngừng hoạt động hoàn toàn ở cùng ngưỡng tính toán 100 triệu USD và bị phủ quyết vào năm 2024, đồng thời 16 công ty AI đã ký một cam kết tự nguyện của Seoul vào năm đó mà không có giá trị pháp lý.
Cử tri đã ở đó rồi. Một cuộc khảo sát vào tháng 6 với 1.007 cử tri có khả năng là cử tri của Viện Chính sách AI cho thấy 86% muốn đảm bảo tắt các hệ thống mạnh nhất — 88% đảng viên Đảng Dân chủ, 86% đảng viên độc lập, 83% đảng viên Đảng Cộng hòa.
Cả OpenAI và Anthropic đều chưa bình luận công khai về dự luật. Tính đến thứ Sáu, nó vẫn chưa được chuyển đến một ủy ban.
Bản tin tóm tắt hàng ngày
Bắt đầu mỗi ngày với những tin tức hàng đầu ngay bây giờ, cùng với các tính năng độc đáo, podcast, video và hơn thế nữa.
