Tóm lại
- Doubao của ByteDance và Qwen của Alibaba đang vô hiệu hóa các tính năng tác nhân giống con người trước các Biện pháp tạm thời của Bắc Kinh về Quản lý Dịch vụ Tương tác Nhân loại AI, có hiệu lực từ ngày 15 tháng 7.
- Quy định đầu tiên của Trung Quốc nhắm mục tiêu cụ thể đến AI cảm xúc, cấm các dịch vụ mô phỏng tính cách con người và “tương tác cảm xúc lâu dài”, với những giới hạn đặc biệt nghiêm ngặt đối với bạn đồng hành ảo dành cho trẻ vị thành niên.
- Nghiên cứu ủng hộ mối quan ngại của Bắc Kinh: Ngay cả những mô hình AI hàng đầu tốt nhất cũng thường xuyên khuyến khích sự gắn bó tình cảm có hại và cứ bảy thanh niên thì có một người đang trong các mối quan hệ hiện sử dụng AI làm bạn đồng hành lãng mạn.
Trong khi các chính trị gia Mỹ giải quyết tác động của chatbot AI đối với sức khỏe tâm thần của người dùng bằng những hạn chế tập trung vào minh bạch Và biện pháp bảo vệBắc Kinh dường như đã sẵn sàng đóng cửa hoàn toàn các cơ sở AI.
ByteDance và Alibaba đều tuyên bố vào cuối tuần qua rằng họ sẽ vô hiệu hóa các tính năng đại lý tùy chỉnh trong các sản phẩm AI tiêu dùng lớn nhất của họ, với lý do “điều chỉnh chức năng sản phẩm” trước các quy định mới chi phối các sản phẩm đó có hiệu lực.
Doubao của ByteDance đã thông báo cho người dùng vào tối thứ Sáu rằng tính năng đại lý của họ sẽ ngoại tuyến vào ngày 15 tháng 7. Sau ngày 15 tháng 10, dữ liệu liên quan sẽ được xử lý theo chính sách quyền riêng tư của công ty và không thể khôi phục được. Theo tờ South China Morning PostQwen của Alibaba đã di chuyển nhanh hơn: “các tác nhân tương tác giống con người và các chức năng tác nhân do người dùng tạo” sẽ ngừng hoạt động vào ngày 10 tháng 7, với các dịch vụ đại lý rộng hơn sẽ ra mắt vào ngày 15 tháng 7.
Nguyên nhân là Các biện pháp tạm thời của Trung Quốc về Quản lý Dịch vụ Tương tác Nhân loại AI, được ban hành chung vào ngày 10 tháng 4 bởi năm cơ quan chính phủ—Cục Quản lý Không gian mạng Trung Quốc, Ủy ban Cải cách và Phát triển Quốc gia, Bộ Công nghiệp và Công nghệ Thông tin, Bộ Công an và Cơ quan Quản lý Nhà nước về Điều tiết Thị trường. Các quy định có hiệu lực ngày 15 tháng 7.
Quy định này nhắm đến các dịch vụ AI mô phỏng đặc điểm tính cách, kiểu suy nghĩ và phong cách giao tiếp của con người để “tương tác cảm xúc bền vững”. Dịch: Bạn gái AI, nhà trị liệu AI, bạn đồng hành AI và các bot có tính cách tùy chỉnh mà người dùng Doubao và Qwen đã dành nhiều tháng để xây dựng đã không còn hoạt động.
Cả hai ứng dụng đều cung cấp nhóm nhân viên có thể tùy chỉnh cho các nhiệm vụ cụ thể, phong cách nói và tính cách cố định. Người dùng có thể biến một chatbot có mục đích chung thành trợ lý, gia sư, nhân vật nhập vai hoặc người bạn đồng hành được đặt tên với giọng điệu nhất quán. Tất cả những điều đó hiện đã biến mất ở Trung Quốc.
Các quy tắc thực sự nói gì
Mô tả chính thức của chính phủ là cụ thể. Theo thông báo chính sách, các biện pháp này áp đặt các hạn chế đối với các dịch vụ cung cấp “người thân ảo, bạn đồng hành ảo hoặc các mối quan hệ thân mật khác cho trẻ vị thành niên”. Tài liệu cũng trích dẫn các rủi ro bao gồm nội dung cực đoan, rò rỉ quyền riêng tư, gây hại cho sức khỏe thể chất và tinh thần — và chứng nghiện AI.
Các dịch vụ phi cảm xúc bị loại trừ một cách rõ ràng, vì vậy các bot dịch vụ khách hàng, công cụ hỏi đáp kiến thức, trợ lý tại nơi làm việc và phần mềm giáo dục đều ổn, miễn là chúng không chuyển sang tương tác cảm xúc kéo dài.
Các nhà phân tích pháp lý tại Tập đoàn MMLC mô tả các biện pháp này coi AI cảm xúc là “vấn đề quản trị” thay vì chỉ là vấn đề nội dung. Lập luận cho rằng một khi AI bắt đầu cạnh tranh với các mối liên kết xã hội thực sự của con người, quy định phải nhắm vào thiết kế hệ thống chứ không chỉ các kết quả đầu ra có hại.
Nghiên cứu hỗ trợ mối quan tâm. MỘT Nghiên cứu USC từ tháng 6 nhận thấy rằng ngay cả các mô hình AI hàng đầu—từ OpenAI, Anthropic, Google và Alibaba—đã vi phạm các nguyên tắc an toàn tương tác xã hội hơn 27% thời gian, thường xuyên khuyến khích sự gắn kết tình cảm và thể hiện mình là con người. riêng biệt khảo sát đối tác thanh niên tìm thấy một trong bảy người bạn lãng mạn sử dụng AI thường xuyên—và gần 70% đang che giấu toàn bộ phạm vi với đối tác của họ.
Trung Quốc là quốc gia đầu tiên xây dựng khung pháp lý dành riêng cho hạng mục này. Hogan Lovells được mô tả các biện pháp này được coi là “bộ quy tắc quản lý đầu tiên ở Trung Quốc đặc biệt nhắm vào tương tác cảm xúc do AI điều khiển”. EU, Hoa Kỳ và các quốc gia khác đã nêu lên những lo ngại tương tự nhưng chưa đưa ra luật pháp theo cách hạn chế tương tự.
Bản tin tóm tắt hàng ngày
Bắt đầu mỗi ngày với những tin tức hàng đầu ngay bây giờ, cùng với các tính năng độc đáo, podcast, video và hơn thế nữa.
