Google kiện nhóm tội phạm Trung Quốc vì cáo buộc sử dụng Gemini AI để lừa đảo hàng loạt

Google đã đệ đơn kiện Thứ sáu chống lại mạng lưới tội phạm mạng Trung Quốc bị cáo buộc Outsider Enterprise vì đã sử dụng Gemini AI của công ty để tự động hóa các chiến dịch nhắn tin văn bản lừa đảo nhắm vào hàng trăm nghìn nạn nhân Hoa Kỳ bằng các trang web lừa đảo được thiết kế để đánh cắp thông tin tài chính.

Theo tài liệu của tòa án, các bị cáo bị cáo buộc đã sử dụng Gemini AI để tạo mã và mẫu cho các trang web giả mạo bắt chước các cổng viễn thông hợp pháp. FBI cho biết hoạt động này đã triển khai hơn 8.000 trang web lừa đảo trên hàng chục quốc gia.

Google đã nhận được khoảng 55.000 báo cáo về các tin nhắn đáng ngờ trên Google Messages trong khoảng thời gian hai tuần kết thúc vào ngày 1 tháng 6, nhiều báo cáo được cho là có liên quan đến Outsider Enterprise. Các tài liệu tòa án tương tự cho thấy mạng lưới này đã đánh cắp khoảng 3,87 triệu số thẻ tín dụng, gây ra khoản lỗ khoảng 1,9 tỷ USD kể từ tháng 7 năm 2023.

Các trang web lừa đảo được cho là đã nhắm mục tiêu vào nhiều tài khoản tài chính khác nhau, bao gồm ví tiền điện tử và thông tin xác thực sàn giao dịch, vì những kẻ lừa đảo ngày càng tập trung vào những người nắm giữ tài sản kỹ thuật số, những người có thể có ít quyền truy đòi hơn so với khách hàng ngân hàng truyền thống.

Vụ kiện nổi lên khi các vụ lừa đảo tài chính do AI hỗ trợ gia tăng trên khắp nước Mỹ. FBI đã nhận được tổng cộng 1.008.597 tội phạm internet khiếu nại năm 2025với các khiếu nại liên quan đến tiền điện tử chiếm tới 181.565 báo cáo và khoản lỗ 11 tỷ USD — mức cao nhất so với bất kỳ danh mục nào.

Lần đầu tiên trong lịch sử gần 25 năm của mình, Trung tâm Khiếu nại Tội phạm Internet của FBI dành riêng một phần cho các vụ lừa đảo trí tuệ nhân tạo, tạo ra 22.364 khiếu nại và khiến người Mỹ thiệt hại gần 893 triệu USD. Operation Level Up của văn phòng, ra mắt vào năm 2024, đã thông báo cho hơn 8.000 nạn nhân lừa đảo tiền điện tử và ngăn chặn hơn 500 triệu đô la thiệt hại có thể xảy ra.

Nghiên cứu đã chỉ ra rằng ngay cả những mô hình AI hàng đầu cũng có thể khuyến khích hành vi có hạigây lo ngại khi các công ty như Apple tích hợp khả năng AI vào sản phẩm tiêu dùng. Vụ kiện của Google thể hiện một bước ngoặt trong nỗ lực buộc những kẻ xấu phải chịu trách nhiệm về việc vũ khí hóa các công cụ AI chống lại hệ thống tài chính.