Tuần này, Anthropic công bố Báo cáo Tình báo mối đe dọa, trong đó cho biết công ty đã phát hiện và ngăn chặn nhiều đối tượng tìm cách sử dụng mô hình AI Claude cho hành vi xấu.
Trong đó, Anthropic cáo buộc công ty Moonshot AI (Trung Quốc) đã thiết lập một hệ thống máy chủ trung gian (proxy) bí mật để tự động chuyển tiếp hàng chục triệu yêu cầu (prompts) từ người dùng thật của mô hình Kimi do công ty này phát triển sang mô hình Claude, nhằm lấy câu trả lời rồi trả về cho người dùng. Mục đích của hành vi này là nhằm "chưng cất" (distillation) - cách học hỏi chuỗi suy luận của Claude để huấn luyện cho mô hình AI nội địa của họ.
Logo của Anthropic
ẢNH: AFP
Những người dùng này nghĩ rằng họ đang sử dụng mô hình Kimi, nhưng trên thực tế, câu trả lời mà họ nhận được lại là của Claude.
Theo Anthropic, trong một giai đoạn 10 ngày, Moonshot đã chuyển gần 300.000 yêu cầu của khách hàng cho mô hình của công ty Mỹ, hầu hết là cho bản Claude Opus. Moonshot sử dụng 5.380 tài khoản giả mạo - hầu hết là ở nước ngoài - để làm trung gian. Anthropic cho biết quy mô của vụ việc là hơn 23 triệu nội dung trao đổi từ tháng 5 đến tháng 6 năm nay.
Dữ liệu nhạy cảm bị lộ
Cuộc điều tra của Anthropic cũng tiết lộ rằng các yêu cầu của người dùng mà Moonshot âm thầm chuyển hướng đến Claude bao gồm thông tin nhạy cảm về nhiều khách hàng của công ty Trung Quốc. Anthropic không biết liệu Moonshot có thông báo cho khách hàng của họ rằng các yêu cầu của họ đang được chuyển hướng đến Anthropic và bị lộ cho bên thứ ba hay không.
Cụ thể, có người dùng (được cho là có liên kết với Quân Giải phóng Nhân dân Trung Quốc - PLA) đã tải lên các đoạn phim quay từ camera giám sát một cá nhân mục tiêu. Dữ liệu được quay từ hàng trăm camera tại thành phố Thành Đô (tỉnh Tứ Xuyên), gồm camera bên ngoài các cơ sở của PLA, các viện liên kết với Tập đoàn Công nghệ Điện tử Trung Quốc và một doanh nghiệp nhà nước lớn. Người dùng này đã nhờ Kimi phân tích dữ liệu để xem người bị theo dõi có hành vi bất thường hay không.
Phía Anthropic nhận định người dùng này không hề biết dữ liệu của họ bị đẩy sang Mỹ. Họ chỉ nghĩ đang sử dụng một mô hình AI nội địa của Trung Quốc (Kimi).
Trong một trường hợp khác, một kỹ sư tại một công ty quốc doanh lớn của Trung Quốc đã sử dụng Kimi để xây một hệ thống nội bộ cho công ty. Qua đó, người này để lộ mã nguồn nội bộ và thông tin bảo mật từ nhiều công ty lớn khác của Trung Quốc, gồm nhiều hãng công nghệ nổi tiếng. Người này không hề biết yêu cầu của mình đang bị chuyển cho Claude.
Cảnh sát bán quân sự Trung Quốc đứng gần các camera giám sát ở Thượng Hải
ẢNH: REUTERS
Trung Quốc phản pháo Mỹ
Theo báo cáo của Anthropic, các công ty công nghệ lớn khác của Trung Quốc cũng thực hiện hoạt động tương tự Moonshot để dạy mô hình của họ. Phương pháp "chưng cất" này được sử dụng rộng rãi và hợp pháp trong ngành phát triển AI, nhưng Washington cho rằng các công ty Trung Quốc đã triển khai nó trên quy mô lớn để sao chép trái phép các hệ thống của Mỹ.
Cơ quan phòng thủ mạng của Mỹ hôm 8.9 cũng đưa ra một cảnh báo, cáo buộc các phòng thí nghiệm AI hàng đầu của Trung Quốc, bao gồm DeepSeek và Moonshot AI, đã đánh cắp một cách có hệ thống công nghệ Mỹ "thông qua các chiến dịch chưng cất kiến thức quy mô công nghiệp".
Website của Anthropic với logo của Claude
ẢNH: AP
Ngày 9.9, Bộ Thương mại Trung Quốc gọi cáo buộc từ phía Mỹ là "vô căn cứ", cho rằng "cách tiếp cận của Mỹ là một trường hợp điển hình của việc sử dụng việc trấn áp ngành chưng cất làm cái cớ để đạt được độc quyền công nghiệp", theo AFP.
Trong cuộc họp báo cùng ngày, người phát ngôn Bộ Ngoại giao Trung Quốc Mao Ninh nói không biết báo cáo của Anthropic và nhấn mạnh Bắc Kinh luôn duy trì nguyên tắc phát triển AI vì mục đích tốt đẹp. Bà Mao phản đối hành vi bóp méo sự thật và bôi nhọ Trung Quốc.
"Sự phát triển AI ở Trung Quốc là kết quả của việc đạt được trình độ tự chủ cao và sức mạnh trong khoa học và công nghệ. Cả Trung Quốc và Mỹ đều là những quốc gia hàng đầu trong lĩnh vực AI. Chúng ta nên tăng cường hợp tác", bà Mao nói.
Bình luận (0)