Trung Quốc ra quy định hạn chế deepfakes

Theo Neowin, các quy định cũng nghiêm cấm việc mô tả hoặc phát biểu bất cứ điều gì có thể được coi là đi ngược lại lợi ích quốc gia, cũng như việc sử dụng deepfakes để lừa dối hoặc vu khống. Deepfakes là công nghệ đang gây tranh cãi vì chúng sử dụng trí tuệ nhân tạo (AI) để tạo ra các video giả mạo một người nói hoặc làm những điều mà họ không hề thực hiện. Công nghệ này có khả năng đánh lừa người xem và gây ra vấn đề cho những người được mô tả trong video.

Deepfakes đang là vấn đề đau đầu tại nhiều nơi trên thế giới

reuters

Không chỉ Trung Quốc mà deepfakes cũng đã gây ra cuộc tranh luận ở nhiều quốc gia trên thế giới vì những lo ngại tương tự. Đầu năm nay, Liên minh châu Âu (EU) đã đưa ra các quy tắc nhằm hạn chế sử dụng deepfakes để chống lại tin tức giả mạo trên mạng xã hội.

Mặc dù vậy, các quy định cũng cho thấy Trung Quốc vẫn muốn deepfakes sẽ được sử dụng rộng rãi trong tương lai khi họ cho phép sử dụng deepfakes dùng trong các ứng dụng như chatbot, miễn là chúng được dán nhãn rõ ràng là sáng tạo kỹ thuật số.

CAC cũng đề cập đến việc sử dụng deepfakes của các nhà xuất bản trực tuyến. Các nhà xuất bản này phải tính đến các quy tắc khác của Trung Quốc về nội dung trực tuyến được chấp nhận khi sử dụng deepfakes trong các ấn phẩm của họ.

Các quy định áp dụng cho “các nhà cung cấp dịch vụ tổng hợp sâu”, các nền tảng sử dụng học sâu hoặc thực tế ảo để thay đổi nội dung trực tuyến. Những yêu cầu này bao gồm nhu cầu về các thuật toán và mô hình AI/ML chính xác và được sửa đổi thường xuyên, cũng như nhu cầu đảm bảo tính bảo mật của bất kỳ dữ liệu nào được thu thập. Ngoài ra, các quy định yêu cầu đăng ký người dùng, bao gồm cả việc sử dụng tên thật của họ, để ngăn chặn các cá nhân không xác định lạm dụng công nghệ.

Quy định của CAC được đưa ra nhằm đảm bảo rằng việc sử dụng deepfakes ở Trung Quốc sẽ tránh được những nhược điểm tiềm ẩn và thay vào đó mang lại lợi ích cho quốc gia. Các quy định nêu rõ rằng deepfakes phải “thúc đẩy sự phát triển lành mạnh của các dịch vụ thông tin trên internet và duy trì một hệ sinh thái tốt của không gian mạng”.

Dự kiến các quy định về deepfakes của CAC sẽ bắt đầu có hiệu lực vào ngày 10.1.2023.