Giáo hoàng cảnh báo tình trạng sử dụng AI kích động chia rẽ

ảnh; reuters

"Thách thức mà các hệ thống này đặt ra lớn hơn vẻ bề ngoài khi nó không chỉ đơn thuần là các công nghệ mới, mà còn là sự thay thế dần dần thực tế bằng sự mô phỏng của nó", theo AFP dẫn lời ông.

Những năm gần đây, AI nhiều lần bị cho là góp phần lan truyền thông tin sai lệch và làm gia tăng chia rẽ xã hội, theo Liên minh Viễn thông quốc tế (ITU). Các công cụ tạo nội dung tự động, đặc biệt là deepfake, cho phép tạo video, hình ảnh giả mạo với độ chân thực cao, gây nhầm lẫn và tác động đến dư luận. Ước tính của Cơ quan Nghiên cứu nghị viện châu Âu cho thấy số video deepfake trực tuyến tăng từ 500.000 năm 2023 lên 8 triệu vào năm 2025.

Trước viễn cảnh này, các chính phủ và doanh nghiệp công nghệ đã bắt đầu siết quản lý AI. Liên minh châu Âu thông qua Đạo luật AI yêu cầu minh bạch với các hệ thống rủi ro cao. Mỹ thúc đẩy các cơ chế kiểm soát tự nguyện theo khuôn khổ Kế hoạch hành động AI, còn Trung Quốc yêu cầu nội dung do AI tạo ra phải được gắn nhãn rõ ràng. Meta, Google và TikTok đã triển khai gắn nhãn nội dung AI, hạn chế deepfake liên quan chính trị và tăng cường kiểm duyệt trong các giai đoạn nhạy cảm. Tuy nhiên, nhiều chuyên gia cho rằng các biện pháp này vẫn mang tính phản ứng và chưa theo kịp tốc độ phát triển của công nghệ.