Theo CNBC, AI đang trở nên đáng sợ vì nó đã tiến gần đến việc bắt chước con người, và cải tiến trong công nghệ có thể mở ra rủi ro lớn với nền dân chủ toàn cầu. Đây cũng là quan ngại của Ủy ban xuyên Đại dương về Tính chính trực Bầu cử, tổ chức Mỹ - châu Âu. Tổ chức này chuyên chống thế lực thù địch nước ngoài can thiệp vào các cuộc bầu cử phương Tây.
Sử dụng công nghệ do hãng ASI Data Science ở London (Anh) phát triển, tổ chức ủng hộ dân chủ tập trung sự chú ý vào hiện tượng mới trong cộng đồng online có tên deepfake. Đây là video hoặc âm thanh do máy tính, thuật toán tạo dựng, có thể trông giống, nghe giống như một người nào đó có phát ngôn, hành động mà họ không hề thực hiện. ASI gây chú ý đầu năm nay nhờ làm việc với chính phủ Anh để phát hiện, loại bỏ nội dung tuyên truyền khủng bố.
Tổ chức cùng ASI vừa phát triển bài kiểm tra trực tuyến, nơi người dùng có thể nghe đoạn âm thanh từ những người “nhái” Tổng thống Mỹ Donald Trump, trong đó có giọng của diễn viên hài Alec Baldwin trong chương trình “Saturday Night Live” và người đóng giả ông Trump từng nhận thưởng, ông John Di Domenico. Bộ âm thanh cũng có đoạn âm do thuật toán tạo ra, bắt chước giọng nói của Tổng thống Mỹ.
Alec Baldwin đóng giả ông Donald Trump trong chương trình Saturday Night Live
|
Ý tưởng sau bài kiểm tra này là nếu người dùng cho rằng đoạn âm thanh do thuật toán tạo dựng nghe có phần giống ông Trump, thì không có lý do gì để ngăn cản nhiều người có ý xấu dùng công nghệ độc hại này để tác động đến ý kiến cử tri trong cuộc bầu cử.
Kết quả bài kiểm tra cho thấy hầu hết trong số 267 người tham gia cho rằng giọng nói deepfake do AI hậu thuẫn gần với giọng thật của ông Trump hơn bất cứ giọng của diễn viên đóng giả nào. Đây là một phần của chiến dịch nâng cao nhận thức về công nghệ này và khả năng tạo phần trình diễn thuyết phục của nó. Deepfake có thể trở thành mối lo ngại thật sự khi Mỹ tổ chức bầu cử tổng thống năm 2020.
Deepfake thực sự là gì?
Kết quả tạo dựng hình ảnh Tổng thống Nga Vladimir Putin bằng ông nghệ deepfake (bên phải)
|
Deepfake có dạng âm thanh và hình ảnh, được tạo ra để bắt chước người nổi tiếng, đặt câu chữ vào miệng họ hoặc chồng hình ảnh của họ lên cơ thể một người khác. Deepfake lần đầu “khét tiếng” nhờ nội dung khiêu dâm. Nhiều người dùng trang Reddit sử dụng công nghệ để thay khuôn mặt của các diễn viên phim người lớn với nhiều diễn viên tên tuổi như Scarlett Johansson hay Maisie Williams.
Nhiều người dùng ứng dụng FakeApp, được xây dựng trên nền tảng mã nguồn mở để phát triển thuật toán AI TensorFlow của Google, để làm phim khiêu dâm deepfake. Các ví dụ video deepfake sau này bao gồm việc đưa hình ảnh diễn viên Nicolas Cage vào nhiều phim khác, trong đó có "The Dark Knight Rises" và "Man of Steel”.
Giới chuyên gia lo ngại hiện tượng mới nảy sinh có thể là mối đe dọa với nền dân chủ. “Chúng tôi nhận định deepfake là thế hệ thông tin sai lệch kế tiếp”, Eileen Donahoe, thành viên Ủy ban xuyên Đại dương về Tính chính trực Bầu cử kiêm cựu đại sứ Mỹ tại Hội đồng Nhân quyền Liên Hiệp Quốc, cho hay.
Video deepfake ghi cảnh cựu Tổng thống Mỹ Barack Obama thốt ra lời mà thực chất là nhà làm phim Jordan Peele (bên phải) nói
|
Theo bà Donahoe, chính phủ các nước chưa chuẩn bị trong cảnh bị can thiệp trong các cuộc bầu cử trước, đẩy cao rủi ro deepfake được dùng để can thiệp phiếu bầu trong tương lai. Một số cuộc bầu cử đáng chú ý đã diễn ra là cuộc trưng cầu dân ý về vấn đề Brexit, tức Anh rời Liên minh châu Âu (EU) và cuộc bầu cử Tổng thống Mỹ với cáo buộc bị Nga can thiệp.
Bài kiểm tra mà Ủy ban xuyên Đại dương về Tính chính trực Bầu cử thực hiện cũng là nỗ lực kiểm tra tính lan truyền trên internet. Khi được hỏi về lý do vì sao chọn ông Trump làm chủ đề, bà Donahoe đáp: “Ông ấy đã tạo sẵn thế để mọi người lo ngại về việc xói mòn niềm tin vào thông tin”.
Trang Buzzfeed mới đây cũng khai thác ý tưởng deepfake, tạo video thông tin đại chúng sử dụng FakeApp kết hợp cảnh quay đã được thay đổi của cựu Tổng thống Mỹ Barack Obama đang phát biểu với lời của nhà làm phim Jordan Peele. Quá trình tạo ra video deepfake của Buzzfeed không đơn giản vì mất hơn 65 giờ cho hoạt động xử lý tự động.
Bình luận (0)