Nhà văn Shane Blackheart (Mỹ) quyết định sử dụng TikTok để phục vụ công việc, tương tác với người hâm mộ cũng như tiếp cận lượng độc giả mới. Nhưng mục đích ban đầu của ông bị phá vỡ bởi hàng loạt video nhạy cảm được gợi ý một cách tự động trong phần "For You" ở nền tảng này.
 |
Video nhạy cảm xuất hiện nhiều và tự động hiển thị trên nhiều nền tảng internet |
Emma Kumer |
"Thuật toán hiện lên hàng loạt video về phụ nữ với trang phục 'tiết kiệm vải' hoặc nhìn xuyên thấu được, cũng có khi là bán khỏa thân... Điều này khiến tôi cảm thấy không thoải mái", Shane chia sẻ với tờ Washington Post.
Vấn đề Shane Blackheart gặp phải là một thực trạng phổ biến với những người dùng mới cũng như cũ của TikTok hay các ứng dụng mạng xã hội khác hiện nay. Trên đó, nội dung được thiết kế sao cho dễ thu hút người dùng nhất, bao gồm cả việc gợi ý các video về phụ nữ hay chủ đề gây sốc cho tài khoản mới. Người dùng cũ đôi khi cũng không tránh khỏi việc phải trông thấy các nội dung bẩn xuất hiện tự động trên bảng tin gợi ý, dù họ không bao giờ theo dõi tài khoản phát video cũng như tương tác, bấm "Thích".
Cách khắc phục thường được khuyến cáo là "huấn luyện" cho thuật toán ở bảng tin dừng gợi ý các video không mong muốn nhưng sẽ tốn rất nhiều thời gian và cũng không thực sự hiệu quả.
Để làm rõ hơn, Washington Post đã thực hiện bài thực nghiệm với nhóm tình nguyện viên đang trải qua trường hợp nội dung nhạy cảm xuất hiện không mong muốn trên bảng tin ứng dụng của họ, đồng thời thử các phần mềm trong vai trò người dùng mới (không lịch sử truy cập, sử dụng). Kết quả, có tới 4 trong 5 chương trình mặc định gợi ý nội dung nhạy cảm với người dùng mới và số video này hầu như không vi phạm quy chuẩn cộng đồng của nhà phát triển.
Ứng dụng gợi ý video nhạy cảm có mục đích
Lý do nào khiến những video gây khó chịu cho người khác vẫn tự động xuất hiện? Lấy TikTok làm ví dụ. Nền tảng này sử dụng thuật toán gợi ý để tự đưa ra quyết định nội dung nào người dùng sẽ xem dựa trên hàng loạt "tín hiệu" như theo dõi nhà sáng tạo nào hay họ từng bấm "Like" cho ai. Quan trọng hơn, bảng tin video sử dụng cả những thông tin mà người xem không chủ đích chia sẻ, ví dụ họ để video chạy bao lâu hay có bấm vào xem bình luận không... Ứng dụng sẽ giả định thông tin nhân khẩu học của người xem (như độ tuổi, giới tính) mà không cần hỏi trực tiếp.
Trong thử nghiệm nói trên, TikTok là nền tảng gợi ý nội dung gây sốc nhiều nhất cho người dùng mới, nhưng điều tương tự cũng xuất hiện ở các phần mềm còn lại như Reels (trên Instagram), Snapchat, YouTube Shorts khi cố gắng sao chép lại thuật toán thành công của TikTok. Nhiều ứng dụng khác cũng có thể áp dụng chiến lược tương tự, dù không bên nào minh bạch hoàn toàn về cách hoạt động của thuật toán.
Theo các chuyên gia truyền thông xã hội, thực trạng gợi ý nội dung khiêu dâm sai đối tượng người xem đã tồn tại từ lâu, và thuật toán gợi ý thường ưu tiên nội dung gây sốc bởi chúng sinh lợi cho nhà phát triển.
"Mô hình kinh doanh của mọi nền tảng, đặc biệt mạng xã hội, là 'giữ chân' người dùng ở lại càng lâu càng tốt. Nhà phát hành thường cố gắng cung cấp cho chủ tài khoản một số nội dung nhất định để khiến họ cảm thấy hứng thú, tương tác với nền tảng. Trên thực tế, những thứ níu kéo người dùng ở lại thường là nội dung độc hại, gây tranh cãi, các vụ bê bối hay buôn chuyện tầm phào", theo Giáo sư Sandra Wachter tại Viện nghiên cứu Internet Oxford (Anh).
Thuật toán trên mạng xã hội sẽ học thói quen của người dùng qua thời gian sử dụng, nhận ra họ thích tiếp cận thông tin theo kiểu gì, liên quan tới ai... Nhưng ở lần sử dụng đầu tiên, nền tảng không có gì trong dữ liệu ngoài thông tin cơ bản như quốc gia đang cư trú, ngôn ngữ ưu tiên...
 |
Có rất nhiều cách để ứng dụng thu thập thói quen xem video của người dùng |
anedot |
"Người ta gọi vấn đề này là 'khởi động nguội'. Làm sao một người đoán được hành vi của người khác khi không hề biết tới hành vi nào?", Christian Sandvig - Giám đốc Trung tâm Đạo đức, Xã hội và Máy tính tại Đại học Michigan (Mỹ) nói. Ông lý giải thêm, để có được thứ mình muốn, ứng dụng tự động hiển thị các loại video phổ biến nhất cho người dùng mới. Và dựa trên lượt Like, bình luận trên rất nhiều video khiêu dâm đã xem, nội dung này trở nên "vô cùng phổ biến".
Khiêu dâm không phải vấn đề duy nhất
Trở lại với thực nghiệm đã nêu, chỉ cần tới video thứ 3, TikTok đã gợi ý nội dung khiêu dâm cho người dùng mới xem. Và trong vòng 5 phút, bảng gợi ý đã thể hiện rõ khuynh hướng ưu tiên nội dung nhạy cảm, gồm cả hình ảnh các cô gái trẻ ưa nhìn trong bộ đồ học sinh, hoặc trong video khác lại diễn cảnh quan hệ tình dục dù vẫn đang mặc quần áo... Nhiều video có tới hàng trăm nghìn lượt Like.
Đại diện TikTok từ chối bình luận về thông tin trên, nhưng khẳng định trong những tuần tới nền tảng sẽ ra mắt bộ lọc video theo từ khóa hoặc hashtag cũng như phát triển thêm công cụ nhằm đảm bảo giới trẻ không xem phải các nội dung người lớn.
Reels trên Instagram "khởi động" bằng video về một con rái cá dễ thương và tốn nhiều thời gian hơn (khoảng 5 phút) để bắt đầu hiện nội dung nhạy cảm. Sau đó chương trình trộn các video với chủ đề tương tự, giống như trên TikTok, bắt đầu bằng clip 2 cô gái trong trang phục nữ sinh hôn nhau.
Người phát ngôn của Instagram Christine Pai nói: "Chúng tôi để hiển thị đề xuất cho người dùng mới, ưu tiên vào bài đăng và gợi ý mà hệ thống xác định chủ tài khoản sẽ muốn xem dựa trên nhóm xu hướng, độ phổ biến hay lượt tương tác. Dù vậy công ty cũng hiểu rằng không phải lúc nào cũng đúng như mong muốn". Vị đại diện cũng khẳng định Instagram đang cố gắng cải thiện khả năng gợi ý và công cụ tùy biến cho người dùng mới trên nền tảng.
Trong khi đó, Snapchat cho chạy video từ thẻ Discover và Explore có xu hướng pha trộn video nội dung nhạy cảm lẫn gây sốc nhưng không hề vi phạm quy định của công ty. Phát ngôn viên Snapchat, bà Rachel Racusen khẳng định đơn vị đang cập nhật điều khoản hướng dẫn để "làm rõ những loại nội dung nào được tiếp cận người dùng", đồng thời tập trung vào siết chặt quản lý cũng như mức phạt cho hành vi vi phạm.
YouTube Shorts thì ngược lại, không hề xuất hiện nội dung nhạy cảm nhưng trong vòng 5 phút sử dụng đầu tiên, chương trình chạy video liên quan tới nhân vật chính trị hoặc cảnh quay người khác chỉ trích phụ nữ mặc váy ngắn, một số liên quan tới súng. Tất cả được xuất hiện ngẫu nhiên lẫn với nội dung về trò chơi điện tử, thể thao, chó mèo... "Mỗi người dùng đều trải nghiệm thông tin khác nhau và chúng tôi luôn nỗ lực để cải thiện hệ thống gợi ý nhằm giúp khách hàng tìm được nội dung họ muốn xem và thấy có giá trị", đại diện YouTube tuyên bố.
Bình luận (0)