Mối nguy từ thuật toán của TikTok

Khai thác người dùng

Theo báo cáo kỹ thuật công bố hồi năm ngoái bởi ByteDance - công ty phát triển nên nền tảng TikTok, hệ thống đề xuất video cho người dùng của TikTok được thiết kế để đáp ứng sở thích của từng người dùng bằng cách cung cấp nguồn cấp nội dung được cá nhân hóa. Tính năng này có được bằng cách kết hợp giữa thuật toán học sâu và xử lý dữ liệu theo thời gian thực.

Cốt lõi của hệ thống là một mô hình AI tiên tiến có tên là Monolith - được giới thiệu như một công cụ mới giúp các doanh nghiệp tạo ra các đề xuất tốt hơn, được cá nhân hóa cho khách hàng của họ bằng cách học hỏi từ các hành động của họ trong thời gian thực.

Nhật Thịnh

Thuật toán trí tuệ nhân tạo của TikTok được thiết kế dựa trên nguyên tắc "lấy người dùng làm trung tâm", cho phép nó tự hoàn thiện chính nó dựa trên hành vi sử dụng của người dùng. Mô hình này liên tục học dữ liệu tương tác của người dùng theo thời gian thực, lập tức phản hồi bằng một nội dung mới mà chắc chắn người dùng buộc phải tương tác. Vòng lặp này được lặp lại mãi mãi trong quá trình một người sử dụng TikTok nhằm tạo ra một AI "phục vụ" nhu cầu của riêng từng người dùng.

Các video trên TikTok sẽ được phân loại thành nhiều chỉ mục nội dung. Có thể hình dung cách làm này giống như một thủ thư sắp xếp sách trong thư viện. Thay vì xếp tất cả sách thành một chồng lớn, người thủ thư chia chúng thành các danh mục như sách khoa học, lịch sử hoặc văn chương lãng mạn. Bằng cách này, khi ai đó tìm kiếm một loại sách cụ thể, thủ thư có thể nhanh chóng tìm và giới thiệu những cuốn sách có liên quan. Tương tự, TikTok sắp xếp dữ liệu và nội dung của người dùng thành các danh mục để ứng dụng có thể đề xuất nội dung mà mỗi người dùng có khả năng quan tâm nhất.

Cơ chế phân loại dữ liệu trên kết hợp với một tính năng khác là "đáp ứng thời gian thực". Đây là tính năng quan trọng trong hệ thống đề xuất của TikTok, cho phép nó có khả năng thích ứng với những thay đổi về sở thích và hành vi của người dùng trong thời gian thực. Nói cách khác, hệ thống Monolith cập nhật mô hình của nó liên tục, học hỏi từ các tương tác của người dùng và đồng bộ hóa dữ liệu trong khoảng thời gian ngắn.

Gây nghiện cho người dùng, làm nội dung bất chấp

Trong khi đó, với một số mạng xã hội khác, thuật toán được thiết kế theo dạng phân tích liên kết để hiểu người dùng một cách 1 chiều. Họ gọi đó là phân tích để "hướng mục tiêu", từ đó gợi ý các sản phẩm khác của họ, thí dụ như các hội nhóm, trang thông tin hoặc sản phẩm quảng cáo. Cách làm này hướng tới việc thúc đẩy sự tương tác giữa các tài khoản người dùng với nhau nhằm mở rộng kết nối.

TikTok chọn mục tiêu của thuật toán là kích thích người dùng "nghiện" việc tiêu thụ nội dung trên nền tảng của họ bằng chính các video do người dùng đăng tải lên. Với cách thiết kế này, hệ thống của TikTok sẽ luôn "đói" các nội dung thỏa mãn người dùng. Hệ quả là thuật toán sẽ có xu hướng đẩy càng nhiều nội dung càng tốt, bất kể là nội dung rác hay nội dung có ích cho người dùng.

Nhật Thịnh

Thêm vào đó, hầu hết các video trên TikTok đều có thời lượng rất ngắn nên quá trình hiểu được cách thỏa mãn nhu cầu nhất thời của người dùng diễn ra trong thời gian cực nhanh. Điều này đồng nghĩa với việc AI của TikTok sẽ rất nhanh để có thể hiểu được người dùng thỏa mãn với loại video nào và từ đó, nó tiếp tục đề xuất các nội dung để khiến họ nghiện.

Khi mà áp lực sản sinh ra nội dung lúc nào cũng ở mức cao thì chất lượng các video sẽ có xu hướng càng kém đi. Yêu cầu đặt ra cho các video do TikToker tạo ra và đăng tải trên nền tảng này cuối cùng chỉ đơn thuần là làm sao để người xem ở lại với video đó lâu hơn, từ đó tăng cơ hội giúp kênh được nhiều người biết tới. Đứng trước điều này, các TikToker sẽ có xu hướng tìm mọi cách để đạt được mục tiêu, bao gồm khả năng dùng những "thủ thuật" quay video có nội dung giật tít, câu view hoặc thậm chí là video có nội dung hoàn toàn bịa đặt, sai sự thật nhằm kích thích sự tò mò của người khác.

Một trong những cách làm khác có thể được các TikToker khai thác là sản xuất những video theo các xu hướng đang được thịnh hành ở một thời điểm trên TikTok. Chỉ cần tạo nên những loạt video đang được thịnh hành và có gắn hashtag, cơ hội được "bắt trend" sẽ tăng lên, đồng nghĩa với việc các video này sẽ tiếp cận tới nhiều người xem hơn. Chính điều này sẽ đưa những người làm nội dung video trên TikTok lẫn người xem vào một vòng lặp bất tận của việc quay và xem những video mà thậm chí, có thể đó chỉ là video mà thuật toán "muốn" họ xem, bất kể nội dung của nó ra sao.

Những hậu quả đau lòng

Trong phiên điều trần của Tổng giám đốc TikTok Shou Zi Chew tại quốc hội Mỹ ngày 23.3, các nghị sĩ cáo buộc thuật toán của TikTok đã đề xuất những nội dung độc hại, "dẫn đến cái chết" của những người trẻ ở Mỹ.

Một trong những trường hợp được nhắc đến là thiếu niên Chase Nasca, sống tại Suffolk, bang New York. Hồi tháng 3, gia đình cậu bé 16 tuổi khởi kiện TikTok và công ty mẹ ByteDance vì mạng xã hội này đề xuất cả ngàn video với nội dung gây trầm cảm, bạo lực, kích thích nạn nhân tự gây thương tích cho cơ thể và tự sát, theo tờ New York Post. Ngày 18.2.2022, khi đang trên đường về nhà, Nasca dừng lại trên đường ray xe lửa và bị đoàn tàu tông tử vong sau khi nhắn tin nói với bạn rằng "tớ không thể tiếp tục nữa".

Các nghị sĩ cũng nhắc đến "thử thách Benadryl" phổ biến trên TikTok vào năm 2020 đã khiến một thiếu niên Mỹ thiệt mạng khi làm theo. Thử thách kêu gọi người thực hiện uống quá liều loại thuốc kháng sinh diphenhydramine (được bán phổ biến tại Mỹ với tên Benadryl) và quay lại cảnh bị say thuốc, ảo giác. Rạng sáng 21.8.2020, cô bé Chloe Marie Phillips (15 tuổi) tại bang Oklahoma được phát hiện tử vong sau khi tham gia thử thách này.

Tháng 12.2021, Nylah Anderson (10 tuổi) thiệt mạng ở ngoại ô TP.Philadelphia, bang Pennsylvania, được cho là sau khi thực hiện "thử thách ngạt thở" (hay còn gọi là thử thách bất tỉnh) được lan truyền trên TikTok. Thử thách này khuyến khích người chơi tự siết cổ cho đến khi bất tỉnh và sau đó đăng video lên mạng.