Công cụ AI phát hiện tin giả của Facebook bị qua mặt ra sao?

Nhóm vận động phi lợi nhuận Avaaz đã tiến hành một nghiên cứu và tìm ra điểm hạn chế cơ bản của công cụ kiểm tra tin giả mà Facebook đang sử dụng. Nhiều trang lan truyền tin giả đã thành công trong việc nghĩ ra cách qua mặt nó.

Khi kiểm tra một bài đăng bị báo cáo, hệ thống trí tuệ nhân tạo (AI) trong công cụ sẽ gắn cờ và dán nhãn cảnh báo các phiên bản khác nhau của bài đăng. Tuy nhiên, trang lan truyền tin giả chỉ cần chỉnh sửa một chút trên hình ảnh là sẽ "thuận buồm xuôi gió".

Nhóm nghiên cứu của Avaaz đã xem xét 119 trang phát tán tin giả có “sai phạm lặp lại”, với số lần tái phạm tối thiểu là ba, để hiểu cách chúng đã vượt qua hệ thống AI của Facebook như thế nào.

Hóa ra, tất cả những gì chúng làm là thay đổi màu nền hoặc kiểu chữ trên hình ảnh gốc, hoặc thay đổi vị trí của văn bản, cũng như cắt bớt tỷ lệ ảnh. Còn có cách lấy đoạn văn bản từ hình ảnh gốc và đưa lên một hình ảnh khác. Đơn giản hơn, chúng có thể gõ lại đoạn văn bản xuất hiện trong hình ảnh và đăng dưới dạng dòng trạng thái (status). Tất cả phương thức này sẽ giúp né tránh thành công hệ thống AI của Facebook, tức là các phiên bản tạo ra sẽ không bị dán nhãn cần xác thực hoặc cảnh báo.

Avaaz ước tính 119 trang phát tán tin giả trên đã đạt 5,2 tỉ lượt xem từ tháng 8.2019 đến tháng 8.2020. Các phiên bản thay thế được tạo ra từ những bài đăng bị Facebook kiểm duyệt đã đạt 141 triệu lượt xem, với 5,6 triệu lượt tương tác.

Ở Mỹ, những thông tin giả có xu hướng xoay quanh giới chính trị gia. Điều này có thể liên quan đến việc họ được miễn trừ khỏi nhiều quy tắc của Facebook. Dẫu vậy, thông tin giả mà họ đăng tải vẫn có khả năng bị Facebook "tóm" nếu trước đó nó từng bị đưa vào danh sách đen. Nhưng nếu các chính trị gia áp dụng những phương thức mà Avaaz đã tìm ra thì họ sẽ an toàn.

Avaaz đã trình bày phát hiện cho Facebook trước khi công bố nghiên cứu. Nhóm cho biết Facebook đã thêm nhãn cảnh báo vào 4% trong số 738 bài đăng mà nhóm báo cáo. Mạng xã hội cũng loại bỏ 3% khác. Tuy nhiên, phần lớn chúng vẫn còn trên nền tảng mà không bị gắn nhãn cảnh báo.