Ứng dụng AI người Mỹ ưa dùng lại đưa tin nhảm, có gốc Trung Quốc

Trong đêm Giáng sinh năm ngoái, NewsBreak, ứng dụng miễn phí có nguồn gốc từ Trung Quốc và là ứng dụng tin tức được tải xuống nhiều nhất ở Mỹ, đã đăng một bản tin báo động về một vụ xả súng ở một thị trấn nhỏ. Thông tin đó có tiêu đề "Bi kịch ngày Giáng sinh tấn công Bridgeton, New Jersey trong bối cảnh bạo lực súng đạn gia tăng ở các thị trấn nhỏ".

Reuuters

Vấn đề là không có vụ nổ súng nào như trên đã xảy ra. Cơ quan cảnh sát thành phố Bridgeton, thuộc bang New Jersey (Mỹ) đăng thông báo trên Facebook ngày 27.12.2023 khẳng định bản tin đó, vốn được sản xuất bằng công nghệ trí tuệ nhân tạo (AI), là "hoàn toàn sai sự thật".

"Thậm chí không có điều gì tương tự như câu chuyện này xảy ra vào hoặc xung quanh Giáng sinh, hoặc kể cả trong ký ức gần đây đối với khu vực mà họ mô tả. Có vẻ như AI của hãng "tin" này viết tiểu thuyết mà họ không gặp vấn đề gì khi xuất bản", cảnh sát Bridgeton nói trong thông báo.

NewsBreak, có trụ sở chính tại thành phố Mountain View thuộc bang California (Mỹ) và có văn phòng tại Bắc Kinh và Thượng Hải (Trung Quốc), nói với Reuters rằng họ đã xóa bản tin trên vào ngày 28.12.2023, bốn ngày sau khi xuất bản. Công ty NewsBreak giải thích rằng "thông tin không chính xác bắt nguồn từ nguồn nội dung".

Hơn 50 triệu người dùng mỗi tháng?

Khi nhiều hãng tin và tờ báo địa phương trên khắp nước Mỹ đóng cửa trong những năm gần đây, NewsBreak đã lấp đầy khoảng trống, theo Reuters. Tự nhận mình là "nguồn cung cấp mọi thứ ở địa phương", Newsbreak tuyên bố họ có hơn 50 triệu người dùng mỗi tháng.

Newsbreak xuất bản nội dung được cấp phép từ các phương tiện truyền thông lớn, trong đó có Reuters, Fox, và CNN cũng như một số thông tin thu được bằng cách tìm kiếm tin tức địa phương hoặc thông cáo báo chí trên internet do công ty viết lại với hỗ trợ của AI. Ứng dụng NewsBreak hiện chỉ có thể được sử dụng ở Mỹ.

Tuy nhiên, trong ít nhất 40 trường hợp kể từ năm 2021, việc sử dụng các công cụ AI của ứng dụng NewsBreak đã ảnh hưởng đến cộng đồng mà ứng dụng này cố gắng phục vụ. Reuters chỉ ra Newsbreak xuất bản những câu chuyện không chính xác; tạo ra 10 câu chuyện từ các trang tin địa phương rồi để tên tác giả không có thật.

Reuters đã nói chuyện với 7 cựu nhân viên của NewsBreak, trong đó có 5 người khẳng định hầu hết công việc kỹ thuật đằng sau thuật toán của ứng dụng này được thực hiện tại các văn phòng ở Trung Quốc.

Reuters

Hai chương trình cộng đồng địa phương hỗ trợ những người có hoàn cảnh khó khăn nói với Reuters rằng họ bị ảnh hưởng bởi những câu chuyện sai sự thật do AI của NewsBreak tạo ra.

Trong ba lần vào tháng 1, tháng 2 và tháng 3, Food to Power, một ngân hàng thực phẩm có trụ sở tại bang Colorado cho hay họ đã phải từ chối mọi người vì NewsBreak nêu sai thời điểm phân phát thực phẩm. Food to Power đã khiếu nại với NewsBreak trong một email ngày 30.1 tới địa chỉ email hỗ trợ khách hàng chung của NewsBreak. Food to Power khẳng định họ không nhận được phản hồi từ NewsBreak.

Harvest912, một tổ chức từ thiện ở bang Pennsylvania, đã gửi email cho NewsBreak về hai bản tin dựa trên AI không chính xác rằng Harvest912 đang tổ chức một phòng khám chăm sóc chân 24 giờ cho những người vô gia cư, yêu cầu NewsBreak dừng đưa tin không chính xác.

"Quý vị đang gây hại bằng cách công bố thông tin sai lệch này, những người vô gia cư sẽ đi bộ đến những địa điểm này để đến khám tại một phòng khám mà không có hoạt động đang diễn ra", Harvest912 nói với NewsBreak, trong email ngày 12.1 mà Reuters xem được.

Trả lời câu hỏi của Reuters, NewsBreak nói rằng họ đã xóa tất cả 5 bản tin về các tổ chức từ thiện sau khi biết rằng chúng không chính xác và các bản tin đó được dựa trên thông tin không chính xác trên trang web của một số tổ chức từ thiện.

Newsbreak tạo ra doanh thu bằng cách hiển thị quảng cáo cho người dùng, chủ yếu là phụ nữ trên 45 tuổi, không có bằng đại học và sống ở các vùng ngoại ô hoặc nông thôn của Mỹ, theo 7 nhân viên cũ và bài thuyết trình của công ty năm 2021 được Reuters xem xét.

Một nửa số nhân viên làm việc tại Trung Quốc

Newsbreak ra mắt tại Mỹ vào năm 2015 với tư cách là công ty con của Yidian, một công ty tổng hợp Trung Quốc có ứng dụng tổng hợp tin tức Yidian. Cả hai công ty đều được thành lập bởi ông Jeff Zheng, hiện là Tổng giám đốc NewsBreak.

Công ty NewsBreak cho hay ông Zheng, sinh ra ở Trung Quốc, là thường trú nhân tại Mỹ và gia đình ông đã chuyển đến Mỹ vào đầu năm ngoái. Năm trong số cựu nhân viên NewsBreak cho hay ông Zheng phân chia thời gian của mình giữa Trung Quốc và Mỹ.

NewsBreak là một công ty khởi nghiệp tư nhân, nhận được sự ủng hộ chính từ công ty tư nhân Francisco Partners có trụ sở tại thành phố San Francisco (Californina) và công ty IDG Capital có trụ sở tại Bắc Kinh, theo đại diện NewsBreak nói với Reuters. Francisco Partners từ chối trả lời các câu hỏi về khoản đầu tư vào NewsBreak, còn IDG Capital không trả lời các yêu cầu bình luận được gửi qua email.

Vào tháng 2, IDG Capital đã bị đưa vào danh sách hàng chục công ty Trung Quốc mà Lầu Năm Góc nói rằng bị cho là đang hợp tác với quân đội Trung Quốc. IDG Capital khẳng định với Hãng tin Bloomberg vào tháng 2 rằng họ không có liên kết với quân đội Trung Quốc và không thuộc danh sách đó.

Trong khi đó, công ty Yidian đã thoái vốn khỏi NewsBreak vào năm 2019 vì "đội ngũ quản lý của công ty vào thời điểm đó không hiểu thị trường Mỹ", theo ông Zheng. Yidian tiếp tục mô tả NewsBreak là phiên bản Mỹ trên trang web của mình cho đến năm 2021, theo trang The Wire China. Phát ngôn viên NewsBreak khẳng định hiện không có mối quan hệ thương mại nào với Yidian.

NewsBreak cho hay khoảng một nửa trong số 200 nhân viên của công ty làm việc tại Trung Quốc, nơi họ tham gia vào hoạt động nghiên cứu và phát triển. Danh sách do công ty công bố năm 2022 cho thấy 100 trong số 137 kỹ sư của NewsBreak vào thời điểm đó làm việc tại Trung Quốc, theo Reuters.

Một nguồn tin từ Ủy ban Đối ngoại Hạ viện Mỹ nói với Reuters rằng việc Newsbreak sử dụng các kỹ sư ở Trung Quốc làm dấy lên lo ngại rằng dữ liệu về người dùng Mỹ có thể bị truy cập ở Trung Quốc.