Hãng công nghệ Anthropic của Mỹ ngày 10.9 thông báo rằng trong vài tháng qua đã ngăn chặn nhiều nỗ lực của các đối tượng xấu nhằm lợi dụng mô hình AI của hãng để thực hiện những hoạt động độc hại như tấn công mạng, do thám và nghiên cứu có thể nhằm phát triển vũ khí sinh học, theo AP. Cụ thể, từ tháng 12.2025 đến tháng 8.2026, các nhà nghiên cứu tại Anthropic - nhà phát triển mô hình Claude - đã phát hiện hành vi xấu của nhiều nhóm đối tượng, từ những hãng bán phần mềm gián điệp, các cá nhân có động cơ chính trị cho đến những nhóm tuyên truyền được nhà nước bảo trợ.
Cảnh báo đáng sợ về nguy cơ siêu trí tuệ nhân tạo đặt ra cho nhân loại
Trong một số trường hợp đáng chú ý nhất, Anthropic phát hiện và ngăn chặn hành vi sử dụng mô hình AI để hỗ trợ cho các nghiên cứu tăng cường chức năng vi rút gây bệnh sốt chikungunya do muỗi đốt, cùng các nghiên cứu về các mầm bệnh, nọc độc khác. Bên cạnh đó, Anthropic phát hiện một nhóm đối tượng sử dụng Claude để phát triển phần mềm cho vũ khí quy ước như súng, tên lửa, bom đạn, UAV và các hệ thống nhắm mục tiêu, kiểm soát.
Logo Anthropic trên màn hình điện thoại
ẢNH: REUTERS
Công ty Mỹ cũng cáo buộc nhiều hãng công nghệ Trung Quốc trích xuất dữ liệu từ nền tảng của mình để huấn luyện mô hình AI do họ phát triển. Cụ thể, thay vì trả lời truy vấn từ người sử dụng, các hãng Trung Quốc âm thầm chuyển yêu cầu đó sang cho Claude và sử dụng câu trả lời làm dữ liệu huấn luyện. Hôm qua, Bộ Ngoại giao Trung Quốc tuyên bố nước này luôn chủ trương phát triển AI vì mục đích tốt đẹp, đồng thời kiên quyết phản đối việc xuyên tạc sự thật cũng như các hành động công kích, bôi nhọ nhắm vào Trung Quốc, theo Hoàn Cầu thời báo.
Báo cáo được công bố sau khi nhà nghiên cứu Jacob Coxon của Anthropic quyết định nghỉ việc và đưa ra cảnh báo chấn động rằng công ty này cùng đối thủ OpenAI đang chạy đua phát triển các siêu AI và đánh cược tính mạng của nhân loại. Ông Coxon cùng một số đồng nghiệp tin rằng AI có thể xóa sổ loài người trong vòng 10 năm tới. Ngoài nguy cơ mô hình AI bị sử dụng cho mục đích xấu, thời gian qua đã có nhiều lo ngại từ những người trong và ngoài ngành về khả năng các mô hình này âm thầm "nổi loạn" và vượt ra khỏi tầm kiểm soát của con người, như những vụ việc đã được công bố rộng rãi vài tháng gần đây.
Các ứng dụng AI nổi tiếng trên màn hình điện thoại
ẢNH: AFP
Giới chuyên gia đã kêu gọi các chính phủ ban hành quy định quản lý công nghệ này. Theo Reuters, ngày càng có nhiều nghị sĩ Mỹ kêu gọi ban hành các quy tắc mới để quản lý hệ thống AI sau những cảnh báo nghiêm trọng từ hai nhà nghiên cứu của Anthropic. Tuy nhiên, quan điểm được Nhà Trắng đưa ra tại hội nghị G20 mới đây là không tạo rào cản pháp lý riêng biệt cho AI, ưu tiên tốc độ phát triển công nghệ để bảo vệ lợi thế cạnh tranh của Mỹ. Tổng thống Donald Trump ngày 10.9 nói không lo ngại về việc AI có thể khiến loài người tuyệt chủng, mà lo rằng "nếu chúng ta không thắng về AI, chúng ta sẽ bị đặt vào vị thế rất xấu. Chúng ta đang dẫn trước Trung Quốc một khoảng cách khá tốt".
Bình luận (0)