Hãng AP ngày 10.9 dẫn lời nhà nghiên cứu Jacob Coxon tại Công ty Anthropic (Mỹ) cho hay ông quyết định nghỉ việc do lo ngại công ty trí tuệ nhân tạo (AI) này và các đối thủ cạnh tranh không phát triển AI một cách có trách nhiệm. "Họ đang chạy đua thẳng tới siêu trí tuệ nhân tạo có khả năng tự cải thiện và đánh cược với mạng sống của chúng ta", ông Coxon viết trên X.
Lo ngại gia tăng
Theo ông Coxon, những người đang phát triển AI thực sự tin rằng công nghệ này có thể hủy diệt nhân loại trước khi thập niên này kết thúc. "Thực tế, nhiều lãnh đạo và nhà nghiên cứu cấp cao thường diễn đạt chừng mực khi trả lời báo chí, nhưng lại bày tỏ lo sợ khi trò chuyện riêng. Chưa từng có hoạt động nào khác của con người lại tiềm ẩn mức độ nguy hiểm lớn đến vậy", ông Coxon cảnh báo.
Robot tại cuộc biểu tình kêu gọi kiểm soát phát triển AI tại Warsaw (Ba Lan) ngày 7.9
ẢNH: AFP
Bài đăng của ông Coxon thu hút hơn 140 triệu lượt xem chỉ sau một ngày. Ông dự báo sẽ sớm có các siêu hệ thống có thể xâm nhập bất cứ đâu, tạo ra cuộc cách mạng trong mọi lĩnh vực chỉ sau một đêm, cũng như nắm giữ quyền lực và nguồn lực thực sự. Ít nhất 2 nhân viên khác tại Anthropic chia sẻ lo ngại trên, trong đó ông Evan Hubinger, trưởng nhóm nghiên cứu về đồng bộ AI, cho rằng xác suất "AI giết tất cả mọi người" trong vòng 10 năm tới là trên 10%. Đồng nghiệp thứ 2 là ông Samuel Marks tiết lộ rằng nhân viên trong công ty ở cấp càng cao thì lo ngại càng nhiều hơn.
Trước đó, Cao ủy nhân quyền LHQ Volker Turk ngày 7.9 cảnh báo về nguy cơ của AI đối với nhân loại, đồng thời cam kết gây sức ép buộc các công ty AI phải giảm thiểu những rủi ro.
Dấu hiệu ngày càng nhiều
Trong khi đó, ngày càng xảy ra nhiều vụ việc liên quan khả năng AI phát triển vượt tầm kiểm soát. Reuters ngày 10.9 đưa tin các hệ thống AI do OpenAI triển khai đã sử dụng hơn 10 trang web chưa từng được công bố trước đó để thực hiện các hoạt động liên lạc không được cấp phép trong năm nay. Các hệ thống AI của OpenAI cũng đã chiếm quyền kiểm soát một trang web tiếng Đức và biến nó thành bảng tin dành cho các hệ thống AI khác.
Ngày 9.9, Anthropic tiết lộ trường hợp thứ 4 ghi nhận việc mô hình AI xâm nhập trái phép vào các hệ thống bên ngoài khi thử nghiệm. Hồi tháng 7, Anthropic từng thông báo rằng một số mô hình Claude của công ty đã xâm nhập hệ thống của 3 công ty trong các bài kiểm tra an ninh mạng. Theo BBC, OpenAI, Anthropic và Meta đều đã công bố các vụ tấn công mạng do các công cụ AI của những công ty này thực hiện.
Các công ty AI lên tiếng
Theo hãng tin Reuters ngày 10.9, OpenAI đang kêu gọi Quốc hội Mỹ thông qua các quy định về an toàn AI, bao gồm tiêu chuẩn kiểm thử, đánh giá độc lập, biện pháp bảo vệ an ninh mạng và quy tắc báo cáo sự cố đối với các hệ thống AI tiên tiến nhất. OpenAI cho biết khả năng AI hoạt động độc lập và tự tạo ra các thế hệ AI kế tiếp hiện chưa diễn ra và chúng ta không nên theo đuổi nó cho đến khi việc này có thể được thực hiện một cách an toàn. Ngày 27.8, hơn 100 công ty, trong đó có OpenAI, Anthropic và Microsoft, ký một lá thư mở cảnh báo rằng các cuộc tấn công mạng có AI hỗ trợ sẽ trở nên phổ biến và tinh vi hơn nhiều, khi các mô hình trên thế giới ngày càng mạnh mẽ. Bên cạnh đó, lá thư kêu gọi biến tiến bộ AI hôm nay thành cải thiện lâu dài về bảo mật, mang lại lợi ích cho tất cả mọi người.
Bình luận (0)