Trong một báo cáo công bố ngày 10.9, Anthropic - công ty AI nổi tiếng với mô hình Claude - cho biết họ coi việc lạm dụng AI vào mục đích sinh học là một trong những "rủi ro nghiêm trọng nhất" đối với các mô hình trí tuệ nhân tạo, theo CNN.
Logo của Anthropic
ẢNH: REUTERS
Báo cáo mới nêu chi tiết 5 trường hợp thực tế mà trong đó người dùng đã "vượt qua các biện pháp kiểm soát" (vốn chặn người dùng từ một số khu vực cụ thể) và "thực hiện các nỗ lực khác nhằm che giấu mục đích nghiên cứu để qua mặt các cơ chế bảo vệ". Các ví dụ này bao gồm nghiên cứu có khả năng liên quan việc tăng cường chức năng (gain-of-function) của mầm bệnh, liên quan cả các bệnh truyền nhiễm như cúm gia cầm lẫn các loại nọc độc và độc tố mới.
Sau khi xem xét dữ liệu hoạt động trong 30 ngày, Anthropic cho biết đã xác định được khoảng 35 "nỗ lực nghiên cứu riêng biệt" có các hoạt động tiềm ẩn nguy cơ đáng lo ngại. Tuy nhiên, công ty thừa nhận không thể khẳng định chắc chắn liệu các cá nhân này có "ý định gây hại" hay đang thực hiện nghiên cứu vì mục đích khoa học chính đáng.
Anthropic cho biết những cá nhân trong các trường hợp này là "các nhà khoa học đang hành nghề" nhưng không nêu tên các tổ chức nghiên cứu hay quốc gia nơi diễn ra các hoạt động đó.
Một trong những trường hợp được nêu chi tiết trong báo cáo liên quan đến yêu cầu hỗ trợ viết hồ sơ xin tài trợ cho nghiên cứu tăng cường chức năng về khả năng lây truyền và khả năng né tránh hệ miễn dịch của virus chikungunya - lây qua đường muỗi đốt.
Trong một trường hợp khác, một nhà nghiên cứu bên ngoài Mỹ đã sử dụng Claude để thực hiện công việc nghiên cứu về cúm gia cầm, tập trung vào khả năng thích nghi của virus với động vật có vú và cơ chế gây bệnh nghiêm trọng của chúng.
Báo cáo cũng nêu chi tiết các trường hợp nghiên cứu về nhóm virus orthopoxvirus - nhóm bao gồm virus variola (gây bệnh đậu mùa) và virus mpox (đậu mùa khỉ) - cũng như các loại độc tố từ nọc độc.
Anthropic cho biết có bằng chứng cho thấy các biện pháp bảo vệ mà họ đang áp dụng đang phát huy hiệu quả, nhưng các hệ thống an toàn mạnh mẽ hơn nữa sẽ cần thiết khi các mô hình AI và các mối đe dọa tiềm tàng trở nên tinh vi hơn.
Báo cáo được đưa ra trong bối cảnh có nhiều cảnh báo từ chính những người trong ngành về sự an toàn của AI, lo ngại rằng sự phát triển quá nhanh của công nghệ có thể vượt tầm kiểm soát của con người.
Hiện tại, các công ty AI chủ yếu tự quản lý hoạt động của mình. Vào tháng 7, gần 1.400 nhân viên của các công ty trí tuệ nhân tạo đã ký một bức thư ngỏ kêu gọi chính phủ Mỹ ban hành quy định về công nghệ này để kiềm chế các tập đoàn công nghệ lớn và làm chậm tốc độ phát triển của AI nhằm đảm bảo an toàn.
Bình luận (0)