Theo Reuters, Anthropic phát hiện những sự cố trên sau khi rà soát lại 141.006 phiên thử nghiệm. Cuộc rà soát được tiến hành sau khi OpenAI, nhà phát triển ChatGPT, hồi tuần trước tiết lộ một tác nhân AI (hệ thống được thiết kế để thực hiện các tác vụ cụ thể) bất ngờ thực hiện một cuộc tấn công tự phát nhằm vào một công ty khởi nghiệp.
Anthropic kiểm tra hoạt động của Claude sau sự cố của OpenAI
Ảnh: Reuters
Anthropic cho hay sự cố liên quan Claude xảy ra do một sai sót khiến các mô hình AI của hãng truy cập được internet công cộng. Cụ thể là trong quá trình chạy thử, các mô hình được báo là không có quyền truy cập mạng, nhưng một sai sót xảy ra đã khiến các hệ thống kết nối được với internet công cộng. "Claude đã xâm nhập hạ tầng của các tổ chức bị ảnh hưởng bằng những kỹ thuật cơ bản như khai thác mật khẩu yếu và các điểm truy cập không yêu cầu xác thực", theo Anthropic. Điều này khác với trường hợp các tác nhân AI của OpenAI tự khai thác một lỗ hổng mới để kết nối với internet.
Nỗ lực kiểm soát sau vụ AI 'nổi loạn'
Dù vậy, công bố mới của Anthropic cho thấy rõ AI đang gia tăng mối đe dọa đối với an ninh mạng và những nhà phát triển các công cụ này đang nỗ lực đến mức nào trong việc kiểm soát năng lực ngày càng tăng mạnh của các mô hình AI. Trong bối cảnh Anthropic và OpenAI đang chạy đua để tung ra những hệ thống mạnh hơn trước, diễn biến trên nhiều khả năng tiếp thêm động lực cho các nỗ lực của chính phủ Mỹ nhằm tăng cường quản lý rủi ro trong quá trình sử dụng AI, theo Reuters.
Bình luận (0)