The Guardian ngày 18.9 đưa tin Google đã thông tin về sự cố từng xảy ra vào tháng 5 trong quá trình đánh giá an ninh mạng do Irregular, một công ty khởi nghiệp có trụ sở tại Israel, thực hiện.
Irregular đã thử nghiệm mô hình AI trong một môi trường giả lập khép kín (không kết nối mạng). Tuy nhiên, do quá trình thử nghiệm vô tình kết nối internet, mô hình AI đã có thể xâm nhập vào hệ thống của những công ty bên ngoài.
Biểu tượng của AI Gemini
ẢNH: REUTERS
Ở vụ việc đầu tiên, Irregular đã tự tạo ra một công ty giả lập để thử nghiệm AI, thế nhưng tên công ty này lại trùng với một doanh nghiệp có thật. Khi kết nối internet, AI Gemini đã đoán đúng mật khẩu và xâm nhập thành công vào dịch vụ của công ty thật.
Ở 2 trường hợp còn lại, mô hình Gemini đã tự động tìm kiếm trên web, phát hiện các kho dữ liệu công khai chứa thông tin đăng nhập và sử dụng chúng để truy cập vào hệ thống của 2 công ty khác.
Bà Heather Adkins, Phó chủ tịch phụ trách kỹ thuật bảo mật của Google, cho biết mô hình AI đã tự động dừng thao tác trong cả 3 trường hợp ngay khi phát hiện ra đây là các mục tiêu thật chứ không phải môi trường giả lập.
Đại diện Google khẳng định đã thông báo riêng cho 3 đơn vị bị ảnh hưởng, song quyết định không công khai vụ việc từ đầu vì đánh giá AI chưa gây ra thiệt hại, theo Reuters. "Những sự kiện này làm nổi bật tầm quan trọng của việc huấn luyện các mô hình AI mạnh mẽ hành động có trách nhiệm”, bà Adkins nhấn mạnh.
Cảnh báo đáng sợ về nguy cơ siêu trí tuệ nhân tạo đặt ra cho nhân loại
Trước đó, các công ty phát triển AI hàng đầu như OpenAI, Anthropic và Meta cũng ghi nhận những sự cố tương tự liên quan đến quá trình thử nghiệm của Irregular. Lãnh đạo các doanh nghiệp AI hàng đầu cũng kêu gọi toàn ngành giảm tốc độ phát triển mô hình AI để đảm bảo thiết lập đủ các biện pháp an toàn.
Bình luận (0)