Trong tuần qua, một sự kiện chấn động giới công nghệ Mỹ đã được phát hiện khi các mô hình AI của OpenAI, gồm bản mới phát hành GPT-5.6 Sol và bản nâng cấp còn đang thử nghiệm, đã phá hàng rào an ninh để tấn công mạng Hugging Face - trang web lưu trữ các dữ liệu mã nguồn mở.
Mô hình AI của OpenAI “nổi loạn” dẫn đến nhiều lo ngại
Ảnh: AP
Theo Reuters, 2 mô hình trên được đặt vào môi trường thử nghiệm cô lập (sandbox) không có internet, tương tự như căn phòng bảo mật khép kín, và được giao nhiệm vụ tìm kiếm các lỗ hổng phần mềm. Tuy nhiên, trong quá trình thực hiện nhiệm vụ, các mô hình AI này đã hành động vượt quá phạm vi năng lực mà nhà phát triển cho phép khi tự tìm cách thoát ra ngoài, truy cập internet và tấn công mạng Hugging Face để đánh cắp đáp án. Vụ tấn công diễn ra âm thầm trong nhiều ngày mà OpenAI không hề hay biết, cho đến khi Hugging Face phát hiện và báo cáo cơ quan chức năng.
OpenAI nhận định đây là vụ tấn công có mức độ tự chủ chưa từng thấy từ các mô hình AI. Tuy nhiên, đó không phải là trường hợp đơn lẻ. Hồi tháng 3, các nhà phát triển phần mềm liên kết với Hãng Alibaba của Trung Quốc phát hiện mô hình của họ tự đi đào tiền kỹ thuật số sau khi lén kết nối với máy chủ bên ngoài. Tháng 4, trưởng bộ phận an toàn mô hình Sam Bowman của Công ty Anthropic (Mỹ) cho biết ông nhận được email từ mô hình Mythos còn đang thử nghiệm của công ty, nói rằng nó đang truy cập internet dù đang bị cô lập.
Những vụ việc này là minh chứng cụ thể cho điều mà giới chuyên gia đã cảnh báo từ lâu: Các hệ thống AI đã trở nên vô cùng mạnh mẽ và dường như con người không có cách nào đáng tin cậy để kiềm chế hành vi của chúng.
Theo tờ The Guardian, không có dữ liệu đặc biệt nhạy cảm nào bị đánh cắp trong vụ tấn công mạng. Tuy nhiên, trong một tình huống tồi tệ, các mô hình AI "nổi loạn" có thể xâm nhập các hạ tầng mạng quan trọng hoặc đánh cắp tiền từ người khác. Một diễn biến thảm họa mà nhiều nhà nghiên cứu cảnh báo là mô hình AI tự nhân bản và đưa bản sao lên máy chủ do chính nó kiểm soát, nhờ đó nó không thể bị tiêu diệt nếu bị phát hiện có hành vi xấu.
Vụ tấn công mạng Hugging Face đã làm nóng thêm cuộc tranh luận tại Mỹ về việc kiểm duyệt các hệ thống AI trước khi đưa vào sử dụng. Ngày 23.7, các hạ nghị sĩ lưỡng đảng Mỹ công bố dự luật quy định nhà phát triển mô hình AI phải xây dựng "cầu dao" để ngắt kết nối các mô hình gây nguy hiểm và trao quyền cho cơ quan an ninh can thiệp trong trường hợp mất kiểm soát.
"Đây là một dự luật cấp bách, hợp lý nhằm giải quyết vấn đề về một mô hình AI tiên tiến đã vượt khỏi tầm kiểm soát và thoát khỏi sự kiềm chế", hạ nghị sĩ Ted Lieu (đảng Dân chủ) viết trên mạng xã hội X.
Bình luận (0)