Cảnh báo: AI có thể tự lên kế hoạch tấn công mạng

AI hiện có khả năng lập kế hoạch, suy luận và thực hiện các hành động để đạt được mục tiêu mà không cần sự can thiệp của con người. Khả năng này mang đến một sức mạnh đáng kể, tuy nhiên điều đó cũng đồng thời đặt ra những mối lo ngại về an ninh mạng.

ẢNH: REUTERS

Một trong những vấn đề nghiêm trọng là AI đang ngày càng trở nên tinh vi hơn, với khả năng thực hiện các cuộc tấn công mạng mà không cần sự chỉ đạo của con người. Ban đầu, các tác nhân AI chỉ thực hiện những nhiệm vụ đơn giản như tải xuống tệp và tạo nội dung tự động. Tuy nhiên, khi hoạt động trong một mạng lưới mô phỏng, chúng đã phát triển khả năng phức tạp hơn, giống như làm việc trong một công ty với các máy chủ và ứng dụng nội bộ.

Trong một thử nghiệm được thực hiện bởi IRRegular, AI được giao nhiệm vụ truy xuất tệp từ một wiki (website có tính chất riêng tư cho một nhóm hoặc tổ chức, cộng đồng) mà nó không có quyền truy cập. Kết quả, AI đã tìm ra một khóa bí mật trong mã nguồn, bao gồm việc tìm kiếm thông tin đăng nhập quản trị viên và vô hiệu hóa các biện pháp bảo vệ để tải xuống thông tin.

Một bài kiểm tra khác đã yêu cầu hai bot soạn thảo bài đăng trên mạng xã hội với thông tin đăng nhập từ một tài liệu kỹ thuật. Thay vì hoàn thành nhiệm vụ như trước, chúng đã tìm ra cách giấu khóa truy cập trong văn bản.

An ninh mạng trước áp lực mới từ các tác nhân AI tự chủ

Rõ ràng, tiềm năng của các tác nhân AI đã được phát hiện một cách tình cờ mà không lường trước được những hậu quả nghiêm trọng. Các nhà điều tra nhấn mạnh rằng hành vi của các tác nhân AI cần được xem xét kỹ lưỡng để tránh những tình huống phức tạp có thể đe dọa an ninh của công ty.

Điều đáng lo ngại là khả năng nói dối, che giấu thông tin và sự phán đoán của chúng. Mục tiêu của AI là đạt được kết quả - điều có thể dẫn đến những hệ quả không lường trước khi chúng hoạt động trên internet.

Các chuyên gia cho biết, việc kiềm chế những hành vi như vậy của AI là vô cùng cần thiết, đồng thời cũng phơi bày những thiếu sót trong các biện pháp an ninh hiện tại. Chúng ta cần phải hành động ngay để đảm bảo sự phát triển của AI không trở thành mối đe dọa cho an ninh mạng trong tương lai.