Điểm nghẽn khiến AI bị 'mắc kẹt trong phòng kính'

Theo khảo sát Chỉ số Sẵn sàng cho AI 2025 của Cisco, 93% tổ chức được hỏi tại Việt Nam dự định triển khai AI Agent (trí tuệ nhân tạo tự chủ). Tuy nhiên, phần lớn doanh nghiệp cho biết việc sử dụng AI Agent đang bộc lộ nhiều điểm yếu mang tính nền tảng khi hệ thống hiện tại chỉ đủ khả năng xử lý các tác vụ mang tính phản ứng, chưa thể vận hành các hệ thống AI có khả năng tự động ra quyết định và học hỏi liên tục. 27% cho biết mạng lưới hiện tại không thể mở rộng để đáp ứng độ phức tạp hoặc dung lượng dữ liệu ngày càng tăng.

Tại Diễn đàn Cấp cao Chuyển đổi số Việt Nam - châu Á 2026, tình trạng dữ liệu hiện tại của các doanh nghiệp được mô tả là "phân tán, rời rạc, cát cứ, thiếu kết nối". Khi dữ liệu của doanh nghiệp phân tán trên nhiều hệ thống độc lập, mỗi lần mở rộng ứng dụng AI gần như phải xây dựng lại "đường ống" dữ liệu từ đầu. Nguyên nhân nhiều dự án AI dừng ở giai đoạn thử nghiệm không ở bản thân mô hình AI doanh nghiệp chọn, mà chủ yếu nằm ở việc dữ liệu phân mảnh, thiếu liên thông.

NGUỒN: FPT SMART CLOUD

Theo các chuyên gia, chất lượng đầu ra của một hệ thống AI phụ thuộc trực tiếp vào dữ liệu đầu vào. Để AI có thể vận hành ổn định trên quy mô toàn doanh nghiệp, hạ tầng cần đáp ứng ba yêu cầu cốt lõi: dữ liệu được hợp nhất và quản trị thống nhất (data governance), năng lực tính toán có thể mở rộng linh hoạt đặt gần dữ liệu (elastic compute), cùng quy trình triển khai và vận hành mô hình theo chuẩn MLOps.

Lời giải ở hạ tầng đặt tại Việt Nam

Với AI, dữ liệu không chỉ được dùng một lần mà phải liên tục được đưa vào cụm GPU để huấn luyện, tinh chỉnh và cập nhật mô hình. Nếu dữ liệu sản xuất nằm trong nước nhưng GPU đặt tại trung tâm dữ liệu ở nước ngoài, mỗi lần cập nhật dữ liệu đều phải truyền qua mạng quốc tế hoặc đồng bộ sang một bản sao khác. Điều này làm phát sinh chi phí truyền dữ liệu, mất thêm thời gian đồng bộ và phụ thuộc vào băng thông quốc tế. Dữ liệu càng lớn thì những chi phí và độ trễ này càng tăng.

Ngay cả ở giai đoạn vận hành, khi AI phải trả lời người dùng theo thời gian thực, mọi yêu cầu vẫn phải đi qua mạng quốc tế để đến GPU rồi mới trả kết quả về. "Chỉ cần tăng thêm vài chục đến vài trăm mili giây độ trễ cho mỗi lần xử lý cũng có thể làm giảm đáng kể trải nghiệm người dùng, đặc biệt với chatbot, trợ lý AI hoặc các ứng dụng cần phản hồi gần như tức thì", ông Phan Hồng Tâm, Giám đốc Khối Cloud, Công ty FPT Smart Cloud (Tập đoàn FPT), nhận định.

Lời giải cho bài toán này nằm ở hạ tầng đặt tại Việt Nam, đưa nền dữ liệu hợp nhất và năng lực tính toán co giãn (elastic compute) sử dụng các cụm GPU về cùng một môi trường, thu hẹp khoảng cách. Điều này cho phép doanh nghiệp chuyển từ thử nghiệm sang vận hành mà không phải tái thiết kế luồng dữ liệu mỗi lần mở rộng.

Để mô hình vận hành ổn định, hạ tầng còn phải đạt chuẩn quốc tế về kiến trúc tính toán và quy trình vận hành mô hình (MLOps). Kiến trúc điện toán đạt chuẩn của nhà sản xuất chip AI bảo đảm hiệu năng cho huấn luyện và suy luận (inference); quy trình vận hành mô hình học máy cho phép triển khai, giám sát và mở rộng mô hình một cách nhất quán, thay vì mỗi dự án vận hành theo một cách riêng. Nhờ đó, "đường ống" dữ liệu và mô hình không phải dựng lại mỗi lần tăng quy mô, trực tiếp tháo gỡ nút thắt khiến nhiều dự án dừng ở thử nghiệm.

Tại Việt Nam, các "nhà máy AI" đang ngày một phổ biến. Mô hình này cho phép doanh nghiệp mở rộng năng lực tính toán theo nhu cầu thay vì đầu tư toàn bộ ngay từ đầu. Hiện tại, các doanh nghiệp trong nước như FPT, Viettel, VNPT và CMC đang chạy đua vận hành các cụm GPU quy mô lớn để tháo gỡ điểm nghẽn, đưa dữ liệu và năng lực tính toán lại gần nhau. Đây là yếu tố quyết định khả năng vận hành AI ở quy mô lớn tại Việt Nam.