Theo FPT, hạ tầng tính toán mới được thiết kế để phục vụ các bài toán về AI suy luận (reasoning) và AI tự vận hành (agentic AI) - những mô hình có khả năng ra quyết định và hành động thay vì chỉ xử lý dữ liệu.
Việc bổ sung HGX B300 của Nvidia nhằm đáp ứng nhu cầu xử lý các bài toán AI ngày càng phức tạp, đặc biệt ở giai đoạn suy luận - vốn đòi hỏi năng lực tính toán cao hơn nhiều so với huấn luyện.
Hệ thống bo mạch chủ HGX B300 gồm 8 GPU NVIDIA Blackwell Ultra SXM thế hệ mới với bộ nhớ HBM3e 2.3 TB. Hệ thống được trang bị các công nghệ hiện đại bậc nhất như: kết nối NVLink 5.0 băng thông 1,8 TB/giây; NVSwitch băng thông 14,4 TB/giây; kết nối mạng 800 GB/giây. Những máy chủ này sẽ có hiệu suất cao để xây dựng trung tâm dữ liệu chuyên huấn luyện mô hình AI khổng lồ, suy luận AI quy mô lớn, điện toán hiệu năng cao hay làm máy chủ trong hệ thống hạ tầng AI cloud như AWS, Azure, GCP, Oracle Cloud...
FPT AI Factory trang bị thêm GPU HGX B300 của Nvidia để tăng tốc ứng dụng AI quy mô lớn
ẢNH: THIÊN TRƯỜNG
FPT cho biết, với hạ tầng mới "nhà máy AI" không chỉ là nền tảng phát triển trí tuệ nhân tạo toàn diện mà còn hỗ trợ doanh nghiệp mở rộng hoạt động sang các thị trường như Nhật Bản và Đông Nam Á. Đây cũng là một phần trong định hướng xây dựng năng lực AI riêng cho khu vực.
Khác với mô hình máy chủ truyền thống, FPT cung cấp hạ tầng này dưới dạng GPU Cloud, cho phép các doanh nghiệp và nhà phát triển AI gia tăng hiệu năng trong quá trình huấn luyện và suy luận mô hình, từ đó triển khai và linh hoạt mở rộng các ứng dụng AI quy mô lớn trong thời gian ngắn với mức chi phí vận hành tối ưu. Hiện FPT AI Factory đang cung cấp 43 dịch vụ AI Cloud, phục vụ hơn 18.000 người dùng toàn cầu trong các lĩnh vực như tài chính, y tế và công nghệ. Hệ thống này đang vận hành trên nền tảng NVIDIA HGX H100 và HGX H200 tại Việt Nam và Nhật Bản.
Tập đoàn FPT đang đẩy mạnh đầu tư vào 5 công nghệ chiến lược gồm; Quantum AI, Cyber Security, UAV, Data và Công nghệ đường sắt. AI được xác định là hướng đầu tư trọng tâm, với việc tích hợp vào các sản phẩm và đồng thời đầu tư vào nhân lực, nghiên cứu và hạ tầng.
Bình luận (0)