ARM ra mắt CPU đầu tiên cho hạ tầng agentic AI

Theo Wccftech, ARM vừa công bố AGI CPU tại sự kiện Arm Everywhere, đánh dấu lần đầu tiên hãng bán bộ xử lý hoàn chỉnh thay vì chỉ cung cấp kiến trúc và bản quyền IP cho các đối tác. CEO của ARM là Rene Haas cho biết CPU mới được thiết kế nhằm đáp ứng nhu cầu ngày càng tăng của các hệ thống agentic AI (tác nhân AI) trong hạ tầng điện toán quy mô lớn.

ARM cho biết AGI CPU được xây dựng trên kiến trúc Arm Neoverse V3, với tối đa 136 nhân xử lý trong mỗi bộ xử lý. Con chip có xung nhịp lên đến 3,7 GHz và trang bị 2 MB bộ nhớ đệm L2 riêng cho mỗi nhân.

ẢNH: ARM

Một trong những điểm nhấn của thiết kế là khả năng xử lý bộ nhớ. AGI CPU hỗ trợ băng thông bộ nhớ 6 GB mỗi giây cho mỗi nhân và độ trễ dưới 100 ns. Hệ thống có thể sử dụng bộ nhớ DDR5-8800 với dung lượng tối đa lên tới 6 TB trên mỗi chip.

Về kết nối và mở rộng, bộ xử lý cung cấp 96 làn PCIe Gen 6 cùng khả năng mở rộng bộ nhớ qua chuẩn CXL 3.0. Thiết kế này cho phép xây dựng các hệ thống xử lý song song quy mô lớn, phù hợp với workload agentic AI cần truy cập dữ liệu nhanh và liên tục.

Con chip được sản xuất trên tiến trình 3nm với mức TDP khoảng 300 W. ARM áp dụng thiết kế chiplet kép, trong đó phần xử lý, bộ nhớ và I/O được tích hợp trong cùng cấu trúc nhằm tối ưu độ trễ truy cập.

Theo hãng, việc tối ưu băng thông và độ trễ bộ nhớ là yếu tố quan trọng khi các mô hình AI ngày càng phụ thuộc vào khả năng xử lý dữ liệu quy mô lớn, khiến CPU trở thành điểm nghẽn mới trong nhiều hệ thống AI hiện nay.

Bên cạnh bộ xử lý mới, ARM cũng giới thiệu mô hình triển khai hạ tầng rack-scale dành cho trung tâm dữ liệu. Hệ thống sử dụng các node dạng 1OU (Open Unit) siêu mỏng thay cho cấu trúc server nhiều đơn vị truyền thống.

Hãng cũng cho biết AGI CPU cho hiệu năng trên mỗi rack cao gấp đôi so với các giải pháp x86 hiện nay, dù chưa công bố các phép đo độc lập. Hệ thống vẫn giữ thiết kế mở theo chuẩn OCP, cho phép các nhà cung cấp tích hợp nhiều loại accelerator khác nhau như Cerebras, Groq hoặc Meta MTIA.

Động thái này được xem là bước thay đổi lớn trong chiến lược của ARM. Trong nhiều năm, hãng chủ yếu cấp phép kiến trúc cho các đối tác như NVIDIA, Amazon hay các nhà sản xuất chip khác. Với AGI CPU, ARM bắt đầu tham gia trực tiếp vào thị trường CPU server.

Sự xuất hiện của bộ xử lý mới cũng có thể ảnh hưởng đến lợi thế mà NVIDIA từng có khi sử dụng IP của ARM trong các thiết kế CPU cho hệ thống AI. Cuộc cạnh tranh trong phân khúc CPU dành cho trung tâm dữ liệu AI vì thế được dự báo sẽ trở nên sôi động hơn trong thời gian tới.