Tin công nghệ

Nvidia Vera CPU vào hạ tầng AI agent của Modal: cuộc đua CPU máy chủ đổi chiều?

Posted on by superadmin

Ngày 20/10/2026, nhiều trang công nghệ đưa tin Modal, nhà cung cấp hạ tầng đám mây chuyên chạy các tác tử AI (AI agent), sẽ đưa CPU Nvidia Vera vào hệ thống máy chủ của mình. Theo thử nghiệm nội bộ của Modal, Vera đạt thông lượng khoảng gấp đôi so với các máy chủ Intel và AMD hiện tại với loại tác vụ đặc thù của AI agent. Đây là tín hiệu đáng chú ý: Nvidia vốn thống trị GPU, nay đang mở rộng sang mảng CPU máy chủ vốn là sân nhà của Intel và AMD.

Nvidia Vera là gì?

Vera là CPU máy chủ dựa trên kiến trúc Arm (Armv9.2) với nhân Olympus do Nvidia tự thiết kế, có thể giải mã và thực thi tới 10 lệnh mỗi chu kỳ. Điểm nổi bật nhất là băng thông bộ nhớ LPDDR5X lên tới khoảng 1,2 TB/s, cao hơn đáng kể so với khoảng 844 GB/s của Intel Xeon Granite Rapids và khoảng 576 GB/s của AMD EPYC Zen 5 theo số liệu được dẫn trong các bài viết.

Vì sao AI agent cần CPU mạnh?

Khác với huấn luyện mô hình vốn dựa vào GPU, AI agent liên tục thực hiện nhiều việc nhỏ chạy song song: biên dịch mã, tìm kiếm tệp, thao tác Git, gọi công cụ, chạy môi trường thử nghiệm. Hàng trăm phiên như vậy cùng tranh nhau nhân CPU, bộ nhớ đệm và băng thông bộ nhớ. Vì vậy, số nhân và băng thông bộ nhớ trở thành yếu tố quyết định số tác vụ hoàn thành trong một khoảng thời gian.

Modal xây bộ thử nghiệm riêng gồm 50 tác vụ dựa trên Terminal-Bench và đo số tác vụ hoàn thành khi tăng dần số phiên chạy đồng thời. Kết quả: Vera cho thông lượng cao tới khoảng 2 lần so với hệ thống Granite Rapids. Tuy nhiên, khi đo độ trễ từng tác vụ riêng lẻ, kết quả lẫn lộn và Vera chỉ nhanh hơn ở mức vừa phải trong nhiều trường hợp.

Những điểm cần thận trọng

  • Đây là thử nghiệm do khách hàng tiềm năng tự thực hiện, chưa phải đánh giá độc lập; cấu hình chi tiết và hiệu năng trên mỗi watt chưa được công bố.
  • So sánh được thực hiện với thế hệ CPU hiện tại; AMD EPYC Venice và Intel Diamond Rapids sắp ra mắt được cho là có băng thông bộ nhớ cao hơn, có thể thu hẹp khoảng cách.
  • Chuyển sang Arm đòi hỏi điều chỉnh phần mềm. Chính Modal vẫn giữ máy chủ x86 và vận hành hạ tầng hỗn hợp, chọn bộ xử lý phù hợp từng loại việc.

Ý nghĩa với doanh nghiệp Việt Nam

Chọn máy chủ theo khối lượng công việc

Bài học quan trọng không phải là thay ngay sang Arm, mà là đánh giá đúng loại tải. Ứng dụng văn phòng, ERP, kế toán, cơ sở dữ liệu truyền thống vẫn chạy tốt và tương thích nhất trên Intel Xeon hoặc AMD EPYC. Khi doanh nghiệp bắt đầu chạy AI nội bộ, chatbot hay tác tử tự động hóa, cần quan tâm hơn tới số nhân, dung lượng và băng thông RAM, không chỉ xung nhịp.

Ưu tiên RAM và lưu trữ

Với máy chủ đầu tư trong 2026-2027, nên chọn nền tảng có nhiều kênh bộ nhớ, dư khe RAM để nâng cấp và SSD NVMe tốc độ cao. Đây là những thành phần ảnh hưởng trực tiếp tới hiệu năng khi chạy nhiều tác vụ song song, kể cả với ảo hóa thông thường.

Theo dõi hệ sinh thái Arm

Arm trên máy chủ đã có mặt trên các nền tảng đám mây lớn. Doanh nghiệp dùng dịch vụ đám mây có thể thử các máy ảo Arm cho ứng dụng web, container để tối ưu chi phí trước khi cân nhắc phần cứng tại chỗ.

DTIC tư vấn và cung cấp máy chủ, máy trạm và mini PC chính hãng theo đúng nhu cầu, từ máy chủ file nhỏ tới hệ thống ảo hóa và AI nội bộ. Gửi yêu cầu báo giá để được đề xuất cấu hình phù hợp.

Nguồn tham khảo