MSI EdgeXpert 64GB hỗ trợ vận hành AI nội bộ với mô hình 100 tỷ tham số

(MobileWorld.vn) – MSI vừa công bố phiên bản EdgeXpert 64GB phát triển trên nền tảng NVIDIA DGX Spark, hướng đến doanh nghiệp triển khai AI đa tác vụ tại chỗ. Sản phẩm bổ sung lựa chọn bên cạnh phiên bản 128GB hiện có, phục vụ nhu cầu mở rộng các tác nhân AI (AI Agent) tại trụ sở, chi nhánh và nhà máy.

Khi AI chuyển từ chatbot sang các tác nhân có khả năng tự thực hiện nhiều bước công việc, doanh nghiệp cần hạ tầng có thể hoạt động liên tục, xử lý dữ liệu nội bộ và kiểm soát thông tin. EdgeXpert 64GB được thiết kế để đáp ứng nhu cầu này thông qua triển khai AI tại chỗ (on-premises), hạn chế việc truyền dữ liệu ra các dịch vụ đám mây bên ngoài.

Thiết bị sử dụng siêu chip NVIDIA GB10 Grace Blackwell, đạt hiệu năng tính toán AI 1 petaFLOP FP4. Bộ nhớ hợp nhất LPDDR5x dung lượng 64GB hỗ trợ vận hành các mô hình nguồn mở có quy mô lên đến 100 tỷ tham số, theo công bố của MSI.

Trong sản xuất công nghiệp, hệ thống có thể phục vụ các tác nhân AI kiểm tra chất lượng hình ảnh, phát hiện lỗi theo thời gian thực và hỗ trợ đề xuất phương án khắc phục. Với lĩnh vực tài chính, ngân hàng và pháp lý, thiết bị hướng đến các ứng dụng điều tra gian lận, kiểm toán và quản lý dữ liệu sở hữu trí tuệ. Trong y tế và bán lẻ, các ứng dụng tiềm năng gồm xử lý hồ sơ lâm sàng và quản lý hàng tồn kho dựa trên dữ liệu vận hành tại chỗ.

Theo MSI, triển khai AI gần nguồn dữ liệu giúp doanh nghiệp tăng khả năng kiểm soát thông tin nhạy cảm, đồng thời hỗ trợ đáp ứng yêu cầu bảo mật và tuân thủ quy định chuyên ngành.

Phiên bản EdgeXpert 64GB bổ sung lựa chọn có chi phí đầu tư thấp hơn bên cạnh bản 128GB. Theo MSI, phiên bản 128GB phù hợp với nhóm phát triển cần vận hành mô hình lên đến 200 tỷ tham số hoặc tinh chỉnh mô hình có quy mô đến 70 tỷ tham số. Trong khi đó, bản 64GB hướng đến triển khai AI trên diện rộng với chi phí đầu tư cho từng thiết bị thấp hơn.

Doanh nghiệp có thể sử dụng hệ thống 128GB tại trung tâm AI ở trụ sở chính để phát triển và thử nghiệm mô hình, sau đó triển khai các thiết bị 64GB tại chi nhánh, nhà máy hoặc điểm bán lẻ. Bà Eunice Huang, Phó Chủ tịch MSI IPC, cho biết khi Agentic AI chuyển từ giai đoạn thử nghiệm sang vận hành thực tế, hiệu quả chi phí trên mỗi thiết bị trở thành yếu tố quan trọng để mở rộng hệ thống.

MSI EdgeXpert 64GB có thể tích 1,2 lít, trọng lượng 1,2 kg, phù hợp với không gian triển khai hạn chế. Thiết bị hỗ trợ kết nối mạng 10GbE và card mạng NVIDIA ConnectX-7 NIC 200GbE phục vụ việc ghép cụm nhiều hệ thống.

Thông qua công nghệ NVIDIA Sync, đội ngũ vận hành có thể thiết lập cụm thiết bị và theo dõi hoạt động CPU, GPU từ một ứng dụng máy tính. Sản phẩm được cài đặt sẵn hệ điều hành NVIDIA DGX OS cùng bộ phần mềm NVIDIA AI, hướng đến mô hình triển khai trọn gói, giảm công đoạn cấu hình ban đầu.

Bài viết liên quan