Xây nhà máy AI 200 triệu USD: Nvidia chuyển máy chủ đầu tiên cho FPT
Hệ thống máy chủ DGX H100 được nhập về Việt Nam đánh dấu bước đầu tiên trong việc hiện thực hóa kế hoạch xây nhà máy AI của FPT và Nvidia.
Thực hiện biên bản ghi nhớ hợp tác ký kết cùng Nvidia cuối tháng 4 vừa qua về việc triển khai dự án nhà máy trí tuệ nhân tạo (AI Factory) nhằm phát triển hệ sinh thái AI và Cloud có chủ quyền tại Việt Nam, FPT vừa nhập khẩu hệ thống máy chủ DGX H100 đầu tiên về nước.
Đây là hệ thống máy chủ tiên tiến nhất của Nvidia, theo Nvidia là cỗ máy AI mạnh nhất hiện nay, được hàng loạt công ty công nghệ hàng đầu thế giới như Tesla, Meta, Microsoft… săn đón.
Đại diện FPT Smart Cloud – đơn vị thành viên của FPT phụ trách triển khai dự án cho biết, đây là đợt nhập khẩu hệ thống đầu tiên để đảm bảo tiến độ tích hợp công nghệ, xây dựng những siêu máy tính phục vụ phát triển trí tuệ nhân tạo, từng bước triển khai kế hoạch xây dựng AI Factory.
Loạt hệ thống DGX-H100 còn lại sẽ được đưa về Việt Nam trong thời gian tới để hoàn thiện công nghệ, đẩy nhanh tiến độ nghiên cứu và phát triển sản phẩm, tạo tiền đề xây dựng các giải pháp, dịch vụ AI và Cloud thế hệ mới.
Mỗi máy chủ DGX H100 chứa 8 GPU H100 kết nối qua Nvidia NVLink, kết hợp cùng chip Intel Xeon Platinum 8480C kép, tổng cộng 112 lõi và bộ nhớ hệ thống 2TB phục vụ cho các công việc AI chuyên sâu nhất. Bên cạnh đó là hai Nvidia ;BlueField-3 DPU để giảm tải, tăng tốc và cô lập các dịch vụ mạng, lưu trữ và bảo mật nâng cao.
DGX H100 sở hữu hiệu suất cao hơn 6 lần và kết nối mạng nhanh hơn 2 lần so với máy chủ thế hệ trước, đáp ứng các yêu cầu tính toán khổng lồ với hàng nghìn tỷ thông số của các mô hình ngôn ngữ lớn (LLM), hệ thống khuyến nghị, nghiên cứu y tế và lĩnh vực khoa học khí hậu.
DGX H100 giúp xây dựng nền tảng trí tuệ nhân tạo tinh chỉnh, hệ thống hóa và có khả năng mở rộng giúp các doanh nghiệp xử lý ngôn ngữ, phân tích dữ liệu… Đây cũng là hệ thống nền tảng tạo nên Eos - siêu máy tính mạnh nhất của Nvidia, đứng thứ 9 trong số các siêu máy tính nhanh nhất thế giới.
Nvidia khẳng định DGX H100 có thể vượt qua các ranh giới về công nghệ và cơ sở hạ tầng AI.
Trước đó, FPT công bố hợp tác chiến lược toàn diện với Nvidia để thúc đẩy nghiên cứu trí tuệ nhân tạo (AI), cung cấp dịch vụ, giải pháp cho khách hàng Việt Nam và trên toàn cầu.
Hai bên dự kiến xây dựng nhà máy trí tuệ nhân tạo (AI Factory), đào tạo nguồn nhân lực chất lượng cao và trở thành đối tác phát triển dịch vụ (Service Delivery Partner) trong mạng lưới đối tác của Nvidia.
Nhà máy sẽ bao gồm các hệ thống siêu máy tính hoạt động trên công nghệ mới nhất của Nvidia (bao gồm bộ ứng dụng - khung công nghệ phát triển Nvidia AI Enterprise và chip đồ họa GPU H100 Tensor Core).