Thâm Quyến, Trung Quốc - Tháng 7 năm 2025 - Trong một bước đột phá cho AI và máy tính mô hình ngôn ngữ lớn, NVIDIA đã ra mắtH100 141GBNVL Original, một giải pháp thế hệ tiếp theo được thiết kế để đẩy ranh giới của hiệu suất AI, dung lượng bộ nhớ và hiệu quả năng lượng. Được xây dựng với khối lượng công việc AI quy mô doanh nghiệp, mô-đun H100 NVL 141GB được điều chỉnh để đáp ứng nhu cầu của các trung tâm dữ liệu tiên tiến ngày nay, đào tạo mô hình ngôn ngữ và suy luận ở tốc độ và quy mô chưa từng có.
3x suy luận LLM nhanh hơn - được cung cấp bởi Kiến trúc NVL
Không giống như GPU SXM hoặc PCIE tiêu chuẩn, H100 NVL là một yếu tố hình thức duy nhất có hai GPU H100 được kết nối thông qua NVLink và được đóng gói dưới dạng dung dịch GPU kép với 141GB bộ nhớ HBM3 được chia sẻ và băng thông bộ nhớ trên 7TB/s. Điều này làm cho nó là GPU lý tưởng cho:
Đào tạo GPT-3, GPT-4 và LLAMA 3
Khối lượng công việc suy luận quy mô lớn
Nhiệm vụ AI đa phương thức (ngôn ngữ tầm nhìn, lời nói, v.v.)
Theo thử nghiệm nội bộ của NVIDIA, H100 NVL cung cấp suy luận nhanh hơn tới 12 lần cho các mô hình ngôn ngữ lớn so với A100 80GB.
