NVIDIA HGX H200 将 H200 Tensor Core GPU 与高速互联技术相结合，成为性能超强的服务器。 该平台汇集了 NVIDIA GPU、NVLink、NVIDIA 网络以及完全优化的 AI 和高性能计算 (HPC) 软件堆栈的全部功能。

2 天之前 · The new air-cooled 10U NVIDIA HGX B200 system features a redesigned chassis with expanded thermal headroom to accommodate eight 1000W TDP Blackwell GPUs. Up to 4 of the new 10U air-cooled systems can be installed and fully integrated in a rack, the same density as the previous generation, while providing up to 15x inference and 3x training ...

The NVIDIA HGX B200 與 HGX B100 整合 NVIDIA Blackwell Tensor 核心 GPU 與高速互連技術，將資料中心帶入全新紀元。採用 Blackwell 架構的 HGX 系統是頂尖的加速擴充平台，其推論效能比前一代高出 15 倍，專為需求最嚴苛的生成式人工智慧、資料分析和高效能運算工作負載而設計。

HGX B200是基于NVIDIA最新的Hopper架构设计，内置高性能H100 Tensor Core GPU，这一平台旨在为人工智能（AI）和高性能计算（HPC）领域提供炸天的算力。 HGX B200平台的核心亮点在于其卓越的并行处理能力和高效的能源管理。 通过采用多达8个H100 GPUs，每个GPU都配备了80GB的高速HBM3内存，这一配置可以极大地缩短大规模AI模型训练的时间，同时保持能源消耗在合理的范围内。 HGX B200的算力能力尤其突出，单个H100 GPU就能提供高达60 TFLOPs …

新款 HGX B200 在 AI 工作负载方面，性能相比 HGX H200 实现了巨大的提升，尤其是在 FP8、INT8、FP16/BF16 和 TF32 Tensor Core 运算等领域，性能提升高达 125%。 然而，在 FP32 和 FP64 方面，提升幅度较小，约为 18.5% 。

2024年11月29日 · 从名字上看GB200和B200很容易弄混，尤其是新手朋友，便于大家理解我专门找了2张图，最左侧老黄手持就是B200，是标准的英伟达基于Blackwell架构的GPU芯片，而GB200是芯片的“组合”，如中间图所示，是通过一个板子将2颗B200加上一颗Grace CPU（72核心的ARM架构处理器 ...

b200 gpu的晶体管数量是现有h100的两倍多，但b200封装了2080亿个晶体管（而h100/h200上为800亿个）。这意味着b200芯片封装密度比h100进一步提高，对管理散热和功耗也提出了更高的要求。 fp4精度： 引入一种新的计算精度，位宽比fp8进一步降低，b200峰值算力达18p。 fp6 ...

2024年11月10日 · At OCP 2024, we managed to grab a few new shots of the NVIDIA HGX B200. While a lot of the focus has been on the GH200 NVL72, GB200 NVL2, and so forth, many of the high-end training systems will still be based on the HGX B200 as the successor to the NVIDIA HGX H100/ H200. Here is the board that we saw at OCP Summit 2024.

NVIDIA HGX B200 是 NVIDIA （英伟达）于2024年3月GTC 大会上推出一个通过 NVLink 连接 8 块 NVIDIA B200 Tensor Core GPU 的服务器主板 [2] [4]，支持基于 x86 的生成式 AI 平台。 [1] 基于 NVIDIA Quantum-2 InfiniBand 和 Spectrum-X 以太网网络平台，HGX B200 支持高达 400Gb/s 的网络速度。 [3] NVIDIA HGX B200 将 NVIDIA Blackwell Tensor Core GPU通过高速互连集成在一起，推动数据中心进入加速计算和生成式人工智能的新时代。 [2]

Up to 8 on-demand NVIDIA® HGX B200 180GB GPUs, using Blackwell Tensor Core technology combined with TensorRT-LLM and NVIDIA NeMo framework innovations. This is the latest hardware from NVIDIA available on the market and purpose-built to accelerate inference for LLMs and mixture-of-experts (MoE) models.