售价超2000万的芯片系统，英伟达NVL72内部曝光

今日应用

音子AI

在线音轨分离解决方案 - 上传您的音频或视频文件，立即获取独立的人声和伴奏文件。无需专业知识，简单几步，高效完成音轨提取。

今日话题

售价超2000万的芯片系统，英伟达NVL72内部曝光

 

重点标签 英伟达、Blackwell平台、AI服务器、GB200超级芯片、高性能计算

文章摘要

Nvidia的Blackwell平台定价信息已经公布，其性能强大的AI服务器机柜B200的部署成本极高。摩根士丹利预测，到2025年，Nvidia将出货60,000至70,000台B200服务器机柜，预计年收入至少达到2100亿美元。尽管价格昂贵，但市场对这些AI服务器的需求仍然强烈。Nvidia在开发Blackwell平台方面已投资约100亿美元，并有约25,000人参与。Blackwell GPU集成了所有性能，因此其价格高昂。

汇丰银行分析师指出，Nvidia的GB200 NVL36服务器机架系统售价为180万美元，而更强大的NVL72售价为300万美元。GB200超级芯片结合了CPU和GPU，预计每颗售价在6万至7万美元之间。这些超级芯片包括两个GB100 GPU和单个Grace Hopper芯片，并配备了大型系统内存池（HBM3E）。首席执行官黄仁勋曾表示，Blackwell GPU的价格在3万至4万美元之间，摩根士丹利据此计算了买家的总成本。每台AI服务器机柜的价格约为200万至300万美元，Nvidia计划出货6万至7万台B200服务器机柜。

红杉资本分析师戴维·卡恩估计，支付其投资所需的年度人工智能收入已攀升至每年6000亿美元。尽管成本高昂，但公司仍愿意支付，因为B200拥有2080亿个晶体管，可提供高达20 petaflops的FP4计算能力。训练一个1.8万亿参数模型需要8,000个Hopper GPU，消耗15兆瓦的功率，而这项任务使用2,000个Blackwell GPU，功耗仅为4兆瓦。对于大型语言模型推理工作负载，GB200超级芯片的性能是H100 GPU的30倍，并且显著降低了功耗。

摩根士丹利表示，由于需求旺盛，Nvidia将台积电的订单量增加了约25%。Blackwell将成为AI训练和许多推理工作负载的事实标准，旨在为一系列下一代应用提供支持，包括机器人、自动驾驶汽车、工程模拟和医疗保健产品。

此外，Supermicro版本的NVIDIA GB200 NVL72系统细节也已公布。该系统是Supermicro的NVIDIA Grace Blackwell 200 NVLink 72 GPU机架版本，具有72个GPU，每小时使用约120kW的电量。预计未来几个月内，更高功率的数据中心将使用这些GB200 NVL72解决方案。

同时，2024年1月5日，智求共赢・中国AIGC产业应用峰会暨无界AI生态合作伙伴大会在杭州未来科技城会议中心举行，聚焦AIGC领域，探讨行业竞争下的运营新思路和发展新模式。

文章来源

原文地址: 点我阅读全文
原文作者: AIGC新智界