北美商业电讯

| 简体 | 繁体 | 2024年11月21日
+
订阅

英伟达王炸!黄仁勋连扔6发核弹,AI新世纪来了

更新于2024-03-19 11:51

3月18日,在美国圣何塞SAP中心场馆,全球顶尖AI计算技术盛会、年度英伟达GTC大会重磅开幕。

在全球科技、经济界顶尖人士的目光关注下,英伟达创始人兼CEO黄仁勋发表了长达123分钟的主题演讲,发布了“核弹级”的最新AI芯片——Blackwell GPU。

当地时间13点,黄仁勋穿着标志性的黑色皮衣登场,回顾了英伟达30年来在技术开发方面的里程碑事件。

之后,黄仁勋谈到快速演进的AI模型带动训练算力需求暴涨,需要更强大大的GPU:“在每一个行业,加速计算都比通用计算有了巨大的提升”。

然后,黄仁勋抛出了此次演讲的“核弹”,重磅宣布:“全新旗舰AI芯片Blackwell GPU,来了!”

黄仁勋手持Blackwell GPU和上一代Hopper GPU供观众对比,明显前者要大上一圈。黄仁勋称,8年时间,英伟达从Pascal架构到Blackwell架构,将AI计算性能提升了1000倍!

值得注意的是,每一代英伟达的GPU架构都会以一位科学家的名字来命名。Blackwell新架构就是为了向美国科学院首位黑人院士、杰出统计学家兼数学家David Blackwell致敬。David Blackwell擅长将复杂的问题简单化,他发明的“动态规划”“更新定理”被广泛应用于多个科学及工程学领域。

据黄仁勋介绍,Blackwell GPU有6大核心技术:

1、“世界最强大的芯片”:集成2080亿颗晶体管,采用定制台积电4NP工艺,承袭“拼装芯片”的思路,采用统一内存架构+双芯配置,将2个受光刻模板(reticle)限制的GPU die通过10TB/s芯片间NVHyperfuse接口连一个统一GPU,共有192GB HBM3e内存、8TB/s显存带宽,单卡AI训练算力可达20PFLOPS。

2、第二代Transformer引擎:将新的微张量缩放支持和先进的动态范围管理算法与TensorRT-LLM和NeMo Megatron框架结合,使Blackwell具备在FP4精度的AI推理能力,可支持2倍的计算和模型规模,能在将性能和效率翻倍的同时保持混合专家模型的高精度,AI性能达到Hopper的5倍。

3、第五代NVLink:为每个GPU提供1.8TB/s双向带宽,支持多达576个GPU间的无缝高速通信,适用于复杂大语言模型。

单颗NVLink Switch芯片有500亿颗晶体管,采用台积电4NP工艺,以1.8TB/s连接4个NVLink。

4、RAS引擎:包括一个确保可靠性、可用性、可维护性的专用引擎,还增加了芯片级功能,可利用基于AI的预防性维护来进行诊断和预测可靠性问题,最大限度延长系统的正常运行时间,提高大规模AI部署的弹性,一次可不间断地运行数周甚至数月,并降低运营成本。

5、安全AI:先进的机密计算功能可保护AI模型和客户数据,而不会影响性能,支持新的本地接口加密协议。

6、解压缩引擎:支持最新格式,加速数据库查询,以提供数据分析和数据科学的最高性能。

据称,AWS、戴尔、谷歌、Meta、微软、OpenAI、甲骨文、特斯拉、xAI都将采用Blackwell产品。

值得注意的是,此前业界疯传的英伟达B100、B200芯片并未出现。但是据此前估计,B100价格可能大约是3万美元,B200售价约为3.5万美元。也就是说,Blackwell GPU的价格只比前代提升不到50%,训练性能却能提高2.5倍,性价比爆炸。

此外,除了Blackwell GPU之外 ,英伟达还放出了五个大招:

1、Blackwell平台“全家桶”登场:既面向万亿参数级GPU计算优化,推出全新网络交换机X800系列,吞吐量高达800Gb/s;又发布GB200超级芯片、GB200 NVL72系统、DGX B200系统、新一代DGX SuperPOD AI超级计算机。

GB200 Grace Blackwell超级芯片是为万亿参数规模生成式AI设计的处理器,通过900GB/s第五代NVLink-C2C互连技术将2个Blackwell GPU连接到1个英伟达Grace CPU。

2、推出数十个企业级生成式AI微服务,提供一种封装和交付软件的新方式,方便企业和开发者用GPU部署各种定制AI模型。

3、宣布台积电、新思科技将突破性的光刻计算平台cuLitho投入生产:cuLitho将计算光刻加速40-60倍,并采用了增强的生成式AI算法,将为2nm及更先进制程开发提供帮助。

4、发布人形机器人基础模型Project GR00T、新款人形机器人计算机Jetson Thor,对Isaac机器人平台进行重大升级,推动智能突破。黄仁勋还将一对来自迪士尼研究公司的小型英伟达机器人带上台展示。

5、与苹果强强联手,将Omniverse平台引入苹果Vision Pro,并宣布为工业数字孪生软件工具提供Omniverse Cloud API。

受GTC大会影响,英伟达的股价大幅高开在900美元/股之上,一度最高涨逾5%。不过,或许是此前投资者期待过高,随后英伟达股价回落一度翻绿,最终微涨0.7%,报884.55美元/股,总市值2.21万亿美元。

AI时代已经来到,英伟达的领先地位还有谁可以挑战?

主编精选,篇篇重磅,请点击订阅“邮件订阅

编辑:
版权声明:本文版权归北美商业电讯所有,未经允许任何单位或个人不得转载,复制或以任何其他方式使用本文全部或部分,侵权必究。
评论
用户名: 登录可见
匿名
发表评论
×

分享到微信朋友圈

打开微信点击底部的“发现”
使用“扫一扫”即可将网页分享至朋友圈