英伟达推出“地表最强”AI芯片!中国厂商仍无缘
11月14日消息,在2023年全球超算大会(SC2023)上,芯片巨头英伟达发布了H100芯片的继任者,也是目前世界最强的AI芯片——H200。
H200芯片用于AI大模型的训练,性能相比前一代产品提升了约60%到90%。
速度更快、全兼容
H200是英伟达H100的升级版,与H100同样基于Hopper架构,主要升级包括141GB的HBM3e显存,显存带宽从H100的3.35TB/s增加到了4.8TB/s。
在大模型推理表现上,H200在700亿参数的Llama2大模型上的推理速度比H100快了一倍,而且在推理能耗上比H100直接降低了一半。对于显存密集型HPC(高性能计算)应用,H200更高的显存带宽能够确保高效地访问数据,与CPU相比,获得结果的时间最多可提升110倍。
英伟达称,H200在大模型Llama 2、GPT-3.5的输出速度上分别是H100的1.9倍和1.6倍。
由于架构相同,H200将与H100在软件上相兼容,这意味着H200将具有H100的所有功能,并且可以直接升级。
英伟达加速计算总经理兼副总裁Ian Buck称:“想要通过生成式AI和HPC应用创造智能,就必须使用大型、快速的GPU显存来高速、高效地处理海量数据。借助H200,业界领先的端到端AI超级计算平台的速度将会变得更快,可以解决过去面临的一些重要问题。”
股价连续上涨
英伟达的AI芯片通常两年更新一次芯片架构,最新芯片架构是Hopper。不过英伟达曾于上个月向投资人披露,由于市场对其AI芯片需求旺盛,公司将从每两年发布一次新架构转向每一年发布一次。 英伟达还向投资人称,其将于2024年发布基于Blackwell架构的B100芯片。
英伟达没有透露新芯片上内存的供应商,但美光科技(MU.O)在9月份表示,正在努力成为英伟达的供应商。英伟达还从韩国SK海力士(000660.KS)购买内存。SK海力士上个月表示,人工智能芯片正在帮助公司重振销售。
英伟达股价在周一美股交易时段上涨,且已连续第九个交易日上涨,创出2016年12月27日以来的最长连涨走势,当日报483美元/股,逼近8月底创下的502.62美元/股的历史高点。今年以来,英伟达股价累计涨幅超过230%。
中国厂商仍然无法买到
英伟达表示,H200预计将于2024年第二季度出货,售价还暂未公布。不过在当前的算力荒下,业内估计大科技公司们还是会疯狂囤货。
英伟达同时称,从明年开始,亚马逊云科技、谷歌云、微软Azure和甲骨文云将成为首批部署基于H200实例的云服务提供商。
尽管在AI芯片上大赚特赚,但英伟达还是不会向中国厂商供应H200芯片。这并非由于价格和产能问题,而是美国最近出台的人工智能芯片管制新规所致。
在这样的大背景下,英伟达可能只能为其他地区客户提供性能下降80%的H200芯片版本。这一举措引发了业界对于中国厂商未来在AI领域发展的担忧。
主编精选,篇篇重磅,请点击订阅“邮件订阅”