英伟达全新GPUB200发布:一台服务器相当于一个超级计算机
来源:NBA直播吧
在今天开幕的GTC 2024上,黄仁勋带来了新的B200 GPU,其拥有2080亿个晶体管,可提供高达20petaflops的FP4算力。 至于GB200,就是将两个GPU和一个Grace CPU结合在一起,可为LLM推理工作负载提供30倍的性能,同时还可能大大提高效率。英伟达也形象给出了提升的高度,比如训练一个1.8万亿个参数的模型以前需要8000个Hopper GPU和15兆瓦的电力。如今,2000个Blackwell GPU就能完成这项工作,耗电量仅为4兆瓦。 不过,英伟达并没有公布关于B200和其相关产品的价格,只表示亚马逊、谷歌、微软和甲骨文等公司都已计划在其云服务产品中装配NVL72机架,但没有公布这些公司的购买数量,只透露了亚马逊AWS已计划采购由2万片GB200芯片组建的服务器集群,可以部署27万亿个参数的模型。 |

相关阅读

热门录像

热门新闻
nba在线直播免费观看直播高清完整版中文(nba在线直播免费观看直播高清完整版中文)
cba赛程表2021-2022第三阶段时间_cba赛程表2020-2021第二阶段时间
降临休斯敦Shams:火箭和杜兰特一直有一定程度的共同兴趣
杜锋称本场艰苦恶劣记者问恶劣是杜锋:我没说吧是吗忘了
CBA本土得分王+盖帽王!两位中国球员杨瀚森&林葳均将参加NBA选秀
!雷迪克:东契奇认为全世界没有一个人能防得住他!
小卡:季后赛就是要倾尽所有现在你只剩4到7场比赛的机会了
华子:詹姆斯很可能是史上最佳要想把湖人淘汰任务很艰巨
段冉:北京德比强度拉满球员伤病成揪心之痛望球员们都远离伤病
啥操作雷迪克:湖人在训练中用布朗尼和米尔顿来轮流模拟华子