英伟达H100霸榜权威AI性能测试 11分钟搞定基于GPT-3的大模型训练

2023-06-28 10:20:32 来源:砍柴网

6月28日讯 当地时间周二,机器学习及人工智能领域开放产业联盟MLCommons披露两项MLPerf基准评测的最新数据,其中英伟达H100芯片组在人工智能算力表现的测试中,刷新了所有组别的纪录,也是唯一一个能够跑完所有测试的硬件平台。

(来源:英伟达、MLCommons)

MLPerf是由学术界、实验室和产业组成的人工智能领袖联盟,是目前国际公认的权威AI性能评测基准。Training v3.0包含8种不同的负载,包括视觉(影像分类、生物医学影像分割、两种负载的物体侦测)、语言(语音识别、大语言模型、自然语言处理)和推荐系统。简单来说,就是由不同的设备供应商提交完成基准任务所需要的时间。


【资料图】

(Training v3.0训练基准,来源:MLCommons)

在投资者比较关注的“大语言模型”训练测试中,英伟达和GPU云算力平台CoreWeave提交的数据为这项测试设定了残酷的业界标准。在896个英特尔至强8462Y+处理器和3584个英伟达H100芯片的齐心协力下,仅仅花了10.94分钟就完成了基于GPT-3的大语言模型训练任务。

除了英伟达外,只有英特尔的产品组合在这个项目上获得评测数据。由96个至强8380处理器和96个Habana Gaudi2 AI芯片构建的系统中,完成同样测试的时间为311.94分钟。横向对比,使用768个H100芯片的平台跑完这个测试也只需要45.6分钟。

(芯片越多数据越好看,来源:英伟达)

对于这个结果,英特尔也表示仍有上升空间。理论上只要堆更多的芯片,运算的结果自然会更快。英特尔AI产品高级主管Jordan Plawner对媒体表示,接下来Habana的运算结果将会呈现1.5倍-2倍的提升。Plawner拒绝透露Habana Gaudi2的具体售价,仅表示业界需要第二家厂商提供AI训练芯片,而MLPerf的数据显示英特尔有能力填补这个需求。

而在中国投资者更熟悉的BERT-Large模型训练中,英伟达和CoreWeave将数据刷到了极端的0.13分钟,在64卡的情况下,测试数据也达到了0.89分钟。BERT模型中的Transformer结构正是目前主流大模型的基础架构。

【来源:财联社】

责任编辑:

标签

英伟达H100霸榜权威AI性能测试 11分钟搞定基于GPT-3的大模型训练

6月28日讯当地时间周二,机器学习及人工智能领域开放产业联盟MLCommons

2023-06-28 10:20:32

他荣立一等功后,整个家乡都沸腾了!-世界快看

送喜报仪式现场军地慰问组宣读了黄孝刚所在单位的表彰文件并为其家属佩

2023-06-28 10:12:49

三大股指集体低开 地产板块逆势走强-环球速看

6月28日,上证指数开盘报3183 49点,下跌0 19%。深证成指、创业板指分

2023-06-28 09:23:09

环球热消息:【凝神谋发展 实干兴陇原 “三抓三促”行动进行时】白银:假日不打烊 全力保交易

【凝神谋发展实干兴陇原三抓三促行动进行时】白银:假日不打烊全力保交

2023-06-28 08:55:41

每日短讯:中科江南:6月27日获融资买入966.49万元,占当日流入资金比例7.07%

同花顺数据中心显示,中科江南6月27日获融资买入966 49万元,占当日买

2023-06-28 08:47:37

全链条打击,遏制电诈上升态势 关注

客人点了份30元的外卖,却搭进去近2000元;商家货没卖成,反而“倒

2023-06-28 08:03:34

世界新消息丨“育”好治理队伍,“献”出治理“点子”!浦东打造党建引领基层治理示范样板

如何通过深化党建引领,提升浦东基层社会治理体系和治理能力现代化?近

2023-06-28 07:11:53

世界观焦点:文件夹如何加密码不压缩_文件夹如何加密

1、电脑文件夹可以直接加密,只是比较麻烦,所以先学习加密电脑文件夹

2023-06-28 06:12:41

话剧托儿完整版_话剧网

1、不可以有。2、版权问题。3、话剧禁止拍摄的。4、否则票卖给谁8月初

2023-06-28 04:58:55

如何做虾仁蔬菜粥?

做虾仁蔬菜粥的步骤如下:材料:1 大米100克2 虾仁100克3 胡萝卜1根4

2023-06-28 02:43:00
x 广告
x 广告

Copyright  2015-2022 北方粮油网版权所有  备案号:京ICP备2021034106号-50   联系邮箱: 55 16 53 8@qq.com