侵权投诉

从8小时到80秒,NVIDIA如何实现AI训练用时大突破?

墨记 2019-07-11 17:29 次阅读

“天下武功,唯快不破”,你需要以“快”制胜。
 
如今,全球顶级公司的研究人员和数据科学家团队们都在致力于创建更为复杂的AI模型。但是,AI模型的创建工作不仅仅是设计模型,还需要对模型进行快速地训练。
 
这就是为什么说,如果想在AI领域保持领导力,就首先需要有赖于AI基础设施的领导力。而这也正解释了为什么MLPerf AI训练结果如此之重要。
 
通过完成全部6项MLPerf基准测试,NVIDIA展现出了全球一流的性能表现和多功能性。NVIDIA AI平台在训练性能方面创下了八项记录,其中包括三项大规模整体性能纪录和五项基于每个加速器的性能纪录。
 
表1:NVIDIA MLPerf AI纪录

每个加速器的比较基于早前报告的基于单一NVIDIA DGX-2H(16个 V100 GPU)、与其他同规模相比较的MLPerf 0.6的性能(除MiniGo采用的是基于8个V100 GPU的NVIDIA DGX-1 ) |最大规模MLPerf ID:Mask R-CNN:0.6-23,GNMT:0.6-26,MiniGo:0.6-11 |每加速器MLPerf ID:Mask R-CNN,SSD,GNMT,Transformer:全部使用0.6-20,MiniGo:0.6-10
 
以上测试结果数据由谷歌、英特尔、百度、NVIDIA、以及创建MLPerf AI基准测试的其他数十家顶级技术公司和大学提供背书,能够转化为具有重要意义的创新。
 
简而言之,NVIDIA的AI平台如今能够在不到两分钟的时间内完成此前需要一个工作日才能完成的模型训练。
 
各公司都知道,释放生产力是一件重中之重的要务。超级计算机如今已经成为了AI的必备工具,树立AI领域的领导力首先需要强大的AI计算基础设施支持。
 
NVIDIA最新的MLPerf结果很好地展示了将NVIDIA V100 Tensor核心GPU应用于超算级基础设施中所能带来的益处。
 
在2017年春季的时候,使用搭载了V100 GPU的NVIDIA DGX-1系统训练图像识别模型ResNet-50,需要花费整整一个工作日(8小时)的时间。
 
而如今,同样的任务,NVIDIA DGX SuperPOD使用相同的V100 GPU,采用Mellanox InfiniBand进行互联,并借助可用于分布式AI训练的最新NVIDIA优化型AI软件,仅需80秒即可完成。
 
80秒的时间,甚至都不够用来冲一杯咖啡。
 
图1:AI时间机器
2019年MLPerf ID(按图表从上到下的顺序):ResNet-50:0.6-30 | Transformer:0.6-28 | GNMT:0.6-14 | SSD:0.6-27 | MiniGo:0.6-11 | Mask R-CNN:0

 AI的必备工具:DGX SuperPOD 能够更快速地完成工作负载

 仔细观察今日的MLPerf结果,会发现NVIDIA DGX SuperPOD是唯一在所有六个MLPerf类别中耗时都少于20分钟的AI平台:
 
图2:DGX SuperPOD打破大规模AI纪录
大规模MLPerf 0.6性能 | 大规模MLPerf ID:RN50 v1.5:0.6-30,0.6-6 | Transformer:0.6-28,0.6-6 | GNMT:0.6-26,0.6-5 | SSD:0.6-27,0.6-6 | MiniGo:0.6-11,0.6-7 | Mask R-CNN:0.6-23,0.6-3
 
更进一步观察会发现,针对重量级目标检测和强化学习,这些最困难的AI问题,NVIDIA AI平台在总体训练时间方面脱颖而出。
 
使用Mask R-CNN深度神经网络的重量级目标检测可为用户提供高级实例分割。其用途包括将其与多个数据源(摄像头、传感器激光雷达、超声波等)相结合,以精确识别并定位特定目标。
 
这类AI工作负载有助于训练自动驾驶汽车,为其提供行人和其他目标的精确位置。另外,在医疗健康领域,它能够帮助医生在医疗扫描中查找并识别肿瘤。其意义的重要性非同小可。
 
NVIDIA的“重量级目标检测”用时不到19分钟,性能几乎是第二名的两倍。
 
强化学习是另一有难度的类别。这种AI方法能够用于训练工厂车间机器人,以简化生产。城市也可以用这种方式来控制交通灯,以减少拥堵。NVIDIA采用NVIDIA DGX SuperPOD,在创纪录的13.57分钟内完成了对MiniGo AI强化训练模型的训练。

咖啡还没好,任务已完成:即时AI基础设施提供全球领先性能

打破基准测试纪录不是目的,加速创新才是目标。这就是为什么NVIDIA构建的DGX SuperPOD不仅性能强大,而且易于部署。
 
DGX SuperPOD全面配置了可通过NGC容器注册表免费获取的优化型CUDA-X AI软件,可提供开箱即用的全球领先AI性能。
 
在这个由130多万名CUDA开发者组成的生态系统中,NVIDIA与开发者们合作,致力于为所有AI框架和开发环境提供有力支持。
 
我们已经助力优化了数百万行代码,让我们的客户能够将其AI项目落地,无论您身在何处都可以找到NVIDIA GPU,无论是在云端,还是在数据中心,亦或是边缘。

AI基础设施如今有够快,未来会更快

更好的一点在于,这一平台的速度一直在提升。NVIDIA每月都会发布CUDA-X AI软件的新优化和性能改进,集成型软件堆栈可在NGC容器注册表中免费下载,包括容器化的框架、预先训练好的模型和脚本。
 
借助在CUDA-X AI软件堆栈上的创新,NVIDIA DGX-2H服务器的MLPerf 0.6吞吐量比NVIDIA七个月前发布的结果提升了80%。
 
图3:基于同一服务器,性能提升高达80%
对单个历元上单一DGX-2H服务器的吞吐量进行比较(数据集单次通过神经网络)|  MLPerf ID 0.5 / 0.6比较:ResNet-50 v1.5: 0.5-20/0.6-30 | Transformer: 0.5-21/0.6-20 | SSD: 0.5-21/0.6-20 | GNMT: 0.5-19/0.6-20 | Mask R-CNN: 0.5-21/0.6-20
收藏 人收藏
分享:

评论

相关推荐

【5月12】不懂编程没关系,邀请您来学AI

不懂编程没关系,邀请您来学AI活动概述:本活动是现场讲座,由台湾知名AI教育专家、金门创新学院院长、台湾Android技
发表于 05-24 00:00 0次 阅读
【5月12】不懂编程没关系,邀请您来学AI

雅虎日本联手Line 打造引领全球的AI技术公司

软银与韩国 Naver 同意合并 Line 和 Z Holdings(即雅虎日本,简称 ZHD)两家....
发表于 11-21 10:33 23次 阅读
雅虎日本联手Line 打造引领全球的AI技术公司

未来浪潮将在产业AI化时期 协同左右手伙伴一起进化到“全域”

所谓十夫楺椎、众口所移,聚集意味着放大力量。AI技术的发展,同样也与城市聚集起来,建立起紧密的联系。
发表于 11-21 09:44 34次 阅读
未来浪潮将在产业AI化时期 协同左右手伙伴一起进化到“全域”

AI产业应用有什么新的方向

人工智能带来的生产力与效率提升,引发各行各业关注,对未来风向高度敏感的科创先驱纷纷投身其中。
发表于 11-20 16:35 41次 阅读
AI产业应用有什么新的方向

华为Sound X音箱将于11月25日在上海发布

去年华为就给我们带来了华为AI音箱。华为AI音箱全身采用网格设计,有黑色和白色两款颜色可选,顶部为操....
发表于 11-20 16:28 80次 阅读
华为Sound X音箱将于11月25日在上海发布

AI系统怎么帮助双相情感障碍患者

双相情感障碍和抑郁症教授梅尔文麦金尼斯(Melvin McInnis)和计算机科学与电气工程副教授艾....
的头像 汽车玩家 发表于 11-20 16:24 134次 阅读
AI系统怎么帮助双相情感障碍患者

可以利用AI技术来找到“梅姨”吗

人工智能的技术正在升级,并且运用到寻人和打拐的具体场景中,让更多孩子找到回家的路。
发表于 11-20 16:06 133次 阅读
可以利用AI技术来找到“梅姨”吗

BAT的车联网之战的战况怎样

随着移动网络的成熟和普及,车载空间的智能化、网络化、娱乐化也被加速推进,“车”场景和办公室、智慧客厅....
发表于 11-20 16:01 42次 阅读
BAT的车联网之战的战况怎样

HUAWEI HiAI携手伙伴共建AI生态 打造极致AI应用体验

11月19日,华为正式发布了面向智能终端的AI能力开放平台HUAWEI HiAI 3.0,将支持多终....
发表于 11-20 15:29 47次 阅读
HUAWEI HiAI携手伙伴共建AI生态 打造极致AI应用体验

俄罗斯是怎样推进人工智能的发展的

俄罗斯政府正在全力推动包括人工智能在内的数字经济发展。
发表于 11-20 15:22 154次 阅读
俄罗斯是怎样推进人工智能的发展的

小米在AI领域上的成绩怎么样

AI战略非常大,AI今天在小米的手机加AIOT双引擎战略中,扮演着一个至关重要的角色。
发表于 11-20 15:19 422次 阅读
小米在AI领域上的成绩怎么样

英特尔专为云计算的AI设计ASIC芯片

英特尔对面向AI的芯片并不陌生,但是现在,它把注意力转向了可能在数千英里之外的那些芯片。这家技术公司....
的头像 汽车玩家 发表于 11-20 15:18 133次 阅读
英特尔专为云计算的AI设计ASIC芯片

或许再过不久 将由手机来引领AI时代的游戏革命

当下,人工智能(AI)似乎成了一个时髦词,几乎每家公司都声称自己使用了这项技术。然而,AI在游戏中的....
发表于 11-20 15:16 34次 阅读
或许再过不久 将由手机来引领AI时代的游戏革命

AI时下的工业机器人如何逆袭

工业机器人从汽车3C工业走向了电动车、医疗、军工等行业,已成为产业发展的趋势。
发表于 11-20 15:15 120次 阅读
AI时下的工业机器人如何逆袭

智能终端AI芯片产业的发展会怎样

AI芯片也被称为AI加速器或计算卡,即专门用于处理人工智能应用中涉及的各类算法的AI加速计算模块(其....
发表于 11-20 15:11 29次 阅读
智能终端AI芯片产业的发展会怎样

在智能时代背景下的工业机器人发展的怎么样

这些年数据的高速增长是我国工业机器人发展的趋势和常态。
发表于 11-20 15:06 38次 阅读
在智能时代背景下的工业机器人发展的怎么样

人工智能对于国家未来有影响吗

人工智能研发的“推进剂”是大量数据和信息,这些数据信息的质量越高,人工智能所应用的计算方法便越有效,....
发表于 11-20 14:57 18次 阅读
人工智能对于国家未来有影响吗

索尼AI宣布成立,推进人工智能技术方面的研发

今日,索尼公司正式宣布成立索尼AI,从而推进人工智能技术方面的研发,并将在东京、奥斯汀、得克萨斯州等....
的头像 牵手一起梦 发表于 11-20 14:56 248次 阅读
索尼AI宣布成立,推进人工智能技术方面的研发

有1.2万亿个晶体管的世界最大芯片,用武之时到了

据外媒techspot报道,今年夏天,美国加州AI初创公司Cerebras Systems宣布推出世....
的头像 汽车玩家 发表于 11-20 14:44 172次 阅读
有1.2万亿个晶体管的世界最大芯片,用武之时到了

AI对于学习障碍儿童有着怎样的作用

人工智能技术在学习障碍儿童诊断方面发挥了巨大的运用价值。
发表于 11-20 14:05 8次 阅读
AI对于学习障碍儿童有着怎样的作用

为什么人工智能和深度学习的存储很重要

如今的人工智能和深度学习应用程序中使用了大数据集和快速I/O技术,但数据存储可能会导致性能问题。人们....
发表于 11-20 10:53 35次 阅读
为什么人工智能和深度学习的存储很重要

索尼集团宣布成立索尼AI 以推动人工智能的基础研究和开发

索尼的宗旨是“通过创造力和技术的力量使世界充满情感”。而AI将在这一目标中发挥重要的作用,所以索尼A....
发表于 11-20 10:35 67次 阅读
索尼集团宣布成立索尼AI 以推动人工智能的基础研究和开发

AI安防技术还需改进 帮助被拐儿童与家人尽快团圆

2019年11月18日,一则有关人贩子“梅姨”第二张画像发布的消息刷爆朋友圈,随后,公安部儿童失踪信....
发表于 11-20 10:19 55次 阅读
AI安防技术还需改进 帮助被拐儿童与家人尽快团圆

搜狗输入法推出新功能 AI逐字校对避免错别字

在《全职高手》中,叶修有一双又快又准的巧手,收获了无数女生们的追捧。但在现实生活中,大多数人双手可都....
发表于 11-20 10:03 170次 阅读
搜狗输入法推出新功能 AI逐字校对避免错别字

AI企业们的多元化发展 并不只是为了“造梦”

新技术的兴起催生着人工智能赛道上的企业成为资本市场新的“宠儿”。在今年年初,随着旷视即将IPO的消息....
发表于 11-20 09:59 75次 阅读
AI企业们的多元化发展 并不只是为了“造梦”

AI赋能下 安防行业未来3-5年能够保持高速的增长

当今,信息技术创新日新月异,数字化、网络化、智能化深入发展,新一代人工智能正在全球范围内蓬勃兴起,深....
发表于 11-20 09:20 48次 阅读
AI赋能下 安防行业未来3-5年能够保持高速的增长

雅虎日本与Line合并,将整合资源扩大规模共同研发AI等技术

11月19日,据国外消息报道,雅虎日本将与聊天应用Line合并,两家公司合并后,每年将投资1000亿....
的头像 牵手一起梦 发表于 11-19 16:56 336次 阅读
雅虎日本与Line合并,将整合资源扩大规模共同研发AI等技术

AI手段成新诈骗手段 我们要学会防范

最高人民法院信息中心副主任孙福辉于11月19日表示,2018年微信超过QQ成为网络诈骗犯罪中使用最为....
发表于 11-19 16:45 64次 阅读
AI手段成新诈骗手段 我们要学会防范

物联网发展有哪一些技术方向可以在走

物联网是由网络传输数据的设备组成,这些设备会产生难以想象的大量数据,而许多企业对如何管理这些数据一无....
发表于 11-19 16:07 66次 阅读
物联网发展有哪一些技术方向可以在走

怎样可以让AI超进化

AI并没有人类那样的自我意识,也没有为生存而战的需求。
发表于 11-19 15:52 42次 阅读
怎样可以让AI超进化

在空中的无人机有可能在拍你吗

无人机正变得无处不在。虽然舆论争议不断,但无法否认它们对科学的贡献。
发表于 11-19 15:42 48次 阅读
在空中的无人机有可能在拍你吗

我们需要担心华尔街的人工智能吗

人工智能也可以从根本上改变我们金融系统的运作方式。直到我们了解这些变化将如何发挥作用,否则我们将无能....
发表于 11-19 15:37 44次 阅读
我们需要担心华尔街的人工智能吗

认知智能的落地带来了什么新事物

随着人工智能技术的快速发展,得益于自然语言理解、知识图谱等技术的支撑,传统的信息检索正在向新一代智能....
发表于 11-19 15:10 29次 阅读
认知智能的落地带来了什么新事物

商簿基于AI技术 成功由行业级市场切换到商业级应用

“云天励飞的愿景是,让我们的生活更加安全、更加便捷、更加愉悦!”云天励飞在接受OFweek维科网采访....
发表于 11-19 14:44 46次 阅读
商簿基于AI技术 成功由行业级市场切换到商业级应用

智能手机应用处理器上离得开AI吗

随着搭载人工智能(AI)的智能手机应用处理器出货量增速迅猛,表示AI已在智能手机中逐步崛起。
发表于 11-19 11:39 40次 阅读
智能手机应用处理器上离得开AI吗

基于AI的微软Bing引擎的图像搜索优化

此次微软整合了BERT/Transformer技术:1.利用预先训练好的知识来更好地分析解读文本信息....
的头像 汽车玩家 发表于 11-19 10:56 278次 阅读
基于AI的微软Bing引擎的图像搜索优化

OKKI极具竞争力 入选为中国五家AI初创公司代表之一

近期,全球领先的研究咨询机构 Gartner 发布的“竞争格局:中国 AI 初创企业报告”中,OKK....
发表于 11-19 10:11 48次 阅读
OKKI极具竞争力 入选为中国五家AI初创公司代表之一

AI和机器学习助力下 PCB产业生产流程将更加完善

如今PCB已经发展到全新阶段,诸如高密度互连(HDI)PCB,IC基板(ICS)等全新技术引入,使得....
发表于 11-19 09:50 77次 阅读
AI和机器学习助力下 PCB产业生产流程将更加完善

北约将更换人工智能新系统,将会是何体验

说起中国的发展历程,也算得上是一部血泪史了,在西方国家的封锁当中,我们一步步变成现在这样的强大存在,....
的头像 独爱72H 发表于 11-18 17:16 359次 阅读
北约将更换人工智能新系统,将会是何体验

人工智能强大驱动力背后的CMOS传感器

随着人工智能概念逐渐成为科技界最炙手可热的话题,这一依托芯片产业的全新概念牵动了整个科技界的心。依靠....
的头像 独爱72H 发表于 11-18 17:06 517次 阅读
人工智能强大驱动力背后的CMOS传感器

AI如何为人类脑力延伸

AI正在成为人类脑力的延伸,助力人类突破空间、时间、表象局限。
发表于 11-18 17:04 83次 阅读
AI如何为人类脑力延伸

5G技术的逐渐成熟将会影响并改变着哪些行业

AI的飞速发展开启了各科技大国的人工智能“军备竞赛”,而这场竞赛的主战场一定是在边缘计算领域。边缘计....
的头像 独爱72H 发表于 11-18 16:31 415次 阅读
5G技术的逐渐成熟将会影响并改变着哪些行业

随着5G的到来 AI安防领域将进一步提升

不可置否,安防是人工智能在中国最容易变现的行业,而视频监控在所有安防产品中的市场占比最大,超过50%....
发表于 11-18 16:30 84次 阅读
随着5G的到来 AI安防领域将进一步提升

5G SA核心网多厂商互操作测试,三星合作HPE和Openet

据外媒报道,三星、HPE和Openet近日联合进行了5G SA核心网功能多厂商互操作性演示。为了进行....
的头像 汽车玩家 发表于 11-18 16:25 333次 阅读
5G SA核心网多厂商互操作测试,三星合作HPE和Openet

AI与大数据发展的核心 是企业走在前头的关键

人工智能(AI)与大数据是最近几年科技界乃至商业社会最火的词。正如阿里巴巴创始人马云所说,我们已经步....
发表于 11-18 16:23 62次 阅读
AI与大数据发展的核心 是企业走在前头的关键

医疗领域的变革需要借助人工智能吗

随着大数据、云计算、物联网和人工智能技术快速发展和普及,运用“AI+互联网+应用平台”提升医疗资源的....
发表于 11-18 16:20 38次 阅读
医疗领域的变革需要借助人工智能吗

可以开始让人成为电子改造人了吗

我们现在距离革命性的大突破只有一两年的时间。未来技术的各个元素早已经被独立地发明了出来,就等一个人把....
发表于 11-18 16:16 22次 阅读
可以开始让人成为电子改造人了吗

瑞为以人脸识别为出发点 未来将带来更多智能化行业应用

中国正从明航大国向民航强国发展,以国庆前夕刚投入使用的北京大兴国际机场来说,它被英国《卫报》评选为“....
发表于 11-18 16:08 88次 阅读
瑞为以人脸识别为出发点 未来将带来更多智能化行业应用

企业如何借助人工智能改变增长方式

人工智能(AI)等新兴技术引领的技术变革正在重塑企业经营增长方式。
发表于 11-18 15:57 126次 阅读
企业如何借助人工智能改变增长方式

触宝发布了2019年第三季度财务业绩报告实现了净收入3127万美元

触宝创始人兼主席张瞰表示:“本季度触宝业绩表现超出我们预期。受益于快速增长的全球自营广告平台 - C....
的头像 lhl545545 发表于 11-18 15:53 272次 阅读
触宝发布了2019年第三季度财务业绩报告实现了净收入3127万美元

《AI·屏·台开启客厅场景新蓝海》的演讲

一是平台创新能力——精准直播能力。我们平台跟索福瑞一起做的,在国庆期间为全国人民收看国庆大阅兵做实时....
的头像 流媒体网 发表于 11-18 15:52 266次 阅读
《AI·屏·台开启客厅场景新蓝海》的演讲