英伟达抢攻第一波红利,撬开AI芯片下一个“新战场”

[摘要] AI芯片的战火正在从云端烧到边端。 巨头与新秀们摩拳擦掌,包括英伟达、英特尔、谷歌、高通、华为、寒武纪、地平线等都在近两年推出边缘AI


AI芯片的战火正在从云端烧到边缘。

巨头与新秀们摩拳擦掌,包括英伟达、英特尔、谷歌、高通、华为、寒武纪、地平线等都在近两年推出边缘AI芯片。

尽管边缘计算仍处于起步阶段,但2020年增长势头会更强劲。据Gartner预测,2020年,50%的大型企业将会把边缘计算列入规划,超过50%的工业物联网分析将在边缘进行;2022年,50%以上的企业数据会在数据中心或云之外产生或处理。

智能家居、VR/AR、监控视频流分析、车联网、智能制造等,让边缘计算的需求激增,其与人工智能、5G结合,有望催生出千亿级乃至万亿级的市场规模。

相比云端AI芯片,边缘AI芯片在设计、研发和生产上难度缩减,而且使用场景十分丰富,边缘和终端市场更像一片未开垦的新地,也最有可能孕育出挑战传统巨头的新独角兽。

1】杀进边缘市场 英伟达亮“新武器”

随着云端AI芯片市场的增速放缓,英伟达加速布局云端加边缘一体化的战略,其面向终端以及边缘端的Jetson系列产品可以说是英伟达的“新武器”。

今年3月,英伟达在硅谷举办的GTC大会上正式发布其旗下机器人开发者工具箱Jetson Nano,能为机器人开发和智能音箱提供AI算力。

11月,英伟达宣布推出号称“全球尺寸最小、功能最强”的边缘AI超级计算机Jetson Xavier NX,它是比信用卡还小的硬件,主要面向机器人和边缘嵌入式计算设备。

英伟达给Jetson的定位也很明确:用于边缘以及端侧场景,比如自主机器,包括自主的摄像头、配送机器人,仓库机器人等;用作视频分析的高清传感器,涉及到“光巡检”或者“光检查”的应用;以及嵌入式的设备等等。

Jetson家族既有面向AI和IoT终端开发的Jetson Nano,也有适用于工业和机器人的Jetson TX2和Jetson Xavier。

用英伟达创始人兼CEO黄仁勋的话说,“我们生产的不是定制化芯片,我们做的是GPU加速。它支持任何一个框架、任何一个模型,每一款都可以实现TensorRT的加速。而且Jetson为许多嵌入式边缘计算设备敞开了大门。”

通过布局Jetson系列,打造自主机器的AI边缘计算平台,英伟达从尺寸、算力、功耗等不同维度,分别推出了相配套的产品,从而满足边缘和端侧的各种开发需求,完成对端侧市场的渗透。

英伟达能够提供云端和终端AI芯片硬件,背后离不开强大的生态支撑。目前,Jetson系列已经吸引了40万的开发者,拥有了3000用户。

在5G时代下,边缘计算的发展将为许多应用人工智能场景的产业带来革命性的升级。例如自动驾驶就是边缘计算的一个典型应用场景。

自动驾驶汽车需要快速且持续不断传入并分析数据,必须在毫秒级时间内处理周围的环境信息,以便采取相应的行动。这种数据量和时间的限制使得数据分析的计算不能只依靠云端的计算能力,边缘计算的优势得以发挥。

上周,在“秀肌肉”的GTC China 2019大会上,英伟达推出用于自动驾驶和机器人的“软件定义平台”——NVIDIA DRIVE AGX Orin。黄仁勋称,Orin平台是规划四年的新一代“自动驾驶大脑”,计划于2022年进行投产。

据介绍,NVIDIA DRIVE AGX Orin内置的全新Orin系统级芯片,集成了NVIDIA新一代GPU架构和Arm Hercules CPU内核以及全新深度学习和计算机视觉加速器,每秒可运行200万亿次计算,几乎是NVIDIA上一代Xavier系统级芯片性能的7倍。

Orin芯片可在自动驾驶汽车和机器人中同时运行的大量应用和深度神经网络,并且达到了ISO 26262ASIL-D 等系统安全标准。而且,Orin芯片还支持从L2级自动驾驶扩展到L5级自动驾驶,每个级别的自动驾驶都能降低功耗并提升图像分辨率,可以有效的保护电动汽车的续航里程。

黄仁勋认为,打造安全的自动驾驶汽车,是当今社会所面临的最大计算挑战,“实现自动驾驶汽车所需的投入呈指数级增长,面对复杂的开发任务,像Orin这样的可扩展、可编程、软件定义的AI平台不可或缺。”

此外,英伟达还在大会上宣布向交通运输行业开源NVIDIA DRIVE自动驾驶汽车开发深度神经网络。NVIDIA向自动驾驶汽车开发者开源其预训练AI模型和训练代码,通过一套NVIDIA AI工具,NVIDIA生态系统内的开发者们可以自由扩展和自定义模型,从而提高其自动驾驶系统的稳健性与能力。

值得注意的是,就在NVIDIA DRIVE AGX Orin发布的同时,英伟达宣布与滴滴出行、高德地图达成合作。

滴滴将使用NVIDIA GPU和其他技术开发自动驾驶和云计算解决方案。滴滴将在数据中心使用NVIDIA GPU训练机器学习算法,并采用NVDIA DRIVE为其L4级自动驾驶汽车提供推理能力;基于高德高精地图与英伟达自动驾驶芯片及定位算法,双方为汽车行业合作伙伴提供高精定位解决方案。

随着这些重量级行业生态伙伴的加入和认证,人们相信在不久将来,会出现更多带着NVIDIA芯片的自动驾驶车辆在实际道路上展开测试,一个不需要司机的时代正在向我们走来。

2】群雄逐鹿 英伟达压力不小

围绕边缘计算领域的抢滩布局战争很早就已打响。

亚马逊2016年推出边缘计算平台AWS Greengrass,为用户提供开发边缘计算应用的平台。微软在2018年6月推出面向物联网的Azure IoT Edge服务,将计算能力由云端推送至边缘设备。英特尔在边缘计算推出旗舰产品Movidius Myraid VPU。谷歌推出边缘推理芯片Edge TPU,以和云端的TPU互为补充。

国内巨头也在推出面向AI算力和场景应用开发的计算模块、边缘网关等行业级产品。例如华为的昇腾310芯片,其典型边缘计算场景便是安防、自动驾驶和智能制造,其最大功耗8W, 却能提供16TOPS的算力,同时识别包括人、物体、交通标识等在内的200个不同目标、一秒钟内可处理上千张图片。

此外,阿里云、中兴、浪潮以及三大电信运营商都相继推出边缘计算服务器。百度也发起了百度AI边缘计算行动计划。头部初创AI企业如寒武纪、商汤、地平线、依图等新势力凭借资本的加持,也在争夺市场。

从全球的市场格局来看,英伟达GPU的地位仍然无人能够撼动,尤其在云端推理领域一家独大,但仍无法忽视来自对手的威胁。

随着AI算法的逐步成熟,云端AI训练芯片市场的增速势必会放缓,边缘AI市场有英特尔、谷歌、华为等新老对手在虎视眈眈。

特别是老对手英特尔一年来持续在AI芯片上发力,例如12月16日,英特尔以高达20亿美元的价格收购以色列AI芯片制造商Habana,掀起新一轮较量。自研加重金收购,英特尔全面布局设备端、边缘端和云端,综合CPU、GPU、FPGA和各种专用芯片正在打造一个完整的体系,并通过结盟构建声势浩大的生态圈,英伟达面临的压力不小。

AI芯片市场进入“战国时代”,边端竞争或决定未来格局,英伟达已提前布局,但能否继续保持领导地位,仍未可知。

3】AI芯片的下一个“新战场”

数据、算法和算力被视为人工智能的三个核心要素。随着AI算法朝着开源的趋势发展,以及数据越来越集中在巨头手中,算力层面的AI芯片逐渐成为厂商切入人工智能领域新的入口。

随着5G的落地,越来越多的设备接入物联网,人工智能应用场景正在不断扩展,其产生的数据呈指数级增长,必然对AI算力提出更高要求。

过去由于终端设备的算力有限,深度学习的模型训练与推断大都在云端服务器上完成。但云端计算存在功耗过高、实时性不强等问题,5G时代下的新一轮数据爆炸式增长让云端计算弊端凸显。

相比于集中部署的云计算,边缘计算(即端侧计算)更加接近用户终端和数据源,效率更高,延时更短,对网络故障的承受能力更强,系统更加稳定安全。

业内对边缘计算有一个形象的比喻:章鱼的大脑仅集中了它全身40%的神经元,其余60%都分布在它的8条触角上,类似于一个大脑和8个小脑。这意味着,很多信息无需传输到章鱼大脑,而是依靠触角的神经元就可以分析处理,这一特征极大地提高了章鱼的反应速度。

有数据显示,借助于边缘计算,在人脸识别领域,响应时间由900ms减少为169ms,把部分计算任务从云端卸载到边缘之后,整个系统对能源的消耗减少了30%-40%。数据在整合、迁移等方面可以减少20倍的时间。

低功耗的边缘AI芯片会成为下一个“新战场”。特别是在AIoT时代,图像信息将是未来数据洪流的主要呈现方式,与CPU相比,GPU(图形处理器)能更好地满足神经网络深度学习所要求的计算量,具有天然优势。

这让以GPU闻名的英伟达能迅速抢占人工智能的第一波红利,牢牢主导云端AI芯片市场,并逐渐将眼光瞄准边缘和终端。




版权声明:

凡本网注明”来源:中国软件网(http://www.soft6.com)”的所有作品,版权均属于中国软件网或昆仑海比(北京)信息技术有限公司,未经本网书面授权,不得转载、摘编或以其它方式使用上述作品。

任何行业、传播媒体转载、摘编中国软件网(http://www.soft6.com)刊登、发布的产品信息及新闻文章,必须按有关规定向本网站载明的相应著作权人支付报酬并在其网站上注明真实作者和真实出处,且转载、摘编不得超过本网站刊登、转载该信息的范围;未经本网站的明确书面许可,任何人不得复制或在非本网站所属的服务器上做镜像。

本网书面授权使用作品的,应在授权范围内使用,并按双方协议注明作品来源。违反上述声明者,昆仑海比(北京)信息技术有限公司将追究其相关法律责任。