当前位置:首页 > 业务领域 > 污染检测
在机器学习赛道,入局迟的Arm为何跑在了前面?
时间:2020-12-01 来源:欧冠外围平台 浏览量 97088 次
本文摘要:Arm在机器学习和人工智能的流动中可能有点落后,至少在现代芯片的专业设计中是如此。

Arm在机器学习和人工智能的流动中可能有点落后,至少在现代芯片的专业设计中是如此。但是,关于部署在最常见设备上的人工智能和机器学习芯片的数量,这个芯片知识产权的设计者打败了所有人。Arm客户包括竞争对手英特尔和英伟达,他们忙于引进人工智能技术。该公司还建立了特定的机器学习指令和其他技术,以确保人工智能完全映射到所有电子产品上,并在一定程度上转移到服务器的高端设备上。

在服务器层面,亚马逊这样的客户在数据中心部署了基于Arm的机器学习芯片。最近,Arm机器学习小组副主席SteveRoddy在媒体活动中与外媒进行了交流。

以下是采访内容: q :你对机器学习的关注点是什么? SteveRoddy :我们射击的是高端消费者,这似乎是可选的。Arm以什么出名? 手机处理器。

因此,专用NPU (神经处理单元)的概念经常首次出现在高端手机上。现在苹果、三星、MediaTech、华为和高通都在设计自己的产品。

这在1000美元的手机上很少见。我们推出的是一系列处理器,不仅为这个市场,也为主流市场和低端市场提供服务。我们最初的设想是我们进入这个市场,为人们生产VR眼镜、智能手机和你更关心性能而不是成本平衡的地方。

根据历史经验,功能设定经常出现在高端手机上,花了几年时间转移到主流的400-500美元的手机上,之后几年经常出现在更便宜的手机上。最有趣的是,NPU整体的机器学习进展很快,但原因不同。例如,过去800万像素的传感器从这里开始。

而且足够便宜的时候不去别的地方。而且,更便宜的时候不去。

欧冠外围平台

在某种程度上,组件成本上升,在其中构筑,被其他的东西置换。机器学习算法可用于做出不同或更聪明的决策,以要求系统如何构建、与人们在一起以不同的方式减少价值或以不同的方式增加成本。问:在阐述神经网络如何找到实现某事的方法后,不能去除实质上不需要的东西。

最终,你不能得到更有效率或更小的东西。你可以映射到微控制器。Roddy :那是一个新领域。

退一步说,机器学习实质上有两个组成部分。算法的创立、自学或训练,正如它所说,完全只是再次发生在云中。对我来说,我很有趣,很多员工都同意。

这是一百万只享受一百万台打字机的猴子。其中一位写了莎士比亚的十四行诗。训练的过程就是这样的。

其实,谷歌是具体的。谷歌现在有一个叫自动机。假设您有一个从开源存储库中选择的算法。

那个非常适合你的任务。这是你需要调整一点的图像识别的东西。可以导入到谷歌的云服务中。我认为他们这样做是因为像计算的服务一样经营计量器。

但是,基本上是想付多少钱的问题。他们试图随机制造神经网络的各种变化。这里有更多的过滤器。

那里有更多的层次,偏移操作员,不按顺序继续执行,有新的运营训练集。这现在可以建立1%左右的精度。

这只是你想花多少钱的问题。在这一百万只猴子,一百万台打字机的操作者下,必须计算出是1000美元还是10000美元? 请注意,我们找到了面部识别、语音识别和其他任何方面的2%的正确方法。把这些都放在一边。

这就是神经网络的发展。这样的安排叫推理小说。现在我想在我想认识的物体上展开特定的推理小说。

我想在车里运营,在人行横道上见到老太太。无论是边缘市场还是最终市场,Arm似乎都专注于部署的大量硅市场。比如,在会议中心的墙上安装传感器,亮着灯,里面充满了烟。因为着火了。

可以用传感器识别、转录火灾,在地板上寻找尸体。他们可以收到向消防部门求助的信号。“人在这里”“不要去这个房间。

那里没有人”“去这个房间”这太棒了。但是你期待着它非常有效率。

我想让整个会议中心重新布线。你必须投稿这个电池驱动的东西,期待它能运营三六个月。每隔六个月就可以更换传感器的安全性系统。

这是利用数学家构建的抽象化模型,为了应对环境制约设备的问题而修正的。这是仅次于未来的挑战之一。我们有自己的处理器,擅长在终端设备上构建高效的神经网络。在数学家的过程中,他们构思了新的神经网络,解读了其中的数学原理,将其与低级程序员联系在一起。

他在嵌入式系统的程序员——上有很大的技能差距。如果你是24岁的数学奇才,刚取得本科数学学位和数据科学研究生学位,毕业于斯坦福大学,大互联网公司不能在你宿舍外为你得到工作。

实质上你在神经网络及其背后的数学方面很优秀,但在嵌入式软件编程方面没有任何技能。嵌入式软件工程师管理CPU、GPU和ARMNPU的组装,在芯片上安装了操作系统,实现了驱动程序和低级固件。“这是代码,里面有神经网络。

保证在这个具有2兆内存和200MHzCPU的有限小设备上工作。让那个发挥作用。”管理映射的负责人说:“我不告诉你这个神经网络在做什么。那需要我的十倍计算量。

我能拿的90%是多少? 你怎么教? ”。高层的那个人,那个数学家,对约束装置一无所知。

他在研究数学和大脑模型。他不懂嵌入式编程。大部分公司同时享受两个人。

高度整合的公司很少把所有人聚集在一个房间里聊天。你是数学家,经常被说我是嵌入式软件工程师。我们开始对话需要保密合同。

我不想允许输入模型,但退出源数据集、训练数据集。因为那是你的宝贝。这就是值得的地方。请给我能识别人行横道上的猫、人、祖母的训练模型。

很好,但会泄露到细节。你告诉他我又发生了什么。这里想说明的是,这为什么不符合我的约束系统? 你能为我做什么? 你不是嵌入式编程人员。

我不是数学家。我们该怎么办? 这是我们投资的领域,其他人也投资。随着时间的推移,在未来会成为神秘的领域吧。

这有助于恢复其间的循环。这不是单方面的。请给我算法。在我把它妥善之前,我会把它密码很大。

你给我的是99%的正确率,但不能做出82%的正确率。因为我们必须做大量的计算来适应环境。

这总是比什么都好,但我希望我能回到过去,接受新的训练,有无限的循环。所以我知道我们可以用更好的方法合作。

把这看作是制约和理想的合作。问:我想告诉你熟悉的部分是完全相同还是完全不同,DiptiVachani和汽车联盟,每个人都用自动驾驶汽车合作从原型到生产的方法。她说我们不能在这些车上装载超级电脑。

我们必须把这些减少到更小、更便宜的设备,这些设备可以投入生产。你说的有什么相似的地方吗? 超级计算机已经找到了这些算法,现在必须把它们减少到实际水平。

Roddy :数学家建立这些神经网络时,他们通常被用于浮点运算。他们抽象的无限精度和本质上是无限的计算能力。

为了提高处理能力,必须启动更好的刀片式服务器并启动整个数据中心。你在意什么? 如果你不想在亚马逊或谷歌写支票,可以这么做。

问:但是你不能把数据中心放在车里。Roddy :毕竟,如果算法形成了,那就成了问题。

我听不到分析和聚类这样的术语。如何增加复杂性,删除实质上最不重要的部分? 你的大脑连接着很多神经(这是模仿大脑),但其中一半是垃圾。他们的一半是确实的。

有强烈的联系可以传递信息,有微弱的联系可以成为阴凉。即使失去一半脑细胞,也可以见到伴侣和未婚。

训练有素的神经网络也是如此。他们想象的神经元之间有很多联系。你可以去掉其中的大部分。

你依然能得到非常好的精度。问:但我不担心你破坏的东西会被用来避免交通事故。Roddy :这是测试用例。

如果我去掉一半的计算,会不会再发生什么事了? 这就是所谓的重新开始训练。再训练一次或更重要的是忘记目标。

假设数据中心和超级计算机的计算能力受到限制,而不是假设无限容量。汽车行业就是一个很好的例子。假设十年后你是XYZ德国零件公司行人安全性系统的实验室主任。你的算法是用最近和最坏的雷克萨斯和速度车运营的。

欧冠外围平台

这些分别有5000美元的计算硬件。你的算法也在九年历史的中国车里运营。

这辆车正好是你的第一代系统。你的科学家明确提出了最坏的新算法。其精度提高了5%。不管怎样,跑车的精度低5%,但有义务让别人取得(实际上可能有拒绝每季改版一次的合同)。

更糟糕的是,现在我们有来自10家汽车公司的17个平台。你怎么把这个新数学发明者应用到所有这些地方? 需要一些结构化的自动化。这是汽车联盟在堵车领域达成的希望的一部分。

我们开发的技术是“如何建造这些桥? ”。例如,您如何将模型包括在开发人员使用的培训集(TensorFlows或Caffes )中? 这是对他们说的:“那么,与其假设我在云中展开推理小说,不如假设我在智能门铃的2美元微控制器上运营呢? ”。不是为了抽象化而是为了这个训练。

这样可以建立很多基础设施。不论优劣,都要横跨行业。Facebook的数据科学家、XYZ半导体芯片制造商、盒子制造商和软件算法负责人之间必须架起桥梁,这些人打算一起展开内部升级。问:联盟可能有英伟达这样的竞争对手。

你怎么把这个维持在比竞争对手高的水平? Roddy :英伟达干的事,对我来说,他们是顾客。他们在买小费。

其实,英特尔从Arm那里买了很多东西。在体系结构上,英伟达就是一个很好的例子。他们有自己的NPU。他们被称为NVDLA。

他们说他们在云中训练。是的,是GPU。那是他们的堡垒。但是当他们谈论边缘设备时,他们甚至说不是每个人都能在口袋里放50瓦的GPU。

他们有他们自己的版本,但这里提到的MPU是在不同大小的整数运算定点构建的。从四平方毫米到一平方毫米的硅。这个东西的功率接近1瓦。

这比高性能的GPU好得多。如果口袋里有比较现代的手机,就有NPU。如果你在这几年买了800美元的手机,就没有NPU了。有一个苹果。

三星有一个。航道有好几代了。他们都做到了自己的事情。我们预计,随着时间的推移,这些公司中的许多公司将在之后开发自己的硬件。

神经网络基本上只是非常大的数字信号处理滤波器。例如,大图像有一组大系数。我的图像分类器可能有1600万个系数,我有400万像素的图像。

那只不过是个大乘法。那个被多重积累着。

所以我们讨论CPU的乘法加法性能。所以我们除了建设这些NPU,大幅度提高累积以外什么也做不了。这是一个大过滤器。

现实中,要用8乘8的乘法展开想法,你唯一能做的就是这个。基本的构造块就是它本身。这是系统设计。

我们的设计有很多关于最小化数据移动的东西。在块级和系统级数据移动方面很聪明。我不希望十年后,每个手机制造商和汽车制造商都有自己的专用NPU。

这是不合理的软件和算法必须是专用的。体系结构也必须是专用的。但是,构建块引擎可能会像CPU和GPU一样被许可。没有什么能让我们不输。

我们期待着那个。因为必须有人来构建。非常好的供应商可能获得NPU许可证,大部分专利产品不会消失。

我们期待着我们是胜者之一。我们讨厌指出我们的第一批产品即使没有在市场上取得胜利我们也有足够的资金。但是,有迹象表明实质上非常俗气。

我们预计这不会在5到10年内再次发生。在系统层面,系统设计的自由选择和系统软件的自由选择太多了。

这是重要的不同之处。问:那么,在你竞争的水平上,你真的不是Arm赶上你了吗? 还是不接受驳回? Roddy :这各不相同。

你在看什么,你的印象是什么? 如果对你的椅子来说,“现在: AI在世界上运营了多少? 在哪里运营? ”。毫无疑问Arm是胜者。大多数人工智能算法实质上不需要专用的NPU。

机器学习还延伸到了你手机的智能文本输入法。你的手机可能已经是“okGoogle”或“你好Siri”了。

这是机器学习。可能无法在GPU或NPU上工作。可能只在m级内核上运营。考虑到市场手机,有多少智能手机? 可能是40亿到50亿吗? 其中约15-20%的手机有NPU。

这是最后三代苹果手机,最后两到三代三星手机。你说了大约5亿吧。亲切地说可能是10亿美元。

但是每个人都有Facebook。每个人都有谷歌的预测文本。

每个人都有语音助理。这是神经网络,和其他系统一起在CPU上运行。没有其他自由的选择。

在缓慢的页面上,考虑到大部分假设都在哪里运营,CPU上的东西找不到,大部分都在ARM上。在云中,在讨论推理小说在哪里运营的时候(不是训练而是配置的时候),大部分推理小说都在CPU上运营。

很清楚。大部分是英特尔CPU,但亚马逊使用的话有ARM的服务器。金融界最典型的是什么? 我想要购物中心的卫星照片分析,请看看HomeDepot的交通模式,告诉我应该做天空还是做多少HomeDepot的股票。

人们知道不会这样做。你必须训练很多卫星图像。

欧冠外围官网

你也必须做财务报告。你有所有家庭仓库或JCPenny的所有交通照片。

我把它们和过去15年的季度结果联系起来,建立了神经网络。指出现在有交通模式和财务结果相关联的模型。让我们预测一下过去三天的卫星在北美所有家庭仓库的现场拍摄,他们的收益。其实际预测是其推测在CPU上运行。

也许你必须在几周的GPU培训中建立模型,但有1000张照片。每个假设必须是30秒。你必须为此启动很多GPU。

如果运营那个的话,20分钟就能完成。你早就完成了你的预测。其实,我们是神经网络的主要构建者。但是,从这种有魅力的NPU的角度来看,我们现在的市场上没有这样的产品。

因此,我们领先了。但是不可否认的是,我们现在只是在设计层面说明我们的NPU家族。

我们有三个NPU。我们早就给了它们许可.他们在我们的顾客手里。他们在做设计。我今年能看到硅。

可能会在明年晚些时候。没有人等着我发表声明。整个行业要稳定下来还需要十年。法威有自己的产品。

苹果有自己的产品。三星有自己的产品。高通有自己的产品。

英伟达有自己的产品。每一个都有自己的东西。

你知道他们每年必须投资100名人才在硬件上生产8位数的乘法器吗? 答案有可能反驳。问:我忘了苹果公司在他们的活动中说明了他们最近的小费。他们说机器学习比以前强了六倍。

小费在这个部分的投资是有意义的。这是给你带来很多好处的部分。当你在手机和其他强大的设备上看到这些更大的系统芯片时,你不想要这个吗得分不会从原来的两倍缩放到三倍吗? Roddy :有些东西,有些不是。

我们看到机器学习功能以各种方式传播。一个意想不到的方法是如何过渡到成本比历史可能预测的慢的设备。画面尺寸和照相机尺寸,以往多以同样的速度从高端上升到中端、低端世代。

我们已经看到了更晚的展开。因为在NPU可以做有趣的事。也许可以在系统的其他地方降低成本,制作与系统的其他部分不同的功能。

低成本手机的一个好例子是颜值水平。面部水平一般是低功耗、低分辨率的照相机,需要从你的面部辨别我的面部。

这就是那必须做的。如果你是十几岁的孩子,你的朋友不能关闭你的手机开始发有趣的邮件。一般只在CPU上的软件下工作,一般是ARMCPU。

无论是1000美元的手机还是100美元的手机,这都不够水平的手机。但是现在我想把这个售价100美元的手机作为发展中国家没有银行账户的人的代理银行服务。你不希望这个差劲的照相机慢自拍要求谁开展金融交易。

你必须是更正确的脸3D同体。有可能必须同时展开虹膜扫描. 如果在应用于处理器的基础上,减少一个20、30、40美分的专用NPU,就不会用于实际的详细脸部分析。

这是我们想的NPU家族中的大号。突然,对100美元的手机追加专用的NPU是有意义的。因为手机是安全的银行设备。

这不是为了让自拍电影看起来更好。卖100美元手机的人不想花钱让自拍电影看起来更好。但是银行公司不希望援助这台手机获得交易流程。当然,前提是你能从孟加拉国和其他地方再次发生的80美分小额交易中得到钱。

我们现在看到的功能最初是出于虚荣心。比如,让Snapchat滤镜更可爱,让我的自拍看起来像去年的20岁,现在可以用它来不同了。

问:你指出机器学习在硅支出中所占的比例应该是多少吗? Roddy :这是各不相同的应用程序。有些产品类别是人们不想投入的。现在最终极的状态是什么?。


本文关键词:欧冠外围平台,欧冠外围官网

本文来源:欧冠外围平台-www.cats-vs-dogs.com

版权所有红河哈尼族彝族自治州欧冠外围官网股份有限公司 滇ICP备31989726号-6

公司地址: 云南省红河哈尼族彝族自治州建水县会均大楼42号 联系电话:0695-70694560

Copyright © 2018 Corporation,All Rights Reserved.

熊猫生活志熊猫生活志微信公众号
成都鑫华成都鑫华微信公众号