【365bet官方平台-首页 www.omnicloudapp.com】探秘天下未解之谜 分享全球奇闻趣事

手机版 - 繁体中文 - 今天是

365bet官方平台-HabanaLabs:AI训练处理器如何炼成?

发布时间:2020-10-15 02:43:01来源:365bet官方平台-首页编辑:365bet官方平台-首页阅读: 当前位置:首页 > 科学探索 > 手机阅读

365bet官方平台

365bet官方平台-以色列AI处理器开发商HabanaLabs上周宣告,发售人工智能处理器HabanaGaudi,仅供机器学习训练(inference)任务。公司首席商务官艾坦·麦地那(EitanMedina)称之为Gaudi“业界性能最低”,基于Gaudi的训练系统,构建了比享有完全相同数量的GPU系统低将近四倍的处置能力。HabanaLabs这家公司创办于2016年,总部坐落于以色列特拉维夫,官方称之为,公司专精于用于人工智能提高芯片处置效能,同时减少芯片成本与电力消耗,旗下产品主要针对AI的推理小说预测和训练。

2018年11月,在英特尔旗下创投基金英特尔资本(IntelCapital)的领有引爆,该公司已完成7500万美元的B轮募资,目前为止募资大约1.2亿美元。一般而言,AI计算出来大体分成两个层面,首先是对模型展开训练(Training);之后训练出有的模型号召实际催促,作出推理小说(Inference)。去年,HabanaLabs发售旗下第一款产品——Goya推理小说处理器,主要用作AI推理小说和预测。而今年第二款产品Gaudi,主要用作AI训练。

也就是说,自此Habana在AI芯片的训练、推理小说两端可行性构成了原始产品线。在AI处理器的训练末端,此前英伟达旗下的GPU(图形处理器)堪称一家独大(多数推理小说任务则仍由英特尔CPU分担),而Gaudi的经常出现,就有言论称之为“Gaudi对标英伟达GPU产品”。

365bet官方平台

实质上这话并非空穴来风,现场,EitanMedina直言“要做到人工智能芯片产业的领导者”,底气就是Goya和Gaudi。“人工智能处理器的性能还包括两点,计算出来和延后。”EitanMedina指出,原用作标准化计算出来的GPU和CPU,限于于人工智能计算出来处置时,在架构上不存在“先天不足”,因此从性能方面看,针对AI市场需求设计的专用芯片架构不存在优势。

Habana大自然考虑到了这点。据EitanMedina所说,公司工程师从最先、最基础层面就开始对芯片的架构展开了设计,专门针对AI市场需求。

其团队成员也主要来自处理器、DSP、系统设计以及网络设计等领域全球知名企业的精英,需要反对Habana从软件到硬件的研发市场需求。比如Goya,Habana专门设计了一款独有的架构,叫作“Tensorprocessorcore(相等于张量处置核心)”,在里面还构成了一个“GEMM(卷积操作者中的矩阵乘法)”,通过这种方式,既可以获取更佳的性价比,又可以让Goya反对有所不同神经网络的结构,处置有所不同的数据类型。所以在一些高性能领域,比如自动驾驶,Goya具备优势。再行看Gaudi,这款AI处理器的外形设计遵循了目前一个较为风行的新架构,叫作OCP(OpenComputePlatform)——是Facebook公布的开源计算出来平台。

365bet官方平台

“为什么客户要自由选择Gaudi?”EitanMedina说道,第一,Gaudi给客户获取了更加强劲的处置能力,以及更佳的性能功耗;第二,通过内置RDMA以太网处理单元,给客户获取了一种以前无法构建的可扩展能力。这两点有何益处呢?按照HabanaLabs首席执行官DavidDahan的话来说就是,人工智能模型训练所需的计算能力每年呈圆形指数快速增长,因此,提升生产率和可扩展性,解决问题数据中心和云计算对计算能力的急迫市场需求沦为至关重要的任务。在AI训练中,可拓展能力主要与网络涉及。在扩展性方面,HabanaLabs称之为,由于Gaudi处理器构建RoCEv2(RDMAoverConvergedEthernet)网络规范,并可配备最少20个以太网模块,架构上可完全构建无限拓展,即使是在较小BatchSize的情况下,也能维持低计算力,因此基于Gaudi处理器的训练性能,可实现从单一设备拓展至由数百个处理器搭起的大型系统的线性拓展。

“与Habana的标准设计比起,基于GPU的系统依赖专有的系统模块,对系统设计人员来说,这从本质上容许了可扩展性和选择性。”EitanMedina说道。

Gaudi也将反对主流深度自学框架,还包括谷歌研发的TensorFlow、Facebook研发的PyTorch和MXNet等;软件末端,通过HabanaLabs自有的SynapseAI软件栈对训练模型输出展开分析和优化,其工具链维持对外开放,可供客户加到专有内核;同时,HabanaLabs也加到了Linux驱动反对。Gaudi配有32GBHBM-2内存,目前获取两种规格:HL-200-PCIe卡,另设8个100Gb以太网端口;HL-205-基于OCP-OAM标准的子卡,另设10个100Gb以太网端口或20个50Gb以太网端口。另外,Habana发售了一款取名为HLS-1的8-Gaudi系统,配有了8个HL-205子卡、PCIe外部主机连接器和24个用作相连现有以太网交换机的100Gbps以太网端口,让客户需要通过在19英寸标准机柜中部署多个HLS-1系统构建性能拓展。HabanaLabs将于2019年下半年面向特定客户获取Gaudi样品。

本文来源:365bet官方平台-www.omnicloudapp.com

标签:365bet官方平台

科学探索排行

科学探索精选

科学探索推荐