【英特尔AI策略彻底解析】承诺AI应用效能最佳化,扩大支援AI软件开发环境
2017-01-01 12:37:11 | 来源:ithome | 投稿:米娜 | 编辑:dations

原标题:【英特尔AI策略彻底解析】承诺AI应用效能最佳化,扩大支援AI软件开发环境

【英特尔强化AI软体应用的4大层面】英特尔对于AI应用的支援,首先是处理器内建低阶软体原始指令,例如MKL-DNN;针对深度学习软体框架,提供最佳化程式码;对于大数据分析应用平台,投入Hadoop、Spark的版本提供或贡献程式码;而在整合式软体开发工具,他们也推出Deep Learning SDK。

图片来源:

iThome

看好人工智慧带来的运算处理需求与未来的蓬勃发展,英特尔不只是推出多种伺服器端处理器来因应,在2016年11月举行的Intel AI Day活动期间,他们宣布将更积极发展深度学习应用的运算与沟通处理的程式库,并以基本指令(primitives)的形式整合到处理器硬体上。而在AI应用软体开发的支援上,他们陆续开始提供的部分,包含:程式库、程式语言的支援、平台、软体开发套件、程式开发框架。

无独有偶,IBM与Nvidia也在11月宣布,双方将联手开发新的深度学习专用软体开发套件PowerAI,可搭配IBM 专为AI应用所特别设计的伺服器——OpenPOWER LC(採用Power运算架构与Nvidia NVLink互连技术),藉此提供企业级的深度学习解决方案。

英特尔在Intel AI Day提出人工智慧的策略,正巧IBM与Nvidia也在之前宣布了PowerAI,在那一週期间,同时,又适逢全球高效能运算界关注的SuperComputer 2016大会举行。显然两大阵营争相较劲的意味相当浓厚,而且他们最终竞逐的目标,其实都是下一波企业应用。

英特尔AI解决方案总览

在AI应用的布局上,英特尔不只是单纯提供处理器平台,软体的支援更是重点——他们发展多种程式库、软体开发平台,积极支援多种深度学习应用框架,同时也会推出整合式的解决方案。

积极支援多种深度学习框架,陆续提供IA架构效能最佳化的程式码

以发展AI应用系统所採用的各种程式开发框架为例,英特尔承诺,将针对在Intel Architecture运算架构(IA)的系统环境,提供经过最佳化的程式码,以提升执行效能。

例如,在深度学习技术的应用领域当中,较为风行的几种开放原始码软体框架(Deep Learning Framework),像是Caffe、Theano、Torch、MXNet、Neon,英特尔已经提供Intel Architecture最佳化程式码。至于TensorFlow的部分,英特尔与Google Cloud Platform在11月的Intel AI Day活动上,正式宣布策略合作后,最快于2017年初,才会释出相关的程式码。

?Caffe?

这是由美国柏克莱视觉与学习中心(BLVC)所开发的框架,英特尔提供了特製版本Intel Optimized Caffe,可适用于Xeon与Xeon Phi处理器平台,当中整合了英特尔发展的数学核心程式库MKL(Math Kernel Library),并且已针对AVX2和AVX-512指令集,进行软体效能最佳化的工程。

而Caffe经过改良的成效如何?英特尔提出的实例,是影音服务业者乐视云(LeTV Cloud)的非法影片侦测应用。他们是在Xeon E5-2680 v3伺服器平台上,搭配Intel Optimized Caffe来进行影片分类的训练,结果得到了30倍的效能提升(相较于他们先前使用的BLVC Caffe,搭配OpenBlas程式库作为卷积式类神经网路)。

?Theano?

它是由加拿大蒙特娄大学LISA实验室发展的深度学习框架,英特尔也提供了改良的程式库,是针对多核心运算环境予以最佳化而成的版本,而在京都大学大学院医学研究科的应用案例当中,当他们以此进行新药探索模拟运算的测试上,精準度最高可达到98.1%,而另一个深度学习网路(Deep Belief Networks,DBN)的测试当中,也获得8倍的效能增长。

?Torch?

Torch也是许多人很关注的深度学习框架之一,目前主要维护的成员,是来自Facebook、Twitter、Google DeepMind公司的研究科学家和软体工程师。英特尔对这套框架提供最佳化支援之余,同时整合了MKL程式库,进而针对伺服器硬体端执行的深度神经网路指令集,提升效率。

而在这样的环境搭配下,英特尔举出的例子是他们与Pikazo软体公司合作,针对他们开发的图像风格转换App,协助后端处理效能强化——若以App刚推出的效能作为基準,现在Pizako App在图形上色(render)的速度,可提升到28倍,而能够处理的图档尺寸也扩充到15倍之大。

?Neon?

Neon是英特尔併购的Nervana Systems公司所发展出来的程式库,强调易用与高效能,在其现有的技术架构当中,可区分为深度学习功能(演算法)、资料模型、解决方案等三层。

在这次的Intel AI Day大会上,英特尔也预告将推出Intel Nervana Graph Compiler,作为AI应用软体层的共通基础,以此对于深度学习应用的架构型态,提供更进阶的描绘方式,以及调校作法。

针对类神经网路,提供高阶的图学运算编译器

深度学习框架Neon对于硬体资源的存取,会透过不同平台的转换API来介接,因此上层应用无须考虑硬体差异,接下来,英特尔会在Neon原本的架构与硬体转换层之间,新增一层Nervana Graph Compiler,主要是为了针对类神经网路应用,提供高阶的处理,以便同时横跨多台硬体设备执行。

?Intel Deep Learning SDK?

除了支援不同开发者所偏好的深度学习框架之外,英特尔本身也会推出Intel Deep Learning SDK。

藉由当中提供的简易使用介面,资料科学家与软体开发人员可发展各种深度学习的应用方案。

例如,透过SDK里面的训练工具,我们能够进行深度学习模型的设定、準备、设计;若要将已经训练好深度学习的模型,自动进行最佳化与部署的程序,也可以运用SDK包含的部署工具来帮忙。

英特尔处理器内建新的原始指令,强化深度学习效能

针对各种深度学习框架提供最佳化之余,英特尔在旗下的处理器产品当中,也内建了多种程式库来提升AI应用系统的效能。

?Math Kernel Library(MKL)

MKL是英特尔发展了22年的程式库,里面集合了许多原始的数学运算指令,可加速在工程、财务、科学等领域的模拟与分析处理,2016年之后,由于增加了MKL-DNN的程式库,因此也能提升机器学习与深度学习的效能。目前内建MKL的处理器,包含个人电脑用途的Core,以及伺服器等级的Xeon、Xeon Phi。

这套程式库提供了低阶的C与Fortran程式语言介面,能执行多种通用运算,例如,矩阵的乘法、分解、快速傅立叶转换、乱数产生、向量函数等,能支援多种作业系统平台的应用程式开发,例如,Windows(微软Visual Studio),以及Linux与OS X(Eclipse)。

?Math Kernel Library for Deep Neural Networks(MKL-DNN)

透过深度学习框架开发的应用程式,若要执行在Intel Architecture的处理器环境,英特尔提供了一套开放原始码的效能强化程式库,称为Math Kernel Library for Deep Neural Networks(MKL-DNN)。

它与英特尔的MKL程式库之间,有很大渊源。

因为,MKL-DNN是2017版MKL所延伸出来的产物,当中包含了高度向量化与穿插式的建构模块,而且是透过C与C++程式语言的介面,实作出卷积类神经网路(Convolutional Neural Networks,CNN)的架构,并且不只能在C和C++这两种开发环境运用,也可用于Python和Java等高阶程式语言。

针对深度学习应用系统当中所进行的运算密集式工作, MKL-DNN也能对相关的框架提供加速处理,英特尔特别强调可支援上述提及的Caffe、Theano、Torch、Tensorflow等深度学习专用的程式库。

从伺服器到个人电脑的处理器,都内建新程式库,强化AI效能

除了提供最佳化程式码,英特尔在处理器平台上,也内建了原始指令:专供深度神经网路使用的数学核心程式库MKL-DNN,以及用于深度学习讯息传递应用的机器学习规模扩展程式库MLSL。

?Machine Learning Scaling Library(MLSL)

在Intel AI Day活动当中,英特尔也预告将推出一套新的程式库,称为Machine Learning Scaling Library(MLSL),可在深度学习系统的多节点互连架构下,进行规模扩展的应用,可支援32个节点以上所组成的深度学习系统。有了MLSL之后,深度学习系统可针对不同节点之间的讯息传递作业,进行抽象化的处理。

MLSL是架构在现有平行运算系统所惯用的MPI(Message Passing Interface)之上,可运用其他用于讯息沟通的程式库,而在讯息沟通的模式上,用户若要扩展到更大的系统使用规模,MLSL也将对此提供最佳化。MLSL本身也提供通用的API介面,可支援上述的各种深度学习软体框架。

此外,由于MLSL与深度学习系统的多台节点扩展应用有关,因此能否适用不同的网路互连方式,也很重要。MLSL目前可支援的连线规格,有标準的乙太网路、InfiniBand,以及英特尔发展的次世代互连网路架构Omni-Path Architecture(OPA)。

?Data Analytics Acceleration Library(DAAL)

目前英特尔针对AI应用所持续发展的程式库,除了上述的MKL,还有Data Analytics Acceleration Library(DAAL),这套在2015年推出的程式库,可针对基于Intel Architecture处理器平台的个人电脑、伺服器,提升大数据分析作业的执行效能。

这套程式库包含多种经过最佳化的演算法建构模块,能够支援资料分析过程中的每个阶段,像是前置处理、转换、分析、建模、验证、抉择,并且在离线、线上串流与分散式等不同的资料分析环境里面执行。

DAAL的发展上,也考量到常见的大数据平台应用需求,目前已可强化Hadoop、Spark、R、Matlab系统的资料存取效率。同时,DAAL也内建资料管理机制,协助应用系统得以从多种来源存取到资料,例如档案、记忆体内的缓冲区、SQL资料库、HDFS档案系统。

DAAL与MKL同样皆可针对大数据的处理,不过,若遇到资料量大到记忆体无法全部载入的情况,DAAL本身能运用特製的演算法来因应——将资料切割为块状,而不是全部放进记忆体。

在程式语言的部分,DAAL提供高阶的C++、Java与Python介面,可用来处理多种资料分析需求,像是主成分分析、回归、分类、群集与购物篮分析。透过这个程式库,你可以利用指定的演算法来训练出模型,然后评定资料集在这模型中的分数。

?相关报导? 英特尔AI四大策略彻底解析

tags:英特尔   效能   软体   支援   解析

上一篇  下一篇

相关:

【英特尔AI策略彻底解析】拉拢云端服务业者,建立策略合作

在Intel AI Day的活动上,Google企业资深副总裁Diane Greene特别出席参加,她与英特尔执行副总裁暨资料中心事业群总经理Diane Bryant同台,宣布双方在AI应用上的策略联盟。 图片来源: 英特尔 在有意发展AI的企业当

【英特尔AI策略彻底解析】建立AI人才培育管道

基于英特尔既有的开发者专区网站,他们成立了Nervana AI学院的网页,并且统合在英特尔新设的AI专属网页上,这里针对开发者/资料科学家、学生,提供了多种学习的资源,像是线上课程、文件,以及与机器学习、深度学习

惊!家中电视荧幕跳出FBI付款通知,原来是LG智慧电视感染Cyber.Police勒索软件

萤幕突然显示FBI的警告,原来LG智慧电视感染Cyber.Police勒索软体 图片来源: Darren Cauthon 资讯技术开发人员Darren Cauthon于本月25日发现,自家的智慧电视突然在萤幕上出现FBI的文件,要求Darren Cauthon需要支

Twitter直播程式也能支援360视频串流了

Twitter直播程式也能支援360影片串流了 Twitter宣布开始支援360度环景直播影片,所有用户都可以观看,但目前只有特定合作伙伴可以透过这项功能进行直播。

步上IE后尘 Firefox即将停止支援Win XP

记者/叶心妤 软件公司Mozilla日前宣布Firefox于明年(2017)9月将停止支援微软旗下Windows XP及Windows Vista版本,预计进行两阶段逐步停用,在无原有的公司提供支援以及进行日后安全更新的强况下,建议仍在持续使用

站长推荐: