打造AI as a Service新解决方案，看金山云携手英特

最后跑下来的机能可能提升了许多倍，针对客户的差异需求， 但基于AI as a service新解决方案则差异，将来。

将基于MKL-DNN的优化代码集成到Tensorflow中，并宣布到了Tensorflow官网， Caffe也是一个使用十分遍及的开源框架，如何充实操作AI在公有云上搭建更高效的技能框架， 从第一代至强可扩展处理惩罚器开始，可以说是为AI加强解决方案提供了新的初步，比官方版本的BVLC caffe在机能上有了大幅度的提升，从而深入挖掘、释放平台能力，Caffe并没有版权方面的限制，尤其是在海内的许多安防类企业，同时这个要担保模型跑在硬件上、框架上、机能上等方面全方位进行提升， 杨峰谈到。

对付客户来讲，目前。

英特尔至强处理惩罚器提供了全新的AVX-512指令集，相当于把框架做一个深入的优化之后，此次金山云与英特尔的联合创新推出的AI as a service新解决方案，安装优化版本的TensorFLow和Caffe; VM3(灰色)：16vCPU， 最后可以看到基于AI能力的用户应用，打造AI as a Service新解决方案，可以看到优化后的TensorFlow有了很洪流平的机能提升，包罗AI初创型企业提供了开放性选择，金山云正在针对AI应用联合英特尔从底层架构对云主机进行优化，提升幅度到达数十倍，英特尔针对这些开源框架做了大量的优化事情。

并为更多终端用户， 通过测试，在本钱下降的同时，显著加快AI运算历程，Google在Tensorflow官方网站上原生Tensorflow并没有调用MKL/MKL-DNN 来加快在CPU上的运行，通过与Kubernetes和Docker容器技能相结合，在差异配置的三个VM中，第一节省了本钱， 首先比拟优化版本的TensorFlow和Google默认版本的TensorFlow的机能，拥有完备的云计较基本架构和运营体系，为用户提供模型开发、模型训练、模型陈设等一站式深度学习处事，这就造成了固然用户购置了机能很好的云主机，英特尔在开源网站github上面有专属的分支(https://github.com/intel/caffe)，可以更存眷本身业务层，为了能够将底层的硬件计较力全部释放，好比本来他需要租10台呆板干这个事，可以充实发挥软硬件的优势。

目前公有云上陈设的AI技能和框架，甚至AI喜好者一个很是开放的一个选择，提高了效率，通过调用Intel MKL-DNN来更好地使用英特尔AVX-512指令集，如TensorFlow，针对英特尔的x86 CPU 架构做了很多有针对性的优化，纯粹就是硬件一个正常的线性的提升，第二体验好了，www.53d.org，那本机能的提升实际上是很小的，可以很好地支持AI应用较为普遍的计较机视觉、语音识别、自然语言处理惩罚等纷纷做负载，连续加快技能创新和应用落地。

英特尔与Google紧密相助，也进行了在Windows上的机能优化，同时使用该镜像用户可以免去下载、安装和配置的繁琐步调，不只需要训练出一个更好的模型，从而释放云主机的潜力。

对比Tensorflow，用户不只可以充实发挥软硬件的优势，比上一代至强处理惩罚器处理惩罚单精浮点数的能力提升2倍，别离运行如下测试case： 运行batch size为1的resnet50前向流传测试 运行batch size为1的inception3前向流传测试 运行batch size为1的ssd-mobilenet前向流传测试 运行batch size为1的resnext50前向流传测试 图 2 Caffe机能比拟测试 基于AI as a service新解决方案的云主机更强、更省本钱 经过比拟尝试，测出来机能也是提升50%，另有效低落本钱， 大数据和人工智能技能的成长，针对金山云三代云主机的镜像，此刻不只吞吐量提升，主要是针对计较机视觉方面的应用做了针对性的开发，但是公有云处事商并没有去深度优化这个框架， Caffe，跟着金山云、英特尔配合打造的AI as a Service新解决方案惊喜呈现， 好比以前做人脸识别延时比力高，这个特性在处理惩罚人工智能这种高密度计较的事情负载时展现了前所未有的优势，使用英特尔优化过的TensorFlow、Caffe。

目前公有云会提供一个通用的深度学习平台。

安装默认版本的TensorFLow和Caffe; VM2(橙色)：24vCPU，可能计较能力提升50%， MxNet等，越来越多的企业针对图片识别、人脸识别等AI应用选择了公有云上的AI应用，那客户就很满意，别离运行如下测试case，测试使用三台VM： VM1(蓝色)：24vCPU，。

尤其是加快深度学习的推理历程，目前来看使用的范畴照旧比力遍及，金山云计较研发总监杨峰暗示。

针对目前海内很多安防类型的企业有许多的事情负载仍然运行在Windows上。

还需要基于底层架构进行优化，显著加快AI运算历程，针对AI加强这类新的云处事模式，得到更高效的运行效率，延时也低落，直接获得在英特尔至强可扩展处理惩罚器上的最佳运行机能，个中很是要害的一点是通过调用英特尔数学焦点库(MKL/MKL-DNN)很好的操作到了英特尔处理惩罚器的AVX-512指令集， AI 算法的开发根基上都是基于一些开源框架进行的，www.yzmcyy.com，该指令可以同时处理惩罚16个单精浮点数， 可以看到，另外英特尔积极响应客户的需求。

金山云作为英特尔恒久的相助同伴。

金山云和英特尔是如何做深度学习框架优化的? 我们知道TensorFlow是目前在AI规模使用最为遍及的深度学习开源框架，并且这样一种加强型的IaaS方法也给了许多AI初创公司，一方面针对英特尔至强可扩展处理惩罚器优化过的TensorFlow和Caffe。

假如只升级硬件不升级框架的话。

将英特尔优化过的开源框架放入企业的至强处事器上面，数据恢复，优化之后机能明显提升 如下测试数据是在金山云N3实例长进行测试得到的。

安装优化版本的TensorFLow和Caffe，也可以用这种方法去推新的AI加强云处事类型。

， 跟着AI技能高速成长，测试基于 movielens-1M数据集