英特尔与UCloud联手,让AI部署更灵活高效

电子说

1.2w人已加入

描述

UCloud实验室研发总监叶理灯

UCloud实验室研发总监叶理灯谈人工智能的三要素以及云计算如何推动人工智能落地。英特尔至强可扩展处理器和Intel Caffe框架相结合,为UCloud带来高性能、低成本的方案,有效提升用户体验。

人工智能已经成为产业变革越来越重要的推动力量。不管是通过人工智能实现转型升级的传统企业,还是将人工智能视为发展方向的初创公司,越来越多的企业需要借助人工智能来挖掘数据价值,了解现状、预测未来,做出更为准确的经营决策。

但是,如何通过收集-应用-累积的闭环,发挥数据的价值?如何通过算法去推动业务洞察?如何通过计算力的提升,来进行深度学习、推理和训练?与此同时,人工智能基础设施的搭建,人工智能系统的部署该从哪里开始?成本该怎样考量?运维如何开展?这些问题让很多人将人工智能看作是“高门槛”的技术,在谈及落地应用时无从下手。

作为人工智能应用普及的推动者,英特尔积极打造人工智能的新生态,助力人工智能技术的大众化,推动人工智能真正产生社会价值。英特尔与国内公有云的领导者和人工智能领域的先行者UCloud携手,为UCloud提供了领先、高效、可扩展且开放的基础设施,帮助UCloud建设高性能、低成本的AI架构,让用户像使用成熟的云产品一样使用AI服务。

云计算—AI落地的天然加速器

英特尔首席数据科学家鲍勃·罗杰斯(Bob Rogers)曾指出,对于那些希望应用人工智能,却不知该如何开始进行基础设施搭建的企业来说,与云计算厂商的合作是一条很好的路径。

云计算对AI的快速落地起到很大的推动作用。UCloud实验室研发总监叶理灯也认为,云计算与人工智能落地的紧密关系不言而喻。云计算天然是计算能力的提供者。越来越多的数据在云计算上产生,为提供计算能力而生的云计算收获了庞大的生产和消费数据。因此,在云计算上做机器学习的训练和推理则顺理成章。

在UCloud看来,云计算本身作为规模经济,其核心能力在于运营。作为海量用户考验过同时又保持中立的平台,UCloud在实践中通过大量案例来发现问题并不断优化技术产品和服务,支撑更多用户的运营。同时,UCloud基于行业不断进行技术创新,以定制化的研发满足不同行业的用户需求。早前,UCloud在业界首次提出了90秒响应,走在云服务行业水平的前列。这种在云计算平台积累的技术优势和运营服务能力,也为UCloud提供差异化AI服务奠定了坚实基础。

UCloud的一站式AI服务

2017年,UCloud提出了“ CBA ”(Cloud,Bigdata,AI)三位一体发展战略,并发布了UAI(人工智能)系列产品,包UAI-Train、UAI-Inference和安全屋等产品,已构筑起一站式AI全服务。

叶理灯介绍,“AI的三部曲可以分为大数据收集、AI模型训练和AI在线服务。” 针对数据收集和模型训练,UCloud已经为用户提供了成熟的云主机、云存储、云网络等解决方案。而在AI在线服务方面,UCloud为用户提供了“两步走”的部署模式。首先,向用户提供SDK工具包,一键完成在线部署。其次,用户可以通过AI在线服务PaaS平台进行后续管理和维护。该平台拥有自动请求负载均衡、自动资源管理的功能。用户只需要将业务部署在平台上,就无须操心其后续的运维。

人工智能

UAI在线服务(UAI-Inference)面向初创企业、传统企业AI转型而生,让企业迅速完成AI基础设施的搭建和部署,适用于普遍的AI应用场景,如图像识别、自然语言处理等。UAI在线服务对主流的AI框架,包括TensorFlow、Keras、Caffe和MXNet等都提供良好的支持,企业可以根据自己的业务需求来选择不同的AI框架进行接入。

AI on IA,英特尔让AI部署更灵活高效

英特尔利用自身技术和产品创新的整合优势,与UCloud打造全面灵活的云和人工智能产品组合,帮助企业方便地获取、开发和部署人工智能应用。

至强可扩展处理器带来卓越性能。在UAI在线服务中,英特尔至强可扩展平台提供了坚实基础。UAI在线服务利用云主机中英特尔至强可扩展处理器的处理能力,将最新英特尔AVX-512用于支持和加速AI在线服务。英特尔AVX-512 在每个时钟周期的每秒浮点运算次数增加了一倍,执行苛刻的计算任务时,能够提供更加卓越的性能和吞吐量。UCloud利用至强可扩展处理器产品家族强大的可扩展性进行弹性部署,用低成本获得高性能,降低用户的TCO,克服GPU价格昂贵且扩展性不足的弊端。经过反复的优化和验证,AI在线服务的重要指标——时延被成功降低到了数百毫秒,完全满足了UCloud用户的应用需求。

Intel Caffe框架跃升服务效率。UCloud是国内第一个以Intel Caffe框架提供差异化AI服务的公有云厂商。Intel Caffe框架针对英特尔硬件平台做了深度优化,在保证兼容性的前提下,极大地提高了性能。UCloud的一系列测试结果表明,借助Intel Caffe框架,测试系统同时运行的线程数量可以得到显著增加。基于该框架,测试系统的执行时间也能从最初的37秒缩短至优化后的3.6秒,整体执行性能提高了10倍以上。事实证明,通过采用这一框架,UCloud AI在线服务效率得到了极大的跃升。

正如叶理灯所说:“与英特尔的合作为UCloud带来了三点优势,提高性能,降低成本,改善用户体验。” 英特尔至强可扩展处理器为UCloud的云计算和人工智能平台搭建了坚实基础。面向未来,双方还将携手,不断去推动人工智能的普及和实践,让更多企业便捷部署人工智能平台,真正拥抱人工智能所创造的无限可能。

打开APP阅读更多精彩内容
声明:本文内容及配图由入驻作者撰写或者入驻合作网站授权转载。文章观点仅代表作者本人,不代表电子发烧友网立场。文章及其配图仅供工程师学习之用,如有内容侵权或者其他违规问题,请联系本站处理。 举报投诉

全部0条评论

快来发表一下你的评论吧 !

×
20
完善资料,
赚取积分