实测NPU“空转”,AI PC首个落地应用只调用GPU?

描述

电子发烧友网报道(文/梁浩斌)去年开始,整个PC产业链,自上而下地都在为AI PC造势。从处理器端的英特尔、AMD、高通等开始,到下游终端厂商,宣传上清一色的AI PC概念。
 
从概念上看,硬件上AI PC的一大特征是在传统PC的CPU+GPU基础上,增加NPU加强AI 算力。不过有意思的是,最近某品牌PC机型上的AI助手率先落地,支持云端和本地运算两种模式,确实能够完成宣传上的很多功能。然而在实测本地大模型时,却没有调用NPU算力,完全是使用GPU进行运算。
 
所以实际上,NPU目前为止依然是“空转”的状态,过去的“传统”PC,理论上似乎也能够使用“AI PC”上的最新功能。那么AI PC中NPU还是一个必要存在吗?
 
AI PC发展的三个阶段
 
确实,GPU在AI大模型上有很强的适配性,一直以来,很多开源大模型都能够在家用电脑上部署,利用GPU的算力进行推理。在AI PC的大模型刚刚落地时,使用GPU算力是最为稳妥以及最快的方式。
 
此前联想集团副总裁张华在发布会上提到,成熟的AI PC需要包括五大条件。其中包括标配CPU+GPU+NPU的本地混合AI算力;内嵌由本地大模型和个性化本地知识库构成的个人大模型;配备本地化个人数据和隐私保护方案;开放的AI 应用生态;内嵌个人Agent(模拟人类行为或指挥的AI程序),多模态自然语言成为主要的交互方式。
 
他还认为AI PC会有三个发展阶段,第一阶段是从2023年12月到2024年4月,这个阶段被称为“AI Ready”阶段,这个阶段特点是硬件平台的支持CPU+GPU+NPU的混合AI算力,满足终端厂商和第三方应用开发者进行终端AI体验创新。说白了,就是硬件要满足AI需求,软件先画饼。
 
第二阶段是2024年4月到2024年9月的AI Explore阶段。在这个阶段中,AI Ready的硬件,能够用上个人Agent、个人大模型嵌入AIPC、首批第三方AI应用接入AI小程序平台等,并能够运用CPU+GPU+NPU的混合AI算力,提供基于自然语言交互的个人AI助理服务。
 
第三阶段是24年9月之后的AI Master/AI Advanced阶段。在这个阶段,首先硬件的混合AI算力持续提升,同时个人大模型的能力进一步提升,AI应用生态大为丰富、商业模式进一步多样化,个人Agent的场景服务范围进一步扩大、服务体验进一步升级,个人AI助理进入随用户使用和体验反馈而快速进阶之路。
 
所以,AI PC新增的NPU,只是混合算力中的一部分。从算力来看,NPU可以算得上是“战未来”的硬件,而实际AI能够带来哪些颠覆性的体验,才是AI PC的关键。
 
AI PC有哪些应用了?
 
目前的AI大模型,普遍是采用云端推理,这很大程度上是由于大模型数据体量巨大,无法部署在本地。而AI PC的概念中,本地大模型就是与目前常见的云端大模型有很大差异的地方。
 
从个人隐私的角度来看,本地大模型由于数据不上云,所以数据安全性更高,对于一些有保密需求的工作来说可以说是提高工作效率的刚需。
 
比如用户可以通过本地大模型,读取本地文档,并使用自然语言交互来快速找到文档中所需的信息。还可以通过自然语言交互,来完成修改电脑设置等操作,降低Windows操作系统使用门槛,毕竟很多选项都藏得比较深。
 
另外,还可以通过上传足够多的文档,构建一个自己的数据库,需要搜索资料或数据时,就可以通过本地的AI助手快速搜索到目标。
 
最近微软的发布会上,又推出了一个“Copilot+ PC”概念,核心是AI算力+AI Agent( Copilot )。
 
在微软的展示中,任何东西都能够往Copilot上拖动,并让其分析、总结。当然,AI图片编辑、生成等功能已经是AI大模型的标配了,而微软为windows加入的AI赋能功能中,还有可以称之为“杀手锏”的。
 
比如AI能够实时读取屏幕显示的所有信息,比如在玩游戏时,可以直接询问AI来获得攻略,AI甚至能理解游戏中的参数、物品等,从而给出相应的策略。
 
Recall则是令电脑拥有了类似于“时光机”的能力,AI能力的帮助下,Copilot+ PC可以访问电脑上任何看过或者运行过的操作,甚至可以凭借记忆,描述在某个网站上见过图片,AI就能够帮助找出相应的页面截图。而这是基于本地算力以及存储所实现的,能够保障用户隐私。
 
小结:
 
AI PC的概念虽然值得考究,但AI的应用要落地在PC上,硬件和软件都无法单独拿出来讨论,AI应用与硬件的结合随着需求提高只会越来越紧密。这样的情况下,NPU的存在形式,发展方向,以及应用的适配,未来将会有更多的可能性。
 

打开APP阅读更多精彩内容
声明:本文内容及配图由入驻作者撰写或者入驻合作网站授权转载。文章观点仅代表作者本人,不代表电子发烧友网立场。文章及其配图仅供工程师学习之用,如有内容侵权或者其他违规问题,请联系本站处理。 举报投诉

全部0条评论

快来发表一下你的评论吧 !

×
20
完善资料,
赚取积分