苹果牵手PrismML将270亿参数的大语言模型直接部署在iPhone设备上运行

描述

近日,科技行业传出重磅消息,苹果正与源自加州理工学院的AI初创公司PrismML展开深度洽谈,双方核心议题围绕一项突破性技术落地——将270亿参数的大语言模型直接部署在iPhone设备上运行。这一合作一旦落地,将彻底打破过去智能手机端侧AI的性能天花板,重新定义移动智能的交互边界。

作为此次事件的核心技术支撑,PrismML的原生1-bit模型压缩技术成为行业焦点。不同于传统仅降低精度、仍保留多比特权重的量化方案,这项技术从架构层面重构了模型的存储与推理逻辑,所有权重仅用-1和+1两个数值搭配分组缩放因子完成计算,最终能将全精度模型体积压缩至原来的1/14左右,内存占用直接降低超90%。此前该公司已公开演示,将阿里开源的270亿参数Qwen 3.6模型从约54GB压缩至4GB以下,且能在iPhone 17 Pro硬件上实现所有参数的全激活运行,这在以往的移动端设备上几乎是不可想象的突破。

要知道,当前绝大多数智能手机搭载的端侧AI模型,单次可激活参数仅维持在数十亿级别,即便苹果此前推出的端侧AI功能,也多依赖小模型轻量化适配,复杂任务仍需通过云端调用算力完成。目前iPhone的高端Siri功能,仍需依托英伟达算力支撑的云端Gemini服务运行,不仅响应速度受网络波动影响,用户隐私数据上传也始终存在安全隐患。而270亿参数级别的大模型,本身拥有接近人脑突触规模的处理能力,足以支撑代码编写、深度内容创作、复杂逻辑推理等高阶任务,完全跳出了以往移动端AI只能完成简单指令的局限。

从行业发展脉络来看,1-bit大模型技术并非凭空诞生,微软研究院早年推出的BitNet早已为该方向铺平道路,而PrismML的核心贡献,在于依托加州理工学院团队研发的数学理论体系,解决了大模型极致压缩后推理能力崩塌的行业难题。这家2026年3月才正式浮出水面的初创公司,由加州理工电子工程与计算数学教授Babak Hassibi领衔,核心团队均为该校博士出身,此前已完成由Khosla Ventures领投的1625万美元种子轮融资,技术背景与资金储备都相当扎实。

对于苹果而言,此次牵手PrismML,本质上是其端侧AI战略的关键补位。早在2024年苹果就公布了端云协同的AI路线,但落地进度始终慢于行业预期,核心瓶颈就在于端侧硬件算力与大模型体积之间的矛盾。而PrismML的技术恰好能让iPhone在不依赖硬件大幅升级的前提下,直接获得媲美云端大模型的本地能力,用户的日常指令、照片处理、文档编辑等操作都能在本地毫秒级完成,无需上传数据,既保障了隐私安全,也能彻底摆脱网络环境的限制。

目前PrismML已官宣将于7月14日正式开源相关模型,行业普遍认为,苹果与这家初创公司的洽谈,绝非简单的技术采购,更可能是围绕底层压缩框架的深度定制合作。一旦这项技术落地到新一代iPhone,不仅会让Siri彻底摆脱“人工智障”的旧印象,更可能催生出全新的全场景智能交互体验,甚至带动整个智能手机行业的端侧AI竞赛进入全新阶段。这场发生在移动设备上的大模型革命,已经离普通用户越来越近。

打开APP阅读更多精彩内容
声明:本文内容及配图由入驻作者撰写或者入驻合作网站授权转载。文章观点仅代表作者本人,不代表电子发烧友网立场。文章及其配图仅供工程师学习之用,如有内容侵权或者其他违规问题,请联系本站处理。 举报投诉

全部0条评论

快来发表一下你的评论吧 !

×
20
完善资料,
赚取积分