高通与Meta合作优化Meta Llama 3,实现终端侧运行

描述

  要点如下:

  · 高通与Meta携手优化Meta Llama 3大语言模型,将在骁龙旗舰平台实现终端侧执行,加速产品上市并充分利用终端侧AI优势。

  · 开发者可借助高通AI Hub的资源及工具,在骁龙平台优化运行Llama 3,进一步缩短产品上市周期且充分发挥AI潜能。

  · 高通凭借业界顶尖的NPU、CPU、GPU技术组合,赋予生成式AI应用即时性、高可靠性、隐私保护、情境感知个性化及经济效益。

  2024年4月19日,圣迭戈——高通技术公司与Meta宣布达成合作,共同优化Meta Llama 3大语言模型(LLM)在智能手机、PC、VR/AR头显及汽车等终端设备上的执行。终端侧运行Llama 3具备卓越的响应速度、更强的隐私保护和可靠性,同时为用户带来个性化体验。

  高通技术公司高级副总裁兼技术规划和边缘解决方案业务总经理马德嘉表示:“我们对Meta开放Meta Llama 3的策略表示赞赏,高通与Meta均致力于赋能开发者,推动AI创新。高通的终端侧AI领导地位,结合覆盖各类边缘终端的广泛市场布局,使我们有能力在全球范围内扩大Llama生态系统优势,助力客户、合作伙伴及开发者创造全新AI体验。”

  本次合作旨在赋能OEM厂商及开发者,在搭载未来旗舰骁龙®平台的终端设备上支持Llama 3,推动生成式AI功能的普及。高通技术公司的异构计算技术能够无缝整合业界领先的CPU、GPU和NPU处理器,并结合先进的内存架构,助力客户、合作伙伴及开发者实现最佳应用性能、能效及电池续航。

  开发者可通过高通AI Hub获取相关资源和工具,以便在骁龙平台优化运行Llama 3。高通AI Hub现已提供约100个优化AI模型,有助于开发者缩短产品上市周期,并充分发挥终端侧AI优势。如需了解更多信息,敬请关注高通每月开发者简报。

  高通技术公司与Meta共同致力于推动创新,打造下一代AI体验。此次合作是双方长期合作关系的重要里程碑,彰显了双方以强大AI能力赋能开发者和用户的坚定决心。

打开APP阅读更多精彩内容
声明:本文内容及配图由入驻作者撰写或者入驻合作网站授权转载。文章观点仅代表作者本人,不代表电子发烧友网立场。文章及其配图仅供工程师学习之用,如有内容侵权或者其他违规问题,请联系本站处理。 举报投诉

全部0条评论

快来发表一下你的评论吧 !

×
20
完善资料,
赚取积分