高通支持Meta Llama 3大语言模型在骁龙旗舰平台上实现终端侧执行

要点

• 高通和Meta合作优化Meta Llama 3大语言模型，支持在未来的骁龙旗舰平台上实现终端侧执行。

• 开发者将能够访问高通AI Hub中的资源和工具，以实现在骁龙平台上优化运行Llama 3，从而缩短产品上市时间并充分发挥终端侧AI的优势。

• 高通技术公司的终端侧AI能力包括行业领先的NPU、CPU和GPU技术组合，赋能生成式AI应用实现即时性、增强的可靠性、隐私性、情境感知个性化和成本效益。

 

今日，高通技术公司和Meta宣布合作，以优化Meta Llama 3大语言模型（LLM）直接在智能手机、PC、VR/AR头显和汽车等终端上的执行。在终端侧运行Llama 3具有显著优势，包括出色的响应能力、增强的隐私性和可靠性，以及为用户带来更加个性化的体验。

高通技术公司高级副总裁兼技术规划和边缘解决方案业务总经理马德嘉（Durga Malladi）表示：

我们赞赏Meta针对Meta Llama 3的开放策略，高通和Meta都致力于赋能开发者，激发AI创新。高通的终端侧AI领导力，结合跨不同边缘终端的广泛市场布局，使我们能够在全球范围内扩大Llama生态系统优势，赋能客户、合作伙伴和开发者打造新一代开创性AI体验。

此次合作旨在赋能OEM厂商和开发者，在搭载未来旗舰骁龙平台的终端上支持Llama 3,推动生成式AI功能的普及。高通技术公司强大的异构计算能够无缝利用行业领先的CPU、GPU和NPU处理器，并结合先进的内存架构，赋能客户、合作伙伴和开发者实现最佳应用性能、能效和电池续航。  

开发者可通过高通AI Hub访问相关资源和工具，以实现在骁龙平台上优化运行Llama 3。高通AI Hub目前可提供约100个优化AI模型，能够为开发者缩短产品上市时间，并使他们的应用能够发挥终端侧AI的优势。

高通技术公司和Meta致力于驱动创新，打造下一代AI体验。此次合作是双方持续合作关系的重要里程碑，彰显了双方以强大AI能力赋能开发者和用户的不懈努力。

审核编辑：刘清