近日,紫光展锐在2024世界移动通信大会(MWC 2024)上展示了在AI领域的最新成果,赋能广泛终端品类打造突破创新的应用体验。
5G的规模化发展释放了AI的生命力,5G 网络和边缘分布式计算结合在一起彼此增强,为行业新的产品与体验创造机遇。5G 网络提供的高速率和低延迟,再加上在边缘处理数据的实时性与安全性,能发挥终端侧的算力优势,更快更高效地让人们体验到丰富的AI功能。
紫光展锐最新一代AI计算平台提供软件、硬件、算法一体化的全栈AI解决方案。能力覆盖物体识别分类、人脸识别、OCR、图像去抖、图像超分、视频增强、语义分割、目标检测和翻译等数十个典型场景。端侧AI通过提升用户本地化的使用体验,未来在PC端、汽车、媒体(VR/AR)、工业互联网等垂直领域,有更大的发展空间。
从智能手机到多智能终端 开启端侧AI技术创新的“大门”
紫光展锐首先在智能手机平台推动高能效AI部署,2023年推出的系统级安全的高性能SoC T820采用高能效NPU+VDSP架构,垂直优化计算能力,NPU算力达到8TOPS,相比上一代提升67%;深度优化带宽瓶颈问题,释放澎湃算力,能效比引领业界。T820所采用的最新紫光展锐AI计算平台,支持对模型权重值和激活值进行低比特量化;支持业界主流训练框架接入;支持先进的权重压缩技术,让“大模型”在端侧的部署成为可能。
由于高品质视觉体验逐渐成为消费者的关注焦点,智能手机、平板电脑、电视和汽车等终端设备的智能显示需求也在不断扩大。紫光展锐 “AI+X”的系统级竞争力解决方案致力于打造丰富的产品矩阵,提升差异化优势。紫光展锐首颗AI+8K超高清智能显示芯片平台M6780能支持复杂的AI运算,给用户更加真实、流畅、清晰的超高清视听体验。
软硬件同步演进,逐步拓展生态圈
随着AI模型架构的复杂性逐步提升,AI计算部署在终端设备上面临诸多挑战,如芯片种类复杂、异构算力利用率低,算法框架兼容性差、精度损失等问题。另外,碎片化的AI框架,更是应用开发的巨大负担。针对目前痛点,紫光展锐打造了体验一致、统一演进的AI平台能力。
紫光展锐AI软件栈可将AI计算任务分配到不同的硬件计算单元,如CPU、NPU、GPU、VDSP等,充分利用SoC不同计算单元的所有算力,提高AI应用运行效率。同时支持200+主流神经网络算子,为客户和开发者提供便捷的开发接入和调试环境,推动AI应用延伸至智能电视、电竞显示、智能投影、汽车等更广泛的终端设备上,也为紫光展锐赋能AI应用生态奠定了基础。
AI技术已经成为智能手机产品能力的重要一环。AI从云端到终端侧的转变,为AI应用发展创造更多可能性。一方面,智能手机的硬件革新将与AI技术深度融合,业界预计2024年将实现70-100亿参数的大语言模型(LLM)在手机端的应用,这使得手机能够越来越“懂”用户,提供更高效能、更精准的服务。另一方面,端侧AI也将促进多模态生成式人工智能模型释放更多潜能,结合多感官/多模式的数据,为用户提供个性化、定制化的内容和服务。
紫光展锐在端侧AI领域投入研究和创新近十年,与产业合作伙伴在相关领域建立紧密合作,支持丰富的AI应用和功能。未来,紫光展锐将聚焦于为终端用户提供高能效、个性化的智能体验,在端侧大模型软硬一体协同、深度学习算法和模型优化、AI与传感器数据融合等方面持续演进,更好推动芯片应用生态的建设与行业落地。
作为世界领先的平台型芯片设计企业,紫光展锐坚持以技术创新为核心,秉承“专业、共赢、奋斗”的价值观,致力于以高质量产品和创新性解决方案持续为全球产业和客户创造价值,与全球生态伙伴共赢发展,用芯成就美好世界。
审核编辑:刘清
全部0条评论
快来发表一下你的评论吧 !