TECNO与Arm携手推动移动端实时生成式AI

描述

作者:Arm 边缘 AI 事业部智能手机市场高级总监 Steve Raphael

Arm 始终坚信,人工智能 (AI) 及其所带来的价值,理应惠及更广泛的人群。这一理念正引领 AI 迈入全新发展阶段 —— 更具个性化、即时可用,并越来越多地在端侧运行。

Arm 技术已应用于全球 99% 的智能手机中,在这场持续的“AI 普惠”进程中扮演着至关重要的角色。通过平衡性能、功耗和面积,Arm 技术为各类移动平台赋能,使先进的智能技术能够在任何设备上高效运行,不仅覆盖当今高性能的旗舰手机,更惠及高性价比的中高端机型。

当端侧 AI 普及到这种规模后,全球数十亿用户将能在日常使用的移动应用中感受到切实的体验提升,涵盖实时图像和视频增强、语音识别、多模态助手、翻译、智能摘要、图像搜索等一系列场景。

TECNO 与 Arm 携手推动移动端实时生成式 AI

Arm 近期与 TECNO 的合作,正是 AI 普惠的一个清晰例证。TECNO 是一家专注于为新兴市场用户提供先进技术和互联生态的 AI 智能全生态创新科技品牌。双方携手合作,将端侧生成式 AI 技术引入 TECNO 的中高端机型中,从而为用户带来风格迁移预览 (Style Transfer Preview)、沉浸式风格化等前沿创意体验。

过去,生成式 AI 因算力需求高、延迟长、依赖云端连接,在移动端一直面临发展瓶颈。而 Arm 与 TECNO 的合作破解了这一困局,通过在 Armv9 CPU 上运行生成式 AI,并借助 Arm KleidiAI 进行优化,大幅提升了 TECNO 端侧 AIGC 预览概念技术的 AI 性能,减少了分屏取景时的屏幕闪烁与抖动问题。通过该集成,用户可直接在取景框中,以 30 帧/秒的速率实现风格迁移预览下的实时 AI 艺术特效。

整数 8 位矩阵乘法 (i8MM) 正是实现上述提升的核心,该硬件指令扩展嵌入在 Arm CPU 中,可加速通用矩阵乘法 (GEMM),而 GEMM 正是多数 AI 工作负载的核心计算。这对于中端和入门机型尤其有利,这类设备通常以 CPU 作为主要 AI 引擎。通过 KleidiAI 利用 i8MM 指令,Arm 与 TECNO 的合作可加速通用框架与应用中的核心机器学习 (ML) 工作负载,使 AI 计算速度提升 30%,且效率更高,为实时照片特效、物体检测、增强现实 (AR) 等场景带来响应更流畅的创意体验。

Arm 与 TECNO 的合作已促成多项关键工程创新,其中包括:

智能异构调度,可将工作负载分配到各个 CPU 上,显著提高性能和能效。

模型压缩与修复技术,使得生成式模型能够在 Arm CPU 上高效运行,同时保持所生成内容的出色艺术品质。

通过 CPU 管线保障实时流畅性,将 AI 推理迁移到 Arm CPU,实现创意风格迁移的视频级预览,大幅降低延迟,带来流畅、即时的取景体验。

得益于此,用户能在构图时即时预览创意想法,并体验沉浸式风格化效果。

Armv9 CPU:将先进 AI 引入主流智能手机

Armv9 CPU 的日益普及是推动中高端智能手机拥有强大 AI 功能的关键因素。由此带来了出色的 AI 性能、能效与成熟生态,为全价位段智能手机(从旗舰到入门级机型)普及 AI 功能奠定了基础。

在搭载 Armv9 CPU 的设备上,具体优势体现在以下几个方面:

开发者能够通过 KleidiAI 无缝获取更快速、高效的 AI 性能;

相机和计算机视觉 (CV) 后处理管线中的图像处理能力提升;

应用启动更快,响应更迅速。

Armv9 CPU 已集成到广泛采用的基于 Arm 架构的 MediaTek 天玑平台中,为全球数百万中端及主流设备提供支持。最新的天玑 8500 系列将先进的 AI 技术进一步推向中高端智能手机领域,支持端侧生成式 AI 工作负载,例如风格迁移效果、本地语言模型和创意 AI 等以往仅旗舰机型才具备的功能。

Arm KleidiAI:让移动端开发者轻松实现 AI 优化

然而,仅靠硬件不足以实现 AI 普惠,还必须让开发者能够轻松获取和使用强大的 AI 性能。KleidiAI 在这方面发挥了关键作用。

KleidiAI 是一套经过优化的 AI 库和工具,旨在帮助开发者无需修改任何代码或具备深厚的硬件专业知识,即可充分利用 Arm CPU 的性能潜力。KleidiAI 已集成到主流的 AI 框架中,为手机厂商和广大开发者群体提供了成熟可靠的生态系统,有效衔接 Arm 第二代可伸缩矩阵扩展 (SME2)、i8MM 和第二代可伸缩向量扩展 (SVE2) 等前沿 CPU 特性与实际应用场景,快速获得性能优势。许多全球主流的社交媒体、购物、支付、相机、AR 和多模态应用已广泛受益于 Armv9 CPU 的 AI 能力。

让智能无处不在

AI 普惠并非局限于特定的功能或设备,而是要构建一个计算基础,使智能技术以负责任、高效且普遍的方式实现扩展。由此一来,用户最关心的 AI 体验,如相机管线、语音功能,乃至新兴的 AIGC 工作流,都能从高端设备高效普及到中端及更广泛的机型上。

依托先进的架构特性、软件优化、与 MediaTek 和 TECNO 等合作伙伴的深度生态协作,以及数十年工程创新的积淀,Arm 让数十亿部智能手机都能配备先进的 AI 功能,助力开创普惠共享、而非专属独享的 AI 新时代。

智能无处不在,Arm 赋能未来!

打开APP阅读更多精彩内容
声明:本文内容及配图由入驻作者撰写或者入驻合作网站授权转载。文章观点仅代表作者本人,不代表电子发烧友网立场。文章及其配图仅供工程师学习之用,如有内容侵权或者其他违规问题,请联系本站处理。 举报投诉

全部0条评论

快来发表一下你的评论吧 !

×
20
完善资料,
赚取积分