炬芯科技:混合AI架构大有可为,2025端侧AI是IoT设备关键

制造/封装

514人已加入

描述

又到了岁末年初之际,回顾过去的2024年,半导体产业有增长也有阵痛,复盘2024年的半导体产业状况,有哪些长足的进展又有哪些短板?展望2025年,半导体市场又有哪些机会,该如何发展?为此,电子发烧友网策划了《2025年半导体产业展望》专题,收到数十位国内外半导体创新领袖企业高管的前瞻观点。其中,电子发烧友特别采访了炬芯科技市场推广部总监马大行,以下是他对2025年半导体市场的分析与展望。
 

AI
炬芯科技市场推广部总监马大行

 
近年来,国际环境和形势多变,国际贸易摩擦不断升级,半导体产业成为受到影响最为明显的领域之一,也对国内相关产业的发展造成了客观的不利影响。但也是这种不利影响,迫使国产替代进程加快,也为国内半导体产业带来了新的挑战和机遇,今年以来半导体产业也在逐步回暖,在炬芯科技关注的领域也呈增长的态势。
 
首先,炬芯科技在2024年盈利能力显著提升,2024年第三季度营收及净利润均创历史新高,其中端侧AI处理器收入呈倍数增长。2024年前三季度实现营收和净利润双双增长,同比增长分别为24.05%和51.12%。
 
另外,炬芯科技以全球视野的专业音频芯片品牌立足于市场,服务全球知名的一线品牌客户,在品牌客户方面持续突破,以蓝牙音频、低延迟无线音频产品等产品为例,分别进入了Harman、SONY、BOSE、大疆、RODE、猛玛等国际知名品牌供应链,在以低延迟无线音频为基础的无线麦克风产品市场中,炬芯已成为该市场的主流供应商。不仅在端侧AI处理器产品收入已呈倍数增长,结合全部产品矩阵为炬芯提供了足够的成长动力。
 
更重要的是,在2024年炬芯科技成功推出新一代端侧AI音频芯片,采用三核异构的AI架构,将MMSCIM和先进的HiFi5 DSP融合设计形成了炬芯科技AI-NPU架构。同时炬芯科技为AI-NPU打造了专用AI开发工具“ANDT”,该工具支持业内标准的AI开发流程如Tensorflow,HDF5,Pytorch和Onnx。借助炬芯ANDT工具链轻松实现算法的融合,帮助开发者迅速地完成产品落地。
 
所以不管是在业绩的成长,国际品牌的突破,还是在全球化和产品布局上,炬芯在2024年都取得了显著的进步。
 
未来混合AI架构大有可为,端侧AI芯片高能效比是关键
 
随着生成式A I正以前所未有的速度发展以及计算需求的日益增长,A I处理必须分布在云端和终端进行,才能实现A I的规模化扩展并发挥其最大潜能 ——正如传统计算从大型主机和瘦客户端演变为当前云端和边缘终端相结合的模式。与仅在云端进行处理不同,混合A I架构在云端和边缘终端之间分配并协调A I工作负载。所以炬芯预测混合AI应该会是AI的未来。
 
而混合AI中云端的工作主要就是耗费电力,以提供源源不断的AI算力。但在端侧AI应用当中,特别是大部分装置都以电池驱动,成本和低功耗就成为了芯片设计厂商面临的巨大挑战,为了满足在较低功耗下提供最大算力,端侧AI芯片追求高能效比变得至关重要。
 
还有就是现有的通用CPU和DSP解决方案虽然有非常好的算法弹性,但是算力和能效远远达不成极致的能效比目标,即便专用神经网路加速器(NPU)能效比大幅提升,但也无法满足对于功耗要求较高的穿戴类产品AI需求。传统技术的能效比较差的本质原因均源于传统的 冯•诺依曼计算结构。传统的冯•诺伊曼计算系统采用存储和运算分离的架构,存在“存储墙”与“功耗墙”瓶颈,严重制约系统算力和能效的提升。
 
炬芯科技基于深厚的研发积累以及AI技术的深刻理解,创新性的采用了基于模数混合设计的电路实现存内计算Computing-in-Memory(简称CIM)技术,在SRAM介质内用客制化的模拟设计实现数字计算电路,既实现了真正的CIM,又保证了计算精度和量产一致性。炬芯科技面向电池驱动的低功耗IoT领域成功落地了第一代基于模数混合电路实现的SRAM based CIM(Mixed-mode SRAM based CIM,简称MMSCIM)在500MHz时实现了0.1TOPS的算力,并且达成了6.4TOPS/W的能效比,受益于其对于稀疏矩阵的自适应性,如果有合理稀疏性的模型(即一定比例参数为零时),能效比将进一步得到提升,依稀疏性的程度能效比可达成甚至超过10TOPS/W。基于此核心技术的创新,炬芯科技打造出了下一代低功耗大算力、高能效比的端侧AI音频芯片平台。
 
 
2025端侧AI加速在IoT设备落地
 
从ChatGPT到Sora,文生文、文生图、文生视频、图生文、视频生文,各种不同的云端大模型不断刷新人们对AI的预期。然而,AI发展之路依然漫长,从云到端将会是一个新的发展趋势,AI的世界即将开启下半场,为半导体市场需求增长提供主要动力。
 
以低延迟、个性服务和数据隐私保护等优势,端侧AI在IoT设备中扮演着越来越重要的角色,在制造、汽车、消费品等多个行业中展现更多可能性。基于SRAM的模数混合CIM技术路径,炬芯科技新产品的发布踏出了打造低功耗端侧 AI 算力的第一步,成功实现了在产品中整合 AI 加速引擎,推出CPU+ DSP + NPU 三核 AI 异构的端侧AI音频芯片。
 
炬芯科技发布了全新一代基于MMSCIM端侧AI音频芯片,共三个芯片系列:第一个系列是 ATS323X,面向低延迟私有无线音频领域;第二个系列是ATS286X,面向蓝牙AI音频领域;第三个系列是 ATS362X,面向AI DSP领域。并且以ATS323X为例,有望最快在2025年上半年实现终端产品量产。
 
未来,炬芯科技将继续加大端侧设备的边缘算力研发投入,通过技术创新和产品迭代,实现算力和能效比进一步跃迁,提供高能效比、高集成度、高性能和高安全性的端侧 AIoT 芯片产品,推动 AI 技术在端侧设备上的融合应用,助力端侧AI生态健康、快速发展。
 

打开APP阅读更多精彩内容
声明:本文内容及配图由入驻作者撰写或者入驻合作网站授权转载。文章观点仅代表作者本人,不代表电子发烧友网立场。文章及其配图仅供工程师学习之用,如有内容侵权或者其他违规问题,请联系本站处理。 举报投诉
  • 相关推荐
  • AI

全部0条评论

快来发表一下你的评论吧 !

×
20
完善资料,
赚取积分