芯原NPU全球累积出货超1亿颗，应用领域涵盖AI视觉、AI语音、AI图象

在今天举办的芯原AI专题技术研讨会上，芯原执行副总裁、IP事业部总经理戴伟进先生带来了《大模型推动边缘计算变革的机遇与挑战》的主题演讲。
 
过去这些年，AGI大模型在诸多方面实现了突破性进展，包括模型自主使用工具、模型自我迭代/自我设计、模型的情感能力等。现在很明显的趋势是，将大型人工智能模型引入嵌入式系统，而最明显的边缘设备应用则是“手机、AI-PC、汽车”。
 

 
大语言模型最主要的能力是自然的人机交互，包括：1、多模态能力；2、更自然的对话和更真实的信息；3、通用人工智能。目前已经有不少相关的产品发布，如，OPenAI发布具有突破性的Sora视频生成模型，采用Transformer架构是一个在不同时长、分辨率和宽高比的视频及图象上训练而成的扩散模型。
 
对标Sora的高质量视频生成模型，谷歌宣布推出全新的Project Astra项目、基于Gemini，可以本地运行在Pixel手机或AR眼镜上，在各个生活场景中与用户实现低延时全方位的语音交互，是对标OpenAI GPT-4o的最新模型。
 
微软CoPilot+PC最新技术亮点：（1）算力升级。（2）回溯记忆。（3）实时字幕。（4）渲染交互。AGIBot在2023年8月推出具身智能机器人“远征A1”，百亿参数大模型加持、目标成本20万元以内。采用了语言任务模型WorkGPT，结合了LLM和VLM等AI技术，能够为机器人提供自主感知环境、理解任务、编排动作的能力，并且实现了思维链。
 
在本次会议上，戴伟进先生详细介绍了芯原的NPU技术。芯片原神经网络处理器（NPU）已在全球累积出货超过1亿颗，涵盖：AI视觉、AI语音、AI图象、AIoT/智慧家居、AR/VR、自动驾驶、PC、智能手机、监控、数据中心、可穿戴设备、智慧医疗、机器人等。
 

芯原图形处理器（GPU）已在全球累积出货近20亿颗，70项国内外专利、耕耘嵌入式市场近20年。

芯原视频处理器（VPU）全球领先-AI Video，AI赋能智能视频处理等行业。今天已经在边缘设备运行大模型，包括：AIPC、医疗系统设备，计算机和工业应用领域等等。
 

 
芯原AI-Computing处理器技术可编程、可扩展、高性能、低功耗。芯原AI-ComputingIP产品，包括：数据中心、边缘服务器等。NPU IP VIP9X00是推断、增量训练，GPGPU IP CC8X00是通用计算，NPU+GPUIP GC9X00AI是AI-GPU/AI-PC，Tensor Core GPU IP CCTC-MP、大模型预演模型推理、训练。
 

芯原 AI-Computing软件框架方面，芯原Acuity工具、库和软件堆栈。Project Open Se Cura-边缘与云协同计算（大模型、轻量大模型），芯原应用与谷歌眼镜、使其极低功耗、常开、环境计算。大语言模型正在云端和移动设备上，那些大语言模型的主要组件可以实现捕捉、信号和感知信息，可以评估和融合。