联发科天玑9300最高可运行330亿参数AI大模型
联发科这个是要把AI大模型带到手机端的节奏吗?联发科正式发布了天玑9300旗舰5G生成式AI移动芯片,天玑9300号称最高可运行330亿参数AI大模型。
MediaTe天玑9300采取了全大核的CPU架构,包含4个Cortex-X4超大核,最高频率可达3.25GHz,以及4个主频为2.0GHz的Cortex-A720大核,天玑9300的峰值性能相较上一代提升40%,功耗则可以节省33%。而且天玑9300集成MediaTek第七代AI处理器APU 790,APU 790内置了硬件级的生成式AI引擎,这个内置生成式AI引擎,能够支持终端运行10亿、70亿、130亿、最高可达330亿参数的AI大语言模型。
为了运行亿级参数大语言模型,MediaTek开发了混合精度 INT4量化技术,再结合MediaTek特有的内存硬件压缩技术NeuroPilot Compression,和APU 790支持的“技能扩充”技术NeuroPilot Fusion从而使得天玑9300能力强悍。
同时,联发科AI开发平台NeuroPilot能够支持Meta LIama 2、百度文心一言大模型、百川智能百川大模型等前沿主流AI大模型。
天玑9300采用的是台积电第三代4nm制程,天玑9300还采用了新一代旗舰12核GPU Immortalis-G720和ISP影像处理器Imagiq 990。
天玑9300支持LPDDR5T 9600Mbps内存,天玑9300还支持Wi-Fi 7,支持60FPS的光线追踪,集成了OIS光学防抖专核。年底或者我们就可以看到搭载天玑9300的手机了,大家期待吗?
此外我们也看到在第六届中国国际进口博览会上,高通中国区董事长孟樸在出席演讲时候表示:生成式AI将使手机成为真正的数字化助手。或者未来在手机本地运行AI大模型是大势所趋。
全部0条评论
快来发表一下你的评论吧 !