联发科天玑9300最高可运行330亿参数AI大模型

描述

  联发科天玑9300最高可运行330亿参数AI大模型

  联发科这个是要把AI大模型带到手机端的节奏吗?联发科正式发布了天玑9300旗舰5G生成式AI移动芯片,天玑9300号称最高可运行330亿参数AI大模型。

  MediaTe天玑9300采取了全大核的CPU架构,包含4个Cortex-X4超大核,最高频率可达3.25GHz,以及4个主频为2.0GHz的Cortex-A720大核,天玑9300的峰值性能相较上一代提升40%,功耗则可以节省33%。而且天玑9300集成MediaTek第七代AI处理器APU 790,APU 790内置了硬件级的生成式AI引擎,这个内置生成式AI引擎,能够支持终端运行10亿、70亿、130亿、最高可达330亿参数的AI大语言模型。

  为了运行亿级参数大语言模型,MediaTek开发了混合精度 INT4量化技术,再结合MediaTek特有的内存硬件压缩技术NeuroPilot Compression,和APU 790支持的“技能扩充”技术NeuroPilot Fusion从而使得天玑9300能力强悍。

  同时,联发科AI开发平台NeuroPilot能够支持Meta LIama 2、百度文心一言大模型、百川智能百川大模型等前沿主流AI大模型。

  天玑9300采用的是台积电第三代4nm制程,天玑9300还采用了新一代旗舰12核GPU Immortalis-G720和ISP影像处理器Imagiq 990。

  天玑9300支持LPDDR5T 9600Mbps内存,天玑9300还支持Wi-Fi 7,支持60FPS的光线追踪,集成了OIS光学防抖专核。年底或者我们就可以看到搭载天玑9300的手机了,大家期待吗?

  此外我们也看到在第六届中国国际进口博览会上,高通中国区董事长孟樸在出席演讲时候表示:生成式AI将使手机成为真正的数字化助手。或者未来在手机本地运行AI大模型是大势所趋。

打开APP阅读更多精彩内容
声明:本文内容及配图由入驻作者撰写或者入驻合作网站授权转载。文章观点仅代表作者本人,不代表电子发烧友网立场。文章及其配图仅供工程师学习之用,如有内容侵权或者其他违规问题,请联系本站处理。 举报投诉

全部0条评论

快来发表一下你的评论吧 !

×
20
完善资料,
赚取积分