近期,Imagination将陆续推出全新系列研讨会,涵盖边缘AI如何推动工业物联网的发展,生成式AI,智能汽车未来发展趋势等等多个热门话题。
本期研讨会中,Imagination中国区产品总监郑魁为我们解读了中国在基础模型研发及其边缘部署方面取得的进展,重点分析关键趋势、技术突破以及未来展望。
分享嘉宾:郑魁,Imagination中国区产品总监
以下为本期研讨会要点内容回顾,更多详细内容可观看完整版视频。生成式AI在中国的崛起
预计未来五年,中国在生成式AI(Gen-AI)领域的投资将以86%的年均复合增长率(CAGR)增长。这一发展的主要推动力源于对高端技术自给自足的需求,包括从应用到芯片的全面布局,并注重本地技术开发。
主要发展领域包括:
开源社区建设:积极参与深度学习框架和大型模型开源社区。
区域技术趋势
中国的研究实验室在AI领域作出了显著贡献,尤其是在开源生态系统中:
排行榜表现:中国模型在全球竞争中表现优异,特别是在特定子任务上。
多模态大语言模型:在中文理解等细分领域具有强大竞争力。
设备端模型:在边缘设备上开发高效模型,如MiniCPM3-4B。
基础模型的基准表现
中国的基础模型在基准测试中表现出色,如Qwen2.5-72B-instruct和GLM-4-plus在指令遵循、长文本生成和结构化数据理解方面表现卓越。最新的Qwen2.5模型包含高达18万亿标记数据,在多样化系统提示下表现出强大的适应性。
多模态大语言模型(LLM)
腾讯的混元大模型以3890亿参数、5.2亿激活参数及最高可达256,000个Token的处理能力,成为最大的开源混合专家模型之一,在语言理解和逻辑推理等领域表现优异,甚至超过一些更大规模的模型。
开源贡献与设备端AI
中国活跃的开源LLM社区开发了诸如DeepSeek-V2等混合专家模型,在高效推理和经济训练方面表现出色。同时,参数在10亿以下的设备端模型(如GLM-4-9B-Chat和MiniCPM-2B)在中文任务和其他应用中取得优异成绩。
边缘计算的挑战与解决方案将生成式AI部署到边缘设备而非云端,可实现更快响应、更高隐私、更个性化体验和更低的云推理成本。然而,要真正发挥AI在边缘的潜力,还需解决计算密集型问题。GPU凭借其可编程性、灵活性和高效计算能力,成为推动生成式AI应用至边缘设备的关键技术。
结语
中国科技生态正快速发展,并成功研发基础模型并部署至边缘。随着技术创新的持续推进以及对本地化和定制化的高度重视,消费者将见证更多强大的AI功能应用到各种设备中。
下一期研讨会中,Imagination高级产品总监Rob Fisher将分享“汽车行业趋势”的相关主题,敬请期待!
全部0条评论
快来发表一下你的评论吧 !