开拓大模型新边界，苹芯展示存算一体“芯”方向

2024 AI大模型创新发展研讨会暨清华上海自动化年会于2024年3月16日在上海杨浦区成功召开。活动内容包括专家主旨演讲、圆桌讨论、校友企业路演等交流活动。苹芯科技CEO杨越出席会议并进行项目分享。

 

本次会议得到了上海市杨浦区的大力支持，杨浦区委副书记、区长周海鹰，清华校友总会自动化系分会会长、清华大学自动化系主任张涛，清华校友总会自动化系分会秘书长、清华大学自动化系党委书记古槿，清华大学上海校友会会长、华虹计通董事长秦伟芳，清华大学上海校友会监事长、昕诺飞亚太区高级总监宿为民，清华大学上海校友会副会长兼秘书长、启迪控股副总裁韩威，清华大学上海校友会自动化专委会主任、软银中国创业投资有限公司合伙人宋安澜，清华大学上海校友会自动化专委会副主任、上海交通大学计算机系教授、思必驰创始人俞凯，上海欧美同学会副会长张海晓，启迪控股执行总裁、启迪之星董事长张金生，清华大学上海校友会自动化专委会秘书长、元钛基金合伙人陈刚以及来自学术界、产业界的大模型领域专家学者、企业代表、清华校友悉数出席会议，共同探讨AI大模型领域的发展趋势、技术挑战以及未来应用前景等业内焦点问题。

 

苹芯科技CEO杨越受邀出席本次会议并进行题为《从通用到专用 -- AI大模型推理专用加速芯片》的分享。

 

现阶段，随着大模型在人工智能领域快速发展，大模型的训练和推理对计算资源提出了前所未有的挑战。Groq TSP作为专门针对超低延迟应用而设计的确定性ML推理芯片，一经推出便引起广泛关注。但是，通过专业人士分析，其实际部署与应用仍然存在很大的成本问题，产品的应用前景依然在等待市场的反馈。

面对当前情况中的具体问题，苹芯团队提出了新思路，打造存算一体AI大模型端侧推理专用加速芯片，通过三条路径针对性解决难题：首先，利用存内计算技术，降低数据搬运，大幅提升计算能效；其次，打造大模型专属架构设计，完成高内聚低耦合数据处理单元设计，切实降低总体设计制造成本；最后，融入大模型完整产业生态，满足国产大模型对芯片设计需求，实现软硬件一体设计，打通上下游合作链，实现算力算法架构融合。

作为专注于存算一体AI芯片的创新型企业，苹芯科技将继续加快深入探索端侧大模型加速芯片的步伐，推出面向大模型应用场景的芯片产品与解决方案，为AI大模型时代提供强劲的“芯动力”。

 

 

审核编辑：刘清