AI芯片全面发展！从训练到推理、从云端到边缘、从GPU到ASIC

电子发烧友网报道（文/李弯弯）在过去接近10年时间里，AI产业经历了几个重要节点，2012年深度学习的研究突破，给AI产业带来新的起点，2016年Alphago打败李世石，正式引爆市场，一时间涌现出大量AI创业企业，资本也大量投进这个赛道。
 
在短时间火热之后，凑热闹的人逐渐退出，AI产业继续稳步向前发展，最近几年AI技术快速发展，应用场景不断浮现，AI产业也进入到爆发式增长阶段，巨大的市场潜力逐渐显现出来。据艾媒咨询数据显示，2020年中国AI芯片市场规模达183.8亿元，预计2023年将突破千亿级别。
 
同时AI芯片也逐渐呈现出多元化趋势，主要体现在几个方面：一是早期AI芯片更多集中在训练上，如今除了AI训练芯片持续增长，AI推理芯片的市场规模也在快速扩大，预计将超过训练芯片；二是AI芯片过去主要部署在云端，如今已经向边缘端/终端方向发展；第三，AI芯片有各种类型，其中多数是GPU，不过很明显，ASIC、FPGA等非GPU芯片市场规模也在逐步提升。
 
AI推理芯片市场规模逐步扩大
 
AI芯片可分为训练和推理两个环节，训练环节通常需要通过大量的数据输入，或采取增强学习等非监督学习方法，训练出一个复杂的深度神经网络模型。推理环节指利用训练好的模型，使用新的数据去推理出各种结论，比如，视频监控设备通过后台的深度神经网络模型，判断一张抓拍到的人脸是否属于黑名单。
 
也因此通常也会有AI训练芯片和AI推理芯片，另外还会根据是部署在云端数据中心、边缘端、还是终端，更细化的分为云端AI训练、云端AI推理、边缘/终端AI推理芯片。
 
因为AI训练需要大量的数据，基本被部署在云端，过去几年地方政府加快建设公有云、私有云、数据中心，也因此AI训练芯片市场大增，在2018年的时候中国云端AI训练芯片市场份额达到51.3%，中国AI芯片市场规模也以云端训练芯片为主。
 
不过随着大规模地方性数据中心建设陆续完成，云端训练芯片增长速度逐步放缓，而随着各领域市场需求的释放，云端推理芯片、终端推理芯片市场增长速度呈现上升趋势，根据IDC研究发现，2020年中国数据中心用于推理的芯片的市场份额已经超过50%，预计到2025年，用于推理的工作负载的芯片将达到60.8%。

边缘AI芯片市场规模将超过云端芯片
 
同时AI芯片正在从云端向边缘端发展，IDC&浪潮日前发布的《2021-2022中国人工智能计算力发展评估报告》显示，在新技术的驱动下，5G 等连接技术降低了数据的传输和处理速度，为了分担数据中心的计算压力并且也能提高实时响应速度，人工智能在边缘侧的处理将成为企业的一个关键增长领域。
 
人工智能在边缘以及端侧将有广泛的应用场景，从自动驾驶到工业制造，再到消费者智能家居和可穿戴设备。据市场咨询公司ABI Research的数据显示，预计到2025年，边缘AI芯片市场的收入将达到122亿美元，云AI芯片市场的收入将达到119亿美元，边缘AI芯片市场将超过云AI芯片组市场。


非GPU芯片占比增加，将超过20%
 
目前AI芯片有3种主流技术路线，分别是GPU、ASIC以及FPGA。其中GPU芯片被认为更适合用于承担训练负载，有分析人士指出，目前GPU已经发展到较为成熟的阶段。根据IDC数据，2021年上半年AI芯片中，GPU依然是实现数据中心加速的首选，占有90%以上市场份额。
 
英伟达是GPU领域的绝对龙头，占据了绝大部分市场份额，近几年国内也有多家GPU厂商逐渐成长起来，将其用于AI训练和推理，包括天数智芯、摩尔线程、沐曦集成、壁仞科技、登临科技等。
 
虽然目前GPU仍然占据主要的市场份额，不过ASIC、FPGA等其他非GPU芯片在各个领域越来越多的被使用，整体市场份额接近10%，预计到2025年其占比将超过20%，主要原因：一是越来越多的AI初创企业成长起来，它们很多采用ASIC芯片进行训练和推理；二是GPU较多的被用于云端训练，而随着云端、边缘推理芯片市场规模逐渐扩大，FPGA和ASIC芯片的价值更容易得到体现。
 
小结
 
整体而言，经过多年的发展，AI芯片市场规模正在快速增长，同时AI芯片也逐渐走向更加多元化，从功能上来看，逐渐从云端AI训练拓展到云端和边缘端推理，从芯片类型来看，GPU芯片仍然占据重要位置，而FPGA和ASIC等芯片的价值也得到更多体现。
 
我们也明显看到，不少AI芯片企业开始全面推出产品，或者包括云端训练和推理，或者同时进行云端和边缘端芯片产品布局，比如寒武纪推出同时支持训练和推理的芯片，燧原在推出云端训练芯片之后，也推出了云端推理芯片，鲲云科技基于CAISA芯片的产品可应用于云端和边缘端推理。