人工智能
本文来自”中国开源生态系列图谱:人工智能领域“,AI框架是人工智能基础软件的核心,在整个人工智能体系中起着“承上启下”的作用。Al框架向下调用底层硬件计算资源,为算法模型生成、训练和推理部署提供良好的硬件性能基础,向上承接Al算法模型搭建,支撑AI工程和产业应用。
A框架开源项目发起机构集中在科技厂商与高校科研院所两大类。
· 其中科技厂商前期主要满足自身广泛的Al应用需求,后期逐渐向外拓展服务,如华为MindSpore、百度PaddlePaddle、腾讯TNN、阿里MNN、字节跳动BytePS以及小米Mace等。
· 值得关注的是,近年来,高校科研院所开始逐渐重视A框架的研发,但在开源后的资源维护和产业应用拓展模式上,国内高校科研院所仍在探索中,如清华大学发起的计图(Jittor)。
为了解决之前Al模型的扩展性和通用性不高,以及依赖人工数据标注和标注数据量的问题,基础模型/大规模预训练模型提出了一种基于自监督学习的“预训练大模型+下游任务微调”的可行方案。这种模型可以在少量标注数据的基础上,通过大量未标注数据中进行大规模训练,从而迅速挖掘大量领域知识。然后经过少量小参数的微调(delta-tuning),快速适配大模型下游任务。
近年来,盘古、孟子、文心、哪吒、M6-OFA、PLUG等预训练大模型通过开源项目不断累积,获得了行业内积极的认可。同时也有大模型开源项目开始尝试商业拓展,探索模型即服务(MaaS)的模式。
编辑:黄飞
全部0条评论
快来发表一下你的评论吧 !