GTC 2023：多模态短视频模型推理优化方案解析
电子说
1.2w人已加入
描述
演讲人：李杰，快手科技算法引擎工程师
关于多模态短视频模型推理优化方案解析
多卡推理--流水线并行：将模型和数据切分，以流水线形式计算，提高GPU利用率。模型切分策略：依照各部分的计算时间和参数量设计。
声明：本文内容及配图由入驻作者撰写或者入驻合作网站授权转载。文章观点仅代表作者本人，不代表电子发烧友网立场。文章及其配图仅供工程师学习之用，如有内容侵权或者其他违规问题，请联系本站处理。
举报投诉
-
玩转短视频？守护视频安全？AI智能提速？一分钱体验? 阿里云视频点播大招盘点2018-03-16 0
-
CDN高级技术专家周哲：深度剖析短视频分发过程中的用户体验优化技术点2018-04-03 0
-
2018亚太CDN峰会开幕，阿里云王海华解读云+端+AI的短视频最佳实践2018-04-12 0
-
从手淘搜索到优酷短视频，阿里巴巴是如何在搜索推荐领域下应用深度学习的？2018-05-08 0
-
简单的模型进行流固耦合的模态分析2020-07-07 0
-
短视频源码开发中，源码快速搭建的关键点是什么2020-09-30 0
-
压缩模型会加速推理吗？2023-01-29 0
-
AscendCL快速入门——模型推理篇（上）2023-08-24 0
-
使用rk3588多npu推理模型，模型总推理时间还增加了，这怎么解释2023-11-05 0
-
HarmonyOS：使用MindSpore Lite引擎进行模型推理2023-12-14 0
-
短视频系统源码更新内容说明-国内短视频平台优秀作品2018-08-13 532
-
云海计费系统v4.1 视频解析解析收费接口专用 短视频解析解析收费接口专用 影视视频电影解析计费平台源码程序2022-01-11 1916
-
GTC 2023：短视频多模态超大模型的场景应用2023-03-23 1994
-
大模型+多模态的3种实现方法2023-12-13 834
-
自动驾驶和多模态大语言模型的发展历程2023-12-28 234
全部0条评论
快来发表一下你的评论吧 !
