GTC 2023：多模态短视频模型推理优化方案解析
电子说
1.3w人已加入
描述
演讲人：李杰，快手科技算法引擎工程师
关于多模态短视频模型推理优化方案解析
多卡推理--流水线并行：将模型和数据切分，以流水线形式计算，提高GPU利用率。模型切分策略：依照各部分的计算时间和参数量设计。
声明：本文内容及配图由入驻作者撰写或者入驻合作网站授权转载。文章观点仅代表作者本人，不代表电子发烧友网立场。文章及其配图仅供工程师学习之用，如有内容侵权或者其他违规问题，请联系本站处理。
举报投诉
-
CDN高级技术专家周哲：深度剖析短视频分发过程中的用户体验优化技术点2018-04-03 0
-
使用rk3588多npu推理模型，模型总推理时间还增加了，这怎么解释2023-11-05 0
-
基于层次注意力机制的多模态围堵情感识别模型2021-04-01 821
-
蛋白质能量模型的多模态优化算法综述2021-05-18 554
-
GTC 2023：短视频多模态超大模型的场景应用2023-03-23 2206
-
VisCPM：迈向多语言多模态大模型时代2023-07-10 722
-
更强更通用：智源「悟道3.0」Emu多模态大模型开源，在多模态序列中「补全一切」2023-07-16 726
-
北大&华为提出：多模态基础大模型的高效微调2023-11-08 998
-
探究编辑多模态大语言模型的可行性2023-11-09 517
-
大模型+多模态的3种实现方法2023-12-13 1712
-
自动驾驶和多模态大语言模型的发展历程2023-12-28 527
-
李未可科技正式推出WAKE-AI多模态AI大模型2024-04-18 606
-
Meta发布多模态LLAMA 3.2人工智能模型2024-09-27 411
-
利用OpenVINO部署Qwen2多模态模型2024-10-18 443
-
阿里云发布开源多模态推理模型QVQ-72B-Preview2024-12-27 155
全部0条评论
快来发表一下你的评论吧 !
