训练和推理需要大规模计算使用昂贵且耗电的 GPU 的资源。因此,深度学习是在云中执行的,或者在大型本地数据中心中。训练新模型需要完成的天数和周数以及推理查询遭受往返延误的长时间延误从云中。然而,输入到云系统中的数据,对于更新训练模型和推理查询是主要在边缘生成——在商店、工厂、终端、办公楼、医院、城市设施、5G小区站点、车辆、农场、家庭和手持移动设备设备。将快速增长的数据传输到和从云或数据中心导致不可持续网络带宽,成本高,响应速度慢,以及损害数据隐私和安全降低设备自主性和应用程序可靠性。
Deep-AI开发了一种独特,集成和高效的训练和推理深度学习解决方案边缘。借助 Deep-AI,应用程序开发人员可以部署具有实时功能的集成训练推理解决方案重新训练他们的模型,同时在线推理同一设备。
声明:本文内容及配图由入驻作者撰写或者入驻合作网站授权转载。文章观点仅代表作者本人,不代表电子发烧友网立场。文章及其配图仅供工程师学习之用,如有内容侵权或者其他违规问题,请联系本站处理。 举报投诉