兆芯推出基于KH-40000的深度学习训推一体化解决方案

兆芯 2024-05-15 455

描述

该方案支持以兆芯开胜KH-40000系列服务器处理器及算能自研算力产品（包括算能TPU处理器、推理微服务器、智算卡等）为硬件底座，以AutoML零代码自动化训练平台为基础，能够帮助用户通过简单的操作，自主完成模型创建、数据标注、模型训练、模型测试、模型部署等全流程的过程。

人工智能让机器不再仅仅是执行人类命令的工具，而是能够思考、解决问题的智能体，作为当今科技领域最受关注、热度最高的数字技术应之一，人工智能正在逐步的改变着我们的生活方式和世界的发展格局，已经成为各国科技创新竞争的重中之重。

方案背景

随着人工智能大模型的爆火与飞速进步，深度学习在各领域的应用日益深入，其与产业的融合也日益深入和专业化。日前，基于兆芯处理器平台的AI教育解决方案已经在华南理工大学工程训练中心AI实验室顺利部署上线。该方案进一步完善了学校的AI教学模式，能够帮助学生模拟和探索AI在真实场景中的应用，进行机器视觉、自然语言处理、深度学习等方面的实践。

深度学习的落地是一个复杂的系统工程，企业进行自主研发，必须从零开始，建立一个团队，这就意味着要付出高昂的人力代价，还要克服许多技术困难，而且很难确保模型的实用性；在定制开发模式上，存在“一个场景对应一个模型”造成的定制成本高、开发时间长、不能自主迭代、泛化能力差、业务数据保密性高等诸多困难。

方案简介

针对企业部署深度学习应用人力成本高、技术难度大、开发周期长、迭代能力差等问题和难点，兆芯与算能联合SOPHON.TEAM生态共同构建了一套可高效落地的整体解决方案。

该方案支持以兆芯开胜KH-40000系列服务器处理器及算能自研算力产品（包括算能TPU处理器、推理微服务器、智算卡等）为硬件底座，以AutoML零代码自动化训练平台为基础，能够帮助用户通过简单的操作，自主完成模型创建、数据标注、模型训练、模型测试、模型部署等全流程的过程，实现快速、高效的深度学习工程化落地。

方案架构

大模型

方案分为硬件层、软件层、数据层。硬件层部署训练服务器及算能推理微服务器、智算卡等产品；软件层部署训练平台和推理平台；数据层通过视频采集、数据清洗、数据标注等操作，为推理平台和训练平台推理训练数据。

方案价值

一体化交付

集算法训练与推理部署等能力于一体，全面解决深度学习项目落地过程中从数据处理、模型训练、应用部署到事件上报全流程的问题，能力更全面、体验更流畅、性能更完整、性价比更高。

场景智能+业务导向

面向真实业务场景的实战型解决方案，可基于用户数据特征、场景特征、业务需求智能化推荐相应的模型结构、灵活设置业务参数，在更小的资源投入下，实现更好的应用效果和更高的处理器利用率。

灵活的算法定制能力

该方案在稳定的硬件基础上，实现了专业、灵活的算法生产，用户可根据实际需求自主生产、部署所需算法，并根据业务场景需求自动化迭代精度，显著优于硬件与固定算法绑定的传统方案。

应用场景

构建现代立体化视频图像巡检体系

采取数据增强策略，针对性生成移动小目标识别等相关深度学习算法，多帧过滤、多次检测，弥补无人机视角下移动目标过小、检测难度大等不足，进行精准识别，可以快速、准确地识别出巡检区域内的特定目标。

提升网络基础设施智能化管理及故障风险预警能力

通过智能化监测系统，收集基础设施的运行数据，并借助AutoML自动化训练平台对机房和基站等场景的基础设施进行数据分析和建模，从而实现故障和安全隐患的预测和预警，进一步提前对发生故障和风险事件的可能性进行判断和排除。

相关产品

算能智算卡SC7

SC7是面向深度学习推理的算力卡，已完成与兆芯开胜KH-40000系列服务器处理器的适配认证，产品高效适配市场上主流深度学习算法，实现视频结构化、人脸识别、行为分析、状态监测等应用，为智慧城市、智慧交通、智慧能源、智慧金融、智慧电信、智慧工业等领域赋能。

联想开天KR722z G2服务器

联想开天KR722z G2服务器，搭载双路开胜KH-40000/32处理器，支持12×前置3.5寸或24×2.5寸热插拔硬盘；4×后置热插拔硬盘。支持超大数据存储容量和热插拔功能，内存容量最高可支持2TB，同时整机采用冗余的散热功能和可选的电源功能设计，提供强大算力的同时，可保障业务连续稳定运行。

联和东海XRS 302系列服务器

联和东海XRS 302系列服务器搭载双路开胜KH-40000/32处理器，响应快速，性能大幅提升；提供32个内存槽位，内存最大支持2TB；多种规格PCIe 接口，可支持GPU算力卡等硬件扩展。适用于OA/邮件服务、数据库服务、存储服务、云平台计算节点，AI 算力服务、推理服务等应用场景。

审核编辑：刘清

打开APP阅读更多精彩内容