算力高达 1100 TOPS!内置 Jetson AGX Orin 模组的高算力服务器

描述

CSB1-N4AGXOrin 最高可配置 4 个 NVIDIA Jetson AGX Orin(64 GB)计算节点,算力最高 1100 TOPS (INT8)。支持主流 AI 大模型的私有化部署、多种深度学习框架。拥有 4 个万兆网口,可扩展 SATA 3.0 硬盘。配套智能管理系统,标准的 1U 机架服务器机箱设计,广泛适用于边缘计算、大模型本地化、智慧城市、智慧医疗、智慧工业等产品和领域。

服务器


 


 

提供 1100T 强劲算力

可配置 4 个 NVIDIA Jetson AGX Orin(64 GB)计算节点,最高可提供 1100 TOPS (INT8) 算力,计算节点数量可选配,为人工智能、深度学习提供强劲的算力保障。

服务器


 


 

主流 AI 大模型私有化部署

支持主流大语言模型(Gemma、Llama、Qwen 等)、视觉大模型(EfficientVIT、SAM、TAM 等)、图像生成模型(Flux、Stable Diffusion 等)等大模型的私有化部署。


 


 

支持多种深度学习框架

支持 Ollama 本地大模型部署框架、ComfyUI 图形化部署框架;支持多种由 cuDNN 加速支持的深度学习框架,包括 PaddlePaddle、PyTorch、TensorFlow、MATLAB、MXNet、Keras;支持自定义算子开发、Docker 容器化管理技术。


 


 

8K视频解码,4K视频编码

支持最高 1 路 8K@30fps、3 路 4K@60fps、11 路 1080P@60fps 视频解码,2 路 4K@60fps、8 路 1080P@60fps 视频编码,满足各类 AI 应用场景的需求

 


 


 

aBMC 智能管理系统

配置 aBMC 智能管理系统,轻松完成实时监控、软件配置、硬件配置、故障排除、异常告警、系统升级、远程运维,并可提供二次开发。独立的 BMC 管理网络接口,将管理网络和业务网络分离,保证网络通讯的安全可靠性。

服务器


 


 

丰富的扩展接口

其中配置一个 3.5 英寸(或 2.5 英寸)硬盘位,支持 SATA 3.0 HDD / SSD硬盘扩展,配置 4 路万兆 SFP+ 网络接口、2 路 1000Mbps 以太网,更多接口可查看以下接口图。

服务器


 


 

高度整合,降低成本

服务器高度整合计算单元、存储、通用串行总线、网络控制器、电源控制器和传感器于一体,提供 SDK 一站式深度学习开发工具包、底层驱动环境、编译器、推理部署工具等一系列软件工具,减少用户的采购、开发和运营成本。

服务器

打开APP阅读更多精彩内容
声明:本文内容及配图由入驻作者撰写或者入驻合作网站授权转载。文章观点仅代表作者本人,不代表电子发烧友网立场。文章及其配图仅供工程师学习之用,如有内容侵权或者其他违规问题,请联系本站处理。 举报投诉

全部0条评论

快来发表一下你的评论吧 !

×
20
完善资料,
赚取积分