AIBOX-1684X：把大语言模型“装”进小盒子

AIBOX-1684X支持主流大模型私有化部署，算力高达32TOPS，同时也支持CNN、RNN、LSTM等传统网络架构，支持TensorF NNX和Darknet等深度学习架构，并支持自定义算子开发。支持Docker容器化管理技术。适用于智能监控、AI教学、算力服务、边缘计算、大模型私有化部署、数据安全和隐私保护等场景。

 

 

全面的人工智能私有化部署
 

语言大模型

支持Transformer架构下超大规模参数模型，如LLaMa2、ChatGLM、Qwen等大型语言模型的私有化部署。

 

 

视觉大模型

支持ViT、Grounding DIN0、SAM等视觉大模型的私有化部署。

 

 

AI绘画

支持AIGC领域的Stable DiffusionV1.5图像生成模型的私有化部署。

 

 

传统网络架构

支持CNN、RNN、LSTM等传统网络架构。

 

 

深度学习框架

支持多种深度学习框架，包括TensorFlow、PyTorch、MXNet、PaddlePaddle、ONNX和Darknet，并支持自定义算子开发。

 

 

Docker容器化

支持Docker容器化管理技术，可方便的进行镜像部署。

 

 

 

32TOPS超高算力AI处理器 

搭载SOPHON算能AI处理器BM1684X，拥有八核ARM Cortex-A53，最高主频2.3GHz，采用12nm工艺制程；拥有高达32Tops（INT8）算力，或16TFLOPS（FP16/BF16）算力、或2Tops（FP32）高精度算力，支持主流编程框架，可广泛应用于云端及边缘应用的人工智能推理。

 

 

 

多路视频AI处理性能

最高支持32路1080P H.264/H.265的视频解码，32路1080P高清视频全流程处理（解码+AI分析），满足视频流人脸检测、车牌识别等各类AI应用场景的需求。

 

 

 

强大的网络通讯能力

支持双路1000Mbps以太网 ，高速稳定的网络通讯方式，满足不同应用场景需求。

 

 

高效散热，工艺精美

配置工业级全金属外壳，铝合金结构导热，顶盖外壳侧面采用条幅格栅设计，保证外部空气流通，高效散热，保障在高温运行状态下的运算性能和稳定性。顶盖采用多孔六边形设计, 简洁美观。整机小巧精致，运行稳定，满足各种工业级的应用需求。

 

 

国产化定制，产品自主可控

可实现100%国产化硬件方案定制，技术完全自主可控，工业级产品质量，稳定的供货周期，满足各种行业的需求。

 

 

 

 

完善的开发资料

提供配套的源代码、教程、技术资料和开发工具，让开发变得更加简单方便。

 

 

 

广泛的应用场景

广泛适用于智能监控、AI教学、算力服务、边缘计算、大模型私有化部署、数据安全和隐私保护等场景。