低功耗大模型主板:ROC-RK3576-PC

描述

采用八核 64 位 AIOT 处理器 RK3576,采用大小核构架(4×A72 + 4×A53),采用先进制程工艺,高性能低功耗,内置 ARM Mali G52 MC3 GPU,集成6TOPS算力 NPU,支持 Transformer 架构下超大规模参数模型的私有化部署,支持多种深度学习框架、自定义算子开发、Docker 容器化管理技术。

 

配置外部看门狗,具备工业级稳定性,广泛适用于 AI 本地部署的应用场景。

 

 

八核 64 位 AIOT 处理器 RK3576

新一代八核 64 位高性能 AIOT 处理器 RK3576,采用大小核构架(4×A72 + 4×A53),采用先进制程工艺,主频高达 2.2GHz,为高性能计算和多任务处理提供了强大支持。搭载 Mali-G52 MC3 GPU,145G FLOPS 的 GPU 可以支持有效的异构计算,满足图形密集型应用的需求。

 

 

 

支持大模型的私有化部署

主板内置强劲 NPU,算力可达 6 TOPS;能够进行更智能的数据处理、语音识别、图像分析,满足大多数终端设备边缘计算 AI 应用需求。

 

语言大模型

支持 Transformer 架构下超大规模参数模型的私有化部署,如 Gemma-2B、LlaMa2-7B、ChatGLM3-6B、Qwen1.5-1.8B 等大型语言模型。

 

 

传统网络架构

支持 CNN、RNN、LSTM 等传统网络架构,支持多种深度学习框架,包括 TensorFlow、PyTorch、MXNet、PaddlePaddle、ONNX和Darknet,并支持自定义算子开发。

 

 

Docker 容器化

支持 Docker 容器化管理技术,可方便进行镜像部署。

 

 

 

4K@120fps 高帧率视频解码

支持8K@30fps/4K@120fps 解码(H.265/HEVC、VP9、AVS2、AV1)和4K@60fps 解码(H.264/AVC),4K@60fps编码(H.265/HEVC、H.264/AVC)。支持HDMI2.1(4K@120fps)/eDP1.3(4K@60fps)、DP1.4(4K@120fps)、MIPI DSI(2560* 1600@60fps)接口,支持三屏异显。

 

 

 

1600万像素ISP,图像处理更优

内置1600万像素ISP,支持低光降噪,支持RGB-IRsensor,支持最高120dB HDR,AI-ISP提升低噪度的图像效果,支持MIPI-CSI输入。

 

 

 

12Gbps数据读取速度

支持 UFS 2.0 / HS-G3 (12Gbps),提供高效的数据存储和读取能力。支持扩展 PCIe NVMe / SATA SSD 固态硬盘,数据读写速度快,让设备轻松拓展至 TB 级的超大容量。

 

 

 

仅信用卡大小,接口丰富

拥有 MIPI-CSI、MIPI DSI、USB3.0、USB2.0、I2C、SPI、SARADC、UART、PWM、LineOut等扩展接口。支持1路 1000Mbps 以太网、2.4G/5GHz 双频WiFi、蓝牙5.0。采用精致小尺寸设计,整体尺寸90mm×60mm,可灵活应用到各种业务场景。

大模型

 

 

支持多种操作系统

支持Android14、Linux OS、Buildroot+QT、国产操作系统,为产品研产提供安全稳定的系统环境。

 

 

 

提供完善的开发资料

提供配套的源代码、教程、技术资料和开发工具,让开发变得更加简单方便。

 

 

 

广泛的应用场景

广泛适用于边缘计算、大模型本地化、智慧商显、云终端产品、工控主机、汽车电子等行业领域。

 

打开APP阅读更多精彩内容
声明:本文内容及配图由入驻作者撰写或者入驻合作网站授权转载。文章观点仅代表作者本人,不代表电子发烧友网立场。文章及其配图仅供工程师学习之用,如有内容侵权或者其他违规问题,请联系本站处理。 举报投诉

全部0条评论

快来发表一下你的评论吧 !

×
20
完善资料,
赚取积分