自瑞芯微 RK182X AI 协处理器发布以来,RK3588 + RK1828 这一黄金组合,凭借 CPU+NPU 的协同优势获得市场广泛认可;其中 RK1828 凭借其超高 DRAM 带宽特性,在边缘 AI 大模型场景中表现突出。

Firefly 依托 RK182X 开发套件持续助力各行业 AI 项目落地。如今,我们结合用户的实际反馈,对原有设计进行大幅优化升级,推出全新一代边缘 AI 大模型一体机 AIBOX PRO。
黄金组合:RK3588 + RK1828
AIBOX PRO 沿用 RK3588 + RK1828 设计,同时兼容 RK3576、RK3588S 芯片,可根据不同行业场景的算力需求灵活适配,兼顾实用性与扩展性。

其中 RK3588 作为主模组,集成 ARM 4×Cortex-A76 + 4×Cortex-A55,提供 6 TOPS INT8 算力,高性能 VPU 支持多路图像和视频编解码,数据预处理,支持多种主流 AI 框架的量化部署;而 RK1828 作为副模组,采用 3D RAM 堆叠架构,集成 5GB 片内 DRAM,提供 20 TOPS INT8 算力,可流畅运行 7B 以内大模型。二者通过 PCIe 接口高速互联,实现高效协同分工。
RK182X LLM/VLM 性能
RK182X 有着专为 AI 设计的 NPU 架构,并通过 PCIe 高速接口,与主 SOC 协同工作,内置高带宽 DRAM,助力大模型的本地化部署和高效运行。
以下是 RK182X 在运行 LLM 时的表现:

数据基于RKNN3 SDK,所有模型使用w4a16量化,
LLM input为128
以下是 RK182X 在运行 VLM 时的表现:

数据基于RKNN3 SDK,所有模型使用w4a16量化,
VL的LLM部分input为128
AIBOX PRO 未来将升级支持 RK1860 协处理器,该款下一代协处理器预计内置超 64 TOPS NPU 单元,可支持 13B LLM/VLM,为后续算力升级预留充足空间,助力用户应对更复杂的边缘 AI 场景需求。
小巧精致,稳定可靠
AIBOX PRO 相比 Firefly-182X 开发套件,大幅度缩小体积,更易适配狭小的边缘部署空间。机身采用工业级全铝合金材质,兼顾工业实用性与视觉舒适度,质感出众、简约大气,搭配内置风扇,可实现高效散热,支持 7×24 小时不间断稳定运行,即便在高温工况下,也能保持优异的运算性能与整机稳定性,充分适配各类工业场景。

接口丰富,适配多场景需求
AIBOX PRO 配备了丰富的接口配置,覆盖网络、数据传输、视频输出等全场景需求。同时支持 SATA、TF Card 等存储与扩展接口。此外,设备还预留 RS485、CAN-FD、光耦隔离 DI/DO 等工业接口,可灵活适配各类工业外设,助力多行业场景拓展。

多种应用案例演示
应用案例1:视频摘要

RK182X 的端侧 VLM 视频分析以及实时预警方案中,由 RK3588 对视频进行预处理,RK182X 对 VLM 模型进行推理加速,对画面内容作出实时且准确的分析。适用于摄像头监控、安防 NVR 后端、车载哨兵模式等场景。AI 处理均在端侧离线的情况下进行,保障用户的隐私安全。
以下是视频摘要的案例演示:
应用案例2:同声传译

同声传译是通过高速 PCIe 总线互联,RK3588 集成音频 3A 算法,实现精准拾音,RK182X 则部署了同声传译模型,首包延迟仅 3.2 秒。采用离线端部署,无需网络,不仅保护隐私,还可以实现稳定实时的语言翻译,可应用于视频会议、商务洽谈、留学旅游等跨语言交流的场景。
以下是同声传译中会议模式的演示:
应用案例3:陪伴机器人

陪伴机器人的应用场景中,RK3588 作为“小脑”,负责运动控制,而 RK1828 作为“大脑”负责感知决策,在对话(LLM)和场景分析(VLM)的方面都能发挥其极强优势,其中 VLM 在端侧运行,能够有效保护用户的隐私。双模组架构实现端云结合,同时满足了表现效果和场景需求。
应用案例4:语音识别
RK1828 支持 ASR 语音识别交互能力,实现复杂环境下的语音指令快速识别与解析。能够适用于机器人、智能家居、智能终端、语音控制设备等高频的语音自然交互场景。

抢先体验 AIBOX PRO 性能
AIBOX PRO 的优化升级为 AI 大模型提供强劲性能,以及多任务并行处理的能力。可支持语音识别、视频编解码、长上下文对话等应用场景,广泛适用于机器人、AI边缘计算、工业自动化、智能安防、智能驾驶、交通管理、智慧城市、家庭存储、零售自动化等产品和领域。
全部0条评论
快来发表一下你的评论吧 !