新品 | LLM-8850 Card, AX8850边缘设备AI加速卡

LLM‑8850 Card 是一款面向边缘设备的 M.2 M-KEY 2242 AI 加速卡，把 42 mm 的袖珍体积与 Axera AX8850 SoC 的 24 TOPS @ INT8 算力结合起来，为 Raspberry Pi 5、RK3588、x86 PC 等主机 “一插即强” 地扩展多模态大模型与视频分析能力。

 

 

卡上配备微型涡轮风扇 + 铝合金 CNC 鳍片的主动散热系统，由板载 EC 根据温度‑电流曲线智能调速，长期满载也能维持低温稳态，避免密闭机壳内的热衰减。

 

板载 DCDC + PMIC 电源链路由 EC 进行实时功耗管理，实现 “按需供电、按需散热”，大幅提升整机稳定性。支持 AXCL Runtime，支持 C / Python API 一键部署 YOLO‑v8/v9、CLIP、Whisper、Llama 3.2、Gemma 2、Qwen 2.5 等主流 CNN、Transformer、LLM 与多模态模型；同时利用 AX8850 的 VPU 硬件管线，提供 H.264/H.265 8K 编解码与同编同解转码加速与缩放 / 裁切，兼顾 AI 与视频流处理。支持 host 使用 ffmpeg 直接调用硬件视频编解码器。

 

 

产品特性

 

 

◎ 高算力 NPU：

24 TOPS @ INT8，八核 Cortex‑A55 1.7 GHz CPU

◎ 原生 AXCL：

CNN、Transformer、CLIP、Whisper、Llama3.2、Qwen 2.5、InternVL 2 等全栈模型一键运行，支持 H.264/H.265 同编同解转码

◎ 高带宽内存：

64‑bit LPDDR4x，4266 Mbps 速率，8GB 容量

◎ 硬件视频引擎：

8 K @ 30 fps H.264/H.265 编码，8 K @ 60 fps 解码，支持 32 路 1080 p 并行解码

◎ 超紧凑形态；丰富 I/O；智能散热 / 供电

◎ 安全启动 & 加密

 

应用场景

 

◎ 工业 / 商用 SBC 算力升级：

Raspberry Pi 5、RK3588、TI AM62x 等板卡本地运行目标检测、缺陷识别

◎ 具身智能机器人：

AMR / AGV / 服务机器人即插即得 “感知‑决策‑控制” 本地链

◎ AIPC & 边缘智能终端：

在迷你 PC 内提供离线 Copilot、客服问答、会议字幕 & 即时翻译

◎ NVR / NAS 智能化改造：

旧存储盒增添多路 AI 车牌抓拍、事件摘要检索 + 硬件转码

◎ 智能交互设备：

语音助手、智能门铃、广告机实现本地 LLM + TTS 的低时延对话

◎ AI 视觉网关：

交通路口、园区闸机前端推理，实时客流统计与危险行为告警