解析OrangePi AIpro：什么是 NPU？它对你意味着什么？

 

神经处理单元是一种专用的人工智能芯片，它能为计算机的 CPU 或 GPU 分担部分工作，使设备能更好地工作。

人工智能（AI）在过去几个月里取得了巨大进步，为个人电脑提供了更多便利和更快的处理速度。以人工智能为重点的计算机效率很大一部分是通过 NPU（神经处理单元）实现的，在即将推出的高通骁龙 X Elite 和英特尔酷睿 Ultra 处理器中可以找到这种处理器。

 

但究竟什么是 NPU？NPU 如何加速人工智能任务？更重要的是，NPU 能为您做些什么？我们将为您一一介绍。

 

NPUs 对提高效率至关重要

 

 

英特尔酷睿 “流星湖 ”处理器配备 NPU。(图片来源：Windows Central）

 

神经处理单元（Neural Processing Unit，简称 NPU）是一种人工智能芯片，旨在以比 GPU（图形处理器）和 CPU（计算机处理单元）更快的速度执行人工智能任务。它通过承担小规模的重复性处理，减轻了 GPU 和 CPU 的部分负荷，从而使计算机在满足人工智能驱动的请求时能更高效地工作。

 

例如，NPU 可以在视频通话中模糊背景，或在视频或照片编辑中进行物体检测，从而帮助计算机的 GPU 和 CPU 保持高效运行，这样 CPU 和 GPU 就可以腾出手来处理其他任务。

 

NPUs 比 GPUs 更好地处理某些任务

 

CPU、GPU 和 NPU 对系统的运行都非常重要。(图片来源：Windows Central / Midjourney）

 

CPU、GPU 和 NPU 对计算机的整体运行都至关重要，但它们是为处理不同的渲染和计算任务而设计的，因此在理想情况下，没有一个处理器会不堪重负。防止处理器负荷过重至关重要，因为这决定了电脑运行的流畅程度。

 

这三种处理器都能进行一些图像渲染，但它们承担的工作量各不相同。GPU 是重型设备，专门用于渲染视频编辑和游戏任务中的复杂图像。然而，NPU 的设计是为了更快地处理短时间和重复性的人工智能任务，例如与人工智能助手协同工作。换句话说，NPU 可以从 GPU 手中分担一些工作，这样 GPU 就可以专注于更大的分配任务，系统整体工作效率也会更高。

 

综上所述，操作系统会查看你的电脑硬件，并根据你的系统规格和可用资源来决定 GPU 还是 NPU 更适合特定的人工智能任务。

 

为什么要关注 NPUs

Snapdragon X Elite 配备了 NPU。 (图片来源：Future）

 

首先，了解处理器的基本知识至关重要。正如您在我的英特尔 vs. AMD vs. 英伟达指南中所看到的，这些半导体芯片制造商往往专注于不同的领域。英特尔是 CPU 行业的领导者，英伟达是 GPU 行业的领导者，而 AMD 则是两者的完美结合。

 

今后，我们会在处理器中看到越来越多的 NPU。新的英特尔酷睿 Ultra 处理器（原代号为 Meteor Lake）就证明了这一点，它全部采用了 NPU，并被多家电脑公司广泛应用于最新的超极本和笔记本电脑中。

 

此外，高通公司多年来一直在研究 NPU，并在这方面走在了竞争对手的前面。其 Snapdragon X Elite 处理器采用了 CPU、GPU 和 NPU，很快就会出现在 Windows 笔记本电脑上。高通公司已经向苹果 MacBook Pro 展示了这款芯片的强大性能。根据高通公司的说法，骁龙 X Elite 可以每秒执行 75 Tera 运算（TOPs），这尤其令人印象深刻。

 

这一切对您意味着什么

 

 

高通公司通过对苹果 Macbook Pro 笔记本电脑进行基准测试，展示了骁龙 X Elite 的强大性能。 (图片来源：Future）

 

在最新一代终端中加入 NPU 意味着整个行业具备了利用最新人工智能技术向前发展的能力。换句话说，由于在最新笔记本电脑中加入了 NPU，新的应用程序将能够利用最新的人工智能软件。反过来，随着时间的推移，作为用户，您将能享受到更多与人工智能相关的便利和高效的人工智能流程。

 

通过人工智能执行视频编辑功能的速度可能比以往任何时候都要快。又或者，在你最常用的程序中，会出现更多的人工智能过滤器和选项。无论如何，重点都在于提高计算机的效率，这样您就不必在琐碎的任务上浪费太多时间，无论是个人项目、创意项目还是办公项目。

 

高通公司的 NPU 也已被证明可以处理生成式人工智能图像，因此我们可能很快就会在基于高通公司的手机上看到这种功能。这也将为游戏手持设备带来多种新的可能性。

 

NPU FAQ

 

NPU 可帮助提高系统运行效率。 (图片来源：Windows Central）

 

什么是 PC 和笔记本电脑中的 NPU 处理器？

神经处理单元（NPU）专门用于以比 GPU 和 CPU 更快的速度执行人工智能任务。这样可以减轻 GPU 和 CPU 的部分负荷，使两者都不会过度消耗，从而帮助计算机更好地运行。

 

什么是机器学习，它与深度学习有何不同？

机器学习是人工智能的一个方面，它允许程序收集数据并根据所掌握的信息做出决策。深度学习则更进一步，神经网络的功能就像人的学习大脑一样，可以根据收集到的信息做出新的结果和决策，而不仅仅是重复信息。

 

NPU 比 GPU 更好吗？

神经处理单元（NPU）和图形处理单元（GPU）都是计算机处理能力不可或缺的组成部分，因此这取决于您在什么情况下比较神经处理单元（NPU）和图形处理单元（GPU）。GPU 专门用于渲染复杂图像，以处理视频编辑和游戏等任务。然而，NPU 的设计目的是更快地处理人工智能任务，减少 GPU 的部分负载，从而提高系统的工作效率。问题是，NPU 往往更局限于小型、重复性任务，而 GPU 能更好地处理大型和新任务。重要的是，这两种处理器能协同工作，提高系统的整体性能，就像在笔记本电脑中一样。

 

神经处理单元有哪些用途？

神经处理单元 (NPU) 可以加速人工智能机器学习任务，如语音识别、视频通话中的背景模糊处理，以及照片或视频编辑过程（如物体检测）。

 

NPU 代表什么？

NPU 是神经处理单元（Neural Processing Unit）的缩写。NPU 是一种人工智能芯片，执行人工智能任务的速度比 GPU 和 CPU 更快。这可以减轻 GPU 和 CPU 的部分负荷，从而使计算机在执行人工智能任务时可以更高效地工作。

 

NPU 对游戏笔记本电脑有帮助吗？

有，也没有。专用图形处理器在密集型游戏图形方面承担了大部分重任，而 NPU 则主要用于小型人工智能辅助。因此，NPU 更适合用于超极本和笔记本电脑，而不是游戏笔记本电脑和游戏台式机。

 

不过，NPU 可以从 GPU 手中分担一些任务，让 GPU 更有效地工作。如果系统的其他部分与 CPU 配合得当，这将带来更好的每秒帧数和更流畅的游戏体验。

 

举例来说，当你关闭游戏并返回 Windows 桌面时，人工智能可以帮助检测笔记本电脑何时应该切换回集成显卡，并继续由 NPU 执行相同的操作。集成显卡是现代游戏笔记本电脑的一大特色，但它并不像专用显卡那样注重原始游戏性能。

 

 

OrangePi AIpro，20TOPS算力NPU，为AI赋能

 

去年，香橙派和华为昇腾强强联手，推出了20TOPS算力NPU的AI开发板OrangePi AIpro，。OrangePi AIpro基于昇腾技术路线，包含多种AI应用，如图像分类、目标检测、图像处理、手势识别等。凭借其先进的功能，它能让机器人出色地完成各种任务，并促进自然语言处理与计算机视觉的融合。此外，它还支持 AR 阴影生成、实例分割、NLP 和模式识别，使其成为技术领域的变革者。

 

 

在软件方面，OrangePi AIpro为开发人工智能应用提供全面的软件支持。昇腾平台可处理各种人工智能框架，支持的框架包括 MindX DL、MindX Edge、ModelZoo、MindX SDK 和 MindSpore。此外，该平台还提供与第三方框架的无缝集成，并支持异构计算架构。借助 CANN 等工具和 MindStudio 等全流水线开发工具链，开发人员可以为其人工智能应用获取一整套资源。

 

 

在硬件方面，Orange Pi AIpro版本配备了强大的 4 核 64 位处理器以及专用的 AI 和图形处理器。以20T版本为例，它不仅支持双 4K 输出，带来非凡的视觉体验，还能方便地容纳高达256 GB的eMMC 存储模块。在内存配置方面，你可以选择 12 GB 或 24 GB LPDDR4X 内存，速率可达4266Mbps。

 

Orange Pi AIpro 开发板还提供多种接口，具有卓越的多功能性。这些接口包括 GPIO 接口、HDMI 端口、支持 NVMe 2280 SSD 的 M.2 插槽、USB Type-C以及 TF 插槽。

 

此外，Orange Pi AIpro 还为 openEuler 和 Ubuntu 操作系统提供了出色的支持。它能满足人工智能算法原型验证和推理应用开发的所有必要标准。