PQ Labs MagicAI让CPU玩得转人工智能

PQ Labs （上海品奇数码科技有限公司）在 CES 2019 展会发布的 MagicAI 技术拥有非常快的运行速度：可以在 Intel i7 处理器上，以 718 FPS 的帧率运行 物体识别 程序而无需降低识别精度，而在同样 CPU 上直接运行 Tiny Yolo 则仅仅有 3.6 FPS 的帧率。MagiAI（Tiny Magic Yolo）的计算速度达到了 Intel MKL 的199倍，甚至达到了经过 GPU (Titan X / 1080Ti) 加速的 Tiny Yolo 3.5倍的运行速度。

为人工智能而生的新物种

MagicAI 技术的设计和开发是从深度学习最底层的数学基础开始的，所有数学运算都被重新优化设计，重新封装在一个叫做 “MagicCompute” 的运算库内，以替代 NVIDIA CUDA，cuDNN 及 Intel MKL，并实现运行速度的提升。例如， “卷积运算” （所有深度学习模型的基础运算）由 “MagicConvolution” 来执行，就可以获得性能的飞速提升。

MagicAI 的运行速度提升同样来自于其独特的骨干网络优化，运行速度要比 MobileNet V2、ShuffleNet V2 等轻量化模型更快，并且准确度更高。

MagicAI 从设计之初就与众不同，目前人工智能的产业界和学术界依然沿用深度学习技术在其非常早年间定义下来的训练方式，严重依赖基于ImageNet Classification 的训练和调优，然后再使用 ImageNet 的模型作为预训练模型，通过 “知识迁移” 来训练并获取其他任务的能力（比如物体识别)。

这种传统模式在过去并没有什么问题，但是 MagicAI 的做法有所不同，我们认为 对 ImageNet Classification 的调优并不是最优解，有时优秀的 Classification 结果反而会对其他任务的精度带来负面影响。 MagicAI 选择重新设计新的训练方式来解决这个问题，这进一步提升了 MagicAI 的准确率和计算效率。

MagicAI支持现有的模型和框架

MagicAI 技术新颖且速度飞快，但是这并不意味选择 MagicNet 就意味着放弃在现有的技术模型（TensorFlow, Caffe, Pytorch等）上花费的时间和精力。MagicNet 可以向后兼容，支持已有的模型，无需重新训练或编程，就可以让现有模型运行的更快。