边缘计算网关入门课(三):CPU、NPU、GPU、VPU——边缘计算网关的“四个大脑”各管什么?
这是「ARM边缘计算网关入门课」系列的第3篇。上一篇我们聊了ARM架构为什么受边缘计算网关偏爱。这一篇,我们来认识网关内部最关键的四颗计算单元——CPU、NPU、GPU、VPU,看看它们各自负责什么,又是如何协同工作的。
一台网关里,为什么需要“四个大脑”?
如果你打开一台ARM边缘计算网关的规格书,会看到类似这样一行参数:
四核Cortex-A53 + 单核Cortex-M0,内置1 TOPS NPU,Mali-G52 GPU,支持4K H.265解码
三个不同的缩写,加上一个常被忽略但至关重要的VPU。很多人在选型时会疑惑:为什么不能用一个处理器搞定所有事?
原因很简单:不同的计算任务,对硬件的要求完全不同。

系统调度需要灵活的逻辑判断能力,AI推理需要大规模的并行矩阵运算,图形界面需要高效的图像渲染,而视频编解码需要专门的硬件流水线。这四类任务如果都交给CPU去跑,CPU会被拖垮,而且功耗和成本都极不划算。
所以,边缘计算网关采用了异构计算架构:CPU、NPU、GPU、VPU各司其职,分别负责自己最擅长的任务。用一个比喻来理解:CPU是“总经理”,统筹全局、处理日常事务;NPU是“AI专家”,专门攻克智能分析任务;GPU是“设计师”,负责画面呈现;VPU是“视频解码专家”,把压缩的视频流还原成可处理的图像。
CPU:网关的“总经理”,什么都管但什么都要管好
CPU是边缘计算网关中最通用的计算单元。它负责的是那些“什么都沾一点”的工作:
-
运行操作系统(Linux、Ubuntu)
-
调度各个应用程序
-
处理协议转换和网络通信
-
管理系统资源和外设
-
执行用户自定义的逻辑控制
在ARM边缘计算网关中,CPU通常是Cortex-A系列内核。核心数和主频是两个关键指标。
核心数决定并行处理能力。 双核A7适合最简单的数据采集和协议转换任务,四个核心可以同时处理数据采集、协议转换、网络通信和本地可视化等多路任务而不互相抢占资源。对于边缘计算网关来说,四核是主流配置。
主频决定单任务的处理速度。 ARMxy BL370系列搭载的四核Cortex-A53,主频最高可达2.0GHz。这个频率在日常运行中表现如何?以一个典型的边缘网关任务为例:同时采集8路RS485设备的Modbus数据、做协议转换上传MQTT、运行本地数据缓存服务,CPU占用率大约在30%-50%之间。如果再加上一路AI推理,CPU占用率会上升到60%-70%,但仍有余量处理突发任务。
但CPU也有“不擅长”的事。运行深度学习模型时,CPU需要逐条执行矩阵运算指令,效率极低。一个在NPU上只需25毫秒完成的YOLO模型推理,纯用CPU可能需要几百毫秒甚至更久。这就是为什么需要NPU。
NPU:网关的“AI专家”,专门干一件事但干得极好
NPU,全称神经网络处理器(Neural Processing Unit),是专门为深度学习推理设计的加速芯片。
为什么需要专门的NPU?因为深度学习模型的核心计算是矩阵乘法和卷积运算——大量的乘加操作并行执行。CPU的设计目标是“什么都能干”,每个核心能独立处理复杂的逻辑分支;而NPU的设计目标是“把矩阵运算做到极致”,内部集成了大量并行计算单元,能同时执行成百上千次乘加操作。
这就是为什么NPU的能效比远高于CPU。在同等功耗下,NPU的AI推理速度可以比CPU快一个数量级。
TOPS:NPU的“马力单位”
衡量NPU算力的单位是TOPS,全称Tera Operations Per Second,即每秒万亿次运算。
1 TOPS意味着NPU每秒能完成1万亿次基本运算。这个数字越大,NPU处理AI模型的速度越快。
但TOPS不是唯一的指标。实际推理速度还取决于模型复杂度、输入分辨率、内存带宽等因素。下面这张表可以帮助你建立直观感受:
| NPU算力 | 能做什么 | 典型应用 |
|---|---|---|
| 1 TOPS | 轻量级AI推理 | 人脸检测、传感器异常检测、简单分类 |
| 3 TOPS | 中等复杂度视觉模型 | 口罩检测、行为分析、轻量缺陷检测 |
| 6 TOPS | 主流视觉模型实时推理 | YOLOv5/v8目标检测、多路视频分析 |
| 16 TOPS | 多路高并发AI任务 | 16路1080P视频流同时分析 |
| 32 TOPS | 多模态+大模型推理 | 视觉+语言融合分析、高级工业质检 |
这张表只是大致参考。实际能跑多少路、多快速度,还要看模型优化程度和系统整体设计。
1 TOPS能干什么?
以ARMxy BL370系列为例,它内置1 TOPS算力的NPU。
1 TOPS听起来不大,但足以完成不少实用的边缘AI任务。比如,在工业质检场景中,用MobileNet或YOLO Nano等轻量模型做产品缺陷的初步筛选;在安防场景中,做人员检测和行为分析。有实测数据显示,ARMxy系列控制器凭借1 TOPS的算力密度,可以在低功耗架构下实现人脸特征的毫秒级捕获与动态跟踪。
1 TOPS的NPU适合轻量级、单一任务的AI推理场景。如果你的项目只需要跑一个轻量分类模型,或者只做简单的传感器异常检测,1 TOPS完全够用,而且功耗和成本都很低。
6 TOPS能干什么?
如果1 TOPS是“够用”,那6 TOPS就是“从容”。
ARMxy BL450系列搭载瑞芯微RK3588J处理器,内置6 TOPS算力的NPU,支持INT4/INT8/INT16/FP16混合精度运算。6 TOPS的NPU能流畅运行YOLO系列目标检测模型,处理多路视频流实时分析。
具体性能如何?基于RK3588平台对YOLOv5s(640×640分辨率)的实测数据,NPU推理耗时约25.5毫秒,端到端总耗时约33.3毫秒,对应约30 FPS的检测速度。有评测显示RK3588的YOLOv5s推理性能达到49 FPS,在NPU高负载情况下端到端延迟可控制在23毫秒以内。
这意味着什么?一路1080P视频流做实时目标检测,6 TOPS的NPU可以轻松应对。如果做多路并发,根据模型复杂度不同,通常可以支持4到8路摄像头同时分析。
在工业质检场景中,搭载6 TOPS NPU的边缘计算盒子可以在毫秒级完成零件图像的抓拍、分析和判废,检测效率比人工快10倍以上。
1 TOPS和6 TOPS的核心区别在于:1 TOPS适合单任务轻量推理,6 TOPS可以支撑多路并发和更复杂的模型。 选择哪个,取决于你的应用场景需要跑什么模型、跑几路。
GPU:网关的“设计师”,不只是画图
GPU,全称图形处理器,最初是为图形渲染而生的。但在边缘计算网关中,GPU的角色远不止“画图”。
GPU的核心能力是图形渲染。边缘计算网关经常需要连接工业触摸屏,运行本地HMI(人机界面)。温度曲线、设备状态仪表盘、告警弹窗——这些界面的流畅渲染都依赖GPU。ARMxy BL370搭载的Mali-G52 GPU,可以驱动高分辨率工业显示屏,实现流畅的界面渲染和3D效果。
此外,GPU还承担一部分并行计算任务。在某些场景下,图像的缩放、旋转、色彩空间转换等预处理操作可以由GPU完成,减轻CPU的负担。
不过,在边缘计算网关中,GPU的AI推理能力通常不是重点。GPU虽然也能做AI计算,但能效比不如NPU。专业的事交给专业的芯片——AI推理让NPU去做,GPU专注做好图形和界面呈现。
VPU:网关的“视频解码专家”,让摄像头数据真正可用
VPU,全称视频处理单元(Video Processing Unit),是SoC中专门负责视频编解码的硬件模块。它经常被忽略,但在视觉类边缘计算场景中,VPU的地位至关重要。
为什么需要VPU?因为工业相机、摄像头输出的视频流通常是压缩格式——H.264或H.265。这些压缩数据不能直接送给NPU做AI推理,必须先解码成原始图像帧。如果让CPU软解码,一路1080P视频流就能吃掉大量CPU资源,更不用说多路并发。而VPU是硬件解码,效率极高,几乎不占用CPU。
以ARMxy BL370系列为例,它支持1080P H.264编码和4K H.265解码。这意味着它可以同时接入多路摄像头,由VPU完成硬件解码,再把图像帧交给NPU做AI分析。BL450系列的视频编解码能力更强,可以支撑更多路高清视频的实时处理。
用一个比喻来说:VPU就像“同声传译”——摄像头说的是“压缩语言”(H.265),NPU只听得懂“原始图像语言”,VPU在中间实时翻译,而且速度极快,不耽误NPU的分析。
在选型时,如果你要做视觉质检、安防监控、多路视频分析,VPU的解码能力必须重点关注。它决定了网关能同时接入几路摄像头、支持多高的分辨率。
四者协同:一条数据的“旅程”
理解了四个处理器的分工之后,我们用一个实际场景把它们串起来。
假设一台ARMxy BL450边缘计算网关正在执行产线视觉质检任务:
第一步:视频采集与解码。 工业相机拍摄的1080P视频流通过网口进入网关。VPU将H.265码流硬件解码为原始图像帧。这一步由VPU负责,速度极快,不占用CPU资源。
第二步:AI推理。 解码后的图像帧被送入NPU。NPU运行YOLOv5s模型,在约25毫秒内完成零件缺陷检测,输出缺陷位置和类别。整个过程不经过CPU,效率极高。
第三步:逻辑决策。 NPU输出检测结果后,CPU接手。CPU判断缺陷等级,决定是否触发告警;将检测结果通过Modbus写入PLC寄存器,控制产线执行机构剔除不良品;同时通过MQTT将统计结果上传云端。
第四步:本地展示。 质检结果需要实时显示在产线旁的工业触摸屏上。GPU负责渲染界面,绘制缺陷标记框、实时统计图表和设备状态指示。
第五步:数据存储。 CPU将检测记录写入eMMC存储,同时维护本地数据库,供后续追溯分析。
整个流程中,四个处理器各司其职:VPU管“解码”,NPU管“判断”,GPU管“呈现”,CPU管“决策和协调”。 任何一个环节换用其他处理器来执行,要么速度不够,要么功耗太高。

回到上一篇文章提到的异构多核设计——ARMxy BL450的处理器包含四核A76 + 四核A55 + 三核M0。A76大核在AI推理前的图像预处理阶段承担密集计算,A55小核负责后台服务和网络通信,M0核心处理实时IO响应,加上独立的NPU、GPU和VPU,形成了一个完整的异构计算体系。
术语速查卡
| 术语 | 一句话解释 |
|---|---|
| CPU | 中央处理器,网关的“总经理”,负责系统调度、协议处理、逻辑控制 |
| NPU | 神经网络处理器,网关的“AI专家”,专门加速深度学习推理 |
| GPU | 图形处理器,网关的“设计师”,负责界面渲染和图形处理 |
| VPU | 视频处理单元,网关的“视频解码专家”,负责硬件级视频编解码 |
| TOPS | 每秒万亿次运算,衡量NPU算力的单位,1 TOPS = 每秒1万亿次运算 |
| 异构计算 | 不同类型的处理器协同工作,各司其职,提升整体能效比 |
| 混合精度 | NPU支持多种数据精度(INT4/INT8/FP16等),精度越低速度越快但准确率略降 |
下期预告
这一篇我们认识了网关的“四个大脑”。下一篇,我们将聊聊网关的“工作台”和“仓库”:内存与存储——网关的“工作台”和“仓库” 。1GB内存和4GB内存到底差在哪?8GB eMMC能装多少东西?为什么说选内存和存储要“预留余量”?我们会用ARMxy BL370的内存存储配置方案做具体分析。
如果你在选型中纠结过“1 TOPS够不够用”“到底要不要带NPU”“VPU解码能力怎么选”,欢迎在评论区说说你的场景,也许下一篇的案例就是你的故事。
更多推荐
所有评论(0)