Skip to content

Orange Pi 4B 评测:Raspberry Pi 竞争对手内置 AI

    1647787203

    我们的判决

    它比 Raspberry Pi 4 贵,但 Orange Pi 4B 提供了一系列优势 – 如果您可以等待更稳定的软件构建,那就是。

    为了

    价格合理的规格
    包括高性能 NPU 协处理器
    为外部硬件中断的 PCI Express 通道

    反对

    不稳定的软件
    有限的 USB 端口
    受限的 PCI Express 硬件支持

    这些天来,关于深度学习和机器智能的讨论很多,几乎每个处理器制造商都声称它有解决方案来加速构建自己的人工智能的计算繁重的工作负载。英特尔正在利用其最近扩展的 Loihi 研究处理器,在人脑的启发下致力于神经形态计算;与此同时,Nvidia 拥有 Jetson Nano 等产品,该产品利用其图形处理技术作为通用加速器;谷歌拥有内部张量处理单元 (TPU),于去年 3 月面向发烧友市场推出,今年年初将进行更新。

    请注意,这些大牌在市场上并不孤单:有一系列小品牌的产品,包括 Seeed Studio Grove AI HAT,它声称以尽可能低的成本为大众带来 AI 加速 -在这里,深圳迅龙软件有限公司Orange Pi 4B瞄准了它,它拥有与Raspberry Pi 4 Model B相媲美的规格以及神经网络协处理器。 

    该设计

    顾名思义,迅龙橙派系列的灵感来自于树莓派系列单板计算机的成功。以前的型号,如 Orange Pi 3,瞄准的是低端市场;价格大约是其两倍的 Orange Pi 4B 是一个明显的异常值。

    乍一看,您可能会认为 Orange Pi 4B 被设计为 Orange Pi 3 的低成本替代品:其前身的四个 USB 3.0 端口已减少为两个 USB 2.0 端口和一个 USB 3.0 类型-支持 On The Go (OTG) 的 C 端口,非常靠近单个全尺寸 HDMI 输出——这一举措意味着如果您的 HDMI 电缆使用除最薄的连接器外壳。乍一看,Orange Pi 3 的 mini-PCI Express 连接器似乎也不见了;相反,它已降级为板右上角的带状连接器,如果您想将其用于外部硬件,则需要可选的 PCIe 分线板。

    就像它的前辈——以及激发他们创造灵感的树莓派一样——Orange Pi 4B 作为裸电路板提供,在撰写本文时,还没有外壳。基本上只有一种变体,尽管 Orange Pi 4 non-B 基于相同的核心硬件。选择 49 美元的非 B 版本可为您赢得两个全尺寸 USB 3.0 端口和一个额外的 USB 2.0 主机端口,并让您可以选择将 16GB eMMC 板载闪存芯片从材料清单中剔除以降低其成本更进一步。不过,在转向非 B 模型时会有更大的损失:聪明的 Gyrfalcon NPU 加速器,仅在 Orange Pi 4B 上可用。

    硬件

    Orange Pi 4B 是越来越多选择瑞芯微 RK3399 片上系统处理器的单板计算机之一,该处理器通常被称为六核设计。这在技术上是正确的,但掩盖了设计的复杂性:SoC 的 CPU 分为两个集群,均运行“高达”2GHz;双核 Arm Cortex-A72 集群处理高需求任务;四核 Arm Cortex-A54 集群可用于要求不高的工作,作为一种节能手段。

    对于 Linux 用户来说,CPU 显示为单个六核处理器——而您受调度程序的支配,该调度程序决定选择哪个内核来运行给定任务。虽然这使事情尽可能易于使用,但这意味着性能不会像您期望的那样扩展:即使一个任务是完全可并行化的,它在六个线程下的运行速度也不会比两个线程快三倍。

    CPU RAM GPU 协处理器 视频输出 USB 端口 有线网络 无线摄像头输入 PCI Express 存储电源输入 尺寸 重量

    瑞芯微 RK3399 2GHz:2x Arm Cortex-A72、4x Arm Cortex-A54 内核

    双通道 LPDDR4

    Arm Mali-T864:OpenGL ES 3.1

    Gyrfalcon Lightspeeur 2801S 神经处理单元 (NPU)

    1x HDMI 2.0 4K60、1x DisplayPort 1.2、4K60(通过 USB Type-C)、2x LCD(1x 与 MIPI CSI 共享)

    2 个 USB 2.0 主机,1 个 USB Type-C 3.0

    1x Realtek RTL8211E 千兆以太网

    SparkLAN AP6256 双频 802.11a/b/g/n/ac,蓝牙 5.0

    2x MIPI CSI(1x 与 LCD 共享)

    1 个 PCI Express 2.1

    16GB eMMC、microSD 扩展

    5V 3A 直流,5V 3A USB Type-C

    95x61x24.5mm

    48克

    CPU 与 Arm Mali-T864 GPU 配合使用,其中包括 Android 中的硬件 3D 加速支持和迅龙支持的更通用的 Linux 发行版。它最高支持 OpenGL ES 3.1,尽管作为 SBC 创建者的迅龙和作为 SOC 制造商的瑞芯微都没有获得 Khronos Group 的一致性认证。

    板载 4GB 双通道 LPDDR4 内存,以及 16GB eMMC 存储——以消费者为中心的 Raspberry Pi 系列长期以来一直要求但尚未提供的东西。Raspberry Pi 缺少的另一个 Orange Pi 4B 功能是 PCI Express 支持,可通过带状电缆连接器连接到可选的分线板。

    让 Orange Pi 4B 在竞争中脱颖而出的不是 SoC:而是 Lightspeeur 2801S 神经处理单元 (NPU),这是一款由 Gyrfalcon Technologies 设计和制造的以深度学习为中心的加速器。如果您在看板时错过了它,那是可以原谅的;它是一个很小的 ​​BGA 封装,位于 USB 2.0 端口的后面,完全不起眼。

    Orange Pi 4B 有一个有趣的双模电源输入:可以从 USB Type-C 连接器为板子供电,就像 Raspberry Pi 4 一样,但这样做会挡住 Orange Pi 4 唯一的 USB 3.0 端口;更好的选择是使用电路板右下方的桶形插孔连接器,它接受中心引脚正极 5V 3A 输入并保持 USB 3.0 端口空闲 – 只要您不违反 HDMI港口,至少。USB Type-C 端口上还有 DisplayPort 1.2 连接,以及两个 LCD 面板连接器 – 其中一个具有双重功能,作为主板的第二个 MIPI 相机串行接口 (CSI) 连接器。

    该板的尺寸为 95 x 61 x 24.5 毫米和 48 克,比 Raspberry Pi 4 Model B 略大和重一些,尽管这是一场激烈的竞争。该重量包括用于双频 Wi-Fi 和蓝牙 5.0 无线电的捆绑外部天线,由于其 UFL 连接器,该天线可以轻松更换,您可以选择其中一个。对于任何打算安装在金属外壳中的人来说,这是一次重大升级:一个简单的 UFL 尾纤可以让您以便宜且轻松的方式将天线连接带到盒子外面。

    软件

    与之前的版本一样,迅龙已经准备了涵盖少数用例的操作系统映像。开箱即用,Orange Pi 4B 运行 Android 8.1,2018 年 11 月补丁级别糟糕,预加载到 eMMC 闪存中。

    任何期待现代细节的人 – 至少,与当前版本中的两个版本一样现代 – 遗憾的是,Android 可能会感到失望。虽然支持该板的所有功能,但迅龙提供的 Android 开源项目构建非常简单 – 并且如您所料,不包括 Google Apps 支持。它似乎也错误地检测了 CPU 集群,捆绑的基准测试实用程序表明它只能在性能较低的四核集群上运行,而不能在高性能双核集群上运行。

    大多数用户可能会选择提供的其他操作系统之一:为 Debian Linux 9、Ubuntu 16.04 和 Ubuntu 18.04 提供下载 – 虽然 Ubuntu 18.04 现在可能已经接近两年了,但它仍然受到 Canonical 的支持,直到2023 年 4 月。

    可悲的是,事情并不像选择 Ubuntu 18.04 并开始工作那么简单。迅龙提供了两个版本的操作系统镜像:第一个包括使用 Gyrfalcon Lightspeeur NPU 所必需的软件,但它是一个明显未经完善的构建,由于根分区已满而无法调整大小以填充 microSD 卡,因此几乎立即崩溃已闪现的;第二个标记为“1.2 版”,提供了更流畅的用户体验,但没有 Lightspeeur 的软件——尽管该设备仍将自身呈现给操作系统,因此完全可以自行安装所需的软件和开发工具。

    两个 Ubuntu 版本之间还有另一个区别:NPU 版本不支持 GPU 上的 3D 和视频解码加速,而非 NPU 版本在一般软件使用和捆绑的 Google Chrome 浏览器中都支持它。遗憾的是,性能并不是最好的,在要求不高的 glmark-es2 基准测试中以每秒 30 帧的速度运行。

    这很快就被两个版本中存在的稳定性问题所掩盖:Chrome 浏览器在测试中经常崩溃,未能达到 Speedometer 2.0 浏览器基准测试的末尾;NPU 演示也会在执行几分钟后崩溃。这些是否是迅龙通过未来软件更新解决的问题还有待观察。

    CPU 基准测试

    为了让 Orange Pi 4B 完成它的步伐,除了 NPU 测试之外,该板运行 Ubuntu 18.04“版本 1.2”映像 – 需要完成一系列基准测试,并将其分数与 Raspberry Pi 4 Model B 4GB 进行比较.

    在合成的 Linpack 基准测试中,Orange Pi 4B 似乎遥遥领先于竞争对手:单精度性能尤其显着,可能通过在 64 位环境而不是 32 位 Raspbian 上运行而获得提升Raspberry Pi 4。启用 NEON 加速后差距缩小,但这可能是由于 NEON 任务在 RK3399 上的主 CPU 集群之外执行。

    在更真实的文件压缩基准测试中,差距缩小了:虽然两块板的性能相似,但 Raspberry Pi 4 Model B 完成单线程压缩任务的速度比 Orange Pi 4B 快一些,尽管 CPU 时钟速度较低;与此同时,Orange Pi 4B 在多线程测试中遥遥领先,这可能得益于其额外的两个 CPU 内核。

    在 GIMP 图像编辑基准测试中可以看到同样轻微的性能优势,其中 Orange Pi 4B 再次比 Raspberry Pi 4 略早完成了任务。这里的增益更有可能在 Orange Pi 4B 更快的内存吞吐量中找到.

    存储基准

    作为将外部硬盘驱动器转变为低成本网络附加存储的一种方式,单板计算机正变得越来越流行。与此同时,那些希望从事深度学习任务的人也将受益于大型高性能存储。在这里,两块板都有一个外部 USB 3.0 SSD 和相同型号的 microSD 卡,以及使用 fio 实用程序测量的读/写吞吐量。

    Orange Pi 在 USB 存储测试中领先于竞争对手,读取和写入外部 SSD 的速度明显快于 Raspberry Pi 4。但是,这些结果仅适用于通过 USB 3.0 Type-C 端口连接到单个 USB 3.0 Type-C 端口的设备USB OTG 适配器;将 SSD 移至全尺寸 USB 2.0 端口自然会将性能降低到 30 MBps 左右。

    然而,在 microSD 测试中事情发生了逆转:在这里,Raspberry Pi 4 轻松地将其竞争对手的性能提高了一倍。然而,这里有一个小问题需要注意:Orange Pi 4B 在以 NPU 为中心的“1.0 版”Ubuntu 映像中提供了比在更精致的“1.2 版”中更高的性能,这表明存在可能使性能更接近 Raspberry 的错误Pi 4 在未来的软件更新中。

    当与兼容的主机总线适配器卡配对时,应该可以通过主板右上角的 PCI Express 连接器提高存储吞吐量。那里有一个 PCIe 2.1 连接通道,提供 500MB/s 的理论峰值吞吐量。3.90 美元的分线板单独出售,不幸的是,我们的评测样品没有提供,因此必须未经测试。

    网络基准

    高速存储确实需要高速网络,在这里,Orange Pi 4B 有几个选项:有线以太网端口,以及 2.4 和 5 GHz Wi-Fi 无线电——与 Raspberry Pi 4 提供的相同。

    有线以太网端口的性能在 Orange Pi 4B 和 Raspberry Pi 4 之间或多或少并驾齐驱,2.4GHz Wi-Fi 吞吐量也是如此。切换到 5 GHz 连接后,Orange Pi 4B 与 Raspberry Pi 4 分离,提供了明显更好的连接速度。

    遗憾的是,有一点需要注意:虽然 Orange Pi 4B 提供了比 Raspberry Pi 4 更好的 5 GHz Wi-FI 吞吐量,但它的范围要有限得多——尽管或者可能是因为捆绑了外部天线。虽然 Orange Pi 4B 可以毫无问题地找到用于测试且位于同一房间的专用实验室路由器,但它无法看到该区域内的其他 5 GHz 网络 – Raspberry Pi 4 在网络扫描中检测到的网络没有问题。

    电源基准

    Raspberry Pi 4 经常因其高功耗和高热量输出而受到批评,尽管自从发布固件更新后情况有了很大改善,这两者都下降到更易于管理的水平。橙派 4B 是否落入同一个陷阱?

    与运行最新 Raspbian 版本的 Raspberry Pi 4 Model B 4GB 相比,Orange Pi 4B 在空闲和负载情况下的耗电量都略低,尽管不是很大。这里最有趣的是 Lightspeeur NPU 对功耗的影响非常小:通过 Lightspeeur 运行图像识别网络只会增加一瓦特的功耗,而芯片本身仍然保持凉爽的触感。

    SoC 则不然:10 分钟 CPU 繁重的工作负载后的热成像显示外部封装的峰值温度为 74.2 摄氏度。热量输出未能有效地通过 PCB 传播,这表明在 SoC 的安装过程中没有考虑热粘合。

    在 RK808 电源管理 IC、GL3224E 读卡器控制器和 RTL8211E 以太网控制器上可以看到热图像上的其他热点,后者表明电路板固件中未启用电源管理,因为图像是在没有以太网的情况下捕获的电缆连接。

    神经处理 

    所有这一切都将 Orange Pi 4B 与通用单板计算机进行了比较,但正是深度学习任务的特定目的使 Orange Pi 4B 成为一个有趣的设计。在这里,测试切换到 Ubuntu 18.04 NPU “版本 1.0” 映像 – 该过程涉及手动扩展根分区以便为系统正常运行腾出空间。

    用于驱动 NPU 的捆绑软件只不过是 Gyrfalcon 自己的软件开发套件和演示的副本。这旨在向程序员介绍在他们自己的软件中使用 NPU,并通过少量预训练的神经网络展示其功能。

    NPU 被赋予了图像识别和分类的任务:一系列图片被加载到内存中,NPU 运行一个推理网络,以找出图片代表什么。每次推理尝试都是定时的,并被赋予一个概率分数——分类正确的可能性在 0 到 1 之间。

    Lightspeeur NPU 毫无困难地通过了测试,以每秒 15 到 25 帧的速率对图像进行分类 – 足以对传入的低帧率视频流进行实时分类,该视频流可以从板的双 CSI 摄像头端口提供。令人印象深刻的是,它只需要 1W 的功率 – 比使用 Arm Mali GPU 代替它所能达到的功率要少得多,而且性能要好得多。

    对于任何尝试使用神经网络的人来说,Lightspeeur 无疑是董事会皇冠上的一颗明珠。对于其他所有人来说,这可能只是一种好奇心。在 Gyrfalcon 自己的演示和您自己梦想的任何神经网络工作负载之外,没有什么可以利用它——您无法让 Chrome 运行得更快,或提高视频播放的效率。如果 Gyrfalcon 成功地让 Lightspeeur 系列成为神经网络加速的标准,并且如果人工智能革命确实将神经网络技术带到桌面,那可能会改变;否则,这将是开发人员专门感兴趣的东西。

    底线

    Orange Pi 4B 有很多让人喜欢的地方,但也有不少烦恼。单条 PCI Express 通道很受欢迎,但受限于需要一个分线板,并且在撰写本文时可用的驱动程序限制了它对单个网卡和 SATA 主机总线适配器卡的兼容性。USB Type-C 连接器足以连接到高速外部存储或额外的协处理器,如 Google 的 Coral Accelerator,但可能会污染 HDMI 连接器。

    事物的软件方面也需要工作。在这次审查中,Orange Pi 4B 的 GPIO 接头未经测试,因为使其工作所需的软件尚未移植到新板上。稳定性也是一个主要问题,崩溃经常中断测试 – 并且完全阻止了 Speedometer 2.0 基准测试的完成。

    即使有这些警告,并且了解 Orange Pi 4B 的价格很容易是其前辈的两倍,但很难不喜欢该板。Lightspeeur NPU 是其中的关键部分:以极低的功耗提供令人印象深刻的神经网络加速,对于在机器学习、计算机视觉或人工智能领域工作的任何人来说,它都是一个极好的资源。

    不过,对于那些对图像分类、对象识别和其他神经网络工作负载不感兴趣的人来说,Orange Pi 4 的成本更低,并且具有额外的 USB 3.0 连接;与此同时,Raspberry Pi 4B 受益于更成熟的软件堆栈和令人印象深刻的广泛社区驱动的生态系统。

    0 0 votes
    Rating post
    Subscribe
    Notify of
    guest
    0 comments
    Inline Feedbacks
    View all comments
    0
    Would love your thoughts, please comment.x
    ()
    x