Unser Urteil
Es kostet Sie mehr als ein Raspberry Pi 4, aber das Orange Pi 4B bietet eine Reihe von Vorteilen – wenn Sie auf stabilere Software-Builds warten können.
Zum
Preiswert für die Spezifikation
Enthält einen leistungsstarken NPU-Coprozessor
PCI-Express-Lane für externe Hardware ausgebrochen
Gegen
Instabile Software
Begrenzte USB-Ports
Eingeschränkte Unterstützung für PCI Express-Hardware
Heutzutage wird viel über Deep Learning und maschinelle Intelligenz gesprochen, und fast jeder Prozessorhersteller behauptet, er habe die Antwort, um die rechenintensiven Arbeitslasten beim Aufbau Ihrer eigenen künstlichen Intelligenz zu beschleunigen. Intel arbeitet an neuromorphem Computing, das vom menschlichen Gehirn inspiriert ist, mit seinem kürzlich skalierten Loihi-Forschungsprozessor; Nvidia hat unterdessen Produkte wie den Jetson Nano, der seine Grafikverarbeitungstechnologie als Allzweckbeschleuniger nutzt; Google hat seine eigenen Tensor Processing Units (TPUs), die im März letzten Jahres für den Enthusiastenmarkt eingeführt wurden und Anfang dieses Jahres aktualisiert werden sollen.
Wohlgemerkt, diese großen Namen stehen nicht allein auf dem Markt: Es gibt eine Reihe von Produkten kleinerer Namen, einschließlich des Seeed Studio Grove AI HAT, die den Anspruch erheben, die KI-Beschleunigung zu möglichst geringen Kosten in die breite Masse zu bringen – und genau hier setzt der Orange Pi 4B von Shezhen Xunlong Software Co. an, der neben einem neuronalen Netzwerk-Coprozessor mit Spezifikationen ausgestattet ist, die mit dem Raspberry Pi 4 Model B mithalten können.
Das Design
Wie der Name schon sagt, wurde die Orange Pi-Reihe von Xunlong vom Erfolg der Raspberry Pi-Familie von Einplatinencomputern inspiriert. Frühere Modelle, wie der Orange Pi 3, zielten auf das untere Ende des Marktes ab; der etwa doppelt so teure Orange Pi 4B ist ein deutlicher Ausreißer.
Auf den ersten Blick könnte man meinen, der Orange Pi 4B sei eine kostengünstige Alternative zum Orange Pi 3: Die vier USB-3.0-Ports des Vorgängers wurden auf zwei USB-2.0-Ports und einen einzigen USB-3.0-Port reduziert. C-Anschluss mit On The Go (OTG)-Unterstützung, der sich ärgerlich nahe am einzelnen HDMI-Ausgang in voller Größe befindet – ein Schritt, der bedeutet, dass Sie den Typ-C-Anschluss nicht verwenden können, wenn Ihr HDMI-Kabel etwas anderes als das verwendet möglichst schmales Steckergehäuse. Auf den ersten Blick sieht es so aus, als wäre auch der Mini-PCI-Express-Anschluss des Orange Pi 3 verschwunden; Stattdessen wurde es auf einen Flachbandanschluss oben rechts auf der Platine verbannt, sodass eine optionale PCIe-Breakout-Platine erforderlich ist, wenn Sie es für externe Hardware verwenden möchten.
Wie seine Vorfahren – und die Raspberry Pis, die ihre Kreation inspirierten – wird der Orange Pi 4B als nackte Platine geliefert, und zum Zeitpunkt des Verfassens dieses Artikels waren keine Gehäuse verfügbar. Es gibt im Wesentlichen nur eine Variante, obwohl der Orange Pi 4 non-B auf der gleichen Kernhardware basiert. Wenn Sie sich für die Nicht-B-Version für 49 US-Dollar entscheiden, gewinnen Sie zwei USB 3.0-Ports in voller Größe und einen zusätzlichen USB 2.0-Host-Port und haben die Möglichkeit, den 16-GB-eMMC-On-Board-Flash-Speicherchip von der Materialliste wegzulassen, um die Kosten zu senken noch weiter. Es gibt jedoch einen größeren Verlust bei der Umstellung auf ein Nicht-B-Modell: den cleveren Gyrfalcon NPU-Beschleuniger, der nur auf dem Orange Pi 4B verfügbar ist.
Die Hardware
Der Orange Pi 4B gehört zu einer wachsenden Zahl von Einplatinencomputern, die sich für den System-on-Chip-Prozessor RK3399 von Rockchip entscheiden, der normalerweise als Sechskern-Design bezeichnet wird. Das stimmt zwar technisch, fegt aber die Komplexität des Designs unter den Teppich: Die CPU des SoC ist in zwei Cluster aufgeteilt, die beide „bis“ 2 GHz takten; ein Dual-Core-Arm-Cortex-A72-Cluster bewältigt anspruchsvolle Aufgaben; Für weniger anspruchsvolle Arbeiten steht ein Quad-Core-Arm-Cortex-A54-Cluster zur Verfügung, um Strom zu sparen.
Für den Linux-Benutzer erscheint die CPU als ein einzelner Prozessor mit sechs Kernen – und Sie sind dem Planer ausgeliefert, der entscheidet, welcher Kern für die Ausführung einer bestimmten Aufgabe ausgewählt wird. Dies macht zwar die Bedienung so einfach wie möglich, bedeutet aber, dass die Leistung nicht wie erwartet skaliert: Selbst wenn eine Aufgabe perfekt parallelisierbar ist, läuft sie mit sechs Threads nicht dreimal schneller als mit zwei.
CPU RAM GPU Co-Prozessor Videoausgang USB-Ports Kabelgebundenes Netzwerk Kabellos Kameraeingänge PCI Express Speicher Stromeingänge Größe Gewicht
Rockchip RK3399 2GHz: 2x ARM Cortex-A72, 4x ARM Cortex-A54 Kerne
Zweikanal-LPDDR4
Arm Mali-T864: OpenGL ES 3.1
Gyrfalcon Lightspeeur 2801S Neuronale Verarbeitungseinheit (NPU)
1x HDMI 2.0 4K60, 1x DisplayPort 1.2, 4K60 (über USB Type-C), 2x LCD (1x geteilt mit MIPI CSI)
2x USB 2.0-Host, 1x USB Typ-C 3.0
1x Realtek RTL8211E Gigabit-Ethernet
SparkLAN AP6256 Dualband 802.11a/b/g/n/ac, Bluetooth 5.0
2x MIPI CSI (1x gemeinsam mit LCD)
1x PCI-Express 2.1
16 GB eMMC, microSD-Erweiterung
5 V 3 A Gleichstrom, 5 V 3 A USB Typ-C
95 x 61 x 24,5 mm
48g
Die CPU ist mit einer Arm-Mali-T864-GPU verbunden, die Unterstützung für Hardware-3D-Beschleunigung in den von Xunlong unterstützten Android- und allgemeineren Linux-Distributionen bietet. Es unterstützt bis zu OpenGL ES 3.1, obwohl weder Xunlong als SBC-Ersteller noch Rockchip als SOC-Hersteller eine Konformitätszertifizierung von der Khronos Group erhalten haben.
Es gibt 4 GB Dual-Channel-LPDDR4-Speicher an Bord, zusammen mit 16 GB eMMC-Speicher – etwas, das seit langem von der verbraucherorientierten Raspberry Pi-Reihe angefordert, aber noch nicht geliefert wird. Eine weitere Funktion des Orange Pi 4B, die dem Raspberry Pi fehlt, ist die PCI-Express-Unterstützung, die über einen Flachbandkabelanschluss an ein optionales Breakout-Board verfügbar ist.
Es ist nicht der SoC, der den Orange Pi 4B von der Konkurrenz abhebt: Es ist die neurale Verarbeitungseinheit (NPU) Lightspeeur 2801S, ein Deep-Learning-zentrierter Beschleuniger, der von Gyrfalcon Technologies entwickelt und gebaut wurde. Es wäre Ihnen verziehen, wenn Sie es bei einem Blick auf die Tafel übersehen hätten; Es ist ein winziges BGA-Gehäuse, das sich direkt hinter den USB 2.0-Anschlüssen befindet und für das Auge völlig unauffällig ist.
Das Orange Pi 4B hat einen interessanten Dual-Mode-Stromeingang: Es ist möglich, das Board wie bei einem Raspberry Pi 4 über den USB-Typ-C-Anschluss mit Strom zu versorgen, aber dadurch wird der einzige USB-3.0-Port des Orange Pi 4 blockiert; Eine bessere Wahl ist die Verwendung des Barrel-Jack-Anschlusses unten rechts auf der Platine, der einen positiven 5-V-3-A-Eingang mit mittlerem Stift akzeptiert und den USB-3.0-Anschluss frei hält – solange Sie nicht gegen HDMI verstoßen Hafen zumindest. Es gibt auch DisplayPort 1.2-Konnektivität am USB-Typ-C-Anschluss, zusammen mit zwei LCD-Panel-Anschlüssen – von denen einer als zweiter MIPI Camera Serial Interface (CSI)-Anschluss des Boards dient.
Mit 95 x 61 x 24,5 mm und 48 g ist das Board etwas größer und schwerer als ein Raspberry Pi 4 Model B, obwohl es eine enge Konkurrenz ist. Dieses Gewicht beinhaltet eine gebündelte externe Antenne für das Dualband-WLAN und Bluetooth 5.0-Radio, eine Antenne, die dank ihres UFL-Anschlusses leicht durch eine Ihrer Wahl ersetzt werden kann. Für alle, die den Einbau in ein Metallgehäuse planen, ist es ein großes Upgrade: Mit einem einfachen UFL-Pigtail können Sie den Antennenanschluss kostengünstig und einfach über den Tellerrand bringen.
Die Software
Wie bei seinen früheren Versionen hat Xunlong Betriebssystem-Images vorbereitet, die eine Handvoll Anwendungsfälle abdecken. Auf dem Orange Pi 4B läuft standardmäßig Android 8.1 mit einem erbärmlichen Patch-Level vom November 2018, das auf dem eMMC-Flash-Speicher vorinstalliert ist.
Jeder, der die Feinheiten von modernem Android erwartet – zumindest so modern wie zwei Versionen der aktuellen Version sein können – wird wahrscheinlich leider enttäuscht werden. Während alle Funktionen des Boards unterstützt werden, ist der von Xunlong bereitgestellte Android Open Source Project-Build sehr karg – und enthält erwartungsgemäß keine Google Apps-Unterstützung. Es scheint auch die CPU-Cluster falsch zu erkennen, wobei das mitgelieferte Benchmarking-Dienstprogramm darauf hindeutet, dass es nur auf dem Quad-Core-Cluster mit geringerer Leistung und nicht auf dem Hochleistungs-Dual-Core-Cluster ausgeführt werden kann.
Die meisten Benutzer entscheiden sich wahrscheinlich stattdessen für eines der anderen angebotenen Betriebssysteme: Downloads werden für Debian Linux 9, Ubuntu 16.04 und Ubuntu 18.04 bereitgestellt – und obwohl Ubuntu 18.04 jetzt fast zwei Jahre alt ist, wird es immer noch von Canonical bis unterstützt April 2023.
Leider sind die Dinge nicht ganz so einfach wie Ubuntu 18.04 auszuwählen und mit den Dingen weiterzumachen. Xunlong bietet zwei Versionen des Betriebssystem-Images: Die erste enthält die Software, die zur Nutzung der Gyrfalcon Lightspeeur NPU erforderlich ist, ist jedoch ein entschieden unpolierter Build, der fast sofort abstürzt, da eine vollständige Root-Partition nicht in der Größe geändert werden kann, um die microSD-Karte zu füllen auf das es geflasht wurde; die zweite, als „Version 1.2“ gekennzeichnet, bietet eine viel reibungslosere Benutzererfahrung, jedoch ohne die Software für den Lightspeeur – obwohl sich das Gerät immer noch dem Betriebssystem präsentiert, sodass es durchaus möglich ist, die erforderliche Software und die Entwicklungstools selbst zu installieren.
Es gibt einen weiteren Unterschied zwischen den beiden Ubuntu-Builds: Die NPU-Version unterstützt keine 3D- und Videodekodierungsbeschleunigung auf der GPU, während die Nicht-NPU-Version dies sowohl bei der allgemeinen Softwarenutzung als auch im gebündelten Google Chrome-Browser unterstützt. Die Leistung ist leider nicht die beste und läuft im nicht allzu anspruchsvollen glmark-es2-Benchmark deutlich unter 30 Bildern pro Sekunde.
Dies wird schnell von Stabilitätsproblemen überschattet, die bei beiden Builds vorhanden sind: Der Chrome-Browser stürzte beim Testen häufig ab und erreichte das Ende des Speedometer 2.0-Browser-Benchmarks nicht; Auch die NPU-Demonstrationen würden nach wenigen Minuten Ausführung abstürzen. Ob diese Probleme Xunlong mit zukünftigen Software-Updates lösen wird, bleibt abzuwarten.
CPU-Benchmarks
Um den Orange Pi 4B auf Herz und Nieren zu testen, erhielt das Board, auf dem das Ubuntu 18.04 „Version 1.2“-Image für alle außer den NPU-Tests lief, eine Auswahl von Benchmarks, die es zu vervollständigen galt, und seine Ergebnisse im Vergleich zu einem Raspberry Pi 4 Model B 4 GB .
Im synthetischen Linpack-Benchmark scheint sich der Orange Pi 4B deutlich von seiner Konkurrenz abzusetzen: Besonders bemerkenswert ist die Leistung mit einfacher Genauigkeit, die wahrscheinlich durch die Ausführung in einer 64-Bit-Umgebung anstelle der 32-Bit-Umgebung von Raspbian einen Schub erhält Raspberry Pi 4. Die Lücke verringert sich mit aktivierter NEON-Beschleunigung, aber das ist wahrscheinlich eine Folge davon, dass NEON-Aufgaben vom Haupt-CPU-Cluster auf dem RK3399 ausgeführt werden.
Im eher realitätsnahen Dateikomprimierungs-Benchmark wird die Lücke geschlossen: Während beide Boards eine ähnliche Leistung lieferten, erledigte der Raspberry Pi 4 Model B die Single-Threaded-Komprimierungsaufgabe trotz niedrigerem CPU-Takt etwas schneller als der Orange Pi 4B; Der Orange Pi 4B hingegen hat im Multithread-Test die Nase vorn, wahrscheinlich dank seiner zusätzlichen zwei CPU-Kerne.
Der gleiche leichte Leistungsvorteil zeigt sich im GIMP-Bildbearbeitungs-Benchmark, wo der Orange Pi 4B die Aufgabe erneut knapp vor dem Raspberry Pi 4 erledigte. Hier liegt der Gewinn eher im schnelleren Speicherdurchsatz des Orange Pi 4B .
Speicher-Benchmarks
Einplatinencomputer werden immer beliebter, um externe Festplatten in kostengünstige Network Attached Storage zu verwandeln. diejenigen, die an Deep-Learning-Aufgaben arbeiten möchten, werden in der Zwischenzeit ebenfalls von einem großen, leistungsstarken Speicher profitieren. Hier erhalten beide Boards eine externe USB-3.0-SSD und das gleiche Modell einer microSD-Karte und der Lese-/Schreibdurchsatz wird mit dem fio-Dienstprogramm gemessen.
Im USB-Storage-Test schlägt der Orange Pi die Konkurrenz und liest und schreibt auf der externen SSD spürbar schneller als der Raspberry Pi 4. Diese Ergebnisse gelten allerdings nur für Geräte, die per Single-USB-3.0-Type-C-Port angeschlossen sind ein USB-OTG-Adapter; Das Verschieben der SSD auf die USB 2.0-Ports in voller Größe senkt die Leistung natürlich auf etwa 30 MBps.
Beim microSD-Test sieht es allerdings anders aus: Hier verdoppelt der Raspberry Pi 4 locker die Leistung seines Konkurrenten. Hier gibt es jedoch einen kleinen Schönheitsfehler: Der Orange Pi 4B lieferte im NPU-zentrierten Ubuntu-Image „Version 1.0“ eine höhere Leistung als im ausgefeilteren „Version 1.2“, was auf einen Fehler hindeutet, der die Leistung näher an den Raspberry bringen könnte Pi 4 in einem zukünftigen Software-Update.
Verbesserter Speicherdurchsatz sollte über den PCI-Express-Anschluss oben rechts auf der Platine verfügbar sein, wenn er mit einer kompatiblen Host-Bus-Adapterkarte gekoppelt ist. Dort ist eine PCIe 2.1-Konnektivität mit einer einzigen Lane verfügbar, die einen theoretischen Spitzendurchsatz von 500 MB/s bietet. Das 3,90-Dollar-Breakout-Board ist separat erhältlich und leider wurde unser Testmuster ohne es geliefert, sodass dieses ungetestet bleiben musste.
Netzwerk-Benchmarks
Hochgeschwindigkeitsspeicherung erfordert wirklich Hochgeschwindigkeitsnetzwerke, und hier hat der Orange Pi 4B ein paar Optionen: einen kabelgebundenen Ethernet-Anschluss und 2,4- und 5-GHz-Wi-Fi-Funkgeräte – die gleichen, die auch der Raspberry Pi 4 bietet.
Die Leistung des kabelgebundenen Ethernet-Ports liegt mehr oder weniger gleichauf zwischen dem Orange Pi 4B und dem Raspberry Pi 4, ebenso wie der 2,4-GHz-WLAN-Durchsatz. Durch den Wechsel zu einer 5-GHz-Verbindung zieht sich der Orange Pi 4B vom Raspberry Pi 4 ab und liefert eine deutlich bessere Verbindungsgeschwindigkeit.
Leider gibt es eine Einschränkung zu beachten: Während der Orange Pi 4B einen besseren 5-GHz-WLAN-Durchsatz als der Raspberry Pi 4 liefert, ist seine Reichweite erheblich geringer – trotz oder gerade wegen der mitgelieferten externen Antenne. Während der Orange Pi 4B den dedizierten Laborrouter, der zum Testen verwendet wurde und sich im selben Raum befand, problemlos erkennen konnte, konnte er keine anderen 5-GHz-Netzwerke in der Umgebung erkennen – Netzwerke, die der Raspberry Pi 4 bei einem Netzwerkscan problemlos erkennen konnte.
Leistungs-Benchmarks
Der Raspberry Pi 4 wird oft wegen seiner hohen Leistungsaufnahme und Wärmeabgabe kritisiert, obwohl sich die Dinge seit der Veröffentlichung von Firmware-Updates, die beide auf ein überschaubareres Niveau senken, erheblich verbessert haben. Tappt der Orange Pi 4B in dieselbe Falle?
Im Vergleich zu einem Raspberry Pi 4 Model B 4GB mit dem neuesten Raspbian-Build ist der Orange Pi 4B sowohl im Leerlauf als auch unter Last etwas weniger stromhungrig, wenn auch nicht sehr viel. Am interessantesten ist hier, dass die Lightspeeur-NPU nur sehr geringe Auswirkungen auf den Stromverbrauch hat: Der Betrieb eines Bilderkennungsnetzwerks durch den Lightspeeur erhöhte den Stromverbrauch um nicht mehr als ein einziges Watt, während der Chip selbst sich kühl anfühlte.
Das Gleiche gilt nicht für das SoC: Die Wärmebildaufnahme nach zehnminütiger CPU-Last zeigt eine maximale Gehäuseaußentemperatur von 74,2 Grad Celsius. Die Wärmeabgabe verteilt sich nicht effektiv über die Leiterplatte, was darauf hindeutet, dass die thermische Bindung im Montageprozess des SoC nicht berücksichtigt wurde.
Weitere Hotspots auf dem Wärmebild sind auf dem Energieverwaltungs-IC RK808, dem Kartenleser-Controller GL3224E und dem Ethernet-Controller RTL8211E zu sehen, wobei letzterer darauf hindeutet, dass die Energieverwaltung in der Firmware des Boards nicht aktiviert ist, da das Bild ohne Ethernet aufgenommen wurde Kabel verbunden.
Neuronale Verarbeitung
All dies vergleicht den Orange Pi 4B mit einem Allzweck-Einplatinencomputer, aber es ist der sehr spezifische Zweck von Deep-Learning-Aufgaben, der den Orange Pi 4B zu einem interessanten Design macht. Hier wird beim Testen auf das NPU-Image „Version 1.0“ von Ubuntu 18.04 umgeschaltet – ein Prozess, bei dem die Root-Partition manuell erweitert wird, um Platz für den ordnungsgemäßen Betrieb des Systems zu schaffen.
Die mitgelieferte Software zum Ansteuern der NPU ist kaum mehr als eine Kopie von Gyrfalcons eigenem Software-Entwicklungskit und Demos. Dies soll einen Programmierer in die Nutzung der NPU in ihrer eigenen Software einführen und ihre Fähigkeiten durch eine kleine Anzahl vortrainierter neuronaler Netze demonstrieren.
Der NPU wurde die Aufgabe der Bilderkennung und -klassifizierung übertragen: Eine Reihe von Bildern wird in den Speicher geladen, und die NPU betreibt ein Inferenznetzwerk, um herauszufinden, was die Bilder darstellen. Jeder Inferenzversuch wird zeitlich festgelegt und erhält einen Wahrscheinlichkeitswert – die Wahrscheinlichkeit zwischen 0 und 1, dass die Klassifizierung korrekt ist.
Die Lightspeeur-NPU durchlief den Test problemlos und klassifizierte die Bilder mit einer Rate zwischen 15 und 25 Bildern pro Sekunde – genug für die Live-Klassifizierung eines eingehenden Videostreams mit niedriger Bildrate, der von den beiden CSI-Kameraanschlüssen des Boards bereitgestellt werden konnte. Beeindruckenderweise war dafür nur 1 W Leistung erforderlich – erheblich weniger und bei einer besseren Leistung, als Sie mit der Arm-Mali-GPU an ihrer Stelle erreichen könnten.
Für jeden, der mit neuronalen Netzwerken experimentiert, ist der Lightspeeur ein definitives Juwel in der Krone des Boards; für alle anderen ist es wahrscheinlich kaum mehr als eine Kuriosität. Abgesehen von Gyrfalcons eigenen Demonstrationen und irgendwelchen neuronalen Netzwerk-Workloads, die Sie sich selbst ausdenken, gibt es nichts, was Sie nutzen könnten – Sie können Chrome nicht schneller laufen lassen oder die Effizienz der Videowiedergabe verbessern. Wenn es Gyrfalcon gelingt, die Lightspeeur-Familie zu einem Standard für die Beschleunigung neuronaler Netzwerke zu machen, und wenn die KI-Revolution tatsächlich neuronale Netzwerktechnologie auf den Desktop bringt, könnte sich das ändern; ansonsten ist es etwas, das ausschließlich für Entwickler interessant sein wird.
Endeffekt
Am Orange Pi 4B gibt es viel zu mögen, aber mehr als ein paar Ärgernisse. Die einzelne PCI-Express-Lane ist ein willkommener Anblick, aber durch das Erfordernis eines Breakout-Boards und die zum Zeitpunkt des Schreibens verfügbaren Treiber begrenzt, was die Kompatibilität auf eine einzelne Netzwerkkarte und eine SATA-Hostbus-Adapterkarte beschränkt. Der USB-Typ-C-Anschluss ist gut genug für die Verbindung mit einem externen Hochgeschwindigkeitsspeicher oder einem zusätzlichen Co-Prozessor wie Googles Coral Accelerator, kann aber den HDMI-Anschluss verschmutzen.
Auch die Softwareseite der Dinge braucht Arbeit. Der GPIO-Header des Orange Pi 4B wurde während dieser Überprüfung nicht getestet, da die dafür erforderliche Software noch auf das neue Board portiert werden musste. Auch die Stabilität war ein großes Problem, da Abstürze häufig die Tests unterbrachen – und den Abschluss des Speedometer 2.0-Benchmarks vollständig verhinderten.
Selbst mit diesen Vorbehalten und dem Verständnis, dass der Orange Pi 4B leicht doppelt so teuer ist wie seine Vorgänger, ist es schwer, das Board nicht zu mögen. Die Lightspeeur-NPU spielt dabei eine Schlüsselrolle: Sie bietet eine beeindruckende Beschleunigung des neuronalen Netzwerks bei sehr geringem Stromverbrauch und ist eine fantastische Ressource für alle, die im Bereich maschinelles Lernen, Computer Vision oder künstliche Intelligenz arbeiten.
Für diejenigen, die nicht daran interessiert sind, mit Bildklassifizierung, Objekterkennung und anderen neuronalen Netzwerk-Workloads herumzuspielen, ist der Orange Pi 4 zu einem geringeren Preis und mit zusätzlicher USB 3.0-Konnektivität erhältlich; Der Raspberry Pi 4B profitiert derweil von einem ausgereifteren Software-Stack und einem beeindruckend breiten Community-gesteuerten Ökosystem.
