Vai al contenuto

Recensione Orange Pi 4B: il concorrente Raspberry Pi ha un’intelligenza artificiale integrata

    1647787203

    Il nostro verdetto

    Ti costerà più di un Raspberry Pi 4, ma Orange Pi 4B offre una serie di vantaggi, se puoi aspettare build software più stabili, cioè.

    Per

    Buono per le specifiche
    Include un coprocessore NPU ad alte prestazioni
    Corsia PCI Express interrotta per hardware esterno

    Contro

    Software instabile
    Porte USB limitate
    Supporto hardware PCI Express limitato

    Al giorno d’oggi c’è molto fermento intorno al deep learning e all’intelligenza artificiale e quasi tutti i produttori di processori affermano di avere la risposta per accelerare i carichi di lavoro pesanti per la creazione della propria intelligenza artificiale. Intel sta lavorando sull’informatica neuromorfica, ispirata al cervello umano, con il suo processore di ricerca Loihi recentemente ridimensionato; Nvidia, nel frattempo, ha prodotti come Jetson Nano che sfruttano la sua tecnologia di elaborazione grafica come acceleratore generico; Google ha le sue Tensor Processing Units (TPU) interne, lanciate per il mercato degli appassionati a marzo dello scorso anno e che dovrebbero essere aggiornate all’inizio di quest’anno.

    Questi grandi nomi non sono soli sul mercato, attenzione: ci sono una gamma di prodotti di nomi più piccoli, tra cui Seeed Studio Grove AI HAT, che afferma di portare l’accelerazione AI alle masse al minor costo possibile – ed è qui che Shezhen Xunlong Software Co. Orange Pi 4B prende la mira, vantando specifiche per rivaleggiare con il Raspberry Pi 4 Model B insieme a un coprocessore di rete neurale. 

    Il design

    Come suggerisce il nome, la gamma Orange Pi di Xunlong si è ispirata al successo della famiglia di computer a scheda singola Raspberry Pi. I modelli precedenti, come l’Orange Pi 3, hanno preso di mira la fascia più bassa del mercato; l’Orange Pi 4B, a circa il doppio del prezzo, è un notevole valore anomalo.

    A prima vista, saresti perdonato se pensi che l’Orange Pi 4B sia progettato come un’alternativa economica all’Orange Pi 3: le quattro porte USB 3.0 del suo predecessore sono state ridotte a due porte USB 2.0 e una singola USB 3.0 Type- Porta C con supporto On The Go (OTG), che si trova fastidiosamente vicino all’uscita HDMI full-size singola, una mossa che significa che non sarai in grado di utilizzare la porta di tipo C se il tuo cavo HDMI utilizza qualcosa di diverso dal alloggiamento del connettore più sottile possibile. A prima vista, sembra che anche il connettore mini-PCI Express di Orange Pi 3 sia scomparso; piuttosto, è stato relegato a un connettore a nastro in alto a destra della scheda, richiedendo una scheda di breakout PCIe opzionale se si desidera utilizzarla per hardware esterno.

    Come i suoi predecessori – e il Raspberry Pis che ha ispirato la loro creazione – l’Orange Pi 4B viene fornito come un circuito stampato e, al momento della stesura, le custodie non erano disponibili. C’è essenzialmente solo una variante, anche se l’Orange Pi 4 non-B è basato sullo stesso hardware di base. Optando per la versione non B da $ 49, ottieni due porte USB 3.0 full-size e una porta host USB 2.0 aggiuntiva e ti dà la possibilità di lasciare il chip di archiviazione flash integrato eMMC da 16 GB fuori dalla distinta base per ridurne i costi ancora più lontano. C’è una perdita maggiore nel passaggio a un modello non B, tuttavia: l’intelligente acceleratore NPU Gyrfalcon, disponibile solo sull’Orange Pi 4B.

    L’hardware

    L’Orange Pi 4B è uno dei numerosi computer a scheda singola che hanno optato per il processore system-on-chip RK3399 di Rockchip, generalmente classificato come un design a sei core. Questo è tecnicamente vero, ma nasconde la complessità del design sotto il tappeto: la CPU del SoC è divisa in due cluster, entrambi funzionanti “fino a” 2GHz; un cluster Arm Cortex-A72 dual-core gestisce attività ad alta richiesta; un cluster quad-core Arm Cortex-A54 è a disposizione per lavori meno impegnativi come mezzo per risparmiare energia.

    Per l’utente Linux, la CPU appare come un singolo processore a sei core e sei alla mercé dello scheduler che decide quale core viene scelto per eseguire una determinata attività. Sebbene ciò renda le cose il più facili possibile da usare, significa che le prestazioni non si ridimensionano come ti aspetteresti: anche se un’attività è perfettamente parallelizzabile, non verrà eseguita tre volte più velocemente con sei thread rispetto a due.

    CPU RAM GPU Co-processore Uscita video Porte USB Rete cablata Ingressi telecamera wireless Archiviazione PCI Express Ingressi alimentazione Dimensioni Peso

    Rockchip RK3399 2GHz: 2x Arm Cortex-A72, 4x Arm Cortex-A54 Core

    LPDDR4 a doppio canale

    Braccio Mali-T864: OpenGL ES 3.1

    Gyrfalcon Lightspeeur 2801S Unità di elaborazione neurale (NPU)

    1x HDMI 2.0 4K60, 1x DisplayPort 1.2, 4K60 (tramite USB Type-C), 2x LCD (1x condiviso con MIPI CSI)

    2x host USB 2.0, 1x USB Type-C 3.0

    1x Realtek RTL8211E Gigabit Ethernet

    SparkLAN AP6256 Dual-Band 802.11a/b/g/n/ac, Bluetooth 5.0

    2x MIPI CSI (1x condiviso con LCD)

    1x PCI Express 2.1

    16GB eMMC, espansione microSD

    5 V 3 A CC, 5 V 3 A USB di tipo C

    95x61x24,5mm

    48 g

    La CPU è accoppiata a una GPU Arm Mali-T864, che include il supporto dell’accelerazione 3D hardware nelle distribuzioni Android e Linux più generali supportate da Xunlong. Supporta fino a OpenGL ES 3.1, sebbene né Xunlong come creatore di SBC né Rockchip come produttore di SOC abbiano ricevuto la certificazione di conformità dal Gruppo Khronos.

    Ci sono 4 GB di memoria LPDDR4 dual-channel integrata, insieme a 16 GB di spazio di archiviazione eMMC, qualcosa che è stato a lungo richiesto dalla gamma Raspberry Pi incentrata sui consumatori ma non ancora fornito. Un’altra caratteristica di Orange Pi 4B che manca a Raspberry Pi è il supporto PCI Express, disponibile tramite un connettore con cavo piatto a una scheda di breakout opzionale.

    Non è il SoC che distingue l’Orange Pi 4B dalla concorrenza: è l’unità di elaborazione neurale (NPU) Lightspeeur 2801S, un acceleratore incentrato sull’apprendimento profondo progettato e costruito da Gyrfalcon Technologies. Saresti perdonato per averlo perso a uno sguardo alla lavagna; è un minuscolo pacchetto BGA situato appena dietro le porte USB 2.0, del tutto insignificante alla vista.

    L’Orange Pi 4B ha un interessante ingresso di alimentazione dual-mode: è possibile alimentare la scheda dal connettore USB Type-C, come con un Raspberry Pi 4, ma così facendo si blocca l’unica porta USB 3.0 dell’Orange Pi 4; una scelta migliore è utilizzare il connettore jack a barilotto nella parte inferiore destra della scheda, che accetta un ingresso 5V 3A con pin centrale positivo e mantiene libera la porta USB 3.0, purché non si faccia fallo con l’HDMI almeno porto. C’è anche la connettività DisplayPort 1.2 sulla porta USB di tipo C, insieme a due connettori del pannello LCD, uno dei quali funge da secondo connettore CSI (Mipi Camera Serial Interface) della scheda.

    Con 95 x 61 x 24,5 mm e 48 g, la scheda è leggermente più grande e più pesante di un Raspberry Pi 4 Model B, sebbene sia una concorrenza serrata. Quel peso include un’antenna esterna in bundle per la radio Wi-Fi dual-band e Bluetooth 5.0, un’antenna che può essere facilmente sostituita, grazie al suo connettore UFL, con una di tua scelta. Per chiunque abbia intenzione di costruire in un alloggiamento di metallo, è un aggiornamento importante: un semplice codino UFL ti consentirà di portare la connessione dell’antenna fuori dagli schemi in modo economico e semplice.

    Il software

    Come con le sue versioni precedenti, Xunlong ha preparato immagini del sistema operativo che coprono una manciata di casi d’uso. Fuori dagli schemi, Orange Pi 4B esegue Android 8.1 con un terribile livello di patch di novembre 2018, precaricato sulla memoria flash eMMC.

    Chiunque si aspetti le sottigliezze del moderno – almeno, moderno come possono essere due versioni della versione attuale – Android sarà probabilmente deluso, purtroppo. Sebbene tutte le funzionalità della scheda siano supportate, la build Android Open Source Project fornita da Xunlong è molto semplice e, come ci si aspetterebbe, non include il supporto di Google Apps. Sembra anche rilevare erroneamente i cluster di CPU, con l’utilità di benchmarking in bundle che suggerisce che è in grado di funzionare solo sul cluster quad-core a prestazioni inferiori e non sul cluster dual-core ad alte prestazioni.

    È probabile che la maggior parte degli utenti scelga invece uno degli altri sistemi operativi offerti: i download sono forniti per Debian Linux 9, Ubuntu 16.04 e Ubuntu 18.04 – e mentre Ubuntu 18.04 potrebbe avvicinarsi ai due anni ora, è ancora supportato da Canonical fino a aprile 2023.

    Purtroppo, le cose non sono così semplici come scegliere Ubuntu 18.04 e andare avanti con le cose. Xunlong fornisce due versioni dell’immagine del sistema operativo: la prima include il software necessario per utilizzare la NPU Gyrfalcon Lightspeeur, ma è una build decisamente non lucidata che va in crash quasi immediatamente a causa di una partizione di root completa non riesce a ridimensionare per riempire la scheda microSD su cui è stato flashato; il secondo, contrassegnato come “versione 1.2”, offre un’esperienza utente molto più fluida ma senza il software per Lightspeeur, sebbene il dispositivo si presenti ancora al sistema operativo, quindi è del tutto possibile installare da soli il software e gli strumenti di sviluppo richiesti.

    C’è un’altra differenza tra le due build di Ubuntu: la versione NPU non supporta 3D e l’accelerazione di decodifica video sulla GPU, mentre la versione non NPU la supporta sia nell’uso generale del software che nel browser Google Chrome in bundle. Le prestazioni, purtroppo, non sono le migliori, girando ben al di sotto dei 30 fotogrammi al secondo nel benchmark glmark-es2 non particolarmente impegnativo.

    Ciò è rapidamente oscurato dai problemi di stabilità presenti su entrambe le build: il browser Chrome si bloccava frequentemente durante i test, non riuscendo a raggiungere la fine del benchmark del browser Speedometer 2.0; anche le dimostrazioni NPU andrebbero in crash dopo pochi minuti di esecuzione. Resta da vedere se si tratta di problemi che Xunlong risolverà con futuri aggiornamenti software.

    Benchmark della CPU

    Per mettere alla prova l’Orange Pi 4B, la scheda – che esegue l’immagine Ubuntu 18.04 “Version 1.2” per tutti tranne i test NPU – ha ricevuto una selezione di benchmark da completare e i suoi punteggi confrontati con un Raspberry Pi 4 Model B 4GB .

    Nel benchmark sintetico Linpack, l’Orange Pi 4B sembra essere un vantaggio rispetto alla concorrenza: le prestazioni a precisione singola sono particolarmente degne di nota, probabilmente guadagnando una spinta dall’esecuzione in un ambiente a 64 bit anziché a 32 bit di Raspbian su Raspberry Pi 4. Il divario si riduce con l’accelerazione NEON abilitata, ma questa è probabilmente una conseguenza delle attività NEON eseguite dal cluster CPU principale sull’RK3399.

    Nel benchmark di compressione dei file piuttosto più reale, il divario è colmato: sebbene entrambe le schede fornissero prestazioni simili, il Raspberry Pi 4 Model B ha completato l’attività di compressione a thread singolo un po’ più velocemente dell’Orange Pi 4B nonostante una velocità di clock della CPU inferiore; l’Orange Pi 4B, nel frattempo, è andato avanti nel test multi-thread, probabilmente grazie ai suoi due core CPU aggiuntivi.

    Lo stesso leggero vantaggio in termini di prestazioni può essere visto nel benchmark di editing delle immagini GIMP, dove ancora una volta l’Orange Pi 4B ha completato l’attività leggermente prima del Raspberry Pi 4. Qui è più probabile che il guadagno si trovi nel throughput di memoria più veloce dell’Orange Pi 4B .

    Benchmark di archiviazione

    I computer a scheda singola stanno diventando sempre più popolari come mezzo per trasformare dischi rigidi esterni in dispositivi di archiviazione collegati alla rete a basso costo; coloro che desiderano lavorare su attività di deep learning, nel frattempo, beneficeranno anche di uno storage ampio e ad alte prestazioni. Qui, entrambe le schede sono dotate di un SSD USB 3.0 esterno e lo stesso modello di scheda microSD e il throughput di lettura/scrittura misurato utilizzando l’utilità fio.

    L’Orange Pi supera la concorrenza nel test di archiviazione USB, leggendo e scrivendo sull’SSD esterno notevolmente più velocemente del Raspberry Pi 4. Questi risultati, tuttavia, sono veri solo per i dispositivi collegati alla singola porta USB 3.0 Type-C tramite un adattatore USB OTG; lo spostamento dell’SSD sulle porte USB 2.0 full-size riduce naturalmente le prestazioni a circa 30 MBps.

    Le cose sono cambiate nel test microSD, tuttavia: qui il Raspberry Pi 4 raddoppia facilmente le prestazioni del suo concorrente. C’è una piccola ruga da notare qui, tuttavia: l’Orange Pi 4B ha fornito prestazioni più elevate nell’immagine Ubuntu “versione 1.0” incentrata sulla NPU rispetto alla “versione 1.2” più raffinata, suggerendo un bug che potrebbe avvicinare le prestazioni al Raspberry Pi 4 in un futuro aggiornamento software.

    Il throughput di archiviazione migliorato dovrebbe essere disponibile tramite il connettore PCI Express in alto a destra della scheda quando accoppiato con una scheda adattatore bus host compatibile. È disponibile una singola linea di connettività PCIe 2.1, che offre un throughput di picco teorico di 500 MB/s. La scheda break-out da $ 3,90 è venduta separatamente e, sfortunatamente, il nostro campione di recensione è stato fornito senza di essa, quindi non è stato testato.

    Benchmark di rete

    L’archiviazione ad alta velocità ha davvero bisogno di una rete ad alta velocità, e qui Orange Pi 4B ha un paio di opzioni: una porta Ethernet cablata e radio Wi-Fi a 2,4 e 5 GHz, le stesse offerte dal Raspberry Pi 4.

    Le prestazioni della porta Ethernet cablata sono più o meno a stretto contatto tra Orange Pi 4B e Raspberry Pi 4, così come il throughput Wi-Fi a 2,4 GHz. Il passaggio a una connessione a 5 GHz vede l’Orange Pi 4B allontanarsi dal Raspberry Pi 4 per offrire una velocità di connessione nettamente migliore.

    Purtroppo, c’è un avvertimento da notare: mentre l’Orange Pi 4B offre un throughput Wi-FI a 5 GHz migliore rispetto al Raspberry Pi 4, la sua portata è considerevolmente più limitata, nonostante, o forse a causa dell’antenna esterna in dotazione. Sebbene l’Orange Pi 4B non abbia avuto problemi a raccogliere il router di laboratorio dedicato utilizzato per i test e situato nella stessa stanza, non è riuscito a vedere altre reti a 5 GHz nell’area: le reti che il Raspberry Pi 4 non ha avuto problemi a rilevare in una scansione di rete.

    Benchmark di potenza

    Il Raspberry Pi 4 è spesso criticato per la sua elevata potenza assorbita e resa termica, anche se le cose sono notevolmente migliorate dal rilascio degli aggiornamenti del firmware che scendono entrambi a livelli più gestibili. L’Orange Pi 4B cade nella stessa trappola?

    Rispetto a un Raspberry Pi 4 Model B da 4 GB con l’ultima build Raspbian, l’Orange Pi 4B è un po’ meno assetato di energia sia in idle che sotto carico, anche se non di una quantità enorme. La cosa più interessante qui è che la NPU Lightspeeur ha un effetto molto limitato sul consumo di energia: l’esecuzione di una rete di riconoscimento delle immagini attraverso il Lightspeeur ha aumentato il consumo di energia di non più di un singolo watt, mentre il chip stesso è rimasto fresco al tatto.

    Lo stesso non si può dire del SoC: l’imaging termico dopo un carico di lavoro pesante di dieci minuti della CPU rivela una temperatura di picco del pacchetto esterno di 74,2 gradi Celsius. L’emissione di calore non riesce a diffondersi efficacemente attraverso il PCB, suggerendo la mancata considerazione del legame termico nel processo di montaggio del SoC.

    Altri punti caldi sull’immagine termica possono essere visti sull’IC di gestione dell’alimentazione RK808, sul controller del lettore di schede GL3224E e sul controller Ethernet RTL8211E, quest’ultimo suggerendo che la gestione dell’alimentazione non è abilitata nel firmware della scheda, dato che l’immagine è stata acquisita senza Ethernet cavo collegato.

    Elaborazione neurale 

    Tutto ciò confronta l’Orange Pi 4B con un computer a scheda singola per uso generico, ma è lo scopo molto specifico delle attività di apprendimento approfondito che rende l’Orange Pi 4B un design interessante. Qui, il test viene trasferito all’immagine Ubuntu 18.04 NPU “versione 1.0”, un processo che prevede l’estensione manuale della partizione di root per fare spazio al sistema per funzionare correttamente.

    Il software in bundle per pilotare la NPU è poco più di una copia del kit di sviluppo software e delle demo di Gyrfalcon. Questo è progettato per introdurre un programmatore a utilizzare la NPU nel proprio software, oltre a dimostrarne le capacità attraverso un piccolo numero di reti neurali pre-addestrate.

    Alla NPU è stato affidato il compito di riconoscere e classificare le immagini: una serie di immagini viene caricata in memoria e la NPU gestisce una rete di inferenza nel tentativo di capire cosa rappresentano le immagini. Ogni tentativo di inferenza è cronometrato e viene assegnato un punteggio di probabilità: la probabilità, compresa tra 0 e 1, che la classificazione sia corretta.

    La NPU Lightspeeur ha eseguito il test senza difficoltà, classificando le immagini a una frequenza compresa tra 15 e 25 frame al secondo, sufficiente per la classificazione live di un flusso video in ingresso a basso framerate, che potrebbe essere fornito dalle doppie porte della fotocamera CSI della scheda. Sorprendentemente, ci è voluto solo 1 W di potenza per farlo, considerevolmente meno e con prestazioni migliori di quelle che potresti ottenere usando la GPU Arm Mali al suo posto.

    Per chiunque stia sperimentando le reti neurali, il Lightspeeur è un vero gioiello nella corona del consiglio; per tutti gli altri è probabile che sia poco più di una curiosità. Al di fuori delle dimostrazioni di Gyrfalcon e di tutti i carichi di lavoro della rete neurale che hai inventato tu stesso, non c’è nulla di cui farne uso: non puoi far funzionare Chrome più velocemente o migliorare l’efficienza della riproduzione video. Se Gyrfalcon riesce a rendere la famiglia Lightspeeur uno standard per l’accelerazione della rete neurale e se la rivoluzione dell’IA porta davvero la tecnologia di rete neurale sul desktop, ciò potrebbe cambiare; in caso contrario, è qualcosa che interesserà esclusivamente agli sviluppatori.

    Linea di fondo

    C’è molto da apprezzare sull’Orange Pi 4B, ma più di qualche fastidio. La singola corsia PCI Express è una vista gradita, ma limitata dal fatto che richiede una scheda break-out e con driver disponibili al momento della scrittura che ne limitano la compatibilità a una singola scheda di rete e una scheda adattatore bus host SATA. Il connettore USB di tipo C è abbastanza buono per la connessione a una memoria esterna ad alta velocità o a un coprocessore aggiuntivo come Coral Accelerator di Google, ma può intaccare il connettore HDMI.

    Anche il lato software delle cose ha bisogno di lavoro. L’intestazione GPIO dell’Orange Pi 4B non è stata testata durante questa recensione, poiché il software necessario per farlo funzionare doveva ancora essere trasferito sulla nuova scheda. Anche la stabilità era un problema importante, con arresti anomali che interrompevano spesso i test e impedivano completamente il completamento del benchmark Speedometer 2.0.

    Anche con queste avvertenze e la consapevolezza che l’Orange Pi 4B costa facilmente il doppio dei suoi predecessori, è difficile non apprezzare la scheda. La NPU di Lightspeeur è una parte fondamentale di questo: offrendo un’impressionante accelerazione della rete neurale con un consumo energetico molto basso, è una risorsa fantastica per chiunque lavori nel campo dell’apprendimento automatico, della visione artificiale o dell’intelligenza artificiale.

    Per coloro che non sono interessati a giocare con la classificazione delle immagini, il riconoscimento di oggetti e altri carichi di lavoro di rete neurale, tuttavia, Orange Pi 4 ha un costo inferiore e con connettività USB 3.0 aggiuntiva; il Raspberry Pi 4B, nel frattempo, beneficia di uno stack software più maturo e di un ecosistema guidato dalla comunità straordinariamente ampio.

    0 0 votes
    Rating post
    Subscribe
    Notificami
    guest
    0 comments
    Inline Feedbacks
    View all comments
    0
    Would love your thoughts, please comment.x