Come sfruttare un server GPU per carichi di lavoro di intelligenza artificiale e automazione
Cos'è un server GPU?
Un server GPU sfrutta la potenza di elaborazione di una GPU (Graphics Processing Unit) dedicata per elaborare grandi set di dati in modo rapido ed efficiente. Le GPU sono state progettate per l'elaborazione parallela e originariamente create per accelerare il rendering di grafica 3D per giochi immersivi e altre funzionalità video. Questo calcolo parallelo si presta bene a carichi di lavoro grafici intensi, come il riconoscimento delle immagini, oltre ad accelerare l'addestramento e l'inferenza delle reti neurali per algoritmi di deep learning .
I server GPU trovano applicazione in un'ampia varietà di settori per gestire la crescente mole di dati visivi che vengono raccolti. Quando devi alimentare carichi di lavoro di Intelligenza Artificiale (IA), Machine Learning e automazione all'edge, è lì che hai bisogno della potenza di un server GPU.
Esempio: ispezione visiva AI
Nell'industria manifatturiera, l'ispezione visiva contribuisce a garantire che i prodotti soddisfino le specifiche e gli standard qualitativi. Le aziende utilizzano l'intelligenza artificiale per l'ispezione visiva, al fine di individuare anomalie di produzione che potrebbero essere facilmente trascurate dall'ispezione umana.
Mini server
Considerate un'azienda manifatturiera che desidera implementare un sistema di controllo qualità direttamente sulla linea di produzione. L'ambiente potrebbe essere esposto a variazioni di temperatura, polvere e vibrazioni, motivo per cui un computer robusto come il Karbon 700 (K700-X2) sarebbe un'ottima scelta per supportare la visione artificiale. Leggete la storia del nostro cliente Artemis Vision per scoprire come hanno implementato il Karbon 700 come mini-server per una delle loro soluzioni di ispezione visiva.
Artemis Vision crea sistemi di ispezione per la qualità.
Server edge rackmount
Per esigenze di produzione più estese, con più linee di produzione, ciascuna delle quali richiede un'ispezione, è possibile installare un PC industriale su ogni linea di produzione. In alternativa, tutte le linee potrebbero essere monitorate e controllate da un singolo server edge rack ad alte prestazioni. L'elaborazione ad alte prestazioni del server edge può supportare più linee di produzione con un unico componente hardware.
Server GPU
Per fare un ulteriore passo avanti, supponiamo di avere carichi di lavoro ancora più complessi su ogni linea che richiedono l'esecuzione di analisi di deep learning o altri algoritmi avanzati. È possibile inviare i dati al cloud per l'analisi, ma ciò comporta una latenza aggiuntiva. Inoltre, il cloud può essere costoso a seconda delle esigenze di larghezza di banda.
Per evitare latenza e costi operativi, molte organizzazioni stanno sfruttando strategie di rimpatrio del cloud per spostare le proprie risorse di elaborazione on-premise. Un server edge configurato con una GPU ha la potenza di elaborazione necessaria per soddisfare i requisiti di questo scenario.
Server edge GPU per carichi di lavoro di automazione
Per carichi di lavoro di automazione come un server di sistema SCADA , è possibile sfruttare un edge server con GPU per elaborare ancora più tag e connettere più client HMI rispetto a prima. Questi edge server ad alte prestazioni non solo offrono la possibilità di eseguire soluzioni SCADA come la piattaforma Ignition di Inductive Automation , ma consentono anche di migliorare ulteriormente queste applicazioni grazie alla maggiore potenza di calcolo della GPU.
Ad esempio, è possibile acquisire i dati dei tag PLC delle serie temporali direttamente dal database storico e inserirli in un programma di manutenzione predittiva basato sull'intelligenza artificiale, sfruttando la GPU integrata. Ciò offre anche l'ulteriore vantaggio di ridurre i costi di trasmissione al cloud e di mantenere i dati riservati in loco.
Hai anche la possibilità di utilizzare strumenti di gestione aggiuntivi, come la creazione di un cluster Kubernetes ad alta disponibilità per le operazioni critiche.
Considerazioni sull'ambiente di installazione
I carichi di lavoro dell'edge computing sono disponibili in diverse forme e dimensioni e gli ambienti di installazione possono variare notevolmente. Per questo motivo, i computer edge sono disponibili con specifiche diverse e in una varietà di fattori di forma, da computer fanless o ibridi fanless, mini-server, server edge rackmount e server GPU.
Un PC senza ventole funziona in modo affidabile anche in ambienti difficili. Questo lo rende un'ottima scelta per l'utilizzo in condizioni difficili, che possono includere polvere, temperature elevate, urti e vibrazioni.
La maggior parte dei server edge richiede un sistema di raffreddamento e protezione dalla polvere. OnLogic offre server edge ad alte prestazioni progettati per l'edge, come l' Axial AC101 Edge Server . Questo server 1U a profondità ridotta offre numerose funzionalità per l'intelligenza artificiale e l'automazione, con un intervallo di temperatura operativa di 5° ~ 40°C (ASHRAE A3). Tuttavia, richiede comunque un ambiente semi-controllato per sfruttare tale livello di elaborazione nell'edge.
In alcuni casi, è possibile installare l'hardware in un armadio di comunicazione o in un rack server locale, dove sarà protetto dagli agenti atmosferici. Tuttavia, se si necessita di un server edge direttamente accanto alle apparecchiature per applicazioni a bassissima latenza, come la robotica ad alta velocità, sono disponibili contenitori che offrono raffreddamento e protezione dalla polvere.
In alternativa, puoi prendere in considerazione i mini server che offrono molte delle stesse funzionalità di elaborazione dei tradizionali server rackmount, in un formato più piccolo, progettato per resistere in condizioni difficili.
Quali caratteristiche dovresti prendere in considerazione per un edge server o un GPU server?
L'implementazione all'edge introduce nuovi requisiti meno comuni nelle distribuzioni server tradizionali.
Prestazioni della CPU al limite
Le prestazioni della CPU sono una delle prime considerazioni che la maggior parte delle persone fa quando si sceglie un server. Alcune applicazioni richiedono CPU scalabili Intel® Xeon®. Per altre applicazioni, le moderne CPU Intel Core™, che integrano molte delle funzionalità dei processori scalabili Xeon di precedente generazione, offrono un'alternativa più economica, ma comunque estremamente potente. Axial AC101 offre i più recenti processori Intel Hybrid Architecture di 13a generazione con un massimo di 24 core e 32 thread.
Limitazioni di spazio e di elaborazione GPU
Per l'accelerazione dei carichi di lavoro AI, una GPU PCIe è solitamente un requisito fondamentale per le prestazioni. L'AC101 è un server edge a profondità ridotta in grado di supportare una GPU a tutta altezza e lunghezza.
Questo è importante poiché molte enclosure per rack in ambienti industriali non supportano server a profondità completa. Inoltre, si potrebbe essere limitati dal numero totale di unità rack disponibili. Un 1U potrebbe essere l'unica opzione tenendo conto di un UPS, uno switch di rete e altri fattori.
Esistono vari framework che sfruttano il calcolo GPU per l'intelligenza artificiale, come il framework CUDA di Nvidia che funziona principalmente sulla loro architettura GPU e quello di IntelPiattaforma OpenVino che può utilizzare CPU, iGPU e GPU basate su Intel.
Controller di gestione del battiscopa (BMC)
Un BMC consente di controllare il server fuori banda, il che può essere fondamentale in un'architettura distribuita ai margini. Su larga scala, la gestione efficace dei dispositivi diventa fondamentale. A differenza di molti altri server sul mercato, AC101 non richiede agli utenti di pagare alcun costo di licenza aggiuntivo per sfruttare appieno le funzionalità del BMC.
Protezione antimanomissione
Ai margini, i sistemi non possono sempre essere distribuiti in aree con controllo degli accessi. Per risolvere questo problema, l'AC101 è dotato di una cornice di sicurezza con serratura e di un I/O frontale limitato. Questo aiuta a impedire l'accesso ai 4 SSD interni U.3 (NVMe) o SATA e ai 2 SSD M.2.
Pronti a scoprire come sfruttare un server GPU per i vostri carichi di lavoro di intelligenza artificiale e automazione? Esplorate la nostra intera selezione di computer con GPU e contattate il nostro team oggi stesso!
Nota dell'editore: Inductive Automation ha terminato il programma Ignition Onboard. Le licenze Ignition devono ora essere acquistate direttamente tramite Inductive Automation. Sebbene le versioni IGN delle nostre soluzioni non siano più disponibili, i nostri computer rimangono perfettamente adatti all'utilizzo con il software Ignition. Scoprite l' hardware consigliato qui .