Een GPU-server gebruiken voor AI- en automatisering

Wat is een GPU-server? 

Een GPU-server maakt gebruik van de verwerkingskracht van een speciale GPU (Graphics Processing Unit) om grote datasets snel en efficiënt te verwerken. GPU’s zijn ontworpen voor parallelle verwerking en zijn oorspronkelijk gemaakt om de weergave van 3D-graphics te versnellen voor immersive games en andere videofuncties. Deze parallelle computing leent zich uitstekend voor zware grafische workloads zoals beeldherkenning. Daarnaast versnelt het de training en inferentie van neurale netwerken voor deep learning-algoritmen. 

GPU-servers worden gebruikt in tal van sectoren om de steeds grotere hoeveelheden verzamelde visuele gegevens te beheren. Als je AI-, machine learning- en automatiseringsworkloads aan de edge moet kunnen verwerken, heb je de kracht van een GPU-server nodig. 

Voorbeeld: Visuele inspectie met AI

In een productieomgeving helpt visuele inspectie te garanderen dat de producten voldoen aan de specificaties en kwaliteitsnormen. Bedrijven gebruiken AI voor visuele inspectie om productafwijkingen te onderscheppen die tijdens een menselijke inspectie gemakkelijk kunnen worden gemist. 

Miniserver

Stel je een productiefaciliteit voor die een kwaliteitscontrolesysteem direct op een productielijn wil implementeren. De omgeving kan worden blootgesteld aan temperatuurschommelingen, stof en trillingen. Daarom is een rugged computer, zoals de Karbon 700 (K700-X2), een goede keuze om computer vision aan te sturen. Bekijk onze klantcase over Artemis Vision als je wil weten hoe zij de Karbon 700 als miniserver voor een van hun vision inspectie oplossingen hebben geïmplementeerd. 

Artemis Vision maakt systemen voor kwaliteitscontrole.

Rackmount edge server 

Voor grotere productiebehoeften met meerdere lijnen die elk moeten worden geïnspecteerd, kun je bij elke productielijn een industriële pc installeren. Een andere optie is om alle lijnen te laten bewaken en besturen door één high-performance rackmount edge server. De high-performance computing van de edge server kan met één stuk hardware meerdere productielijnen ondersteunen. 

GPU-server

We kunnen dat nog een stap verder doorvoeren. Stel dat je op elke lijn nog complexere workloads hebt, waarvoor deep learning-analyse of andere geavanceerde algoritmen moeten worden uitgevoerd. Je kunt je gegevens naar de cloud sturen voor analyse, maar dat leidt tot extra latentie en kan – afhankelijk van de bandbreedtebehoeften – duur zijn. 

Om latentie en operationele kosten te voorkomen, maken veel organisaties gebruik van cloudrepatriëring om hun computerresources op locatie te verplaatsen. Een edge server die met een GPU is geconfigureerd, beschikt over de verwerkingskracht om aan de vereisten voor dit scenario te voldoen.

Edge server met GPU voor automatisering

Als het gaat om automatisering, zoals een SCADA-systeem server, kun je een edge server met een GPU gebruiken om nóg meer tags te verwerken en meer HMI-clients te verbinden dan voorheen mogelijk was. Deze high-performance edge servers geven je de mogelijkheid om SCADA-oplossingen, zoals Ignition van Inductive Automation uit te voeren. Daarnaast kun je deze toepassingen verder uitbreiden dankzij de verbeterde GPU-rekenkracht. 

Zo kun je een tijdreeks van PLC-taggegevens rechtstreeks uit de historian database nemen en deze invoeren in een door AI gestuurd voorspellend onderhoudsprogramma, waarbij je profiteert van de ingebouwde GPU. Dat heeft het bijkomende voordeel van lagere kosten voor cloudtransmissie plus het feit dat vertrouwelijke gegevens op locatie worden bewaard. 

Je hebt ook de mogelijkheid voor extra beheertools, zoals het maken van een Kubernetes-cluster met hoge beschikbaarheid voor bedrijfskritische bewerkingen. 

Aandachtspunten bij de installatieomgeving

Er zijn verschillende soorten workloads van edge computing, en omgevingen waarin deze geïnstalleerd worden kunnen sterk variëren. Dit is waarom edge computers worden geleverd met verschillende specificaties en in een verscheidenheid aan modellen, van fanless of fanless hybride computers, miniservers, rackmount edge servers en GPU-servers. 

Een fanless pc werkt betrouwbaar in veeleisende omgevingen. Dit maakt het een goede keuze als deze moet worden gebruikt onder zware omstandigheden, zoals bij stof, hoge temperaturen, impactkrachten en trillingen.

De meeste edge servers vereisen enige koeling en bescherming tegen stof. OnLogic biedt high-performance edge servers die zijn ontworpen voor de edge, zoals de Axial AC101 Edge Server. Deze platte 1U-server biedt een aantal functies voor AI en automatisering, met een bedrijfstemperatuurbereik van 5 ~ 40 °C (ASHRAE A3). Je hebt echter nog steeds een semi-gecontroleerde omgeving nodig om te profiteren van dat niveau van computerkracht aan de edge.

In een aantal gevallen kun je hardware implementeren in een communicatie kast of het rek van een lokale server, waar deze tegen de elementen wordt beschermd. Maar soms heb je een edge server direct naast apparatuur nodig voor toepassingen met extreem lage latentie, zoals snelle robotica. In dat geval kunnen we behuizingen leveren die koeling en bescherming tegen stof bieden. 

Een andere optie die je kunt bekijken, zijn de mini servers. Deze bieden veel van dezelfde computerfuncties als traditionele rackservers, maar in een kleiner formaat dat speciaal is ontworpen om stand te houden in uitdagende omstandigheden. 

Welke functies moet je overwegen voor een edge server of GPU-server?

Implementatie aan de edge introduceert een aantal nieuwe vereisten die niet zo gebruikelijk zijn in traditionele serverimplementaties.

CPU-prestaties aan de edge

Wanneer mensen over een server gaan nadenken, zijn CPU-prestaties doorgaans het eerste waar ze naar kijken. Sommige toepassingen vereisen schaalbare Intel® Xeon®-CPU’s. Voor andere toepassingen bieden moderne Intel Core™-CPU’s, die veel van de functies van de vorige generatie schaalbare Xeon-processors integreren, een voordeliger, maar toch extreem krachtig alternatief. Axial AC101 biedt de nieuwste Intel 13e generatie processors met hybride architectuur en maximaal 24 kernen en 32 threads.

Beperkingen van GPU-vermogen en -ruimte

Voor AI-workloadversnelling is een PCIe GPU meestal een primaire vereiste voor prestaties. De AC101 is een ondiepe server die een full-height, full-length GPU ondersteunt. 

• Dit is belangrijk omdat veel rekbehuizingen in industriële omgevingen geen volledige servers ondersteunen. Bovendien kun je worden beperkt door het totale aantal beschikbare rackeenheden.  Een 1U is misschien de enige optie wanneer je een UPS, netwerkswitch en andere apparatuur nodig hebt.
• Er bestaan verschillende raamwerken die kunnen profiteren van GPU-rekenkracht voor AI. Voorbeelden zijn Nvidia’s CUDA-raamwerk dat voornamelijk draait op hun GPU-architectuur en Intel’s OpenVino-platform dat CPU, iGPU en op Intel gebaseerde GPU’s kan gebruiken.

Baseboard Management Controller (BMC)

Met een BMC kun je de server besturen op externe locaties. Dit kan essentieel zijn in een gedistribueerde architectuur aan de edge. Effectief apparaatbeheer op grote schaal wordt essentieel. In tegenstelling tot veel andere servers op de markt hoeven gebruikers voor de AC101 geen extra licentiekosten te betalen om de volledige mogelijkheden van de BMC te kunnen benutten. 

Bescherming tegen sabotage

Systemen aan de edge kunnen niet altijd worden geïmplementeerd in gebieden met toegangscontrole. Om dit probleem op te lossen, wordt de AC101 geleverd met een vergrendelbaar beveiligingsfront en beperkte I/O aan de voorzijde. Zo kan toegang tot de 4x interne U.3 (NVMe) of SATA SSD’s en 2x M.2 SSD’s worden voorkomen.

Wil je weten hoe je een GPU-server kunt gebruiken voor je AI- en automatisering? Verken onze volledige selectie computers met GPU en neem contact op met ons team!

Opmerking van de redactie: Inductive Automation heeft hun Ignition onboard-programma beëindigd. Ignition-licenties moeten nu rechtstreeks via Inductive Automation worden aangeschaft. Hoewel de IGN-versies van onze oplossingen niet langer beschikbaar zijn, blijven onze computers uitstekend geschikt voor gebruik met Ignition-software. Ontdek hier onze aanbevolen hardware.