Laden...
Laden...
Laden...
AI27 maart 202610 Min leestijd

Wat is een GPU? Een beginnersgids

Afbeelding met verschillende formaten NVIDIA GPU's.

Als je jezelf afvraagt: "Wat is een GPU en waarom zou ik er een nodig hebben?", dan ben je hier aan het juiste adres. Welkom bij onze beginnersgids voor GPU's. 

Wat is een GPU?

De Graphics Processing Unit (GPU) is een gespecialiseerde computerprocessor. Soms worden ze grafische kaarten of videokaarten genoemd. Zoals de naam al aangeeft, zijn GPU's oorspronkelijk door engineers ontworpen om computergrafieken te verwerken, zoals afbeeldingen, 3D-graphics en video's, zodat de CPU zich kan richten op andere algemene berekeningstaken. 

Hun ontwerp blijkt uitstekend te zijn voor meer dan alleen het renderen van afbeeldingen en video's; GPU's zijn ook de drijvende kracht achter vooruitgang in artificial intelligence (AI), machine learning, computer vision en meer. Ze elimineren mogelijke verwerkingsknelpunten, wat zorgt voor snellere resultaten, meer mogelijkheden en een betere gebruikerservaring. 

Lees meer om te ontdekken waarom GPU-technologie uitblinkt in deze taken en hoe je je industriële computer het beste kunt configureren om dit te ondersteunen.

Maar eerst vraag je je misschien af: hoe verschilt een GPU van een CPU? Laten we bij de basis beginnen.

Wat is een CPU? 

CPU staat voor Central Processing Unit en wordt vaak het brein van de computer genoemd. Eenvoudig gezegd is de CPU een verzameling elektronische schakelingen die data aanstuurt, inclusief invoer, uitvoer en opslag. De CPU zorgt ervoor dat het besturingssysteem en de applicaties van de computer correct functioneren. 

Industriële computer processors

GPU versus CPU

Wat is het verschil tussen een GPU en een CPU? Zowel de GPU als de CPU zijn microprocessors op siliciumbasis die data verwerken. Het verschil zit in de manier waarop ze data verwerken en in hun fysieke verwerkingseenheden: hun kernen (cores).

  • Dataverwerking

    • CPU's voeren seriële berekeningen uit; ze verwerken data taak na taak.

    • GPU's voeren parallelle berekeningen uit; ze verwerken veel berekeningen tegelijkertijd.

  • De kernen (cores) 

    • CPU's hebben enkele kernen en dat kan sterk variëren.

      • Bijvoorbeeld:

        • Intel® N Series-processors bieden tussen de 4 en 8 efficiënte kernen en Intel® 13e generatie Hybrid Core-processors zijn verkrijgbaar met maximaal 24 kernen. (Let op: Intel introduceerde Hybrid Core-technologie met de 12e generatie. Je kunt er hier meer over lezen.)

        • AMD Ryzen-processors bieden 8 kernen, en EPYC Embedded 7000-serieprocessors bieden tot wel 64 kernen.

    • GPU's kunnen honderden tot duizenden kernen hebben, vergelijkbaar met de kernen van een CPU, maar dan kleiner.

      • Bijvoorbeeld, NVIDIA Blackwell RTX Pro GPU's beschikken over 24.064 CUDA-kernen en omvatten 752 Tensor-kernen van de 5e generatie en 188 RT-kernen van de 4e generatie, gericht op high-end AI-, rendering- en simulatietaken.

Een man installeert 4 NVIDIA Blackwell GPU's in een onLogic AX300 Edge server.

GPU-kerntypes: RT, Tensor en CUDA

In de vorige sectie hebben we drie verschillende soorten kernen in de GPU besproken. Hieronder volgen enkele korte definities. 

  • RT-kernen of Ray Tracing-kernen stellen computersystemen in staat fotorealistische graphics te renderen met fysiek nauwkeurige belichting, inclusief reflecties, schaduwen en meer.

  • Tensor-kernen zijn specifiek gericht op wiskundige matrixverwerkingen, waardoor ze ideaal zijn om deep learning- en AI-workloads te versnellen.

  • CUDA-kernen zijn het belangrijkste type kern in de GPU en verantwoordelijk voor complexe parallelle wiskundige berekeningen. Binnen GPU-generaties leidt een hoger aantal CUDA-kernen over het algemeen tot betere prestaties. (Opmerking: CUDA staat voor Compute Unified Device Architecture.) 

Waar wordt een GPU voor gebruikt? 

Zowel CPU’s als GPU’s zijn erg goed in rekenen. Maar zoals hierboven vermeld, verwerken CPU’s de vergelijkingen sequentieel. Een GPU daarentegen kan de vergelijkingen allemaal tegelijkertijd verwerken. Daardoor bieden GPU’s buitengewone rekenkracht voor complexe wiskundige berekeningen.

Het renderen van afbeeldingen en graphics komt neer op een reeks wiskundige problemen. Zoals eerder genoemd, blinken GPU's daarin uit. Sterker nog, ze versnellen deze workloads voor superieure grafische prestaties, daarom worden ze 'accelerators' (versnellers) genoemd. Hoewel GPU's oorspronkelijk zijn ontworpen om grafische verwerking te versnellen, ontdekten engineers al snel dat moderne GPU's de wiskundige uitdagingen van veel andere toepassingen aankonden, waaronder: 

  • Videospellen

  • Videobewerking

  • Virtual reality

  • Wetenschappelijk onderzoek

  • 3D-rendering

  • Cryptomining

  • Artificial Intelligence (AI)

  • Machine Learning (ML)

  • Computer Vision

Hoewel GPU's uitblinken in al deze taken, betekent al die rekenkracht dat ze ook meer stroom verbruiken en veel warmte genereren. Daarom worden ze meestal gereserveerd voor de meest gespecialiseerde, berekeningsintensieve applicaties.

Hoewel het gebruik van GPU's voor gaming, videobewerking, cryptomining en wetenschappelijk onderzoek interessant is, richt dit artikel zich op het gebruik van een GPU voor AI-, ML- en computer vision-applicaties. De concepten, componenten en principes gelden echter grotendeels voor alle applicaties. 

Ontdek computers met GPU

GPU voor AI 

De krachtige verwerking van GPU's is een gamechanger geweest in de industriële sector voor AI, computer vision, machine learning en andere deep learning-applicaties. Deze applicaties vereisen de mogelijkheid om veel data te verwerken, deze te classificeren en deze informatie te gebruiken om inferences en voorspellingen te doen voor toekomstige resultaten.

Typen GPU's

Er zijn twee hoofdtypen GPU's: geïntegreerd en discrete. 

Geïntegreerde GPU (iGPU)

Een geïntegreerde GPU, soms iGPU genoemd, is direct ingebouwd in de processor of CPU van de computer. Deze deelt stroom en systeemgeheugen met de CPU, waardoor computers met een geïntegreerde GPU energiezuinig zijn en over het algemeen compacter en lichter. Omdat het geheugen echter wordt gedeeld, kunnen zware GPU-verwerkingstaken latentie veroorzaken bij algemene CPU-verwerking. 

Discrete GPU

Een discrete of dedicated GPU is een grafische processor die volledig gescheiden is van de CPU en beschikt over eigen geheugen, genaamd videogeheugen of VRAM. Dit dedicated geheugen geeft de GPU directe, snelle toegang tot data met hoge prioriteit wanneer dat nodig is voor grote AI-modellen, de datasets die worden verwerkt, of texturen met hoge resolutie en complexe geometrie voor grafische weergave.

Omdat het over eigen geheugen beschikt, hoeft het niet afhankelijk te zijn van het RAM-geheugen van de computer (sommigen zeggen dat het dat 'opslokt'). Discrete grafische kaarten leveren betere prestaties, maar verbruiken meer stroom en produceren daardoor veel warmte. 

Het koel houden van een discrete GPU is een belangrijke ontwerpuitdaging om maximale prestaties te behalen. Daarom hebben engineers deze GPU's voorzien van hun eigen koelventilatoren, wat bijdraagt aan hun omvang en energieverbruik.  

Een GPU aansluiten op je computer 

GPU's kunnen eenvoudig intern aan een computer worden toegevoegd via een PCIe-slot. Deze standaardinterface wordt aangeboden via uitbreidingsslots en risers, waardoor snelle communicatie mogelijk is tussen data-intensieve computerperiferie, zoals GPU's en het moederbord. 

Let op: je kunt een GPU ook extern gebruiken. Dit wordt soms een eGPU genoemd; deze sluit je aan op een dock met hetzelfde type aansluiting, een PCIe-poort. Het dock verbind je vervolgens met je computer via een Thunderbolt- of USB-C-kabel.

PCIe-slots versus lanes

PCIe-slots

De mechanische interface die je gebruikt om PCIe-randapparatuur aan te sluiten, wordt een PCIe-slot genoemd. Ze zijn verkrijgbaar in vier formaten, gerangschikt van langste naar kortste: x16, x8, x4 en x1. Het slotformaat geeft de fysieke lengte aan, maar zegt niet noodzakelijkerwijs iets over de potentiële bandbreedte. 

Welke PCIe-slot moet je dus gebruiken voor de GPU? De meeste GPU's zijn ontworpen om aan te sluiten op een x16-slot. Het is echter goed om op te merken dat niet alle GPU's volledig gebruikmaken van de potentiële elektrische connectiviteit, of 'lanes', die dat slotformaat biedt.

Afbeelding van PCIe 5.0 slots op een moederbord

PCIe-lanes

De overdrachtsbandbreedte van een PCIe-slot wordt mogelijk gemaakt door de bidirectionele PCIe-lanes, de fysieke verbindingen tussen de GPU en het moederbord. Het aantal PCIe-lanes kan 1 lane (x1), 4 lanes (x4), 8 lanes (x8) of 16 lanes (x16) zijn. Dit is dezelfde naamgevingsconventie als bij de slots, maar ze hoeven niet noodzakelijk overeen te komen. Zo kan een x16 PCIe-slot bijvoorbeeld zijn bedraad om slechts x8 lanes te benutten, zoals hier op wordt gewezen.  

Hoeveel PCIe-lanes gebruikt een GPU?

Het antwoord op deze vraag is 'dat hangt ervan af!' De belangrijkste overweging is de doorvoer, een factor bepaald door de PCIe-generatie en het aantal PCIe-lanes. 

PCIe-doorvoer

Elke generatie PCIe verdubbelt de doorvoersnelheid ten opzichte van de vorige generatie. Let op: de doorvoersnelheid geeft de ruwe snelheid aan waarmee data wordt overgedragen en wordt weergegeven in gigatransfers per seconde (GT/s). GT/s verschilt van een bandbreedtemeting zoals gigabytes per seconde (GB/s), omdat het zowel de data zelf als de overhead omvat die nodig is om deze correct te coderen, over te dragen en te decoderen door de ontvanger. 

Doorvoer = Transmissiesnelheid * Coderingsschema

Aantal PCIe-lanes

Theoretische maximale bitsnelheid

PCIe 3.0

Theoretische maximale bitsnelheid

PCIe 4.0

Theoretische maximale bitsnelheid

PCIe 5.0

Theoretische maximale bitsnelheid

PCIe 6.0

GPU met x16 lanes

16 lanes x 8 (GT/s/lane) = 128 GT/s

16 lanes x 16 (GT/s/lane) = 256 GT/s

16 lanes x 32 (GT/s/lane) = 512 GT/s

16 lanes x 64(GT/s/lane) = 1024GT/s

GPU met x8 lanes

8 lanes x 8 (GT/s/lane) = 64 GT/s

8 lanes x 16 (GT/s/lane) = 128 GT/s

8 lanes x 32 (GT/s/lane) = 256 GT/s

8 lanes x 64 (GT/s/lane) = 512 GT/s

Het komt erop neer dat de hogere datadoorvoer van deze nieuwere PCIe-generaties de deur opent naar meer configuratieopties. 

De kracht van GPU's in industriële computers voor AI  

Industriële computers kunnen worden uitgerust met GPU's voor AI en andere deep learning-toepassingen. Engineers hebben deze computers zorgvuldig ontworpen om extreme omgevingen te weerstaan en stellen bedrijven in staat AI-algoritmes vrijwel overal toe te passen waar dat nodig is.

Ze worden bijvoorbeeld gebruikt om robots aan te drijven in productie-facilities, warehouses en zelfs op landbouwvelden, waar ze kunnen worden blootgesteld aan trillingen en extreme temperaturen. Ze worden ook gebruikt voor kwaliteitsinspectie, soms direct aan een productielijn waar de omgeving mogelijk niet veilig is voor mensen. 

Een foto van de Box Hopper robot die golfkartonnen dozen optilt om ze naar de volgende machine te verplaatsen.

Een robotarm van Rigorous Technologies die wordt gebruikt om dozen te verplaatsen in een moderne productie-facility.

Overwegingen voor een GPU in een industriële computer

Industriële computers zijn ontworpen om extreme omgevingen te weerstaan. Een veelvoorkomend ontwerpkenmerk is dat ze fanless zijn, dus zonder ventilator. Hoewel dit veel voordelen biedt, werkt dit ontwerp niet voor alle GPU's, omdat sommige een aanzienlijk hoger stroomverbruik hebben dan CPU's en veel warmte genereren. 

iGPU voor industriële AI

Het gebruik en de koeling van geïntegreerde grafische kaarten, die een eenvoudige oplossing voor beeld- en objectherkenning kunnen aandrijven, is volledig mogelijk met een fanless ontwerp, vooral in combinatie met enkele van de nieuwste en uiterst krachtige processors. 

Een fanless ontwerp maakt een klein formaat mogelijk, wat meer flexibiliteit biedt bij de installatie. Bovendien, omdat de computer geen ventilator nodig heeft om lucht in de behuizing te brengen, kunnen deze fanless computers worden geïnstalleerd in omgevingen met veel stof of vuil in de lucht, of in gebieden die onderhevig zijn aan trillingen. 

Bijvoorbeeld, het gebruik van een iGPU op een compacte industriële pc zoals de HX401 kan ideaal zijn voor het implementeren van een AI-inferencemodel nadat het is getraind op een edge server met GPU, zoals de OnLogic Axial Edge Server AC101.

Een hand die een compacte industriële computer vasthoudt - de HX401 van OnLogic.

Voor GPU geconfigureerde OnLogic Axial AC101 Rackmount edge server

Discrete GPU voor industriële AI

Een complexere AI- of ML-oplossing kan een discrete of dedicated grafische kaart vereisen. Zoals hierboven vermeld, genereren GPU's veel warmte. Dat betekent dat het koel houden van een GPU een belangrijke overweging is, en de meeste discrete GPU's zijn uitgerust met hun eigen ventilatoren. 

OnLogic biedt een reeks fanless computers met een geïsoleerde uitbreidingssleuf. Je kunt een GPU in deze sleuf installeren en deze actief koelen met een ventilator. Het moederbord en andere gevoelige interne componenten blijven ondertussen beschermd in het ventilatorloze gedeelte van de behuizing. Als je de GPU moet vervangen, is deze gemakkelijk toegankelijk. Zo heeft de OnLogic HX600 fanless computer ventilatieopeningen voor GPU's of andere accelerators, zichtbaar aan de linkerkant van de behuizing.

Foto van de OnLogic HX600 fanless hybride computer met ventilatieopeningen voor het door een ventilator gekoelde gedeelte

Karbon 800-serie: rugged, krachtig en configureerbaar met GPU

Als ander voorbeeld is de Karbon 804 een fanless pc die high-performance computing (HPC) biedt en opties heeft voor GPU-uitbreidingskaarten met PCIe-generatie 4.0. De indrukwekkende doorvoer van PCIe-generatie 4 betekent dat je meer flexibiliteit hebt bij het kiezen van slots en lanes voor je GPU.

  • Optie 1: Een enkele PCIe-riser met x16-slot en x16-lanes, die een doorvoer van 256 GT/s biedt. 

  • Optie 2: Een dual riser die twee x16-slots biedt, elk met x8-lanes. Je kunt één slot gebruiken voor de GPU, wat een doorvoer van 128 GT/s oplevert. Voor veel AI-toepassingen is die doorvoer meer dan voldoende. Bovendien blijft er een open slot over, wat extra flexibiliteit biedt voor verdere uitbreidingen.

Rugged K804-computer met uitbreidingsruimte voor GPUTekening van de robuuste K804-computer met de uitbreidingssleuven.

 

Heb je een kleiner alternatief nodig? Onze Karbon 803 biedt een iets kleiner formaat met één PCIe generatie 4 x16 slot.

OnLogic K803 - een oranje rugged computer die een GPU kan ondersteunen

Helix 525 en Karbon 525: krachtpatsers voor edge AI

De Helix 525 en Karbon 525 zijn krachtige platforms voor edge AI, configureerbaar met een NVIDIA MXM GPU voor versnelling. Deze systemen zijn ontworpen voor hogere temperaturen, langere levenscycli en zijn bestand tegen schokken en trillingen. De GPU is beschermd tegen binnendringen, omdat de luchtkoeling gescheiden is van de elektronische componenten. Met lage latency en hoge betrouwbaarheid zijn deze systemen ideaal voor real-time beeldverwerking in industriële omgevingen zoals productie en transport.

Is een GPU altijd nodig voor edge AI-applicaties? 

Voor veel edge AI-taken is een discrete GPU vaak overbodig en meer dan je daadwerkelijk nodig hebt. Wanneer je werkt met systemen buiten datacenters, is het belangrijk om prestaties, kosten en energie-efficiëntie met elkaar in balans te brengen. Industriële computers die zijn uitgerust met gespecialiseerde AI-coprocessors, zoals Hailo accelerators of geïntegreerde NPU's, leveren indrukwekkende deep-learningprestaties bij een laag stroomverbruik. Doordat er geen energieverslindende GPU's nodig zijn, maken deze processors fanless, rugged ontwerpen mogelijk die betrouwbaar werken in zware omstandigheden en aanzienlijk minder ruimte innemen.

Lees onze blog over de juiste dimensionering van je edge AI-hardware voor meer informatie.  

Configureer er zelf een 

Klaar om de kracht van een GPU te benutten voor je AI-, machine learning- of computer vision-oplossing? OnLogic biedt veel opties om je op weg te helpen. Als je hulp nodig hebt, kan ons technische verkoopteam je begeleiden; zij hebben veel klanten geholpen bij het bepalen van de optimale configuratie die zorgt voor de beste balans tussen prestaties, opties en kosten. 

Ontdek computers met GPU

Sarah Lavoie Content Creator voor OnLogic
Sarah Lavoie
Content Marketing / Marketing, OnLogic
Sarah Lavoie is contentmaker bij OnLogic. Als ze niet schrijft, is ze meestal met haar camera onderweg in Vermont om mooie foto's te maken.

Blijf op de hoogte.

Krijg als eerste toegang tot de nieuwste producten en Industry 4.0-innovatie, OnLogic Live!-evenementen en meer.