NVIDIA Jetson implementeren voor AI-aangedreven automatisering

NVIDIA® Jetson™ heeft zich al vroeg ontpopt tot leider in de voortdurende race om de superioriteit op het gebied van hardwareplatforms om de enorme groei van AI-implementaties (kunstmatige intelligentie) te ondersteunen. NVIDIA is al een begrip in de wereld van geavanceerde GPU-technologie. De reeks Jetson-embedded SOM’s (System On module) combineren ARM-CPU’s met gespecialiseerde GPU’s die specifiek zijn geoptimaliseerd voor matrixvermenigvuldiging, een kernonderdeel van de meeste AI-workloads aan de edge.

In deze blog gaan we dieper in op de waarde die NVIDIA Jetson biedt voor degenen die AI-oplossingen implementeren. We hebben het over de belangrijkste verschillen tussen de versies van Jetson en geven aan wanneer en waar Jetson het beste kan worden ingezet voor industriële automatiseringstoepassingen.

Jetson versus discrete GPU en CPU

Een van de belangrijkste voordelen van NVIDIA Jetson is dat het de hardwarevereisten voor de implementatie van AI aan de edge vereenvoudigt. Discrete GPU’s en extra versnellers zullen een rol blijven spelen in AI-implementaties, maar Jetson biedt een aantal voordelen voor AI aan de edge.

Speciaal gebouwd voor AI aan de edge

Discrete GPU’s zijn oorspronkelijk ontworpen om complexe graphics weer te geven voor immersive videogames. Sindsdien hebben ze een nieuw leven gevonden in de aandrijving van een reeks toepassingen die parallelle verwerking vereisen. NVIDIA Jetson-apparaten zijn speciaal ontworpen en geoptimaliseerd voor AI edge computers, waarbij zowel CUDA- als Tensor-cores (afhankelijk van het model) worden gebruikt om ongelooflijke analytische mogelijkheden in een compact apparaat te integreren.

Energie-efficiëntie

NVIDIA Jetson-modules zijn energiezuinig ontworpen. Dat maakt ze geschikt voor de implementatie in omgevingen met beperkte energie. Iets dat vaak voorkomt aan de rand van het netwerk.

Traditionele GPU- en CPU-combinaties prioriteren mogelijk niet hetzelfde niveau van energie-efficiëntie, omdat ze vaak worden gebruikt in datacenters met meer energieresources.

Compact formaat

Jetson-modules zijn compact en bedoeld voor gebruik in kleine apparaten zoals robots, drones en IoT-apparaten. Hierdoor zijn ze zeer geschikt voor toepassingen met beperkte ruimte.

Gewone GPU- en CPU-combinaties zijn niet altijd zo compact en zijn vaak ontworpen voor grotere systemen zoals desktopcomputers.

Software-ecosysteem

Jetson-apparaten worden ondersteund door het software-ecosysteem van NVIDIA, inclusief bibliotheken en frameworks die zijn geoptimaliseerd voor AI-workloads. Hoewel reguliere GPU- en CPU-combinaties ook AI-workloads kunnen uitvoeren, kan het software-ecosysteem verschillen en is optimalisatie voor AI aan de edge misschien niet zo uitgesproken.

Voordelen van NVIDIA Jetson

Een van de meest aantrekkelijke elementen van het Jetson-platform is dat het gebruikers in staat stelt om AI-modellen op schaal direct op edge devices te implementeren. Deze krachtige combinatie van AI-rekenkracht en gegevensverzameling en -analyse op locatie maakt real-time inzichten mogelijk zonder dat er een constante verbinding met de cloud nodig is. Andere voordelen zijn:

• Lage latency: Omdat Jetson-aangedreven edge devices gegevens op locatie verwerken, kunnen ze de latency helpen minimaliseren die gepaard gaat met het verzenden van gegevens naar gecentraliseerde of cloudgebaseerde servers. Toepassingen die kunnen profiteren van een lagere latency zijn onder meer productiecobotica, autonome magazijnapparatuur, en kwaliteitsinspectie. In feite overal waar beslissingen moeten worden genomen om de doorvoer te optimaliseren en/of letsel te voorkomen.
• Energie-efficiëntie: Een handvol energieverslindende AI-apparaten is één ding, maar wanneer hardware-implementaties worden geschaald naar honderden of zelfs duizenden systemen, lopen de energiekosten snel op. Het Jetson-platform is ontworpen om high-performance computingmogelijkheden te bieden en tegelijkertijd het energieverbruik tot een minimum te beperken. Mobiele implementaties die op accu’s of zonne-energie kunnen werken, of toepassingen met anderszins beperkte toegang tot stroom, kunnen ook profiteren van de efficiëntie van Jetson.
• Veelzijdigheid: Als het gaat om het daadwerkelijk bouwen van oplossingen, ondersteunt Jetson een reeks AI-frameworks. Het biedt ook een robuuste ontwikkelaarsbibliotheek voor gebruikers op het gebied van eenvoudige beeldherkenning tot geavanceerde natuurlijke taalverwerking. Jetson is ook indrukwekkend klein. Dat betekent dat Jetson-systemen vrijwel overal kunnen worden geïnstalleerd waar ze nodig zijn.

Het juiste Jetson-apparaat kiezen

NVIDIA biedt een reeks Jetson-modellen, elk ontworpen voor een bepaalde subset van AI-toepassingen. Als je weet welk prestatieniveau en welke specifieke functies je nodig hebt, is het kiezen van het juiste Jetson-platform een stuk gemakkelijker. De meest recente releases in de NVIDIA Jetson-serie werden in 2023 geïntroduceerd als onderdeel van de Jetson Orin™-lijn.

Jetson Orin Nano™

Dit wordt misschien beschouwd als het instapniveau van de Orin-lijn, maar het is nog steeds een behoorlijke sprong voorwaarts voor Jetson. NVIDIA zegt dat het ultra-compacte 7-15W-apparaat tot 40 tops (triljoenen bewerkingen per seconde) aan AI-prestaties levert. Dit is 80 keer de prestaties van zijn voorganger, de Jetson Nano.

Wanneer kies je voor de Orin Nano:

• Lichtgewicht automatisering: Orin Nano is het meest geschikt voor kleinschalige automatiseringstoepassingen, met name voor toepassingen met lagere verwerkingsvereisten. Het is een kosteneffectieve optie voor gebruikers die eenvoudige workloads uitvoeren, zoals eenvoudige kwaliteitscontrole of bewaking.
• Ruimtebeperkingen: Dankzij het kleine formaat van de Jetson Orin Nano, kun je dit systeem eenvoudig integreren in toepassingen met beperkte ruimte of in kleinere edge-oplossingen.
• Prototyping: Orin Nano is ook een goede keuze voor prototyping of educatieve doeleinden. Wil je gaan experimenteren met AI in fabrieksautomatisering of wil je de werkbaarheid van een implementatie testen zonder een aanzienlijke investering vooraf? Denk dan eens aan de Orin Nano.

Jetson Orin NX™

De Orin NX verhoogt de prestaties tot 100 tops AI-prestaties met behoud van hetzelfde kleine formaat als de Orin Nano.

Wanneer kies je voor de Orin NX:

• Dagelijkse automatisering: Orin NX geeft een goede balans tussen prestaties en energieverbruik om een degelijk platform te bieden voor middelgrote fabrieksautomatiseringstoepassingen.
• Vision-gebaseerde toepassingen: De verwerkingsmogelijkheden van de Orin NX zijn zeer geschikt voor AI-toepassingen die afhankelijk zijn van gegevens van aangesloten camera’s. Taken zoals objectdetectie, meting, tracking en bewaking kunnen allemaal worden geïmplementeerd op een Orin NX-systeem, zolang er niet meer dan een gemiddelde rekenkracht vereist is.
• Volledige fabrieksimplementatie: Voor gebruikers die één hardwareplatform willen implementeren voor een reeks automatiseringstoepassingen, is de Orin NX veelzijdig genoeg om in een hele faciliteit te worden gebruikt.

Jetson AGX Orin™

De AGX Orin is de krachtpatser van de Jetson Orin-serie en levert 275 tops aan AI-prestaties in een iets groter formaat, dat echter nog steeds kan worden geïntegreerd in de compacte afmetingen van een embedded edge device.

Wanneer kies je voor de AGX Orin:

• High-performance automatisering: AGX Orin is ontworpen voor rekenintensieve scenario’s voor fabrieksautomatisering. Hiermee kun je complexe AI-modellen en grootschaligere gegevensverwerking uitvoeren.
• Robotica en geavanceerde vision-systemen: Als je voor een automatiseringsimplementatie geavanceerde robotica of cobotica, geavanceerde computer vision of complexe AI-algoritmen nodig hebt, levert AGX Orin het benodigde vermogen.
• Grootschalige AI-implementaties aan de edge: AGX Orin is ideaal voor grootschalige productiefaciliteiten die meerdere, high-performance edge devices nodig hebben voor parallelle verwerking en coördinatie van toepassingen tussen een reeks systemen.

Wat betekent tops in AI?

In de wereld van de technologie houden ze wel van acroniemen om hardwareplatforms te vergelijken, en dat is niet anders voor AI-hardware. Tops staat voor Trillions of Operations per Second en is uitgegroeid tot een van de meest gebruikte specificaties om de mogelijkheden van een bepaald AI-platform te illustreren. Tops geeft het aantal computerbewerkingen aan dat een AI-chip kan verwerken. Natuurlijk kunnen deze ‘bewerkingen’ enorm variëren, dus net als andere, iets te vereenvoudigde hardwarespecificaties (denk aan GHz bij het meten van CPU-prestaties) vertellen tops je niet altijd hoe een bepaald systeem presteert wanneer het in de praktijk te maken krijgt met de workload. Tops blijft een relevante vergelijkingsmetriek, maar je mag het niet als het enige criterium gebruiken bij het kiezen van het juiste platform voor je project.

Jetson implementeren in een productieomgeving

Fabrikanten hebben een sleutelrol gespeeld bij het stimuleren van de vraag naar NVIDIA Jetson-apparaten. Vooruitstrevende bedrijven die hun productielijnen willen optimaliseren, de doorvoer willen verhogen en afval of downtime willen minimaliseren, kiezen voor het Jetson-platform om AI in hun faciliteiten te introduceren. Hier volgen enkele voorbeelden van waar Jetson in een productieomgeving kan uitblinken:

Kwaliteitscontrole en foutdetectie

Wanneer kun je Jetson inzetten: Jetson-apparaten zijn ideaal voor real-time kwaliteitscontroletoepassingen waarbij snelle besluitvorming van cruciaal belang is. Jetson-aangedreven edge computers kunnen beelden en sensorgegevens op locatie verwerken. Zo kunnen defecten en afwijkingen worden vastgesteld terwijl producten de productielijn passeren.

Waar kun je Jetson implementeren: Je kunt Jetson-apparaten installeren op belangrijke inspectiepunten langs de lijn, zoals assemblagestations en verpakkingszones. Dankzij de lage latency van het platform kun je defecten snel identificeren en corrigerende maatregelen nemen. Dit verkleint de kans dat defecte producten de klant bereiken.

Voorspellend onderhoud

Wanneer kun je Jetson gebruiken: Met voorspellend onderhoud kunnen fabrikanten de doorvoer maximaliseren door ongeplande uitvaltijd te voorkomen. Jetson-apparaten kunnen gegevens van sensoren analyseren om te voorspellen wanneer apparatuur waarschijnlijk defect raakt, waardoor proactief onderhoud mogelijk is.

Waar kun je Jetson implementeren: Edge devices die gebruikmaken van Jetson kunnen worden aangesloten of geïnstalleerd op machines en apparatuur op de gehele productievloer. Door gereedschap en apparatuur continu te bewaken en te analyseren, kunnen fabrikanten onderhoudsinterventies plannen voordat er een storing optreedt. Hierdoor worden onderbrekingen tot een minimum beperkt.

Robotica en cobotica

Wanneer kun je Jetson inzetten: Jetson levert de benodigde rekenkracht voor AI-gestuurde robotica voor gebruik in productieautomatisering. Taken die aanpassingsvermogen, precisie en het vermogen om te leren van de omgeving vereisen, kunnen profiteren van de kracht van AI-inferentie op locatie die Jetson biedt.

Waar kun je Jetson implementeren: Jetson-systemen kunnen worden geïntegreerd in robotoplossingen voor het afhandelen van taken zoals pick-and-place, assemblage, materiaalverwerking en palletiseren. Dankzij de real-time verwerkingsmogelijkheden van het platform kunnen robots zich aanpassen aan variaties in de productieomgeving en veilig samenwerken met medewerkers.

Procesoptimalisatie

Wanneer kun je Jetson inzetten: Dit is een breed gebied, maar het is de moeite waard om te benadrukken dat Jetson-apparaten productieprocessen in een faciliteit of organisatie kunnen optimaliseren door gegevens van verschillende sensoren en camera’s te analyseren. Ze kunnen met name nuttig zijn in complexe productieomgevingen met meerdere variabelen die de doorvoer kunnen beïnvloeden.

Waar kun je Jetson implementeren: Jetson-apparaten kunnen op kritieke punten in het productieproces worden geïnstalleerd om gegevens met betrekking tot doorvoer, cyclustijden en resourcegebruik te bewaken en te analyseren. De verkregen inzichten kunnen fabrikanten helpen gebieden te identificeren die voor verbetering vatbaar zijn en de algehele operationele efficiëntie te verbeteren.

OnLogic systemen met NVIDIA Jetson SOM’s zijn speciaal ontworpen voor industriële AI-toepassingen.

NVIDIA Jetson maakt furore in de wereld van AI-enabled automatisering, en biedt een schaalbare en efficiënte oplossing voor fabrikanten die de kracht van AI naar de edge willen brengen. Wil je weten hoe Jetson-aangedreven systemen ook in jouw bedrijf kunnen worden ingezet, of heb je vragen over welk platform het meest geschikt is? Neem dan contact op met ons team of verken onze reeks systemen die rondom het Jetson-platform zijn gebouwd.