NVIDIA Jetson für die KI-gestützte Automatisierung
NVIDIA® Jetson™ hat sich frühzeitig als Vorreiter im Wettlauf um die führende Hardware-Plattform etabliert, die das massive Wachstum von Anwendungen der künstlichen Intelligenz (KI) unterstützt. NVIDIA ist bereits ein bekannter Name in der Welt der hochentwickelten GPU-Technologie. Die Familie der Jetson Embedded SOMs (System on Module) kombiniert ARM-CPUs mit spezialisierten GPUs, die eigens für die Matrixmultiplikation optimiert sind. Dies ist eine Kernkomponente der meisten KI-Workloads.
In diesem Blogbeitrag gehen wir auf die Vorteile ein, die NVIDIA Jetson für den Einsatz von KI-Lösungen bietet. Wir erläutern die wichtigsten Unterschiede zwischen den verschiedenen Versionen von Jetson und zeigen auf, wann und wo Jetson am besten für Anwendungen zur industriellen Automatisierung eingesetzt wird.
Jetson vs. diskrete GPU und CPU
Einer der Hauptvorteile von NVIDIA Jetson besteht darin, dass die Hardwareanforderungen für die Implementierung von AI at the edge vereinfacht werden. Diskrete GPUs und zusätzliche Beschleuniger werden weiterhin eine Rolle bei KI-Implementierungen spielen, aber Jetson bietet eine Reihe von Vorteilen für Edge-KI.
Speziell für Edge-KI entwickelt
Diskrete Grafikprozessoren wurden ursprünglich zum Rendern komplexer Grafiken für immersive Videospiele entwickelt. Seitdem haben sie ein weiteres Einsatzgebiet gefunden, indem sie eine Reihe von Anwendungen unterstützen, die eine Parallelverarbeitung erfordern. NVIDIA Jetson-Geräte wurden speziell für KI-Edge-Computing entwickelt und optimiert. Sie nutzen sowohl CUDA- als auch Tensor-Cores (je nach Modell). Somit bieten sie unglaubliche analytische Fähigkeiten in einem Gerät mit kleinem Formfaktor.
Energieeffizienz
Die NVIDIA Jetson-Module sind auf Energieeffizienz ausgelegt. Sie eignen sich daher für den Einsatz in Umgebungen mit eingeschränktem Stromverbrauch, wie sie häufig am Edge zu finden sind.
Bei herkömmlichen GPU- und CPU-Kombinationen wird möglicherweise nicht das gleiche Maß an Energieeffizienz priorisiert, da sie häufig in Rechenzentren mit reichlich vorhandenen Stromressourcen eingesetzt werden.
Kompakter Formfaktor
Jetson-Module sind kompakt und für den Einsatz in Geräten mit kleinem Formfaktor vorgesehen, wie etwa Roboter, Drohnen und IoT-Geräte. Dadurch eignen sie sich gut für Anwendungen, bei denen der Platz begrenzt ist.
Normale GPU- und CPU-Kombinationen sind möglicherweise nicht so kompakt und für größere Systeme wie Desktop-Computer konzipiert.
Software-Ökosystem
Jetson-Geräte werden durch das Software-Ökosystem von NVIDIA unterstützt, darunter Bibliotheken und Frameworks, die für KI-Workloads optimiert sind. Während normale GPU- und CPU-Kombinationen auch KI-Workloads ausführen können, kann sich das Software-Ökosystem unterscheiden. Mitunter ist die Optimierung für Edge-KI nicht so ausgeprägt.
Die Vorteile von NVIDIA Jetson
Eines der attraktivsten Elemente der Jetson-Plattform ist, dass sie die Anwender:innen befähigt, KI-Modelle in großem Umfang direkt auf edge devices einzusetzen. Diese leistungsstarke Kombination aus KI-Berechnungsfunktionen sowie Datenerfassung und -analyse vor Ort liefert Erkenntnisse in Echtzeit. Das geschieht ohne, dass eine ständige Verbindung zur Cloud erforderlich ist. Weitere Vorteile umfassen:
geringe Latenz: Da Jetson-basierte Edge-Geräte Daten vor Ort verarbeiten, tragen sie dazu bei, die Latenzzeit zu minimieren, die mit dem Senden von Daten an zentrale oder cloudbasierte Server verbunden ist. Zu den Anwendungen, die von einer geringeren Latenzzeit profitieren können, gehören Cobotics in der Fertigung, autonome Lagertechnik und die Qualitätskontrolle. Des Weiteren können die Geräte in allen Bereichen eingesetzt werden, in denen sofortige Entscheidungen getroffen werden müssen, um den Durchsatz zu optimieren und/oder Verletzungen zu vermeiden.
Energieeffizienz: Eine Handvoll stromhungriger Edge-KI-Geräte ist eine Sache, aber wenn die Hardware-Implementierung auf Hunderte oder sogar Tausende von Systemen skaliert wird, summieren sich die Energiekosten schnell. Die Jetson-Plattform ist so konzipiert, dass sie eine hohe Rechenleistung bietet und dabei den Energieverbrauch auf ein Minimum reduziert. Mobile Bereitstellungen, die mit Batterie- oder Solarstrom betrieben werden, oder Anwendungen mit eingeschränktem Zugang zu Strom können ebenfalls von der Effizienz des Jetson profitieren.
Vielseitigkeit: Wenn es um die konkrete Lösungsentwicklung geht, unterstützt Jetson eine Reihe von KI-Frameworks und bietet eine robustedeveloper library für Benutzer:innen, die alles von einfacher Bilderkennung bis hin zu anspruchsvoller Verarbeitung natürlicher Sprache machen. Jetson ist auch beeindruckend klein. Das bedeutet, dass Jetson-basierte Systeme praktisch überall installiert werden können, wo sie benötigt werden.
Die Wahl des richtigen Jetson-Geräts
NVIDIA bietet eine Reihe von Jetson Modellen an, die jeweils für eine bestimmte Untergruppe von KI-Anwendungen konzipiert sind. Die von Ihnen geforderte Leistung und die benötigten Funktionen sind ausschlaggebend für die Wahl der passenden Jetson-Plattform. Die neuesten Versionen der NVIDIA Jetson-Reihe wurden 2023 als Teil der Jetson Orin™-Reihe eingeführt.
Jetson Orin Nano™
Dies mag die „Einstiegsoption“ innerhalb der Orin-Reihe sein, aber es ist dennoch ein ziemlicher Sprung nach vorne für Jetson. Laut NVIDIA says bietet das ultra-kompakte Gerät mit 7-15 W eine KI-Leistung von bis zu 40 TOPS (Billionen Operationen pro Sekunde). Das entspricht der bis zu 80-fachen Leistung seines Vorgängers, des Jetson Nano.
Wann ist Orin Nano geeignet?
einfache Automatisierung: Orin Nano eignet sich am besten für Automatisierungsanwendungen in kleinerem Umfang, insbesondere für solche mit geringeren Anforderungen an die Verarbeitung. Es handelt sich um eine kosteneffiziente Option für Benutzer:innen, die einfache Workloads wie die grundlegende Qualitätskontrolle oder Überwachung durchführen.
Platzbeschränkungen: Dank seines kleinen Formfaktors lässt sich der Jetson Orin Nano leicht in räumlich beschränkte Anwendungen oder kleinere Edge-Lösungen integrieren.
Prototyping: Orin Nano ist auch eine gute Wahl für das Prototyping oder für Ausbildungszwecke. Wenn Sie mit KI in der Fabrikautomation experimentieren oder die Praxistauglichkeit Ihrer Implementierung ohne große Vorabinvestitionen testen möchten, sollten Sie Orin Nano in Betracht ziehen.
Jetson Orin NX™
Der Orin NX steigert die Leistung auf 100 TOPS KI-Leistung, behält aber den gleichen kleinen Formfaktor wie der Orin Nano.
Wann ist Orin NX geeignet?
alltägliche Automatisierung: Orin NX bietet ein ausgewogenes Verhältnis zwischen Leistung und Energieverbrauch und ist damit eine solide Plattform für mittelgroße Anwendungen zur Fabrikautomatisierung.
Vision-basierte Anwendungen: Die Prozessorfunktionen des Orin NX eignen sich gut für KI-Anwendungen, die auf Daten von angeschlossenen Kameras basieren. Aufgaben wie Objekterkennung, -messung, -verfolgung und -überwachung können auf einem Orin NX-System ausgeführt werden, solange nur eine moderate Rechenleistung erforderlich ist.
Bereitstellung in der gesamten Fabrik: Für Anwender:innen, die eine einzige Hardware-Plattform für verschiedene Automatisierungsanwendungen einsetzen möchten, ist Orin NX vielseitig genug, um in der gesamten Produktionsanlage eingesetzt zu werden.
Jetson AGX Orin™
Das Kraftpaket der Jetson Orin-Reihe, der AGX Orin, bietet 275 TOPS an KI-Leistung in einem etwas größeren Formfaktor. Dennoch passt er in die kompakte Form eines integrierten Edge-Geräts.
Wann ist AGX Orin geeignet?
leistungsstarke Automatisierung: AGX Orin ist für rechenintensive Szenarien der Fabrikautomatisierung konzipiert. Er ist in der Lage, komplexe KI-Modelle und eine umfangreiche Datenverarbeitung auszuführen.
Robotik und moderne Vision-Systeme: Wenn ein Automatisierungsprojekt hochentwickelte Robotik oder Cobotik, anspruchsvolle Computer-Vision oder komplexe KI-Algorithmen umfasst, bietet der AGX Orin die notwendige Leistung.
groß angelegte Edge-KI-Implementierungen: AGX Orin ist ideal für große Produktionsanlagen, die mehrere hochleistungsfähige Edge-Geräte für die Parallelverarbeitung und Anwendungskoordination zwischen einer ganzen Flotte von Systemen benötigen.
Was bedeutet TOPS im Bereich der KI?
Die Welt der Technologie liebt ein verbindendes Akronym zum Vergleich von Hardwareplattformen. Bei KI-Hardware ist das nicht anders. TOPS steht für Trillions of Operations per Second (Billionen Rechenoperationen pro Sekunde). Die Abkürzung hat sich zu einer der am häufigsten verwendeten Spezifikationen entwickelt, um die Fähigkeiten einer bestimmten KI-Plattform zu veranschaulichen. TOPS gibt die Anzahl der Rechenoperationen an, die ein KI-Chip bewältigen kann. Natürlich können diese „Operationen“ stark variieren. So wie andere stark vereinfachte Hardwarespezifikationen (z. B. GHz zur Messung der CPU-Leistung) gibt TOPS nicht immer Aufschluss darüber, wie ein bestimmtes System unter einer realen Arbeitslast abschneiden wird. TOPS ist nach wie vor eine relevante Vergleichsgröße, sollte aber nicht als alleinige Entscheidungsgrundlage bei der Wahl der passenden Plattform für Ihr Projekt herangezogen werden.
Der Einsatz von Jetson in der Fertigung
Hersteller haben die Nachfrage nach NVIDIA Jetson-basierten Geräten maßgeblich vorangetrieben. Vorausschauende Unternehmen, die ihre Produktionslinien optimieren, den Durchsatz erhöhen und Ausschussraten oder Ausfallzeiten minimieren wollen, nutzen die Jetson Plattform, um KI in ihre Anlagen zu bringen. Hier sind nur einige Beispiele dafür, wo Jetson das Potenzial hat, in der Fertigung zu glänzen:
Qualitätskontrolle und Fehlererkennung
Wann Jetson eingesetzt werden sollte: Jetson-Geräte sind ideal für Anwendungen zur Qualitätskontrolle in Echtzeit, bei denen eine schnelle Entscheidungsfindung erforderlich ist. Mit Jetson betriebene Edge-Computer können Bilder und Sensordaten vor Ort verarbeiten und Defekte und Anomalien erkennen, während die Produkte die Produktionslinie durchlaufen.
Wo Jetson eingesetzt werden sollte: Jetson-Geräte können an wichtigen Inspektionspunkten in der Fertigungslinie installiert werden, wie etwa an Montagestationen und in Verpackungsbereichen. Die geringe Latenzzeit der Plattform kann dazu beitragen, Fehler schnell zu erkennen, Korrekturmaßnahmen einzuleiten und die Wahrscheinlichkeit zu verringern, dass fehlerhafte Produkte die Kund:innen erreichen.
Vorausschauende Wartung
Wann Jetson eingesetzt werden sollte: Die vorausschauende Wartung kann Herstellern helfen, den Durchsatz zu maximieren, indem ungeplante Ausfallzeiten vermieden werden. Jetson-Geräte können Daten von Sensoren analysieren, um vorherzusagen, wann ein Geräteausfall wahrscheinlich ist. So kann eine proaktive Wartung durchgeführt werden.
Wo Jetson eingesetzt werden sollte: Edge-Geräte, die Jetson nutzen, können an Maschinen und Anlagen in der gesamten Produktion angeschlossen oder dort installiert werden. Durch die kontinuierliche Überwachung und Analyse von Werkzeugen und Geräten können Hersteller Wartungseingriffe planen, bevor es zu einem Ausfall kommt. So werden Unterbrechungen minimiert.
Robotik und Cobotik
Wann Jetson eingesetzt werden sollte: Jetson bietet die nötige Rechenleistung für KI-gesteuerte Roboter, die in der Produktionsautomatisierung verwendet werden können. Aufgaben, die Anpassungsfähigkeit, Präzision und die Fähigkeit erfordern, aus der Umgebung zu lernen, profitieren von der Leistung der KI-Inferenzierung vor Ort, die Jetson bietet.
Wo Jetson eingesetzt werden sollte: Jetson-Systeme können in Roboterlösungen integriert werden, die Aufgaben wie Pick-and-Place, Montage, Materialhandling und Palettierung übernehmen. Die Fähigkeiten der Plattform zur Echtzeitverarbeitung befähigen die Roboter, sich an Veränderungen in der Produktionsumgebung anzupassen und sicher mit menschlichen Mitarbeitenden zusammenzuarbeiten.
Prozessoptimierung
Wann Jetson eingesetzt werden sollte: Dies ist ein weit gefasster Bereich, aber es lohnt sich hervorzuheben, dass Jetson-Geräte Fertigungsprozesse in einer Anlage oder einem Unternehmen optimieren können, indem sie Daten von verschiedenen Sensoren und Kameras analysieren. Besonders nützlich sind sie in komplexen Produktionsumgebungen mit zahlreichen Variablen, die den Durchsatz beeinflussen können.
Wo Jetson eingesetzt werden sollte: Jetson-Geräte können an kritischen Punkten im Produktionsprozess installiert werden, um Daten zu Durchsatz, Zykluszeiten und Ressourcenauslastung zu überwachen und zu analysieren. Die gewonnenen Erkenntnisse können Herstellern dabei helfen, verbesserungswürdige Bereiche zu identifizieren und die betriebliche Effizienz insgesamt zu steigern.