Laden...
Laden...
Laden...
KI1. Juni 20236 min Lesezeit

So nutzen Sie einen GPU-Server für KI- und Automatisierungsworkloads

Ein Roboterarm, der Machine Vision und künstliche Intelligenz zur Inspektion von PCB-Platinen nutzt

Was ist ein GPU-Server?

Ein GPU-Server nutzt die Prozessorleistung einer dedizierten GPU (Graphics Processing Unit), um große Datensätze schnell und effizient zu verarbeiten. GPUs wurden für die parallele Verarbeitung konzipiert. Sie wurden ursprünglich entwickelt, um das Rendering von 3D-Grafiken für immersive Spiele und andere Videofunktionen zu beschleunigen. Diese parallele Verarbeitung eignet sich gut für grafiklastige Aufgaben wie Bilderkennung sowie für die Beschleunigung des Trainings und der Inferenz neuronaler Netzwerke für Deep-Learning-Algorithmen.

GPU-Server werden in zahlreichen Branchen eingesetzt, um die immer größeren Mengen an gesammelten visuellen Daten zu verwalten. Wenn Sie künstliche Intelligenz (KI), Machine Learning und Automatisierungs-Workloads im Edge betreiben müssen, dann brauchen Sie die Leistung eines GPU-Servers.

Beispiel: Visuelle Inspektion durch KI

In der Fertigung trägt die visuelle Inspektion oder Sichtprüfung dazu bei, sicherzustellen, dass die Produkte den Spezifikationen und Qualitätsstandards entsprechen. Unternehmen setzen KI für die Sichtprüfung ein, um Produktionsanomalien zu erkennen, die von Menschen leicht übersehen werden können.

Mini-Server

Stellen Sie sich einen Fertigungsbetrieb vor, der ein Qualitätsprüfungssystem direkt an einer Produktionslinie implementieren möchte. Die Umgebung könnte Temperaturschwankungen, Staub und Vibrationen ausgesetzt sein. Daher ist ein Rugged-Computer wie der Karbon 700 (K700-X2) eine gute Wahl, um die Bildverarbeitung zu betreiben. Lesen Sie unseren Kundenbericht über Artemis Vision. Darin erfahren Sie, wie das Unternehmen den Karbon 700 als Mini-Server für eine seiner Lösungen zur optischen Inspektion eingesetzt hat.

Inspektionssysteme von Artemis Vision.

Artemis Vision entwickelt Inspektionssysteme zur Qualitätssicherung.

Rackmount-Edge-Server

Bei größeren Produktionsanforderungen mit mehreren Fertigungsstraßen, die jeweils einer Kontrolle bedürfen, kann für jede Fertigungslinie ein Industrie-PC installiert werden. Alternativ könnten alle Linien von einem einzigen hochleistungsfähigen Rackmount-Edge-Server überwacht und gesteuert werden. Die hohe Leistungsfähigkeit des Edge-Servers kann mehrere Produktionslinien mit einem einzigen Gerät unterstützen.

GPU-Server

Um noch einen Schritt weiter zu gehen: Nehmen wir an, Sie hätten noch komplexere Workloads in jeder Linie, die Deep-Learning-Analysen oder andere anspruchsvolle Algorithmen erfordern. Sie könnten Ihre Daten zur Analyse in die Cloud verlagern, aber das führt zu zusätzlichen Latenzzeiten und kann je nach Bedarf an Bandbreite kostspielig sein.

Um Latenzzeiten und Betriebskosten zu vermeiden, nutzen viele Unternehmen Strategien zur Rückführung in die Cloud und verlagern ihre Rechenressourcen vor Ort. Ein mit einem Grafikprozessor konfigurierter Edge-Server verfügt über die nötige Rechenleistung, um die Anforderungen für dieses Szenario zu erfüllen.

GPU-Edge-Server für Workloads in der Automation

Wenn es um Automatisierungs-Workloads wie einen SCADA-System-Server geht, können Sie einen Edge-Server mit einem Grafikprozessor nutzen, um noch mehr Tags zu verarbeiten. Darüber hinaus können Sie mehr HMI-Clients anschließen als bisher. Diese Hochleistungs-Edge-Server bieten Ihnen nicht nur die Fähigkeit, SCADA-Lösungen wie die Ignition-Plattform von Inductive Automation auszuführen. Sie haben auch die Möglichkeit, diese Anwendungen aufgrund der erhöhten GPU-Leistung weiter zu verbessern.

Sie könnten zum Beispiel Daten aus einer Zeitreihe von SPS-Tags direkt aus der historischen Datenbank in ein KI-gesteuertes Programm zur vorausschauenden Wartung einspeisen und dabei die Vorteile der integrierten GPU nutzen. Dies hat auch den zusätzlichen Vorteil, dass die Kosten für die Cloud-Übertragung reduziert werden und vertrauliche Daten vor Ort bleiben.

Sie haben auch die Möglichkeit, zusätzliche Verwaltungstools zu nutzen, wie beispielsweise die Erstellung eines ausfallsicheren Kubernetes-Clusters für kritische Vorgänge.

Überlegungen zur Installationsumgebung

Edge-Computing-Workloads kommen in allen Formen und Größen vor. Die Installationsumgebungen können sehr unterschiedlich sein. Aus diesem Grund gibt es Edge-Computer mit unterschiedlichen Spezifikationen und in verschiedenen Formfaktoren. Diese reichen von lüfterlosen oder Fanless-Hybrid-Computern über Mini-Server bis hin zu Rackmount-Edge-Servern und GPU-Servern.

Ein lüfterloser PC arbeitet auch in schwierigen Umgebungen zuverlässig. Das macht ihn zu einer guten Wahl für den Einsatz unter rauen Bedingungen, die Staub, hohe Temperaturen, Stöße und Vibrationen beinhalten können.

Die meisten Edge-Server benötigen eine gewisse Kühlung und einen Schutz vor Staub. OnLogic bietet Hochleistungs-Edge-Server an, die speziell für das Edge entwickelt wurden, wie zum Beispiel den Axial AC101 Edge-Server. Dieser 1U-Server mit geringer Tiefe bietet eine Reihe von Funktionen für KI und Automatisierung. Er verfügt über einen Betriebstemperaturbereich von 5° bis 40°C (ASHRAE A3). Dennoch ist eine teilweise kontrollierte Umgebung erforderlich, um die Vorteile dieser Datenverarbeitung im Edge zu nutzen.

In einigen Fällen haben Sie die Möglichkeit, die Hardware in einem Schaltschrank oder einem lokalen Server-Rack zu installieren. Dort ist sie vor Witterungseinflüssen geschützt. Benötigen Sie jedoch einen Edge-Server direkt neben den Geräten für Anwendungen mit extrem niedrigen Latenzzeiten, wie etwa Hochgeschwindigkeitsroboter, so sind Gehäuse mit Kühlung und Staubschutz erhältlich.

Eine weitere Option sind Mini-Server, die viele der gleichen Datenverarbeitungsfunktionen wie herkömmliche Rackmount-Server in einem kleineren Formfaktor bieten. Dieser ist speziell für den Einsatz unter anspruchsvollen Bedingungen konzipiert.

Welche Funktionen sollten Sie bei einem Edge-Server oder GPU-Server berücksichtigen?

ein Foto, das eine verschließbare Frontblende für mehr Sicherheit an einem Rackmount-Server zeigt

Die Bereitstellung am Edge bringt einige neue Anforderungen mit sich, die bei herkömmlichen Serverbereitstellungen nicht so häufig vorkommen.

CPU-Performance im Edge

Die CPU-Leistung ist eine der ersten Überlegungen, die die meisten Menschen anstellen, wenn sie sich einen Server ansehen. Für einige Anwendungen sind Intel® Xeon® Scalable CPUs erforderlich. Für andere Anwendungen bieten moderne Intel Core™-CPUs eine erschwinglichere, aber immer noch extrem leistungsstarke Alternative. Sie integrieren viele Funktionen der skalierbaren Xeon-Prozessoren aus vorherigen Generationen. Der Axial AC101 bietet die neuesten Intel-Prozessoren der 13. Generation mit Hybrid-Architektur und bis zu 24 Cores und 32 Threads.

Datenverarbeitungsleistung der GPU und räumliche Beschränkungen

Für die Beschleunigung von KI-Workloads ist ein PCIe-Grafikprozessor in der Regel die wichtigste Voraussetzung für Leistung. Der AC101 ist ein Edge-Server mit geringer Tiefe, der eine GPU in voller Höhe und Länge unterstützen kann.

  • Dies ist wichtig, da viele Rack-Gehäuse in industriellen Umgebungen keine Server mit voller Tiefe aufnehmen können. Außerdem besteht möglicherweise eine Beschränkung durch die Gesamtzahl der verfügbaren Rack-Einheiten.  Unter Berücksichtigung von USV, Netzwerk-Switch und anderen Geräten kann ein 1U-Rack die einzige Option sein.

  • Es gibt verschiedene Frameworks, die die Vorteile der GPU-Datenverarbeitung für KI nutzen, beispielsweise das CUDA-Framework von Nvidia, das in erster Linie auf der GPU-Architektur von Nvidia läuft. Ein weiteres Beispiel ist die OpenVino-Plattform von Intel, die CPU-, iGPU- und Intel-basierte GPUs nutzen kann.

Baseboard Management Controller (BMC)

Mit einem BMC können Sie den Server auch außerhalb des Frequenzbands steuern. Dies ist in einer dezentralen Architektur am Edge von entscheidender Bedeutung. Im großen Maßstab ist ein effektives Gerätemanagement unerlässlich. Im Gegensatz zu vielen anderen Servern auf dem Markt müssen Benutzer:innen für den AC101 keine zusätzlichen Lizenzgebühren bezahlen, um die vollen Möglichkeiten des BMC zu nutzen.

Manipulationsschutz

Systeme im Edge können nicht immer in Bereichen mit Zugangskontrolle eingesetzt werden. Aus diesem Grund verfügt der AC101 über eine verschließbare Sicherheitsblende und begrenzte I/O auf der Vorderseite. Dies trägt dazu bei, den Zugriff auf die vier internen U.3- (NVMe) oder SATA-SSDs und zwei M.2-SSDs zu verhindern.

Möchten Sie wissen, wie Sie einen GPU-Server für Ihre KI- und Automatisierungs-Workloads nutzen können? Entdecken Sie unsere gesamte Auswahl an Computern, die mit GPU erhältlich sind. Wenden Sie sich gerne noch heute an unser Team!

Anmerkung der Redaktion: Inductive Automation hat sein Ignition Onboard-Programm eingestellt. Ignition-Lizenzen müssen nun direkt bei Inductive Automation erworben werden. Obgleich die IGN-Versionen unserer Lösungen nicht mehr erhältlich sind, eignen sich unsere Computer weiterhin hervorragend für die Verwendung mit der Ignition-Software. Entdecken Sie hier unsere Hardware-Empfehlungen.

Cole Wangsness
Cole Wangsness
Sales Engineer, OnLogic
Cole ist Vertriebsingenieur bei OnLogic. Er verbindet Kund:innen mit der richtigen Lösung und vermittelt Branchenwissen. Außerhalb der Arbeit lernt er gerne neue Technologien kennen und bastelt an Computern herum.

Bleiben Sie auf dem Laufenden.

Seien Sie unter den Ersten, die Zugang zu den neuesten Produkten und Industrie 4.0-Innovationen, OnLogic-Events und mehr erhalten.