Was ist eine GPU? Ein Ratgeber zum Einstieg
Wenn Sie sich fragen: „Was ist eine GPU und wofür brauche ich sie?“, sind Sie hier genau richtig. Willkommen zu unserem GPU-Einstiegsratgeber.
Was ist eine GPU?
Die Graphics Processing Unit (GPU) ist ein spezialisierter Computerprozessor. Manchmal werden sie auch Grafikkarten oder Videokarten genannt. Wie der Name schon sagt, wurden GPUs ursprünglich entwickelt, um Computergrafiken – darunter Bilder, 3D-Grafiken und Videos – zu verarbeiten, damit die CPU sich auf andere allgemeine Datenverarbeitungsaufgaben konzentrieren kann.
Es stellte sich heraus, dass ihr Design für mehr als nur das Rendern von Bildern und Videos hervorragend geeignet ist. GPUs sind das Kraftpaket, das Fortschritte bei künstlicher Intelligenz (KI), Machine Learning, Computer Vision und vielem mehr ermöglicht. Sie beseitigen mögliche Verarbeitungsengpässe für schnellere Ergebnisse, mehr Funktionen und eine verbesserte Benutzererfahrung.
Lesen Sie weiter und erfahren Sie mehr darüber, warum die GPU-Technologie bei diesen Aufgaben so hervorragend ist und wie Sie Ihren Industrie-Computer am besten konfigurieren, um diese zu unterstützen.
Zuerst fragen Sie sich jedoch vielleicht, wie sich die GPU von der CPU unterscheidet? Beginnen wir mit den Grundlagen.
Was ist eine CPU?
CPU steht für Central Processing Unit und wird oft als das Gehirn des Computers bezeichnet. Einfach ausgedrückt, ist die CPU eine elektronische Schaltung, die Daten steuert, einschließlich Eingabe, Ausgabe und Speicherung. Die CPU stellt sicher, dass das Computerbetriebssystem und die Anwendungen alle funktionieren.
GPU vs. CPU
Was ist der Unterschied zwischen einer GPU und einer CPU? Sowohl die GPU als auch die CPU sind siliziumbasierte Mikroprozessoren, die Daten verarbeiten. Ihre Unterschiede liegen in der Art und Weise, wie sie Daten verarbeiten, und in ihren physischen Prozessoreinheiten – ihren Kernen.
Datenverarbeitung
CPUs verarbeiten Daten nacheinander – sie führen eine Aufgabe nach der anderen aus.
GPUs führen eine parallele Datenverarbeitung durch – sie verarbeiten viele Berechnungen gleichzeitig.
Die Kerne
CPUs besitzen mehrere Kerne, deren Anzahl stark variieren kann.
Zum Beispiel:
Die Intel®-Prozessoren der N-Series bieten zwischen vier und acht effiziente Kerne. Intel® Hybrid Core Prozessoren sind mit bis zu 24 Kernen erhältlich. (Beachten Sie, dass Intel die Hybrid-Core-Technologie mit der 12. Gen. eingeführt hat. Mehr dazu erfahren Sie hier.)
AMD Ryzen-Prozessoren bieten acht Kerne und Prozessoren der EPYC Embedded 7000er-Serie bieten bis zu 64 Kerne.
GPUs können Hunderte bis Tausende von Kernen haben, die CPU-Kernen ähneln, jedoch kleiner sind.
Zum Beispiel verfügen NVIDIA Blackwell RTX Pro-GPUs über 24.064 CUDA-Kerne und umfassen 752 Tensor-Kerne der 5. Generation sowie 188 RT-Kerne der 4. Generation. Sie sind konzipier für anspruchsvolle KI-, Rendering- und Simulationsaufgaben.
Sie können ausgewählte OnLogic-Computer mit dieser GPU konfigurieren
Karbon 804 (K804)
Karbon 524 (K524)
Helix 524 (HX524)
GPU-Kerntypen: RT, Tensor und CUDA
Wir haben im vorherigen Abschnitt drei verschiedene Arten von Kernen erwähnt, die in der GPU zu finden sind. Im Folgenden finden Sie einige kurze Definitionen.
RT Cores oder Ray-Tracing-Kerne ermöglichen Computersystemen, fotorealistische Grafiken mit physisch korrekter Beleuchtung zu rendern, darunter Reflexionen, Schatten und mehr.
Tensor Cores sind speziell auf mathematische Matrixoperationen ausgerichtet. Das macht sie ideal für die Beschleunigung von Deep-Learning- und KI-Workloads.
CUDA Cores sind der primäre Prozessorkern-Typ, der für komplexe parallele mathematische Berechnungen verantwortlich ist. Innerhalb von GPU-Generationen führen höhere CUDA-Kernzahlen im Allgemeinen zu höherer Leistung. (Hinweis: CUDA steht für Compute Unified Device Architecture.)
Wofür wird eine GPU verwendet?
Sowohl CPUs als auch GPUs sind wirklich gut in Mathe. Aber wie bereits erwähnt, verarbeiten CPUs die Gleichungen nacheinander, Aufgabe für Aufgabe. Ein Grafikprozessor hingegen kann die Gleichungen alle gleichzeitig verarbeiten. Aus diesem Grund bieten GPUs eine außergewöhnliche Berechnungsleistung für komplexe mathematische Berechnungen.
Es stellt sich heraus, dass das Rendern von Bildern und Grafiken auf eine Reihe von mathematischen Problemen hinausläuft. Und, wie wir bereits erwähnt haben, zeichnen sich GPUs darin aus. Tatsächlich beschleunigen sie diese Workloads für eine überragende Grafikleistung – weshalb sie „Beschleuniger“ genannt werden. Während GPUs ursprünglich zur Beschleunigung der Grafikverarbeitung entwickelt wurden, entdeckten Entwickler:innen bald, dass moderne GPUs die mathematischen Herausforderungen vieler anderer Anwendungsfälle bewältigen konnten, darunter:
Videospiele
Videobearbeitung
virtuelle Realität
wissenschaftliche Forschung
3D-Rendering
Kryptowährungs-Mining
künstliche Intelligenz (KI)
Machine Learning (ML)
Computer Vision
Zwar eignet sich das GPU-Computing hervorragend für all diese Aufgaben, doch aufgrund dieser enormen Rechenleistung sind GPUs in der Regel auch energieintensiver und können viel Wärme erzeugen. Daher werden sie im Allgemeinen für die speziellsten, rechnerisch anspruchsvollsten Anwendungen eingesetzt.
Obwohl der Einsatz von GPUs für Gaming, Videobearbeitung, Krypto-Mining und wissenschaftliche Forschung interessant ist, konzentriert sich dieser Artikel auf die Verwendung einer GPU für KI-, ML- und Computer-Vision-Anwendungen. Die Konzepte, Komponenten und Prinzipien gelten jedoch größtenteils für alle Anwendungen.
Entdecken Sie Computer mit GPUGPU für KI
Die hohe Verarbeitungsleistung von GPUs hat im industriellen Bereich bei KI, Computer Vision, Machine Learning und anderen Deep-Learning-Anwendungen für einen grundlegenden Wandel gesorgt. Diese Anwendungen erfordern die Fähigkeit, große Datenmengen zu verarbeiten, diese zu klassifizieren und die gewonnenen Informationen zu nutzen, um Rückschlüsse zu ziehen und Prognosen für zukünftige Ergebnisse zu erstellen.
GPU-Typen
Es gibt zwei Haupttypen von GPUs: integrierte und diskrete.
Integrierte GPU (iGPU)
Eine integrierte GPU, manchmal auch iGPU genannt, ist direkt in den Prozessor oder die CPU des Computers integriert. Sie teilt sich die Stromversorgung und den Systemarbeitsspeicher mit der CPU. Dadurch sind Computer mit integrierten GPUs energieeffizient und im Allgemeinen leichter und kleiner. Allerdings können anspruchsvolle GPU-Datenverarbeitungsaufgaben eine Latenz bei der allgemeinen CPU-Datenverarbeitung verursachen, da der Arbeitsspeicher geteilt wird.
Diskrete GPU
Eine diskrete oder dedizierte GPU ist ein Grafikprozessor, der vollständig von der CPU getrennt ist und über einen eigenen Arbeitsspeicher verfügt, der Videoarbeitsspeicher oder VRAM genannt wird. Dieser dedizierte Arbeitsspeicher bietet der GPU bei Bedarf sofortigen Highspeed-Zugriff auf Daten mit hoher Priorität. Dies ist bei großen KI-Modellen sowie den zu verarbeitenden Datensätzen oder hochauflösenden Texturen und komplexer Geometrie für das Grafik-Rendering erforderlich.
Mit eigenem Arbeitsspeicher ist sie nicht auf den RAM des Computers angewiesen. Diskrete Grafikkarten bieten eine bessere Leistung, verbrauchen aber mehr Strom und erzeugen dadurch viel Wärme.
Eine diskrete GPU kühl zu halten, ist eine wichtige Designüberlegung, um maximale Leistung zu erzielen. Aus diesem Grund haben Entwickler:innen diese GPUs mit eigenen Lüftern konzipiert. Das kann zu einer höheren Gesamtgröße und gesteigertem Energieverbrauch führen.
Anschließen einer GPU an Ihren Computer
GPUs lassen sich einfach intern über einen PCIe-Steckplatz in einen Computer einbauen. Diese Standardschnittstelle wird über Erweiterungssteckplätze und Riser-Karten geboten. Sie ermöglichen eine Hochgeschwindigkeitskommunikation zwischen datenintensiven Computerperipheriegeräten wie GPUs und dem Motherboard.
Beachten Sie, dass Sie eine GPU auch extern einrichten können. Sie wird manchmal auch als eGPU bezeichnet und wird über denselben Anschluss – einen PCIe-Anschluss – an ein Dock angeschlossen. Das Dock wird über ein Thunderbolt- oder USB-C-Kabel an Ihren Computer angeschlossen.
PCIe-Steckplätze vs. Lanes
PCIe-Steckplätze
Die mechanische Schnittstelle, die Sie zum Anschluss von PCIe-Peripheriegeräten verwenden können, wird als PCIe-Steckplatz bezeichnet. Es gibt sie in vier verschiedenen Größen, die von der längsten zur kürzesten wie folgt definiert sind: x16, dann x8, x4 und x1. Diese Steckplatzgröße gibt Auskunft über die Länge, nicht jedoch unbedingt über die potenzielle Bandbreite.
Welchen PCIe-Steckplatz sollten Sie also für die GPU verwenden? Die meisten GPUs sind so konfiguriert, dass sie an einen x16-Steckplatz angeschlossen werden. Es ist jedoch wichtig zu beachten, dass nicht alle GPUs die volle potenzielle elektrische Konnektivität oder die „Lanes“ nutzen, die durch diese Steckplatzgröße verfügbar sind.
PCIe-Lanes
Die Übertragungsbandbreite des PCIe-Steckplatzes wird durch die bidirektionalen PCIe-Lanes ermöglicht – das sind die physischen Verbindungen, die die GPU mit dem Motherboard verbinden. Die Anzahl der PCIe-Lanes kann 1 Lane (x1), 4 Lanes (x4), 8 Lanes (x8) oder 16 Lanes (x16) betragen. Ja, das ist dieselbe Namenskonvention wie bei den Steckplätzen, aber sie stimmen nicht unbedingt überein. So kann beispielsweise ein x16-PCIe-Steckplatz sowie hier gezeigt wird verdrahtet sein, dass er nur x8-Lanes nutzt.
Wie viele PCIe-Lanes nutzt eine GPU?
Die Antwort auf diese Frage lautet – es kommt darauf an! Die wichtigste Überlegung ist der Durchsatz – ein Factor, der von der PCIe-Generation und der Anzahl der PCIe-Lanes bestimmt wird.
Der PCIe-Durchsatz
Jede PCIe-Generation verdoppelt den Durchsatz der Vorgängergeneration. Dabei ist zu beachten, dass der Durchsatz die reine Geschwindigkeit angibt, mit der Daten übertragen werden, und in Gigatransfers pro Sekunde (GT/s) angegeben wird. GT/s unterscheidet sich von einer Bandbreitenmessung wie Gigabyte pro Sekunde (GB/s), da es sowohl die Daten selbst als auch den Overhead berücksichtigt, der erforderlich ist, damit die Daten ordnungsgemäß codiert, übertragen und vom Empfänger decodiert werden können.
Durchsatz = Übertragungsrate * Kodierungsschema
Anzahl der PCIe-Lanes | Theoretische Spitzenbitrate PCIe 3.0 | Theoretische Spitzenbitrate PCIe 4.0 | Theoretische Spitzenbitrate PCIe 5.0 | Theoretische Spitzenbitrate PCIe 6.0 |
|---|---|---|---|---|
GPU mit x16 Lanes | 16 Lanes x 8 (GT/s/Lane) = 128 GT/s | 16 Lanes x 16 (GT/s/Lane) = 256 GT/s | 16 Lanes x 32 (GT/s/Lane) = 512 GT/s | 16 Lanes x 64 (GT/s/Lane) = 1024 GT/s |
GPU mit x8 Lanes | 8 Lanes x 8 (GT/s/Lane) = 64 GT/s | 8 Lanes x 16 (GT/s/Lane) = 128 GT/s | 8 Lanes x 32 (GT/s/Lane) = 256 GT/s | 8 Lanes x 64(GT/s/Lane) = 512 GT/s |
Unter dem Strich eröffnet der höhere Datendurchsatz dieser neueren PCIe-Generationen mehr Konfigurationsmöglichkeiten.
Die Leistung von GPUs in Industrie-Computern für KI
Industrie-PCs können mit GPUs für KI und andere Deep-Learning-Anwendungen ausgestattet werden. Entwickler:innen haben diese Computer sorgfältig konstruiert, sodass sie extremen Umgebungen standhalten. Dadurch haben sie Unternehmen befähigt, KI-Algorithmen nahezu überall dort anzuwenden, wo sie benötigt werden.
Industrie-Computer werden beispielsweise zum Antrieb von Robotern in Produktionsstätten, Warenlagern und sogar auf Feldern eingesetzt. Dort sind sie Vibrationen und extremen Temperaturen ausgesetzt. Außerdem kommen sie bei der Qualitätskontrolle zum Einsatz. Manchmal stehen sie sogar direkt an der Produktionslinie, in einer Umgebung, die für Menschen möglicherweise nicht sicher ist.
Ein Roboterarm von Rigorous Technologies, der zum Bewegen von Kisten in einer modernen Produktionsanlage verwendet wird.
Überlegungen zu einer GPU in einem Industrie-Computer
Industrie-Computer wurden entwickelt, um extremen Umgebungen standzuhalten. Ein typisches Merkmal von Industrie-Computern ist ihre lüfterlose und belüftungsfreie Bauweise. Diese Bauweise bietet zwar viele Vorteile, eignet sich jedoch nicht für alle GPUs, da einige im Vergleich zu CPUs einen deutlich höheren Stromverbrauch aufweisen und sehr viel Wärme erzeugen können.
iGPU für industrielle KI
Der Einsatz und die Kühlung integrierter Grafikkarten, die eine einfache Bild- und Objekterkennungslösung betreiben können, ist mit einem lüfterlosen Design durchaus möglich. Dies gilt insbesondere, wenn einige der neuesten und unglaublich leistungsstarken Prozessoren zum Einsatz kommen.
Durch die lüfterlose Bauweise wird ein kompakter Formfaktor erreicht, der etwas mehr Flexibilität bei der Installation bietet. Da der Computer zudem keinen Lüfter benötigt, um Luft ins Gehäuseinnere zu leiten, können diese lüfterlosen Computer in Umgebungen installiert werden, in denen viel Staub oder Schmutz in der Luft ist bzw. in denen Vibrationen auftreten können.
Zum Beispiel kann die Verwendung einer iGPU auf einem kompakten Industrie-PC wie dem HX401 ideal sein, um ein KI-Inferenzmodell zu implementieren, nachdem es auf einem GPU-fähigen Edge-Server wie dem OnLogic Axial Edge-Server AC101 trainiert wurde.
Eine diskrete GPU für industrielle KI
Eine komplexere KI- oder ML-Lösung erfordert möglicherweise eine diskrete oder dedizierte Grafikkarte. Wie oben erwähnt, erzeugen GPUs viel Wärme. Das bedeutet, dass die Kühlung einer GPU ein wichtiger Aspekt ist. Die meisten diskreten GPUs sind mit eigenen Lüftern ausgestattet.
OnLogic bietet eine Reihe von lüfterlosen Hybrid-PCs an, die einen isolierten Erweiterungsschacht beinhalten. Sie können eine GPU in diesem Schacht installieren und aktiv mit einem Lüfter kühlen. Währenddessen sind das Motherboard und andere empfindliche interne Komponenten im belüftungsfreien Teil des Gehäuses geschützt. Falls Sie die GPU ersetzen müssen, ist sie leicht zugänglich. Zum Beispiel verfügt der lüfterlose Hybrid-PC OnLogic HX600 über Belüftungsöffnungen für GPUs oder andere Beschleuniger, die unten auf der linken Seite des Gehäuses sichtbar sind.
Die Karbon 800-Serie – robust, leistungsstark und mit GPU konfigurierbar
Ein weiteres Beispiel ist der Karbon 804, ein lüfterloser Hybrid-PC, der High-Performance-Computing (HPC) bietet und über Optionen für GPU-Erweiterungskarten mit PCIe-Gen-4.0-Unterstützung verfügt. Dank des unglaublichen Durchsatzes von PCIe Gen 4 haben Sie die Wahl, welche Steckplätze und Lanes Sie für Ihre GPU nutzen möchten.
Option 1: Ein einzelner PCIe-Riser mit x16-Steckplätzen und x16-Lanes, der Ihnen eine Durchsatzrate von 256 GT/s bietet.
Option 2: Ein Dual-Riser, der zwei x16-Steckplätze mit jeweils x8 Lanes bietet. Sie könnten einen Steckplatz für die GPU nutzen, womit Sie einen Durchsatz von 128 GT/s haben. Für viele KI-Anwendungen ist dieser Durchsatz mehr als ausreichend. Zusätzlich verfügt der Computer dann über einen freien Steckplatz. Das bietet Ihnen Konfigurationsflexibilität für zusätzliche Erweiterungsoptionen.
Benötigen Sie eine kleinere Alternative? Unser Karbon 803 bietet einen etwas kleineren Formfaktor mit einem einzelnen PCIe Gen 4 x16-Steckplatz.
Der Helix 525 und der Karbon 525: Kraftpakete für Edge-KI
Der Helix 525 und der Karbon 525 sind leistungsstarke Plattformen für Edge-KI und konfigurierbar mit einer NVIDIA MXM GPU zur Beschleunigung. Diese Systeme sind auf den Betrieb bei höheren Temperaturen, eine längere Lebensdauer sowie Stoß- und Vibrationsfestigkeit ausgelegt. Die GPU ist vor dem Eintritt von Fremdkörpern geschützt, da ihre Kühlung von allen elektronischen Komponenten räumlich getrennt ist. Dank geringer Latenz und hoher Zuverlässigkeit eignen sich diese Systeme ideal für die Bildverarbeitung in Echtzeit in industriellen Umgebungen wie der Fertigung und dem Transportwesen.
Ist eine GPU immer erforderlich für Edge-KI-Anwendungen?
Für viele Edge-KI-Anwendungen ist eine diskrete GPU oft nicht erforderlich und übersteigt Ihren tatsächlichen Bedarf. Bei der Arbeit mit Systemen außerhalb von Rechenzentren ist es wichtig, ein Gleichgewicht zwischen Leistung, Kosten und Energieeffizienz zu finden. Industriec-Computer, die mit speziellen KI-Coprozessoren wie Hailo-Beschleunigern oder integrierten NPUs ausgestattet sind, liefern beeindruckende Deep-Learning-Leistung bei geringer Wattzahl. Da keine stromhungrigen GPUs mehr benötigt werden, lassen sich mit diesen Prozessoren lüfterlose, robuste Designs realisieren, die in rauen Umgebungen zuverlässig arbeiten und deutlich weniger Platz beanspruchen.
Besuchen Sie unseren Blog und erfahren Sie mehr über die richtige Dimensionierung Ihrer Edge-KI-Hardware.
Jetzt konfigurieren
Sind Sie bereit, die Leistung einer GPU für Ihre KI-, Machine-Learning- oder Computer-Vision-Lösung zu nutzen? OnLogic bietet viele Optionen für einen leichten Einstieg. Sollten Sie Unterstützung benötigen, helfen Ihnen die Mitglieder unseres technischen Vertriebs gerne dabei, die für Sie am besten geeignete Konfiguration zu finden. So erhalten Sie ein optimales Gleichgewicht zwischen Leistung, Ausstattung und Kosten.
Entdecken Sie Computer mit GPU