Caricamento...
Caricamento...
Caricamento...
AI27 marzo 202610 MINUTI DI LETTURA

Cos'è una GPU? Una guida per principianti

Immagine che mostra diverse dimensioni di GPU NVIDIA

Se ti stai chiedendo "Che cos'è una GPU e perché ne avrei bisogno?", sei nel posto giusto. Ti diamo il benvenuto nella nostra guida alle GPU per principianti. 

Che cos'è una GPU?

La Graphics Processing Unit (GPU) è un processore informatico specializzato. A volte viene chiamata scheda grafica o scheda video. Come suggerisce il nome, gli ingegneri hanno originariamente progettato le GPU per l'elaborazione della grafica computerizzata, inclusi immagini, grafica 3D e video, in modo che la CPU possa concentrarsi su altre attività di calcolo generiche. 

Si è scoperto che il loro design è eccellente per molto più del semplice rendering di immagini e video; sono il motore che abilita i progressi nell'intelligenza artificiale (IA), nel machine learning, nella computer vision e altro ancora. Le GPU eliminano i possibili colli di bottiglia dell'elaborazione per ottenere risultati più rapidi, maggiori funzionalità e una migliore esperienza utente. 

Continua a leggere per scoprire di più sul perché la tecnologia GPU eccelle in queste attività e sul modo migliore per configurare il tuo computer industriale per supportarle.

Ma prima potresti chiederti: in cosa differisce la GPU dalla CPU? Cominciamo dalle basi.

Che cos'è una CPU? 

CPU sta per Central Processing Unit (Unità di Elaborazione Centrale) e viene comunemente definita come il cervello del computer. In parole povere, la CPU è il circuito elettronico che controlla i dati, inclusi l'input, l'output e l'archiviazione. La CPU garantisce il corretto funzionamento del sistema operativo del computer e di tutte le applicazioni. 

Processori per computer industriali

GPU e CPU

Qual è la differenza tra una GPU e una CPU? Sia la GPU che la CPU sono microprocessori basati sul silicio che gestiscono i dati. Le loro differenze risiedono nel modo in cui elaborano i dati e nelle loro unità fisiche di elaborazione: i core.

  • Elaborazione dati

    • Le CPU eseguono il calcolo seriale, elaborando i dati un'attività dopo l'altra.

    • Le GPU eseguono il calcolo parallelo, elaborando numerosi calcoli contemporaneamente.

  • I core 

    • Le CPU hanno un certo numero di core, che può variare notevolmente.

      • Ad esempio:

        • I processori Intel® Serie N offrono tra 4 e 8 efficient core, mentre i processori Intel® 13a generazione Hybrid Core sono disponibili con un massimo di 24 core. (Nota: Intel ha introdotto la tecnologia Hybrid Core con la 12ª generazione. Puoi leggere di più a riguardo qui.)

        • I processori AMD Ryzen offrono 8 core, mentre i processori EPYC Embedded Serie 7000 arrivano fino a 64 core.

    • Le GPU possono avere da centinaia a migliaia di core simili a quelli delle CPU, ma più piccoli.

      • Ad esempio, le GPU NVIDIA Blackwell RTX Pro dispongono di 24.064 core CUDA e includono 752 Tensor core di quinta generazione e 188 RT core di quarta generazione, rivolti a carichi di lavoro di fascia alta come IA, rendering e simulazione.

Un uomo che installa 4 GPU NVIDIA Blackwell in un server OnLogic AX300 Edge

Tipi di core della GPU: RT, Tensor e CUDA

Nella sezione precedente abbiamo menzionato tre diversi tipi di core presenti nella GPU. Ecco alcune brevi definizioni. 

  • I core RT, o Ray Tracing core, consentono ai sistemi informatici di renderizzare grafica fotorealistica con un'illuminazione fisicamente accurata, inclusi riflessi, ombre e altro ancora.

  • I core Tensor sono specificamente mirati alle operazioni matematiche su matrici, il che li rende ideali per accelerare i carichi di lavoro di deep learning e IA.

  • I core CUDA sono il tipo di core di elaborazione primario responsabile dei complessi calcoli matematici paralleli.All'interno delle diverse generazioni di GPU, un numero maggiore di core CUDA produce generalmente prestazioni più elevate. (Nota: CUDA è l'acronimo di Compute Unified Device Architecture). 

A cosa serve una GPU? 

Sia le CPU che le GPU sono ottime per la matematica. Ma, come accennato in precedenza, le CPU elaborano le equazioni un compito dopo l'altro. D'altra parte, una GPU può elaborare tutte le equazioni contemporaneamente. Per questo motivo, le GPU offrono una potenza di calcolo straordinaria per calcoli matematici complessi.  

A quanto pare, il rendering di immagini e grafica si riduce a una serie di problemi matematici. E, come abbiamo accennato, le GPU eccellono proprio in questo. Infatti, accelerano tali carichi di lavoro per offrire prestazioni grafiche superiori: ecco perché vengono chiamate "acceleratori". Sebbene le GPU siano state originariamente progettate per accelerare l'elaborazione grafica, gli ingegneri hanno presto scoperto che le GPU moderne potevano gestire le sfide matematiche di molti altri casi d'uso, tra cui: 

  • Videogiochi

  • Editing video

  • Realtà virtuale

  • Ricerca scientifica

  • Rendering 3D

  • Mining di criptovalute

  • Intelligenza artificiale (IA)

  • Machine learning (ML)

  • Computer vision

Sebbene il calcolo tramite GPU eccella in tutte queste attività, tutta la potenza di elaborazione necessaria comporta anche una tendenza a consumare più energia e a generare molto calore. Di conseguenza, queste soluzioni sono generalmente riservate alle applicazioni più specializzate e ad alta intensità di calcolo.

Nonostante l'uso delle GPU per il gaming, l'editing video, il mining di criptovalute e la ricerca scientifica sia interessante, questo articolo si concentrerà sull'impiego della GPU per applicazioni di IA, ML e computer vision. Tuttavia, i concetti, i componenti e i principi si applicano, per la maggior parte, a tutte le applicazioni. 

Scopri i computer con GPU

GPU per l'IA 

L'elevata potenza di elaborazione delle GPU ha rappresentato una svolta nel settore industriale per l'IA, la computer vision, il machine learning e altre applicazioni di deep learning. Queste applicazioni richiedono la capacità di acquisire grandi quantità di dati, classificarli e utilizzare tali informazioni per generare inferenze e previsioni sui risultati futuri.

Tipi di GPU

Esistono due tipi principali di GPU: integrate e dedicate. 

GPU integrata (iGPU)

Una GPU integrata, talvolta chiamata iGPU, è integrata direttamente nel processore o nella CPU del computer. Condivide l'alimentazione e la memoria di sistema con la CPU. Di conseguenza, i computer con GPU integrate sono efficienti dal punto di vista energetico e generalmente più leggeri e compatti. Tuttavia, poiché la memoria è condivisa, le attività di elaborazione della GPU più impegnative potrebbero creare latenza con l'elaborazione generale della CPU. 

Scheda grafica dedicata (GPU discreta)

Una scheda grafica dedicata, o GPU discreta, è un processore grafico completamente separato dalla CPU e dotato di una propria memoria, chiamata memoria video o VRAM. Questa memoria dedicata fornisce alla GPU un accesso immediato e ad alta velocità ai dati prioritari quando necessario per modelli di IA di grandi dimensioni, per i set di dati in fase di elaborazione o per texture ad alta risoluzione e geometrie complesse per il rendering grafico.

Grazie alla propria memoria, non deve fare affidamento sulla RAM del computer (né, come direbbero alcuni, monopolizzarla). Le schede grafiche dedicate offrono prestazioni migliori ma consumano più energia e, di conseguenza, generano molto calore. 

Il raffreddamento di una scheda grafica dedicata è un aspetto fondamentale della progettazione per ottenere le massime prestazioni. Per questo motivo, gli ingegneri hanno progettato queste GPU con ventole di raffreddamento dedicate, che però possono aumentarne l'ingombro e il consumo energetico.  

Collegare una GPU al computer 

Le GPU vengono facilmente aggiunte all’interno di un computer tramite uno slot PCIe. Questa interfaccia standard è disponibile attraverso slot di espansione e riser che consentono comunicazioni ad alta velocità tra la scheda madre e le periferiche del computer che richiedono un'elevata elaborazione di dati, come appunto le GPU e la scheda madre. 

È importante notare che è possibile configurare una GPU anche esternamente. Spesso definita eGPU, si collega a una docking station dotata dello stesso tipo di connessione, ovvero una porta PCIe. La docking station si connette poi al computer tramite un cavo Thunderbolt o USB-C.

Slot PCIe e Lane PCIe

Slot PCIe

L'interfaccia meccanica che puoi utilizzare per collegare le periferiche PCIe è chiamata slot PCIe. Questi sono disponibili in quattro diverse dimensioni, dalla più lunga alla più corta: x16, x8, x4 e x1. La dimensione dello slot ne indica la lunghezza fisica, ma non necessariamente la larghezza di banda potenziale. 

Quindi, quale slot PCIe dovresti usare per la GPU? La maggior parte delle GPU è configurata per essere collegata a uno slot x16. Vale la pena notare, tuttavia, che non tutte le GPU sfruttano appieno la connettività elettrica potenziale, o "lane", fornita da uno slot di quelle dimensioni.

Foto degli slot PCIe 5.0

Lane PCIe

La capacità di larghezza di banda dello slot PCIe è resa possibile dalle lane PCIe bidirezionali: si tratta dei collegamenti fisici che mettono in comunicazione la GPU e la scheda madre. Il numero di lane PCIe può essere 1 (x1), 4 (x4), 8 (x8) o 16 (x16). Sì, la convenzione di denominazione è la stessa degli slot, ma le due cose non sono necessariamente coordinate. Ad esempio, uno slot PCIe x16 può essere cablato per sfruttare solo 8 lane (x8).segnalato qui  

Quante lane PCIe utilizza una GPU?

La risposta a questa domanda è: dipende! La considerazione più importante è il throughput, un fattore determinato dalla generazione PCIe e dal numero di lane PCIe. 

Throughput PCIe

Ogni generazione di PCIe raddoppia il throughput di quella precedente. È importante notare che il throughput indica la velocità grezza a cui i dati vengono trasferiti ed è espresso in Gigatransfer al secondo (GT/s). I GT/s si distinguono dalla misurazione della larghezza di banda in gigabyte al secondo (GB/s) perché includono sia i dati effettivi che l'overhead (dati di controllo) necessario per la corretta codifica, il trasferimento e la decodifica da parte del ricevente. 

Throughput = Velocità di trasmissione * Schema di codifica

Numero di lane PCIe

Bit rate teorico di picco

PCIe 3.0

Bit rate teorico di picco

PCIe 4.0

Bit rate teorico di picco

PCIe 5.0

Bit rate teorico di picco

PCIe 6.0

GPU con x16 lane

16 lane x 8(GT/s/lane) = 128GT/s

16 lane x 16(GT/s/lane) = 256GT/s

16 lane x 32(GT/s/lane) = 512GT/s

16 lane x 64(GT/s/lane) = 1024GT/s

GPU con x8 lane

8 lane x 8(GT/s/lane) = 64GT/s

8 lane x 16(GT/s/lane) = 128GT/s

8 lane x 32(GT/s/lane) = 256GT/s

8 lane x 64(GT/s/lane) = 512GT/s

In sintesi, il throughput di dati più elevato offerto da queste nuove generazioni di PCIe apre la strada a un maggior numero di opzioni di configurazione. 

La potenza delle GPU nei computer industriali per l'IA  

I computer industriali possono essere dotati di GPU per l'IA e altre applicazioni di deep learning. Gli ingegneri hanno progettato meticolosamente questi computer per resistere ad ambienti ostili, consentendo alle aziende di applicare algoritmi di IA praticamente ovunque sia necessario.

Ad esempio, vengono utilizzati per alimentare i robot negli stabilimenti di produzione, nei magazzini e persino nei campi agricoli, dove potrebbero essere esposti a vibrazioni e temperature estreme. Sono inoltre impiegati per la verifica della qualità, a volte direttamente su una linea di produzione dove l'ambiente potrebbe non essere sicuro per gli esseri umani. 

Una foto del robot tramoggia che solleva le scatole di cartone ondulato per spostarle alla macchina successiva

Un braccio robotico prodotto da Rigorous Technologies utilizzato per la movimentazione di scatole in un moderno stabilimento di produzione.

Considerazioni per una GPU in un computer industriale

I computer industriali sono progettati per resistere ad ambienti ostili. Una caratteristica progettuale comune per i computer industriali è il design fanless e senza ventola. Sebbene offra molti vantaggi, questo design non è adatto a tutte le GPU, poiché alcune presentano un consumo energetico significativamente più elevato rispetto alle CPU e possono generare una grande quantità di calore. 

iGPU per l'IA industriale

L'utilizzo e il raffreddamento di schede grafiche integrate in grado di alimentare una semplice soluzione di riconoscimento di immagini e oggetti è del tutto possibile con un design fanless. Specialmente se realizzato con alcuni dei processori più recenti e incredibilmente potenti. 

Un design fanless consente un fattore di forma compatto che offre una maggiore flessibilità in termini di installazione. Inoltre, poiché il computer non richiede una ventola per convogliare l'aria all'interno dello chassis, questi computer fanless possono essere installati in aree con molta polvere o detriti nell'aria e/o in zone soggette a vibrazioni. 

Ad esempio, l'utilizzo di una iGPU su un PC industriale compatto come l'HX401 può essere l'ideale per implementare un modello di inferenza IA dopo che è stato addestrato su un Edge Server dotato di GPU come l'Axial Edge Server AC101 di OnLogic.

Una mano che tiene in mano un computer industriale compatto: l'HX401 di OnLogic.

Server Edge rack OnLogic Axial AC101 con GPU abilitata

Scheda grafica dedicata per l'IA industriale

Una soluzione di IA o ML più complessa potrebbe richiedere una scheda grafica dedicata. Come accennato in precedenza, le GPU generano molto calore. Per questo motivo, mantenere raffreddata una GPU è una considerazione importante e la maggior parte delle schede grafiche dedicate viene configurata con le proprie ventole. 

OnLogic offre una linea di computer fanless ibridi dotati di uno slot di espansione isolato. È possibile installare una GPU in questo slot e raffreddarla attivamente con una ventola. Nel frattempo, la scheda madre e gli altri componenti interni sensibili sono protetti nella parte senza ventola dello chassis. Nel caso in cui sia necessario sostituire la GPU, questa è facilmente accessibile. Ad esempio, il computer fanless ibrido OnLogic HX600 presenta delle prese d'aria per le GPU o altri acceleratori, visibili qui sotto sul lato sinistro dello chassis.

foto del computer ibrido senza ventola OnLogic HX600 che mostra le prese d'aria per la parte raffreddata dalla ventola

Serie Karbon 800: rugged, potente e configurabile con GPU

Come ulteriore esempio, il Karbon 804 è un PC fanless ibrido che offre calcolo ad alte prestazioni (HPC) e dispone di opzioni per schede di espansione GPU con funzionalità PCIe Gen 4.0. L'incredibile throughput offerto dal PCIe Gen 4 ti permette di avere diverse opzioni nella scelta degli slot e delle lane da utilizzare per la tua GPU.

  • Opzione 1: un singolo riser PCIe con slot x16 e x16 lane che ti offre un throughput di 256 GT/s. 

  • Opzione 2: un doppio riser che offre 2 slot x16 con x8 lane ciascuno. Potresti utilizzare uno slot per la GPU, ottenendo un throughput di 128 GT/s. Per molte applicazioni di IA, questo throughput è più che sufficiente. Inoltre, il computer disporrà di uno slot libero, offrendoti flessibilità di configurazione per ulteriori opzioni di espansione.

Computer robusto K804 con spazio di espansione per GPUDisegno del computer robusto K804 che mostra gli slot di espansione

 

Hai bisogno di un'alternativa più compatta? Il nostro Karbon 803 offre un fattore di forma leggermente più piccolo con un singolo slot PCIe Gen 4 x16.

OnLogic K803: un computer arancione robusto che può supportare una GPU

Helix 525 e Karbon 525: piattaforme potenti per l'edge AI

Helix 525 e Karbon 525 sono potenti piattaforme per l'edge AI, configurabili con una GPU NVIDIA MXM per l'accelerazione. Questi sistemi sono progettati per prestazioni a temperature elevate, cicli di vita più lunghi e resistenza a urti e vibrazioni. La GPU è isolata dalle infiltrazioni, poiché il suo raffreddamento ad aria è separato da tutti i componenti elettronici. Offrendo bassa latenza e alta affidabilità, questi sistemi sono ideali per l'elaborazione di immagini in tempo reale in ambienti industriali come la produzione e i trasporti.

Una GPU è sempre necessaria per le applicazioni di edge AI? 

Per molte attività di edge AI, una scheda grafica dedicata è spesso superflua e va oltre le tue reali necessità. Quando si utilizzano sistemi al di fuori dei data center, è importante bilanciare prestazioni, costi ed efficienza energetica. I computer industriali dotati di co-processori IA specializzati, come gli acceleratori Hailo o le NPU integrate, offrono prestazioni di deep learning eccezionali a consumi ridotti. Eliminando la necessità di GPU ad alto consumo energetico, questi processori consentono di realizzare design fanless e rugged che operano in modo affidabile in ambienti ostili, con un ingombro hardware notevolmente inferiore.

Consulta il nostro blog sul Dimensionamento corretto dell'hardware edge AI per scoprire di più.  

Configura il tuo 

Sei pronto a sfruttare la potenza di una GPU per la tua soluzione di IA, machine learning o computer vision? OnLogic offre molte opzioni per aiutarti a iniziare. Se hai bisogno di assistenza, i membri del nostro team di vendita tecnica hanno aiutato molti clienti a determinare la loro migliore configurazione, garantendo l'equilibrio ottimale tra prestazioni, opzioni e costi. 

Scopri i computer con GPU

Sarah Lavoie, creatrice di contenuti per OnLogic
Sarah Lavoie
Marketing dei contenuti / Marketing, OnLogic
Sarah Lavoie è una content creator per OnLogic. Quando non scrive, di solito la si può trovare a esplorare il paesaggio del Vermont con la sua macchina fotografica, alla ricerca di immagini straordinarie.

Rimani informato.

Ricevi in anteprima i nuovi prodotti, le innovazioni per l'Industria 4.0, gli eventi OnLogic e molto altro.