Caricamento...
Caricamento...
Caricamento...
AI9 novembre 20235.4 MINUTI DI LETTURA

Cos'è OpenVINO e quali sono i requisiti hardware?

Un'immagine del logo di OpenVINO

Il deep learning, un tipo di intelligenza artificiale (IA), è un sottoinsieme del machine learning che si concentra sull'insegnare a un computer ad apprendere in modo simile a come imparerebbe un cervello umano. Per raggiungere questo obiettivo, i modelli di deep learning utilizzano reti neurali.

Per migliorare le prestazioni e l'accuratezza di un modello di deep learning, sono state sviluppate diverse soluzioni software per l'ottimizzazione del deep learning. Una delle opzioni più diffuse è OpenVINO™. Vediamo cos'è esattamente OpenVINO, come funziona, come può essere utilizzato e quali sono i requisiti hardware di OpenVINO.

Che cos'è OpenVINO?

OpenVINO, o Open Visual Inference and Neural Network Optimization, è un toolkit open source sviluppato da Intel® per l'ottimizzazione di modelli di deep learning. OpenVINO può essere utilizzato per accelerare soluzioni di elaborazione del linguaggio naturale (NLP), apprendimento automatico, visione artificiale e altro ancora. Il toolkit OpenVINO può essere utilizzato dalla creazione del modello fino alla sua distribuzione, ma uno dei suoi punti di forza risiede nell'ottimizzazione di modelli di intelligenza artificiale per il deep learning.

Come funziona OpenVINO?

Il flusso di lavoro di OpenVINO può essere riassunto in quattro passaggi principali:

  • Formazione del modello: Innanzitutto, il modello di deep learning viene addestrato al di fuori di OpenVINO utilizzando il framework scelto. OpenVINO è in grado di accettare modelli PyTorch, ONNX e TensorFlow.

  • Ottimizzazione del modello: Model Optimizer carica questo modello, lo legge, ne costruisce una rappresentazione interna e lo ottimizza utilizzando il framework scelto. Successivamente, viene generata la IR (Rappresentazione Intermedia). Questa si presenta sotto forma di due file: .xml. e .bin .

  • Motore di inferenza: Il motore di inferenza viene utilizzato per leggere l'IR e trarre inferenze sui dati utilizzando uno specifico plugin, che comprende CPU (Central Processing Unit), GPU (Graphics Processing Unit), NPU (Neural Processing Unit), FPGA (Field-Programmable Gate Array) e Intel GNA (Gaussian and Neural Accelerator).

  • Distribuzione dell'applicazione: L'applicazione viene distribuita su vari dispositivi specificati.

Cosa fa OpenVINO?

Il principale vantaggio dell'ottimizzazione del deep learning con OpenVINO è l'efficienza e la velocità. OpenVINO aiuta a coordinare i vari elementi hardware necessari per addestrare e ottimizzare un modello di intelligenza artificiale. Un'ottimizzazione efficace aiuta a minimizzare più rapidamente la funzione di perdita. La funzione di perdita è la differenza tra l'output previsto e l'output effettivo di un modello di intelligenza artificiale. La minimizzazione della funzione di perdita si ottiene regolando gli iperparametri del modello durante l'addestramento. Gli iperparametri sono dettagli forniti al modello durante l'addestramento, da non confondere con i parametri di output che fanno parte del modello risultante.

Gli iperparametri che possono essere modificati all'interno del modello includono dimensioni del lotto, decadimento del peso, quantità di moto e velocità di apprendimento. Consideriamo l'ottimizzazione della velocità di apprendimento come esempio.

Ottimizzazione del tasso di apprendimento

Per minimizzare la funzione di perdita, il tasso di apprendimento (la velocità con cui il modello si adatta) può essere aumentato o diminuito. Se il tasso di apprendimento è troppo basso, saranno necessari più tempo e memoria per addestrare il modello. Tuttavia, un tasso inferiore implica anche un avvicinamento costante al minimo della funzione di perdita. D'altra parte, un tasso di apprendimento più elevato può accelerare notevolmente l'apprendimento del modello, ma comporta anche il rischio di superare il valore minimo di perdita.

Regolare il tasso di apprendimento aiuta a trovare il punto ideale tra un tasso troppo basso e uno troppo alto.

Esempi di OpenVINO: come si usa?

OpenVINO è utilizzato in una varietà di settori, dalla produzione manifatturiera alle smart city e all'assistenza sanitaria. Alcuni esempi di modelli di visione artificiale comunemente utilizzati che OpenVINO può contribuire a ottimizzare includono:

  • Inpainting di immagini: Con l'inpainting di immagini, è possibile ripristinare i pixel danneggiati o mancanti in immagini e video. Per un esempio di come appare l'inpainting di immagini, potete consultarequesta demo di Intel .

  • Riconoscimento facciale : il riconoscimento facciale viene utilizzato per identificare il volto di una persona da un'immagine o un video. Molti smartphone moderni, ad esempio, sono dotati di tecnologia di riconoscimento facciale per sbloccare il telefono semplicemente leggendo il volto.

  • Rilevamento oggetti: Il rilevamento oggetti consente a un sistema di visione artificiale di individuare determinati oggetti in input visivi come immagini e video. Ad esempio, un modello di rilevamento oggetti potrebbe analizzare l'immagine di una strada e identificare elementi come volti, borse o qualsiasi altra cosa per cui il modello è stato addestrato.

Open Vino Examples

OpenVINO e intelligenza artificiale generativa

L'IA generativa , un tipo di intelligenza artificiale focalizzata sulla generazione di nuovi contenuti a partire da dati di training, si basa in gran parte sull'inferenza di modelli. OpenVINO può essere utilizzato per accelerare questa inferenza e lo sviluppo di modelli di IA generativa. Prendiamo come esempio Stable Diffusion.

La diffusione stabile è un tipo di modello di intelligenza artificiale generativa da testo a immagine utilizzato per creare immagini realistiche e dettagliate a partire da prompt di testo. I modelli di diffusione funzionano aggiungendorumore gaussiano ai dati di training, quindi rimuovendo il rumore (o "denoising") per recuperare i dati. Questo insegna al modello come rimuovere il rumore e creare immagini di qualità superiore. Tuttavia, questo processo si rivela spesso molto lento e i modelli possono occupare molto spazio. Per questo motivo, è necessario ottimizzare l'addestramento e l'inferenza del modello per rendere la soluzione praticabile. È qui che entra in gioco OpenVINO.

OpenVINO accelera l'addestramento del modello e ottimizza l'inferenza , ampliando le possibilità su dove e come eseguire l'inferenza del modello.

Requisiti hardware di OpenVINO

OpenVino può essere eseguito solo su hardware Intel. Per utilizzare il toolkit OpenVINO, l'hardware deve essere dotato di CPU, GPU, NPU, FPGA o GNA Intel. Per ulteriori informazioni sui dispositivi OpenVINO e sull'hardware supportato, è possibile visitare il sitoquesta pagina .

Sfruttare OpenVINO con Axial Edge Server di OnLogic

Una foto di una cornice frontale con chiusura sicura su un server per montaggi a rack.Una foto di una mano che apre la parte superiore dell'Axial Edge Server di OnLogic

OpenVINO di Intel consente l'ottimizzazione del modello di deep learning da quasi tutti i framework e consente di implementarlo su un'ampia gamma di hardware Intel, tra cui CPU, GPU (incluse le iGPU), NPU, FPGA e GNA. 

Il server AC101 Axial Edge di OnLogic supporta la linea di processori Intel hybrid-core di 13a generazione (precedentemente noti come "Raptor Lake"), dotati di schede grafiche Intel UHD 770 integrate e in grado di supportare fino a 128 GB di memoria DDR5. Inoltre, l'AC101 supporta GPU full-length come Intel Arc A40 e A60, consentendo capacità di elaborazione ancora più potenti. In abbinamento a OpenVINO, Axial offre la soluzione ideale per l’addestramento e l’inferenza di modelli di intelligenza artificiale all’edge.

Per saperne di più su come OpenVINO può essere utilizzato con il server edge Axial di OnLogic, contatta oggi stesso il nostro team di supporto tecnico .

Claireice Mathai
Claireice Mathai
Claireice Mathai è una content creator per OnLogic. Quando non scrive, le piace suonare la chitarra e giocare ai videogiochi.

Rimani informato.

Ricevi in anteprima i nuovi prodotti, le innovazioni per l'Industria 4.0, gli eventi OnLogic e molto altro.