Qu'est-ce qu'OpenVINO et quelles sont les exigences matérielles ?
L'apprentissage profond, un type d'IA (l'intelligence artificielle), est un sous-ensemble de l'apprentissageautomatique qui se concentre sur l'enseignement à un ordinateur d'apprendre de manière similaire au cerveau humain. Pour y parvenir, les modèles d'apprentissage profond utilisent des réseaux neuronaux.
Dans le but d'augmenter la performance et la précision d'un modèle d'apprentissage profond, plusieurs logiciels ont été développés pour l'optimisation de l'apprentissage profond. L'une des options les plus populaires est OpenVINO™. Voyons exactement ce qu'est OpenVINO, comment il fonctionne, comment il peut être utilisé et les exigences matérielles d'OpenVINO.
Qu'est-ce qu'OpenVINO ?
OpenVINO, ou Open Visual Inference and Neural Network Optimization, est un kit d'outils open-source développé par Intel® pour l'optimisation des modèles d'apprentissage profond. OpenVINO peut être utilisé pour accélérer les solutions de Traitement du langage naturel (NLP), d'apprentissage automatique, de vision par ordinateur, et plus encore. Le kit d'outils OpenVINO peut être utilisé depuis la création du modèle jusqu'au déploiement, mais l'une de ses principales forces réside dans l'optimisation des modèles d'IA d'apprentissage profond.
Comment fonctionne OpenVINO ?
Le flux de travail OpenVINO peut être résumé en quatre étapes principales :
L'entraînement du modèle : Tout d'abord, le modèle d'apprentissage profond est entraîné en dehors d'OpenVINO en utilisant le cadre de votre choix. OpenVINO peut accepter les modèles PyTorch, ONNX et TensorFlow.
Optimisation du modèle : Le Model Optimizer charge ce modèle, le lit, construit une représentation interne, puis l'optimise en utilisant le cadre choisi. Après cela, l'IR (Représentation Intermédiaire) est générée. Cela se présente sous la forme de deux fichiers : .xml et .bin.
Moteur d'inférence : Le moteur d'inférence est utilisé pour lire l'IR et faire des inférences sur les données en utilisant un plugin spécifique, y compris CPU (Unité Centrale de Traitement), GPU (Unité de Traitement Graphique), NPU (Unité de Traitement Neuronal), FPGA (Réseau de Portes Programmables sur le Terrain) et Intel GNA (Accélérateur Gaussien et Neuronal).
Déploiement de l'application : L'application est déployée sur divers appareils spécifiés.
Que fait OpenVINO ?
Le principal avantage de l'optimisation de l'apprentissage profond avec OpenVINO est l'efficacité et la rapidité. OpenVINO aide à coordonner les divers éléments matériels nécessaires pour entraîner et optimiser un modèle IA. L'optimisation efficace aide à minimiser plus rapidement la fonction de perte. La fonction de perte est la différence entre la sortie prédite et la sortie réelle d'un modèle d'IA. Minimiser la fonction de perte est réalisé en ajustant les hyperparamètres du modèle pendant l'entraînement. Les hyperparamètres sont des détails fournis au modèle pendant l'entraînement, à ne pas confondre avec les paramètres de sortie qui font partie du modèle résultant.
Les hyperparamètres qui peuvent être ajustés dans le modèle incluent des éléments tels que la taille du lot, la décroissance du poids, le momentum et le taux d'apprentissage. Voyons l'optimisation du taux d'apprentissage comme exemple.
Optimisation du taux d'apprentissage
Pour minimiser la fonction de perte, le taux d'apprentissage (la vitesse à laquelle le modèle s'adapte) peut être augmenté ou diminué. Si le taux d'apprentissage est trop bas, il utilisera plus de temps et de mémoire pour entraîner le modèle. Cependant, un taux plus bas signifie également une progression régulière vers la fonction de perte minimale. D'autre part, un taux d'apprentissage plus élevé peut permettre au modèle d'apprendre beaucoup plus rapidement, mais il y a aussi le risque de dépasser la valeur minimale de perte.
Ajuster le taux d'apprentissage aide à trouver le point idéal entre un taux trop bas et un taux trop élevé.
Exemples OpenVINO : comment est-il utilisé ?
OpenVINO est utilisé dans divers domaines allant de la fabrication aux villes intelligentes et aux soins de santé. Voici quelques exemples de par ordinateur couramment utilisés qu'OpenVINO peut aider à optimiser :
La restauration d'image : Grâce à la restauration d'image, les pixels endommagés ou manquants dans les images et vidéos peuvent être restaurés. Vous pouvez consultercette démo d'Intel pour un exemple de ce à quoi ressemble la restauration d'image.
Reconnaissance faciale : La reconnaissance faciale est utilisée pour identifier le visage d'une personne à partir d'une image ou d'une vidéo. De nombreux smartphones modernes, par exemple, disposent de la technologie de reconnaissance faciale pour déverrouiller votre téléphone simplement en lisant votre visage.
La détection d'objets : La détection d'objets permet à un système de vision par ordinateur de repérer certains objets dans des entrées visuelles comme des images et des vidéos. Par exemple, un modèle de détection d'objets pourrait analyser une image d'une rue et identifier des éléments comme des visages, des sacs à main ou tout autre objet que le modèle a été formé à reconnaître.
OpenVINO et IA generative
L'IAgénérative, un type d'intelligence artificielle axé sur la création de nouveaux contenus à partir de données d'entraînement, repose en grande partie sur l'inférence du modèle. OpenVINO peut être utilisé pour accélérer cette inférence et le développement de modèles d'IA générative. Prenons Stable Diffusion comme exemple.
La diffusion stable est un type de modèle IA génératif de texte en image utilisé pour créer des images réalistes et détaillées à partir de descriptions textuelles. Les modèles de diffusion fonctionnent en ajoutant duBruit gaussien bruit aux données d'entraînement, puis en supprimant ce bruit (ou "dénoyautage") pour récupérer les données. Cela apprend au modèle à éliminer le bruit et à créer des images de meilleure qualité. Cependant, ce traitement s'avère souvent très lent, et les modèles peuvent prendre beaucoup de place. Pour cette raison, vous devez optimiser l'entraînement et l'inférence de votre modèle pour rendre la solution viable. C'est là qu'OpenVINO intervient.
OpenVINO accélère l'entraînement des modèles et optimise l'inférence, élargissant les possibilités d'exécution de l'inférence des modèles.
Exigences matérielles pour OpenVINO
OpenVino ne fonctionne que sur le matériel Intel. Pour utiliser le kit d'outils OpenVINO, votre matériel doit avoir soit un processeur Intel, un GPU, un NPU, un FPGA ou un GNA. Pour en savoir plus sur les appareils OpenVINO et le matériel pris en charge, vous pouvez visiter cette page.
Exploiter OpenVINO avec le Serveur de périphérie Axial de OnLogic
OpenVINO d'Intel permet l'optimisation des modèles d'apprentissage profond à partir de presque n'importe quel cadre et vous permet de les déployer sur une large gamme de matériel Intel, y compris les CPU, GPU (y compris iGPU), NPU, FPGA et GNA.
Le Serveur de périphérie Axial AC101 d'OnLogic prend en charge la gamme de processeurs hybrides de 13e génération d'Intel (anciennement connus sous le nom de "Raptor Lake") qui intègrent des cartes graphiques Intel UHD 770 et peuvent supporter jusqu'à 128 Go de mémoire DDR5. De plus, le AC101 prend en charge les GPU pleine longueur comme l'Intel Arc A40 et A60, permettant une puissance de traitement encore plus élevée. Lorsqu'il est associé à OpenVINO, Axial offre la solution idéale pour l'entraînement et l'inférence des modèles IA en périphérie.
Pour en savoir plus sur l'utilisation d'OpenVINO avec le serveur de périphérie Axial de OnLogic, équipe de support technique dès aujourd'hui.