Chargement...
Chargement...
Chargement...
IA6 mai 20257 MIN. DE LECTURE

Secure Edge AI : le rôle de l'IA privée et de l'infrastructure sur site

Image d'un serveur périphérique utilisé sur un site de production en pleine activité

Alors que les capacités de l'intelligence artificielle (IA) se développent et que l'utilisation de l'IA par les entreprises continue de s'étendre, de nombreuses organisations sont préoccupées par les implications en matière de confidentialité et de sécurité des données. Les solutions d'IA sont exposées à des sources de données confidentielles telles que des informations sur les clients, des données opérationnelles et d'autres éléments de propriété intellectuelle. En outre, ces applications interagiront avec des systèmes et des réseaux critiques, ce qui fait de ce défi de sécurité une priorité absolue.

Dans le cadre d'un vaste plan de sécurité, l'IA privée et l'infrastructure d'IA sur site sont des outils permettant de mettre en place une IA périphérique sécurisée à grande échelle.

L'IA privée à la pointe de la technologie

L'IA privée consiste en des modèles et des applications d'IA conçus pour un cas d'utilisation spécifique avec des données d'entraînement exclusives qui les adaptent aux objectifs finaux de l'utilisateur. Cela diffère de l'IA publique, telle que ChatGPT d'OpenAI, qui est accessible à tous dans un environnement de nuage public multi-tenant. Si les utilisateurs peuvent affiner ces types d'applications publiques d'IA, les données de formation et d'inférence sont généralement conservées par le fournisseur de services.

Dans les déploiements privés d'IA, l'utilisateur conserve les données de formation et d'inférence ainsi que l'infrastructure d'appui dans ses propres réseaux privilégiés.

Pour en savoir plus sur le rapatriement des charges de travail de l'informatique en nuage vers l'informatique en périphérie, consultez notre livre blanc gratuit intitulé "How Cloud Repatriation is Shaping the Future of Business" (Comment le rapatriement de l'informatique en nuage façonne l'avenir de l'entreprise).

Obtenir le livre blanc

L'infrastructure nécessaire à la prise en charge de l'IA privée peut être déployée sur site ou dans un nuage privé, en fonction des besoins de l'application. L'endroit et la manière dont les données sont traitées seront dictés par les réglementations sur les données et les meilleures pratiques de l'industrie. Par exemple, aux États-Unis, les Health Insurance Portability Accountability Act (HIPAA) normes régissent la manière dont les prestataires de soins de santé peuvent utiliser les données des patients, connues sous le nom d'informations de santé protégées (PHI).

L'IA privée ne signifie pas que les applications doivent être complètement déconnectées des applications du nuage public, mais toute connexion externe doit servir uniquement ce qui est nécessaire. Par exemple, une base de données de séries temporelles pourrait établir un temps d'attente estimé pour la surveillance du trafic, mais seuls les champs "attente actuelle estimée" et "nom de la route" doivent être transmis à une API externe.

Infrastructure d'IA sur site

Pour soutenir les applications d'IA sécurisées, il est important de comprendre quels types de matériel et de logiciel seront nécessaires. Il s'agit d'une part de l'informatique GPU nécessaire pour gérer l'apprentissage et l'inférence des modèles, et d'autre part de l'infrastructure informatique pour soutenir les applications d'IA par le développement et l'orchestration de modèles.

Calcul à haute performance

Serveur de périphérie 3U Axial AX300 Series d'OnLogic

La formation et l'inférence nécessiteront des systèmes de haute performance avec de grandes quantités de mémoire GPU, également connue sous le nom de VRAM. L'apprentissage des modèles d'IA est un processus intensif, c'est pourquoi les entreprises déploient généralement des serveurs de périphérie GPU dans un cluster de périphérie à 3 nœuds au moins avec plusieurs GPU par serveur, mais cela dépend de la complexité du modèle. Une fois que les modèles sont prêts pour la production, le modèle peut être réentraîné à une vitesse plus lente afin d'améliorer le modèle sur la base des résultats de l'inférence.

Certaines organisations peuvent choisir d'utiliser le groupe de formation pour gérer également l'inférence. Toutefois, cela n'est possible que si l'inférence est centralisée, par exemple dans un entrepôt logistique où toutes les caméras d'inférence sont connectées à des commutateurs de réseau à haut débit. Pour les cas d'utilisation autres que la vision par ordinateur, l'inférence centrale est judicieuse car les données relatives au processus de fabrication, telles que les applications comme les bases de données historiques et les systèmes SCADA, disposent déjà d'une connectivité réseau.

Toutefois, de nombreuses applications d'IA en périphérie distribueront l'inférence à des dispositifs informatiques industriels en périphérie dotés d'une puissance de calcul moindre. Les modèles optimisés pour l'exécution, tels que l'inférence d'un modèle optimisé par Intel OpenVINO sur un PC industriel équipé d'une unité de traitement neuronal (NPU) ou un modèle optimisé pour les systèmes Nvidia Jetson, constituent une étape cruciale pour l'IA de pointe. Dans ce cas, l'infrastructure centrale de formation peut être adaptée pour se concentrer uniquement sur la formation et la fourniture de modèles. La décision de distribuer l'inférence peut également être dictée par des exigences de latence ou de sécurité, par exemple pour la robotique autonome qui doit prendre des décisions en temps réel.

Deux diagrammes côte à côte illustrant les différences d'architecture entre un modèle d'inférence distribué et un modèle d'inférence central.

Infrastructure informatique

Pour l'infrastructure d'IA sur site, les composants clés sont les suivants :

  • Secure DevOps : Création d'un environnement de développement sécurisé pour les développeurs d'applications et les scientifiques des données afin de créer et de former des modèles. L'hébergement sur site ou dans un nuage privé dépend des restrictions de sécurité pour les données et les applications. Comme pour toute application de pointe, il est essentiel de disposer d'une infrastructure sécurisée. Faire appel à un conseiller en sécurité expérimenté peut être la meilleure approche.

  • Orchestration de modèles : La plateforme d'orchestration de l'IA a pour rôle de servir les modèles aux nœuds périphériques appropriés, d'acheminer les résultats de l'inférence, de surveiller la dérive des modèles et de gérer l'entraînement et le réentraînement. L'empaquetage des modèles et de leurs dépendances dans une architecture moderne basée sur des conteneurs est extrêmement courant pour l'IA périphérique et de nombreuses plateformes ont une méthode d'empaquetage préférée.

Alors que certaines organisations décideront d'utiliser leur infrastructure informatique existante pour créer et déployer des applications d'IA, il existe un certain nombre de plateformes d'orchestration de l'IA de bout en bout qui sont adaptées avec des capacités spécifiques aux modèles. OnLogic a construit un écosystème de partenaires pour de telles plateformes d'IA, notamment la plateforme d'IA périphérique Guise.Ai EdgeOps, Viso.Ai Viso Suite pour les modèles de vision par ordinateur, et Red Hat Openshift AI pour la gestion de l'IA en entreprise.

Quand intégrer le cloud privé dans les applications d'IA en périphérie ?

Bien que l'inférence sur site soit presque toujours préférable pour les modèles d'IA de pointe, certaines fonctions peuvent être hébergées dans un nuage privé d'entreprise. Selon les exigences de l'application, certaines fonctions, telles que les environnements de formation et de développement, peuvent nécessiter un hébergement dans un nuage privé central. Elle peut être décomposée en cinq domaines clés :

  • Souveraineté des données : Les résultats de l'inférence sont-ils soumis à des règles de confidentialité ou à des réglementations interdisant leur transmission hors site ? Cela nécessiterait que toute l'infrastructure soit hébergée sur place.

  • Sécurité du site : Les applications d'IA devront-elles être intégrées dans une installation dotée d'un système d'étanchéité à l'air ? Si la réponse est oui, il sera judicieux d'héberger toute l'infrastructure d'IA et les ressources de calcul sur site. Si aucune connexion externe ne peut être établie, DevOps devra également être hébergé sur site.

  • Les ensembles de données de formation : Les données de formation proviendront-elles d'un ou de plusieurs sites ? Si la réponse est multiple, il est judicieux de collecter les données relatives à la formation et de les développer de manière centralisée.

  • Nœuds périphériques distribués: Les modèles seront-ils déployés sur un grand nombre de sites géographiquement séparés ? Il peut être judicieux de centraliser la formation et le développement des modèles si les données sont collectées à partir d'un grand nombre de sites. La publication des modèles dans un registre de conteneurs distant, où ils peuvent ensuite être servis à des sites périphériques pour l'inférence.

  • Interconnexion des applications : Cette application sera-t-elle directement interconnectée avec des systèmes critiques ?

Ces concepts peuvent être illustrés par deux exemples :

Cas d'utilisation : Détection de tumeurs par IRM

Une personne qui passe un examen IRM

Un équipementier médical vend un appareil d'IRM à IA approuvé par la FDA pour la détection des tumeurs. L'inférence se fait sur un ordinateur d'intelligence artificielle intégré à l'appareil d'IRM. Elle propose ce service géré à ses clients, notamment aux services de radiologie des hôpitaux des États-Unis.

  • Souveraineté des données : Les résultats de l'inférence seraient rattachés aux dossiers médicaux électroniques (EHR) des patients dans une plateforme de dossiers médicaux telle que EPIC. Il incombe à l'hôpital de préserver la confidentialité de ces dossiers.

  • Sécurité du site : Il ne s'agit pas d'installations à air comprimé.

  • Jeux de données d'entraînement : Ce modèle de détection est entraîné sur de grandes données publiques concernant les tumeurs. Tant que les informations de santé sont dépourvues des identifiants des patients, les résultats de l'inférence peuvent être utilisés sans restriction pour le recyclage afin d'améliorer le modèle.

  • Nœuds périphériques distribués : Les modèles doivent être transmis à de nombreux hôpitaux dans tout le pays et mis à jour régulièrement.

  • Interconnexion des applications : De par la conception du fabricant, le scanner IRM n'est pas interconnecté avec les systèmes de survie dans d'autres zones du réseau de l'hôpital.

Sur la base de l'évaluation ci-dessus, l'inférence serait traitée sur place tandis que l'environnement DevOps, la formation et l'orchestration du modèle seraient hébergés sur le cloud privé de l'équipementier. Pour les cas d'utilisation des soins de santé aux États-Unis, il est important de comprendreHIPAA les implications de l'IA.

Cas d'utilisation : industrie aérospatiale et de défense

Solution de détection des défauts par vision industrielle pour l'inspection d'une carte de circuit imprimé

Un fabricant de matériel aérospatial de défense cherche à développer un modèle de détection des défauts pour la fabrication de capteurs électro-optiques top secret. L'application d'IA interagira directement avec les systèmes de contrôle de la chaîne de fabrication pour rejeter les pièces.

  • Souveraineté des données : Aucune donnée d'entraînement ou d'inférence ne peut être transmise hors site à quelque titre que ce soit.

  • Sécurité du site : Le site est protégé par un sas et l'entrée est soumise à une autorisation de sécurité afin d'éviter tout accès non autorisé.

  • Jeux de données d'entraînement : Toutes les données de formation proviendront des cinq lignes de production.

  • Nœuds d'extrémité distribués : Cinq lignes de fabrication sont réparties sur l'ensemble du site

  • Interconnexion des applications : Le modèle s'interface directement avec les systèmes de contrôle des processus critiques.

Pour cette entreprise, toute l'infrastructure d'IA devra être déployée sur place. Il est important de comprendre que dans les cas d'utilisation où DevOps doit se faire sur place, comme dans cet exemple, cela signifie que les développeurs devront se trouver directement dans ces installations, que ce soit de manière temporaire ou permanente.

Conclusion : L'emplacement des ressources est important

Lorsqu'il s'agit de déployer l'IA à la périphérie, il est essentiel d'atténuer les risques de sécurité en créant et en maintenant des applications d'IA à la périphérie sécurisées avec la bonne combinaison d'infrastructures sur site et de cloud privé. De même, il est important de choisir le bon matériel pour les applications périphériques. Des serveurs de formation haute performance aux nœuds de conférence robustes, la gamme de matériel et d'expertise d'OnLogic en matière d'IA de pointe peut contribuer à dynamiser les initiatives de votre organisation en matière d'IA.

Découvrez les solutions OnLogic Edge AI

Liens connexes :

Qu'est-ce que l'Edge AI ?

Architecture de l'IA en périphérie : La périphérie est l'endroit idéal pour l'IA

Le rapatriement dans le nuage façonne l'avenir des entreprises

O
OnLogic
OnLogic
OnLogic est un fabricant mondial d'ordinateurs industriels qui conçoit des ordinateurs hautement configurables et axés sur des solutions, conçus pour la fiabilité à la périphérie de l'IdO.

Restez informé.

Soyez le premier à découvrir en exclusivité les derniers produits, les innovations de l'Industrie 4.0 et les événements OnLogic.