LLM Edge vs LLM Cloud : sécurité, rentabilité et personnalisation.
C'est l'objectif actuel de presque toutes les entreprises avant-gardistes : une intelligence artificielle (IA) qui s'intègre parfaitement à votre activité, non pas comme un simple service cloud distant, mais comme un outil puissant à portée de main. La question ne se pose plus seulement de savoir s'il est avantageux d'utiliser des modèles de langage étendus (LLM) ; c'est une évidence. La vraie question est : comment tirer pleinement parti de l'IA ?
Et si vous pouviez sécuriser vos données les plus sensibles, économiser sur les coûts croissants du cloud et adapter votre implémentation de l'IA à votre entreprise ?
C'est la promesse des LLM en périphérie. Il s'agit de prendre le contrôle de vos données, de les transférer d'un « cloud » distant, souvent mystérieux, vers un actif tangible, sécurisé et personnalisable, directement sur votre réseau. Ce n'est pas seulement une meilleure façon de faire de l'IA ; c'est la clé pour prendre les devants dans cette révolution de l'IA.
Si vous avez déjà commencé à migrer vos données vers le cloud, découvrez comment les rapatrier vers la périphérie dans notre livre blanc sur le rapatriement cloud.
Obtenez le livre blancLe pouvoir transformateur des LLM.
Les modèles de langage générateurs de textes et d'images ont considérablement élargi les possibilités de l'informatique, s'attaquant à des tâches autrefois considérées comme exclusives aux capacités humaines et remodelant notre définition même de l'IA. En quelques années seulement, ils sont passés du statut de simples astuces numériques innovantes, produisant du contenu intéressant, voire inutilisable, à celui d'outils puissants pour les entreprises de toutes tailles.
Comparaison d'une image générée par l'IA utilisant la même invite en 2022 et 2024. INVITE : une plante cyborg dotée de circuits et de capacités réseau, gros plan, réaliste, haute résolution. (Source)
Les entreprises découvrent que les déploiements ciblés de LLM offrent une valeur bien supérieure aux simples chatbots ou à la génération d'images. Des RH au développement logiciel, les LLM peuvent rationaliser les tâches répétitives, générer des idées innovantes et optimiser la productivité, tout en apprenant et en s'adaptant en permanence.
Alors que les organisations explorent de plus en plus l'IA analytique (pour la prédiction, l'évaluation des risques, l'optimisation de la chaîne d'approvisionnement, etc.) et intègrent l'IA générative, l'intérêt du déploiement de LLM devient indéniable. Cependant, la stratégie de mise en œuvre optimale reste un critère crucial. Pour optimiser la sécurité des données, la rentabilité et l'adaptabilité, les entreprises peuvent prendre le contrôle de leurs solutions d'IA en opérant en périphérie. Cette approche souligne l'importance de la maîtrise de ses données et de l'infrastructure qui les soutient.
Relever les défis : sécurité et contrôle.
La mise en œuvre de l'IA organisationnelle soulève des questions et des considérations cruciales que les organisations doivent prendre en compte pour réussir. Une enquête mondiale menée par McKinsey en The State of AI in Early 2024 a mis en évidence les principaux risques associés à l'adoption de l'IA. L'enquête a révélé que la violation de la propriété intellectuelle, la cybersécurité et la confidentialité des données personnelles figuraient parmi les principales préoccupations des organisations. Le calcul de l'IA dans le cloud peut exacerber ces risques, car il implique le transfert de données sensibles vers des centres de données externes, potentiellement via des canaux vulnérables. L'expansion rapide des centres de données due à l'utilisation accrue de l'IA peut également créer davantage de points d'accès pour les acteurs malveillants. Plus précisément, la multiplication des points d'accès aux données sensibles et l'absence de contrôles internes augmentent le risque de insider threats in the cloud.
Une récente vulnérabilité de sécurité dans les systèmes d'IA cloud de Nvidia a exposé over 35% of cloud environments running on Nvidia GPUs à de potentielles prises de contrôle d'hôte. Ce type d'attaque par porte dérobée pourrait compromettre les données et l'infrastructure sensibles de toute entreprise utilisant des modèles d'IA ou des images de conteneurs tiers.
L'edge computing offre une solution robuste à ces défis de sécurité. En permettant aux solutions d'IA d'exploiter des données sensibles ou propriétaires sans qu'elles ne quittent les locaux, l'edge computing offre un contrôle renforcé et atténue les risques. Pour exploiter pleinement les capacités de l'IA actuelle, les modèles ont besoin de contexte. Si les chatbots généraux sont utiles pour des tâches générales, une IA intégrée aux systèmes de données peut apporter de la valeur à toutes les fonctions de l'entreprise, améliorant la productivité des tâches exigeant des informations spécialisées et une compréhension fine.
L'évolution de la productivité de l'IA vise à permettre aux modèles d'accomplir davantage avec moins de supervision. Cela commence par l'accès à des données pertinentes pour des réponses éclairées et la capacité de l'IA à interagir avec les outils numériques, comblant ainsi l'écart entre les résultats textuels et les actions concrètes. Les solutions edge personnalisées offrent le contrôle des données nécessaire pour exploiter ces capacités avancées, et une infrastructure matérielle fiable est un élément essentiel de ces solutions.
L'Edge AI : une stratégie rentable
Au-delà de la sécurité, l'informatique Edge représente une approche économique convaincante pour l'IA d'entreprise. Le déploiement d'une solution d'IA personnalisée et intégrée dans le cloud entraîne des coûts de cloud computing récurrents. Les services hyperscale, qui fournissent une puissance de calcul adaptative pour l'hébergement des modèles d'IA, peuvent rapidement engendrer des dépenses d'exploitation supérieures à l'investissement initial dans une solution locale.
Par exemple, en supposant que des services cloud avec 84 heures d'utilisation hebdomadaire coûtent environ 100 000 $ par an (bien que les coûts réels varient), l'investissement dans du matériel informatique Edge robuste peut, dans de nombreux cas, fournir une puissance de calcul comparable à un coût plus prévisible. Pour des opérations d'IA continues, une solution sur site peut générer des économies significatives en quelques mois. L'informatique Edge offre la solution la plus rentable et la plus durable pour maîtriser pleinement votre solution d'IA.
Trajectoires de coûts pour l’edge et le cloud : les coûts du cloud computing dépassent l’investissement dans la mise en œuvre de l’edge au fil du temps.
L’évolution rapide de l'IA
L'avenir de l'IA recèle un potentiel immense et des avancées rapides. Les récents développements de modèles par DeepSeek AI démontrent que l'IA est capable d'accomplir davantage avec moins de ressources, évoluant plus rapidement que prévu. DeepSeek-R1 a affiché des performances comparables à celles du modèle de raisonnement o1 d'OpenAI dans les benchmarks mathématiques, scientifiques et de programmation, pour un coût bien inférieur. DeepSeek-R1 coûte $2.17 per 1M output tokens, contre $60 per 1M pour OpenAI.
Le caractère open source de R1 favorise l'innovation, permettant à d'autres créateurs de modèles de tirer parti des avancées algorithmiques de DeepSeek. La concurrence accrue dans le secteur de l'IA favorisera des solutions créatives aux contraintes informatiques, et les logiciels open source démocratiseront l'accès à ces nouvelles technologies.
À mesure que les modèles d'IA évoluent, les organisations ayant investi dans une infrastructure edge adaptée seront bien placées pour capitaliser sur de nouvelles opportunités sans être freinées par des coûts exorbitants. Cela leur permet d'innover librement et de garder le contrôle de leurs solutions.
Comprendre l'architecture LLM
Les principaux modèles d'IA comme ChatGPT et leurs alternatives open source (DeepSeek R1, Llama) comprennent des centaines de milliards de paramètres qui stockent de manière abstraite des informations sémantiques sur le langage et des connaissances factuelles sur le monde. Les modèles comportant davantage de paramètres présentent généralement de meilleures capacités de mémorisation des informations issues de l'entraînement et démontrent des capacités de raisonnement et d'écriture améliorées. Cependant, ces modèles volumineux, avec leur nombre massif de paramètres, nécessitent des ressources de calcul importantes. Pour chaque requête, un modèle comme DeepSeek R1 (671 milliards de paramètres) peut nécessiter des centaines de gigaoctets de mémoire et des GPU avancés pour le traitement.
Les développeurs de modèles créent également des versions plus petites, comme les itérations 1B, 5,7B, 6,7B et 33B de DeepSeek. Ces modèles sont moins exigeants et peuvent même atteindre run on low-power CPUs. Cependant, ils peuvent ne pas bénéficier des connaissances approfondies et des capacités d'interprétation linguistique nuancées de leurs homologues plus importants.
Bien que les architectures, grandes comme petites, soient optimisées pour les performances générales des chatbots, elles peuvent ne pas être idéales pour les organisations nécessitant des réponses extrêmement fiables dans des domaines spécifiques. Une solution consiste à affiner les modèles à grands paramètres à l'aide de données spécifiques au domaine. Ce processus permet à l'IA d'« apprendre » des faits pertinents à ses cas d'utilisation, la spécialisant ainsi pour produire des réponses très éclairées tout en exploitant les connaissances acquises lors de l'entraînement initial. Cependant, l'entraînement des LLM nécessite des calculs intensifs, et le déploiement de modèles comportant des centaines de milliards de paramètres peut s'avérer complexe.
Des modèles d'IA plus petits peuvent alléger ces défis informatiques et, combinés à des architectures spécialisées, peuvent néanmoins fournir des réponses précises et éclairées. La génération augmentée par récupération (RAG) est une technique qui permet aux LLM de se connecter à une base de données de données pertinentes, récupérant les informations les plus pertinentes pour chaque requête afin de contextualiser les réponses.
Diagramme RAG : RAG utilise des bases de données propriétaires pour éclairer les réponses LLM.
RAG simplifie la spécialisation des modèles pour la récupération et l'interprétation de données propriétaires. Utilisé avec un modèle plus petit, il minimise les besoins de calcul, permettant aux modèles d'être à la fois informés et portables. Cela se traduit par une réduction des coûts opérationnels et une plus grande flexibilité de déploiement sur les périphériques. Un matériel adapté est essentiel pour prendre en charge efficacement ces déploiements.
L'avenir de l'IA : les agents autonomes
Les tendances actuelles en recherche et développement en IA indiquent une évolution vers une autonomie accrue. L'accent est mis sur la capacité des modèles à effectuer davantage de tâches avec moins de supervision, ce qui conduit à l'émergence d'agents IA. Ces agents, basés sur les LLM, se distinguent par leur approche de résolution de problèmes. Alors que les modèles de langage traditionnels lisent et écrivent principalement du texte, les agents IA peuvent exploiter d'autres outils, tels que les appels d'API, la navigation dans des interfaces utilisateur graphiques (IUG) et l'interaction avec d'autres agents.
Des techniques comme le raisonnement par chaîne de pensée (CoT) permettent aux LLM d'apporter des réponses plus complètes et détaillées à des problèmes complexes. De plus, les LLM deviennent de plus en plus multimodaux, interagissant avec les humains par diverses méthodes allant au-delà du texte, notamment l'image et l'audio. L'IA du futur interagira avec les mondes numérique et physique de manières plus diversifiées, transformant ainsi les interactions entre l'humain et l'IA.
OpenAI a récemment présenté un aperçu de recherche de son nouvel agent, Operator, basé sur le modèle Computer-Using Agent (CUA). Cet agent combine le traitement visuel de GPT-4o avec des techniques de raisonnement avancées pour fonctionner comme un assistant capable de « voir » et de « comprendre » son propre navigateur Internet. Au lieu de s'appuyer sur des systèmes d'exploitation ou des API web spécifiques, Operator navigue comme un humain, explorant et réagissant aux nouvelles informations, et utilisant des stratégies de résolution de problèmes. Les premiers résultats suggèrent que cet agent surpasse les autres agents de navigation web, avec des implications pour l'IA allant au-delà de la navigation web.
L'IA a démontré sa compétence dans des tests structurés, tels que des concours de codage et de mathématiques. Par exemple, une OpenAI o3 achieved a top-200place dans Codeforces et une deuxième place dans 99th percentile score on the 2024 American Invitational Mathematics Exam (AIME). Agentic AI, cependant, illustrent le potentiel de l'IA à fonctionner de manière autonome dans des environnements non structurés, en s'adaptant et en apprenant en permanence. À mesure que cette technologie mûrit, les LLM deviendront partie intégrante des applications futures, transformant fondamentalement notre interaction avec le monde numérique.
Considérations pour la mise en œuvre de l'IA en périphérie
La réussite de la mise en œuvre de solutions d'IA en périphérie nécessite une attention particulière à l'infrastructure matérielle sous-jacente. Des facteurs tels que la puissance de traitement, la fiabilité, la résilience environnementale et l'évolutivité sont essentiels pour garantir des performances optimales et une viabilité à long terme. Le choix du bon partenaire matériel peut être essentiel pour gérer ces complexités et construire un système d'IA en périphérie robuste.
Pour explorer plus en détail les possibilités des LLM sur les appareils en périphérie et les considérations matérielles pour une mise en œuvre réussie, contactez l'équipe OnLogic.
Découvrez notre gamme complète de services de conseil en IA :
En savoir plus sur le conseil en IA