Infrastructure IA privée : vue d’ensemble complète de l’architecture

3

L’infrastructure IA privée est ce que les entreprises finissent par construire lorsque le régulateur, le conseil d’administration ou la facture d’egress excluent l’entraînement et l’inférence dans un cloud public opéré depuis l’étranger. La décision est rarement idéologique. Elle découle de l’économie unitaire d’un corpus d’entraînement de plusieurs pétaoctets, d’une exigence de résidence dans un courrier de l’autorité de supervision ou d’une clause d’audit dans un contrat portant sur des systèmes critiques. Dès lors que le programme doit fonctionner en privé, la question devient : quelles couches de la pile concevoir en premier, et quels compromis en découlent ?

Ce guide s’adresse aux DSI, aux directeurs des données et de l’IA et aux responsables d’infrastructure qui passent en revue l’ensemble de la pile avant de s’engager sur une conception. Il parcourt les quatre couches — calcul, stockage, réseau et exploitation — et montre comment le plan de données est devenu la contrainte déterminante de presque tous les programmes d’IA d’entreprise.

Qu’est-ce qu’une infrastructure IA privée ?

L’infrastructure IA privée est la pile combinée de calcul, de stockage, de réseau et d’exploitation utilisée pour exécuter le cycle de vie de l’IA au sein d’une infrastructure que l’entreprise contrôle — entraînement, fine-tuning, inférence, génération augmentée par récupération, embeddings, checkpoints, évaluation et rétention longue durée. Sa propriété déterminante est que le plan de données, le plan d’identité et le plan d’exploitation relèvent de l’autorité juridique et opérationnelle du propriétaire des données, plutôt que d’un environnement public, partagé ou opéré depuis l’étranger.

La catégorie est plus large que l’IA sur site et plus précise que le cloud privé. Une infrastructure IA privée peut résider dans un data center détenu en propre, une installation de colocation, une région cloud souveraine accréditée ou une enclave isolée (air gap) (en anglais). Elle reste privée dès lors que le placement, l’accès, la rétention et l’inspection sont appliqués par la plateforme que l’entreprise exploite — et non par un contrat avec un hyperscaler.

L’architecture doit prendre en charge des charges de travail qui n’ont presque rien en commun au niveau des E/S. L’entraînement génère des lectures séquentielles soutenues de plusieurs dizaines de gigaoctets par seconde. L’inférence génère des lectures aléatoires (en anglais) à forte concurrence avec des budgets de latence serrés. Les checkpoints et les embeddings génèrent des rafales d’écriture à intervalles imprévisibles. La rétention longue durée ne génère presque aucun trafic mais consomme la plus grande part de la capacité. Une seule pile doit absorber tout cela sans s’effondrer.

Les quatre couches d’une pile d’infrastructure IA privée

Tout déploiement de ce type comporte les mêmes quatre couches, même si leurs noms varient.

Couche	Ce qu’elle fait	Briques courantes
Calcul	Exécute l’entraînement, le fine-tuning et l’inférence	Clusters GPU (classe H100, H200, B200, MI300X), interconnexions NVLink et PCIe Gen5, nœuds de tête CPU
Stockage	Héberge corpus d’entraînement, checkpoints, embeddings, registres de modèles, résultats d’évaluation, preuves d’audit, rétention longue durée	Flash NVMe, QLC et NL-SSD, HDD, bande et archivage adjacent au cloud, stockage objet compatible S3 comme API unificatrice
Réseau	Déplace les données au sein du cluster et vers et depuis le plan de données	InfiniBand ou RoCE est-ouest, 100/200/400 GbE nord-sud, chemins GPU-direct comme S3 over RDMA, réseau de gestion isolé
Exploitation	Provisionne, ordonnance, supervise, sécurise et prouve le système	Kubernetes avec Kubeflow ou Ray, gestion des identités et des accès, moteurs de politiques et de cycle de vie, observabilité, pipelines d’audit et SIEM

Les quatre couches ne peuvent pas être conçues isolément. Un cluster GPU ne sera saturé que si la couche de stockage peut soutenir son profil de lecture et si le réseau peut déplacer les données sans blocage en tête de file. Un couple calcul-stockage parfaitement réglé échouera tout de même à l’audit si le plan d’exploitation ne peut produire de preuves infalsifiables. La plupart des programmes d’IA privée en échec remontent à une couche conçue en détail et aux trois autres laissées par défaut.

Calcul : les clusters GPU et leurs contraintes

La couche de calcul est dominée par les clusters GPU, complétés par des nœuds de tête CPU et une petite flotte d’hôtes de gestion. Les variables les plus importantes au stade de la conception sont la génération de GPU, la topologie d’interconnexion, l’enveloppe de refroidissement et d’alimentation, et le calendrier d’approvisionnement.

La génération de GPU fixe le plafond du débit d’entraînement par euro investi et de la latence d’inférence par token. La topologie d’interconnexion — NVLink au sein d’un nœud, InfiniBand ou RoCE entre nœuds — fixe la limite pratique de mise à l’échelle de l’entraînement distribué. Le refroidissement et l’alimentation dominent le choix du site : une entreprise qui déploie un véritable cluster d’entraînement opte pour un refroidissement liquide au niveau du rack, des racks de 30 à 60 kW et une enveloppe électrique à valider avec l’équipe des installations avant de passer commande.

La couche de calcul est celle qui fait les gros titres, mais c’est aussi celle qui dépend le plus des trois autres. Un cluster de 512 GPU à l’arrêt faute de données est le mode de défaillance le plus coûteux de toute l’architecture. Consultez composants et conception de l’infrastructure de calcul IA pour une analyse approfondie.

Stockage : le socle unificateur de la pile

Le stockage est la couche qui touche chaque étape du cycle de vie de l’IA et chaque charge de travail simultanément. L’ingestion fait entrer les données brutes à plusieurs gigaoctets par seconde. Les pipelines de préparation les transforment, les étiquettent et les versionnent. L’entraînement diffuse le corpus à débit soutenu. L’inférence lit embeddings et contexte avec des budgets de latence stricts. Checkpoints, poids de modèles, rapports d’évaluation et journaux d’audit atterrissent tous quelque part. La rétention se poursuit des années après le retrait du modèle qui a produit les données.

Conséquence : le stockage ne peut pas être conçu pour une seule charge de travail. Un déploiement qui utilise un système de stockage pour l’entraînement, un autre pour l’inférence, un troisième pour le data lake et un quatrième pour la sauvegarde s’est engagé dans un modèle d’exploitation à quatre équipes et quatre régimes de gouvernance. La plupart des entreprises qui se consolident autour d’un socle unique de stockage objet avec hiérarchisation multi-température récupèrent des effectifs et de la discipline d’achat dès le premier cycle de renouvellement.

Trois propriétés distinguent un stockage de niveau IA d’un stockage d’entreprise générique :

• Un débit soutenu à grande échelle. Les pics de benchmark ne prédisent pas le comportement un jour d’entraînement. Le chiffre pertinent est le débit maintenu pendant des heures sous lectures, écritures et opérations de métadonnées concurrentes.
• Une hiérarchisation multi-température sous un même espace de noms. Les données d’entraînement actives, les données d’inférence tièdes et la rétention longue durée ont des profils de coût et de performance radicalement différents. Un placement piloté par des politiques sur NVMe, HDD, bande et supports adjacents au cloud évite à l’équipe d’exploiter quatre silos.
• Un accès lié à l’identité et l’immuabilité. Corpus d’entraînement, poids de modèles et journaux d’inférence sont des cibles de grande valeur. Object Lock, chiffrement adossé à un KMS et audit infalsifiable ne sont pas des options facultatives.

Pour approfondir le volet stockage de la conception, consultez les composants clés de l’infrastructure de données IA (en anglais) et le stockage hiérarchisé pour l’IA : performances évolutives et maîtrise des coûts (en anglais).

Réseau : est-ouest, nord-sud et chemins GPU-direct

La couche réseau se divise en trois plans. Le réseau est-ouest, au sein du cluster GPU, transporte le trafic d’entraînement distribué entre GPU. Le réseau nord-sud relie le cluster à la couche de stockage et au reste de l’entreprise. Un réseau de gestion distinct prend en charge le provisionnement, la supervision et l’audit.

La conception est-ouest est dominée par InfiniBand ou RoCE à 200 ou 400 Gbit/s par port, avec des topologies fat-tree non bloquantes ou optimisées par rail pour les plus grands clusters. C’est la variance de la latence de queue, et non la bande passante moyenne, qui détermine la capacité de mise à l’échelle de l’entraînement.

La conception nord-sud détermine si la couche de stockage peut alimenter le cluster GPU. Les chemins GPU-direct — S3 over RDMA, GPUDirect Storage — permettent à la mémoire GPU de récupérer les données sans transiter par la mémoire CPU. Au niveau GPU-Direct, une latence inférieure à 50 µs est aujourd’hui atteignable sur un stockage objet adossé à de la flash. Pour une vue plus large des compromis, consultez la stratégie de données cloud hybride pour les charges IA.

Exploitation : la couche que les auditeurs lisent vraiment

C’est dans la couche d’exploitation que l’architecture résiste à l’examen ou accumule discrètement les risques. Elle couvre quatre sous-domaines :

• Provisionnement et ordonnancement. Kubernetes avec des opérateurs comme Kubeflow, Ray ou Slurm-on-Kubernetes coordonne l’allocation des GPU, les files de tâches et l’orchestration des pipelines.
• Identité, accès et politiques. SSO, IAM granulaire au niveau de l’objet et du locataire, chiffrement avec clés contrôlées par le client et moteurs de politiques appliquant placement, rétention et accès au niveau du plan de données.
• Observabilité et télémétrie. Métriques par charge de travail, tendances de capacité et de performance et, de plus en plus, télémétrie énergétique au niveau du système, du nœud et de la charge. L’énergie est devenue une contrainte de conception ferme, et non une note de bas de page financière.
• Audit et assurance. Journaux infalsifiables, rétention immuable des preuves et surveillance continue des contrôles capables de répondre à une enquête du régulateur sans trois mois d’investigation forensique.

La couche d’exploitation est aussi celle où les équipes se consolident ou se fragmentent. Deux ou trois systèmes de stockage, plus un plan d’orchestration distinct, plus un plan d’identité distinct, plus des pipelines d’audit séparés : c’est la recette d’effectifs qui croissent linéairement avec l’empreinte. Les équipes qui avancent sont celles qui se consolident autour d’un plan unifié de données et d’exploitation.

Pourquoi le socle de stockage est la contrainte déterminante

Les quatre couches ont la même importance, mais elles ne se limitent pas mutuellement de la même façon. Les générations de calcul se renouvellent tous les 18 à 24 mois. Les cycles de renouvellement réseau durent de trois à cinq ans. L’outillage d’exploitation est logiciel et remanié en continu. Le stockage est la couche qui conserve une décennie de données, survit à plusieurs renouvellements de calcul et de réseau, et absorbe chaque nouveau profil de charge à mesure qu’il apparaît.

Lorsque le stockage ne suit pas — lorsqu’il ne peut soutenir le débit d’entraînement, appliquer la résidence au niveau du plan de données, prouver l’immuabilité lors d’un audit ou hiérarchiser entre flash, disque, bande et archive sous un même modèle opérationnel — le reste de la pile doit compenser. Les équipes ajoutent des silos. Les achats ajoutent des lignes budgétaires. L’audit ajoute des constats. Le coût d’une couche de stockage mal conçue se répercute sur toutes les autres couches de l’architecture.

C’est pourquoi une conception qui survit au prochain cycle de renouvellement part du plan de données et progresse vers l’extérieur, plutôt que de partir de la couche de calcul et de traiter le stockage comme un achat secondaire.

La place de Scality ADI dans la pile

Scality ADI (Autonomous Data Infrastructure) est le socle de stockage de cette architecture — pas la pile entière, mais la couche dont dépendent les couches de calcul, de réseau et d’exploitation. Scality ADI est une infrastructure de données pour l’IA d’entreprise, la cyber-résilience et le contrôle souverain, qui aligne de manière autonome et durable les bons supports de stockage, de l’échelle multi-pétaoctet à l’exaoctet.

Concrètement, Scality ADI apporte au déploiement quatre capacités que la couche de stockage devrait sinon obtenir de systèmes distincts :

• Des performances GPU-direct pour l’entraînement et l’inférence à haut débit. S3 over RDMA offre une latence inférieure à 50 µs au niveau GPU-Direct, avec un débit soutenu de plusieurs To/s au niveau Hot. La couche de calcul perçoit la couche de stockage comme suffisamment rapide pour ne pas brider le cluster.
• Un cycle de vie multi-température sous un même modèle opérationnel. Quatre niveaux — flash GPU-Direct, chaud en QLC et NL-SSD, tiède sur HDD, froid sur bande et archivage adjacent au cloud — relèvent d’un espace de noms unique et d’un moteur de politiques unique. Entraînement, fine-tuning, cache d’inférence, embeddings, checkpoints et rétention longue durée obtiennent chacun le bon niveau sans obliger l’équipe à exploiter quatre systèmes de stockage.
• La cyber-résilience CORE5 intégrée à l’architecture. Immuabilité, durabilité par erasure coding, protection des métadonnées, protection multisite et application des politiques sont des propriétés de la plateforme plutôt que des services ajoutés. L’audit et la reprise résistent à l’examen que les charges IA suscitent désormais de la part des conseils d’administration, des régulateurs et des assureurs.
• Un contrôle souverain au niveau du plan de données. Scality ADI est livrée sous forme de logiciel open-code avec des horizons de support longs et des contributions encadrées. Les équipes de sécurité, les organismes d’accréditation et les red teams peuvent inspecter ce que fait la plateforme au lieu de se fier à l’attestation du fournisseur. La plateforme se déploie sur site, dans une région souveraine, dans un cloud privé ou dans une enclave isolée, sous un même modèle opérationnel.

Scality ADI n’est pas un stockage objet plus rapide. C’est un nouveau modèle d’exploitation de l’infrastructure de données d’entreprise à l’ère de l’IA — qui permet au reste de la pile d’évoluer sans remplacer la couche de stockage tous les deux ans. Pour les responsables d’infrastructure qui passent en revue l’ensemble de l’architecture IA privée avant de s’engager, le plan de données est la partie qui n’est pas reconstruite à chaque nouvelle génération de GPU.

Découvrez comment Scality ADI fournit le socle de stockage des charges IA d’entreprise

Questions fréquentes

Qu’est-ce qu’une infrastructure IA privée ?

C’est la pile combinée de calcul, de stockage, de réseau et d’exploitation utilisée pour exécuter le cycle de vie de l’IA au sein d’une infrastructure que l’entreprise contrôle. Elle couvre l’entraînement, le fine-tuning, l’inférence, la génération augmentée par récupération, les embeddings, les checkpoints, l’évaluation et la rétention longue durée. Sa propriété déterminante est que le placement, l’accès, la rétention et l’inspection sont appliqués par la plateforme qu’exploite l’entreprise, et non par un contrat avec un opérateur de cloud public.

En quoi diffère-t-elle d’une infrastructure IA sur site ?

L’infrastructure IA sur site est un lieu de déploiement. Le modèle privé est une propriété de contrôle. Un déploiement sur site est une manière d’y parvenir, mais la même architecture peut aussi résider dans une région cloud souveraine accréditée, une installation de colocation ou une enclave isolée — à condition que le plan de données, le plan d’identité et le plan d’exploitation relèvent de l’autorité juridique et opérationnelle du propriétaire des données.

Quelles sont les quatre couches de la pile ?

Le calcul (clusters GPU et hôtes CPU et de gestion associés), le stockage (corpus d’entraînement, checkpoints, embeddings, rétention, souvent unifiés par un stockage objet compatible S3 avec hiérarchisation multi-température), le réseau (InfiniBand ou RoCE est-ouest au sein du cluster, nord-sud vers le plan de données, chemins GPU-direct pour un débit soutenu) et l’exploitation (orchestration, identité et politiques, observabilité, audit et assurance).

Pourquoi la couche de stockage compte-t-elle autant dans une architecture IA privée ?

Le stockage survit à toutes les autres couches. Les générations de calcul se renouvellent tous les 18 à 24 mois, le réseau tous les trois à cinq ans, l’outillage d’exploitation en continu. Le stockage conserve une décennie de données d’entraînement, de checkpoints, d’embeddings et de rétention. S’il ne peut soutenir le débit d’entraînement, appliquer la résidence, prouver l’immuabilité ou hiérarchiser entre supports sous un même modèle, le reste de la pile doit compenser par davantage de silos, d’effectifs et de constats d’audit.

Quelle est la place de Scality ADI dans l’architecture ?

Scality ADI est le socle de stockage de la pile. Elle fournit un débit GPU-direct grâce à S3 over RDMA, un cycle de vie multi-température entre flash, disque, bande et archivage adjacent au cloud sous un espace de noms unique, la cyber-résilience CORE5 au niveau du plan de données et une inspectabilité open-code pour les environnements souverains et réglementés. Elle se déploie sur site, dans une région souveraine, dans un cloud privé ou dans une enclave isolée, sous un même modèle opérationnel.

Pour aller plus loin

• Guide des modèles de déploiement d’IA privée en entreprise
• Vue d’ensemble de l’architecture d’infrastructure cloud IA
• Composants et conception de l’infrastructure de calcul IA
• Composants clés de l’infrastructure de données IA (en anglais)
• Stockage hiérarchisé pour l’IA : performances évolutives et maîtrise des coûts (en anglais)
• Stratégie de données cloud hybride pour les charges IA
• Stockage cloud souverain
• Stratégie de rapatriement depuis le cloud (en anglais)
• Infrastructure de stockage pour l’IA agentique
• Souveraineté des données ou cloud public