3 Le stockage d’un neocloud est la partie d’un cloud d’IA qui détermine discrètement si la partie coûteuse, les GPU, est rentable. Un neocloud loue de la capacité GPU pour l’entraînement et l’inférence, et tout son modèle économique repose sur l’occupation maximale de ces GPU. La vérité dérangeante, c’est que des GPU inactifs relèvent généralement d’un problème de stockage, et non de calcul : les puces attendent des données qui n’arrivent pas assez vite. La couche de stockage est donc une décision de conception de premier plan pour quiconque construit ou fournit un cloud GPU, et non une case à cocher une fois le calcul choisi. Cet article explique pourquoi le stockage conditionne le taux d’utilisation et quelles propriétés le stockage d’un neocloud doit réellement posséder. Si la catégorie des neoclouds est nouvelle pour vous, l’article qu’est-ce qu’un neocloud fournit le contexte. Cet article part de ce contexte et s’attaque directement au stockage. Pourquoi le stockage détermine le taux d’utilisation des GPU Un GPU moderne peut traiter des données d’entraînement extraordinairement vite, ce qui signifie qu’il n’est productif que dans la mesure où le pipeline qui l’alimente suit le rythme. Lorsque de nombreux GPU s’entraînent en parallèle, ils exigent collectivement un débit de lecture énorme et soutenu, et toute partie du chemin qui ne suit pas laisse du silicium inactif. Comme les accélérateurs de génération actuelle (NVIDIA H100 et H200, ainsi que les plus récents B200 et GB200, en 2026) représentent un coût d’investissement et de location important, même quelques points de pourcentage d’inactivité coûtent cher à l’échelle d’un cluster. Il en découle une règle de conception simple pour les neoclouds : dimensionner le stockage pour le débit afin de maintenir le calcul occupé, et pas seulement pour la capacité nécessaire à contenir les données. C’est pourquoi la question du stockage pour les clouds d’IA est en réalité une question de débit. Les arbitrages entre capacité, bande passante et concurrence sont détaillés dans le débit du stockage objet. La place du stockage dans la pile d’un cloud d’IA Un neocloud organise généralement son stockage en couches. Un niveau durable et évolutif contient les jeux de données bruts, les données d’entraînement traitées ainsi que les checkpoints et artefacts de modèles ; il repose souvent sur le stockage objet, car celui-ci évolue jusqu’à plusieurs pétaoctets et expose une interface standard. Devant lui, un niveau plus rapide (un système de fichiers parallèle ou un cache flash) met en attente les données que les GPU lisent activement, afin que le niveau durable n’ait pas à servir chaque accès aléatoire à pleine vitesse. Tout l’art consiste à déplacer les données entre ces niveaux pour que le niveau rapide contienne toujours ce dont les GPU auront besoin ensuite, tandis que le niveau durable reste le système de référence. L’architecture globale est décrite dans la présentation de l’architecture d’infrastructure cloud pour l’IA et, pour la vue des installations, dans qu’est-ce qu’un datacenter d’IA. Les propriétés de stockage dont un cloud d’IA a besoin Quelques propriétés distinguent un stockage qui alimente correctement les GPU d’un stockage qui les affame. Le débit agrégé. Le système doit soutenir une bande passante de lecture très élevée sur l’ensemble du cluster, et pas seulement dans un benchmark à flux unique. Ce qui compte, c’est le total que l’infrastructure peut fournir lorsque des milliers de GPU lisent en même temps. L’accès parallèle. L’entraînement distribué lit les données depuis de nombreux workers simultanément ; le stockage doit donc servir une concurrence massive sans goulet d’étranglement central. Le stockage objet et les systèmes de fichiers parallèles sont conçus précisément pour cette distribution. L’échelle. Les corpus d’entraînement et les historiques de checkpoints atteignent de nombreux pétaoctets ; le niveau durable doit donc évoluer horizontalement sans imposer de refonte de l’architecture à mesure que les jeux de données grossissent. La durabilité. Les jeux de données et les modèles entraînés sont une propriété intellectuelle précieuse ; le niveau durable a donc besoin d’une protection solide (codage à effacement, options multisites) et d’une résilience face aux pannes et aux ransomwares. Le socle de stockage objet pour les données d’IA est traité dans le stockage S3 pour les charges de travail d’IA. Le chemin des données : alimenter directement les GPU Au-delà de la bande passante brute, le chemin emprunté par les données jusqu’à la mémoire GPU compte. Traditionnellement, les données lues depuis le stockage transitent par un tampon intermédiaire (bounce buffer) dans la mémoire système du CPU avant d’atteindre le GPU, ce qui ajoute de la latence et consomme des cycles CPU qui pourraient servir à autre chose. NVIDIA Magnum IO GPUDirect Storage répond à ce problème en créant un chemin d’accès mémoire direct entre le stockage et la mémoire GPU, qui évite ce tampon intermédiaire. Pour un entraînement gourmand en données, cela réduit la latence et libère de la capacité CPU, ce qui aide à maintenir le pipeline plein. Le fonctionnement et les cas où ce chemin direct est utile sont détaillés dans GPU Direct Storage. Les checkpoints et le côté écriture Les lectures concentrent l’essentiel de l’attention, mais le côté écriture peut tout aussi bien bloquer une exécution. Les longs jobs d’entraînement enregistrent périodiquement des checkpoints, c’est-à-dire des instantanés de l’état du modèle utilisés pour reprendre après une panne et évaluer la progression. Les checkpoints sont volumineux et arrivent par rafales : un grand modèle peut écrire une quantité énorme d’état en peu de temps, et pendant ce temps, les GPU peuvent rester inactifs en attendant la fin de l’écriture. Un stockage incapable d’absorber ces rafales d’écriture transforme le checkpointing en taxe sur le taux d’utilisation. La réponse habituelle consiste à écrire rapidement les checkpoints sur un niveau rapide, puis à les transférer en arrière-plan vers le niveau objet durable, afin que la boucle d’entraînement reprenne au plus vite. La conception de ce chemin d’écriture est aussi importante que celle du chemin de lecture. Multi-location et coûts dans un cloud GPU Un neocloud reste un fournisseur de services : son stockage soulève donc les mêmes questions de multi-location et d’économie que toute plateforme partagée, avec une dimension de performance supplémentaire. Plusieurs clients partagent le cluster ; leurs données et leur débit doivent donc tous deux être isolés, ce qui est plus difficile que la seule isolation des données. L’espace de conception propre à l’infrastructure d’IA partagée est traité dans le guide de conception d’une infrastructure d’IA multi-locataire. Côté coûts, l’efficacité du niveau durable (codage à effacement, densité) détermine le coût de conservation de pétaoctets de données d’entraînement et de checkpoints, tandis que le coût du niveau rapide ne se justifie que dans la mesure où il améliore le taux d’utilisation des GPU. De nombreux neoclouds combinent aussi des capacités sur site et dans le cloud, un modèle abordé dans la stratégie de données en cloud hybride pour les charges de travail d’IA. Pour les fournisseurs qui servent des clients réglementés ou soumis à des exigences de souveraineté, la vue de l’infrastructure privée se trouve dans l’architecture d’infrastructure d’IA privée. Check-list : le stockage d’un neocloud Dimensionner le stockage pour un débit de lecture agrégé soutenu sur l’ensemble du cluster, et non pour un benchmark à flux unique. S’assurer que l’accès parallèle peut servir des milliers de lecteurs simultanés sans goulet d’étranglement central. Superposer un niveau objet durable pour les jeux de données et les checkpoints, derrière un niveau rapide de mise en attente pour les lectures actives. Évaluer un chemin de données direct vers les GPU (comme GPUDirect Storage) pour réduire la latence et la charge CPU. Concevoir le chemin d’écriture des checkpoints pour absorber de grosses rafales sans bloquer la boucle d’entraînement. Protéger le niveau durable par codage à effacement et assurer sa résilience face aux pannes et aux ransomwares. Isoler à la fois les données et les performances de chaque locataire sur l’infrastructure GPU partagée. Optimiser le coût par téraoctet du niveau durable, et justifier les dépenses du niveau rapide par le taux d’utilisation GPU qu’il permet de regagner. Synthèse Pour un neocloud, le stockage n’est pas un second rôle ; c’est le régulateur du chiffre d’affaires que les GPU peuvent générer. Le modèle gagnant associe un niveau objet durable et économique pour les jeux de données et les checkpoints, un niveau rapide qui met en attente les données actives devant lui, un chemin de données qui amène les octets jusqu’à la mémoire GPU avec un minimum de surcharge et un chemin d’écriture qui absorbe les rafales de checkpoints, le tout reposant sur une multi-location qui isole les performances autant que les données. La demande en neoclouds devrait continuer de croître rapidement d’ici la fin de la décennie, et ce sont les fournisseurs qui traitent le stockage comme un problème de taux d’utilisation plutôt que de capacité qui garderont leurs GPU, et leurs marges, au travail. Questions fréquentes Pourquoi le stockage compte-t-il autant pour un cloud GPU ? Les GPU sont coûteux et traitent les données très vite ; ils ne sont donc productifs que si les données arrivent assez rapidement. Des GPU inactifs sont généralement dus à un stockage incapable de soutenir le débit qu’exige un job d’entraînement parallèle. Comme l’inactivité coûte cher sur un grand cluster, le débit du stockage détermine directement le taux d’utilisation, et donc le chiffre d’affaires. Qu’est-ce que GPUDirect Storage ? GPUDirect Storage, qui fait partie de NVIDIA Magnum IO, crée un chemin d’accès mémoire direct entre le stockage et la mémoire GPU, en contournant le tampon intermédiaire du CPU par lequel transitent traditionnellement les données. Cela réduit la latence et libère des cycles CPU, ce qui aide à maintenir pleins les pipelines d’entraînement gourmands en données. Pourquoi utiliser le stockage objet dans les clouds d’IA si un système de fichiers rapide est plus performant ? Ils jouent des rôles différents. Le stockage objet fournit le niveau durable, à l’échelle du pétaoctet, pour les jeux de données, les checkpoints et les artefacts de modèles, avec un faible coût par téraoctet et une interface standard. Un niveau plus rapide, comme un système de fichiers parallèle ou un cache flash, met en attente les données que les GPU lisent activement. La plupart des neoclouds utilisent les deux et hiérarchisent les données entre eux. Comment les checkpoints influencent-ils la conception du stockage ? Les checkpoints sont des écritures volumineuses et en rafales qui enregistrent l’état du modèle pendant l’entraînement. Si le stockage ne peut pas absorber la rafale, les GPU restent inactifs en attendant la fin de l’écriture. Une approche courante consiste à écrire rapidement les checkpoints sur un niveau rapide puis à les transférer en arrière-plan vers le niveau objet durable, afin que la boucle d’entraînement reprenne avec un délai minimal. Pour aller plus loin À lire également : le stockage S3 pour les charges de travail d’IA, GPU Direct Storage, le guide de conception d’une infrastructure d’IA multi-locataire et la page centrale, le stockage pour les fournisseurs de services (en anglais).
