5 Depuis deux ans, le débat sur l’infrastructure d’IA porte sur l’essor des grands modèles de langage (LLM) grand public proposés par plusieurs fournisseurs connus, dont OpenAI, Anthropic, Meta et d’autres. Cet essor a créé une demande massive de ressources GPU pour l’entraînement et l’inférence des modèles, chez les hyperscalers comme chez une nouvelle génération de fournisseurs neocloud. Mais les entreprises qui exécutent déjà l’IA en production découvrent que sa mise à l’échelle dépend de la résolution d’un autre défi. Ce n’est pas seulement un problème de calcul. L’IA en production est un problème de pipeline de données. Une nouvelle étude indépendante de Freeform Dynamics, fondée sur une enquête menée auprès de 504 dirigeants IT et data, montre comment les entreprises qui exploitent déjà des environnements d’IA privée, parfois appelée IA souveraine, construisent réellement leur infrastructure pour les charges de travail de production. Les répondants viennent d’entreprises de taille moyenne à grande dans des secteurs variés : services financiers, industrie, santé et sciences de la vie, services professionnels, secteur public, médias et divertissement. La plupart représentent des organisations de plus de 1 000 salariés aux États-Unis, au Royaume-Uni, en France et en Allemagne. Retrouvez l’ensemble des résultats dans le rapport d’enquête de Freeform Dynamics Storage Infrastructure for Enterprise AI: Lessons from Seasoned Adopters on Building Scalable Sovereign Environments (en anglais). Ce que montre l’étude Dans les entreprises qui exécutent déjà l’IA en production, trois tendances nettes se dégagent. Les contraintes de l’infrastructure d’IA vont au-delà des GPU. Les performances du stockage et les déplacements de données deviennent tout aussi essentiels pour maintenir le débit des pipelines de production. Le stockage objet est déjà largement utilisé dans les environnements d’IA. L’enquête confirme une tendance dont le secteur parle depuis un an : le stockage objet sert de couche fondamentale dans de nombreuses architectures de production. Les modèles d’infrastructure hiérarchisés deviennent la norme opérationnelle, en combinant un stockage rapide pour les charges actives et des couches de capacité évolutives pour les données d’IA persistantes. Ensemble, ces résultats mènent à une conclusion plus large : réussir la mise à l’échelle de l’IA dépend de l’efficacité avec laquelle les entreprises gèrent et exploitent les données tout au long du cycle de vie de l’IA. L’infrastructure, et pas seulement les GPU, devient la contrainte Le discours public sur l’infrastructure d’IA reste très centré sur la pénurie de ressources de calcul, mais les entreprises qui exécutent déjà des charges d’IA font état d’un ensemble plus large de pressions sur leur infrastructure. Selon l’étude de Freeform Dynamics : 57 % donnent la priorité aux performances du stockage pour éviter les goulets d’étranglement de l’IA 54 % citent la disponibilité du calcul ou des GPU 52 % citent la bande passante réseau Ces résultats confirment une réalité émergente. À mesure que les charges de travail d’IA se développent, les équipes d’infrastructure doivent gérer des déplacements de données continus entre les pipelines d’entraînement, d’inférence et opérationnels. Les GPU restent indispensables, mais les environnements d’IA en production dépendent aussi de systèmes capables de préparer, traiter, gouverner, protéger et réutiliser les données tout au long du cycle de vie. Pour les équipes d’infrastructure, le débat ne porte donc plus seulement sur la capacité de calcul, mais sur l’architecture de l’ensemble du pipeline de données. Un résultat clé : le stockage objet est fondamental pour l’infrastructure d’IA L’un des signaux les plus nets de l’étude de Freeform Dynamics est la présence systématique du stockage objet dans les environnements d’IA en production. À mesure que les organisations passent de l’expérimentation à la production, les décisions d’infrastructure portent de plus en plus sur la façon dont les données sont stockées, préparées et réutilisées tout au long du pipeline. Les résultats de l’enquête confirment ce que de nombreuses équipes d’infrastructure ont déjà constaté sur le terrain. Parmi les entreprises qui exécutent une IA privée en production : 91 % font un usage significatif du stockage objet 44 % l’utilisent de façon intensive 47 % l’utilisent beaucoup Le stockage objet affiche le taux d’adoption global le plus élevé parmi les architectures de stockage, légèrement devant le stockage fichier et loin devant le stockage bloc. Point important : l’enquête ne suggère pas que le stockage objet remplace les autres types de stockage. Il sert plutôt de couche fondamentale dans des architectures hiérarchisées, où différentes technologies de stockage répondent à différentes exigences de performances et de charges de travail. Les systèmes de fichiers et autres niveaux rapides continuent de servir les charges actives, tandis que le stockage objet fournit une capacité évolutive pour les données persistantes et réutilisables tout au long du cycle de vie de l’IA. Les architectures hiérarchisées sont la réalité opérationnelle L’enquête montre aussi comment les entreprises font évoluer leur infrastructure pour prendre en charge l’IA. Beaucoup d’organisations ne construisent pas des environnements entièrement nouveaux. Elles adaptent et étendent leurs systèmes existants, en ajoutant de nouveaux composants là où c’est nécessaire. Les résultats de l’enquête montrent que : 44 % adaptent leur infrastructure de calcul existante pour l’IA 42 % adaptent leur infrastructure de stockage existante 40 % construisent des environnements de calcul dédiés 39 % construisent une infrastructure de stockage dédiée Ce mélange reflète l’évolution habituelle des environnements d’IA en production. Plutôt que de partir de zéro, de nombreuses organisations ajoutent des charges d’IA à leur infrastructure existante tout en construisant des composants spécialisés pour passer à l’échelle. Concrètement, cela donne des architectures hiérarchisées qui combinent : Des niveaux de stockage rapides pour les charges actives d’entraînement et d’inférence Des niveaux de stockage objet évolutifs pour les jeux de données persistants et les entrées de modèles réutilisables Ces architectures privilégient la simplicité, la prévisibilité opérationnelle et l’évolutivité à long terme. L’IA en production exige de nouvelles capacités de données À mesure que ces environnements mûrissent, les entreprises rencontrent de nouveaux défis opérationnels liés à la gestion des données. Dans l’étude : 40 % citent la gestion des métadonnées à grande échelle comme un risque de goulet d’étranglement 38 % font état de difficultés à prendre en charge des charges de travail mixtes Ces résultats soulignent la complexité opérationnelle des pipelines d’IA modernes. Les pipelines d’entraînement, les charges d’inférence, l’ingestion des données et la gouvernance imposent chacun des exigences différentes à l’infrastructure. Les environnements d’IA réussis doivent prendre en charge : une ingestion de données à haut débit pour l’entraînement un accès à faible latence pour l’inférence la gouvernance et la gestion du cycle de vie des actifs de données réutilisables Les systèmes d’IA ne fonctionnent pas comme des tâches de calcul isolées. Ils fonctionnent comme des pipelines de données qui ingèrent, traitent et réutilisent les données en continu tout au long du cycle de vie. Une vision plateforme de données de l’infrastructure d’IA Les entreprises représentées dans cette étude exécutent déjà l’IA dans de vrais environnements de production, et leur expérience mène à une conclusion claire : réussir la mise à l’échelle de l’IA exige une infrastructure conçue autour du pipeline de données, et pas seulement de la couche de calcul. À mesure que l’IA est de plus en plus pilotée par l’inférence et intégrée aux systèmes opérationnels, les organisations privilégient les plateformes capables de garder les données près du calcul, de les gérer tout au long du cycle de vie et d’offrir des performances prévisibles à grande échelle. C’est pourquoi de nombreux environnements d’IA en production convergent vers des architectures simples et hiérarchisées, bâties sur des fondations de données orientées objet. Les données définissent le problème.La plateforme détermine qui passe à l’échelle. Pour découvrir l’ensemble des résultats et des enseignements d’architecture, téléchargez le rapport d’enquête de Freeform Dynamics : Storage Infrastructure for Enterprise AI: Lessons from Seasoned Adopters on Building Scalable Sovereign Environments (en anglais).
