3 Introduction Les charges de travail d’intelligence artificielle changent la façon dont l’infrastructure est conçue et déployée. Entraîner de grands modèles, exécuter des pipelines d’inférence à grande échelle et gérer des environnements à forte intensité de données exigent une infrastructure capable de traiter d’immenses jeux de données tout en offrant un calcul hautes performances. Ces exigences ont fait émerger une nouvelle catégorie de fournisseurs d’infrastructure : les neoclouds. Les fournisseurs neocloud se concentrent sur des environnements d’infrastructure optimisés pour les charges d’IA. Leurs plateformes sont généralement conçues autour de grands clusters de GPU, de pipelines de données à haut débit et de systèmes de stockage capables de prendre en charge de grands jeux de données et des environnements de calcul distribués. Pour les organisations qui exploitent de grands environnements de données ou construisent des plateformes pilotées par l’IA, comprendre ce qu’est un neocloud, et sa place dans l’écosystème d’infrastructure, devient de plus en plus pertinent. Qu’est-ce qu’un neocloud ? Un neocloud est un fournisseur d’infrastructure cloud conçu spécifiquement pour prendre en charge les charges d’IA, le calcul GPU et les environnements de données hautes performances. Contrairement aux fournisseurs cloud généralistes, qui prennent en charge une grande variété d’applications d’entreprise, les fournisseurs neocloud se concentrent sur une infrastructure optimisée pour : le calcul accéléré par GPU l’entraînement de modèles d’IA à grande échelle un stockage à haut débit pour les grands jeux de données un réseau à haut débit entre les nœuds de calcul des pipelines de machine learning distribués La caractéristique déterminante d’une plateforme neocloud est sa conception d’infrastructure orientée IA. Les couches de calcul, de stockage et de réseau sont conçues pour le traitement de données à grande échelle et les charges intensives en GPU. Les plateformes neocloud types offrent : de grands clusters de GPU pour l’entraînement des modèles des environnements de stockage distribué hautes performances une infrastructure optimisée pour les grands jeux de données des environnements de calcul multirégions conçus pour les charges de travail d’IA De nombreux fournisseurs neocloud se concentrent aussi sur la mise à disposition de grands volumes de capacité GPU, pour aider les organisations à accéder aux ressources de calcul qu’exigent les environnements de machine learning modernes. Pourquoi les fournisseurs neocloud émergent Les plateformes cloud traditionnelles ont été conçues pour les charges de travail générales des entreprises, comme : les applications web les machines virtuelles les logiciels d’entreprise les bases de données les microservices Les charges d’IA introduisent des exigences différentes. L’entraînement de grands modèles de machine learning exige : des milliers de GPU fonctionnant en parallèle des déplacements de données continus entre les environnements de stockage et de calcul un réseau extrêmement rapide entre les nœuds des systèmes de stockage à haut débit capables d’alimenter les clusters de GPU en grands jeux de données Ces charges peuvent mettre à rude épreuve des environnements d’infrastructure conçus à l’origine pour l’hébergement d’applications générales. Les fournisseurs neocloud sont apparus pour combler cet écart, en concevant des environnements d’infrastructure dédiés à l’IA et au calcul haute performance. Plusieurs tendances ont accéléré le développement des plateformes neocloud. La croissance de la demande en infrastructure d’IA L’essor rapide de l’IA générative et des grands modèles de langage a fortement accru la demande en infrastructure GPU. Les organisations qui construisent des plateformes d’IA ont souvent besoin de grands clusters de GPU, sans forcément vouloir les exploiter en interne. Les fournisseurs neocloud répondent à cette demande avec une infrastructure conçue pour les charges d’IA à grande échelle. Les contraintes d’approvisionnement en GPU L’accès aux GPU est devenu une contrainte stratégique pour de nombreuses organisations qui développent des produits d’IA. Les fournisseurs neocloud se spécialisent souvent dans la constitution de grands stocks de GPU, qu’ils mettent à disposition via des plateformes d’infrastructure cloud. Des besoins d’infrastructure spécialisés Les environnements d’IA tirent parti de conceptions d’infrastructure différentes des architectures cloud traditionnelles. En se concentrant exclusivement sur les charges d’IA, les fournisseurs neocloud peuvent optimiser leur pile d’infrastructure pour ces besoins. En quoi les neoclouds diffèrent des clouds hyperscale Les fournisseurs cloud hyperscale proposent un large éventail de services d’infrastructure : calcul, stockage, bases de données, plateformes d’analytique et environnements de développement d’applications. Les fournisseurs neocloud se concentrent généralement sur un ensemble plus restreint de capacités d’infrastructure, conçues spécifiquement pour les charges d’IA. Domaine d’infrastructureCloud hyperscaleNeocloudPrioritéservices cloud d’entreprise généralistesInfrastructure d’IA et calcul GPUCalcullarge choix de types de VMclusters de GPU optimisés pour l’entraînementStockagelarge portefeuille de stockagestockage optimisé pour les grands jeux de données d’IARéseauréseau cloud standardréseau à haut débit pour clusters de GPUCharges de travail ciblescharges de travail d’entreprise variéesIA, HPC et traitement de données à grande échelle De nombreuses organisations utilisent les deux modèles. Les environnements hyperscale peuvent héberger les plateformes applicatives et les services d’entreprise, tandis que l’infrastructure neocloud prend en charge le développement de modèles d’IA ou les environnements d’entraînement à grande échelle. Les composants d’infrastructure essentiels des environnements neocloud Les plateformes neocloud combinent généralement plusieurs éléments d’infrastructure conçus pour le traitement de données à grande échelle et le calcul GPU. Les clusters de calcul GPU Les clusters de GPU sont le socle de la plupart des plateformes neocloud. Ils permettent des environnements d’entraînement distribué dans lesquels de grands modèles de machine learning sont entraînés sur des milliers de GPU. Les composants d’infrastructure types comprennent : de grands pools de GPU, comme les NVIDIA A100 ou H100 des interconnexions GPU à haut débit des clusters de calcul à grande échelle conçus pour les charges parallèles Une communication efficace entre les nœuds GPU est essentielle pour un entraînement de modèles évolutif. Un stockage hautes performances pour les jeux de données d’IA Les environnements d’IA génèrent et traitent des jeux de données extrêmement volumineux. Les systèmes de stockage doivent offrir un débit très élevé tout en permettant un accès parallèle depuis de grands clusters de calcul. Les exigences courantes comprennent : un débit de lecture et d’écriture élevé un accès parallèle aux données pour l’entraînement distribué le stockage de jeux de données à grande échelle un stockage durable pour les artefacts d’entraînement et les résultats des modèles Les plateformes de stockage objet sont souvent utilisées comme couche de stockage persistante des environnements d’IA, car elles peuvent évoluer pour prendre en charge de grands data lakes et des flux d’entraînement distribués. Un réseau à haut débit Les charges d’IA à grande échelle dépendent d’une communication efficace entre les nœuds de calcul. Les environnements neocloud déploient généralement des architectures réseau hautes performances conçues pour : une communication à faible latence entre les nœuds une bande passante élevée pour les charges distribuées une mise à l’échelle efficace des clusters de GPU Ces capacités réseau permettent aux charges d’entraînement de s’étendre sur de grands environnements d’infrastructure. Une infrastructure multirégion De nombreux fournisseurs neocloud exploitent des environnements d’infrastructure dans plusieurs régions. Les déploiements multirégions permettent aux organisations : d’étendre les charges d’entraînement à de plus grands pools de calcul d’accompagner des équipes de développement réparties géographiquement de maintenir la résilience entre les environnements d’infrastructure Ces capacités peuvent être particulièrement importantes pour les organisations qui construisent de grandes plateformes d’IA. Les cas d’usage courants des neoclouds Les plateformes neocloud sont couramment utilisées pour des charges qui exigent une infrastructure GPU à grande échelle et des environnements de données hautes performances. L’entraînement de modèles de fondation Les organisations qui développent de grands modèles de langage ou d’autres modèles de fondation s’appuient sur de grands clusters de GPU pour les entraîner. L’infrastructure neocloud fournit des environnements capables de prendre en charge l’entraînement distribué sur des milliers de GPU. Le développement de produits d’IA Les entreprises qui construisent des produits pilotés par l’IA s’appuient souvent sur une infrastructure GPU pour l’entraînement comme pour l’inférence. Les plateformes neocloud leur permettent de faire évoluer leurs environnements de calcul à mesure que les modèles évoluent et que les charges augmentent. Les environnements de calcul haute performance De nombreuses charges HPC tirent parti de l’accélération GPU. Parmi les secteurs qui s’appuient souvent sur des environnements HPC : les sciences de la vie la recherche en génomique l’ingénierie aérospatiale les institutions de recherche scientifique Ces environnements exigent souvent une infrastructure capable de traiter de grands jeux de données et des charges de calcul complexes. Les environnements d’analytique à forte intensité de données Les environnements d’analytique à grande échelle peuvent aussi s’appuyer sur une infrastructure GPU pour traiter des jeux de données complexes. Les plateformes neocloud peuvent prendre en charge des pipelines de données qui combinent calcul GPU et systèmes de stockage à grande échelle. L’importance du stockage dans l’infrastructure d’IA Si les ressources de calcul GPU retiennent souvent toute l’attention dans les discussions sur l’infrastructure d’IA, les systèmes de stockage jouent un rôle essentiel dans les flux de machine learning à grande échelle. Les pipelines d’entraînement dépendent d’un accès efficace à de grands jeux de données. Ces flux impliquent généralement : l’ingestion de grands volumes de données la fourniture des données d’entraînement aux clusters de GPU le stockage des points de contrôle intermédiaires des modèles la gestion des artefacts et des résultats des modèles Les systèmes de stockage doivent prendre en charge ces processus tout en préservant la durabilité (en anglais) et l’évolutivité. Les environnements de stockage objet servent couramment de socle aux data lakes d’IA, car ils permettent de stocker de grands jeux de données tout en offrant un accès distribué aux clusters de calcul. Pour les organisations qui construisent de grandes plateformes d’IA, l’architecture de stockage devient un élément central de la conception globale de l’infrastructure. Les défis d’infrastructure que les fournisseurs neocloud doivent relever Exploiter des environnements d’infrastructure d’IA à grande échelle pose plusieurs défis techniques. L’efficacité des déplacements de données Les pipelines d’entraînement d’IA exigent des déplacements constants de grands jeux de données entre les systèmes de stockage et les clusters de calcul. Des déplacements inefficaces peuvent ralentir l’entraînement et réduire l’efficacité globale de l’infrastructure. L’exploitation de l’infrastructure à grande échelle Gérer de grands clusters de GPU exige une conception d’infrastructure soignée : alimentation électrique, refroidissement, réseau et orchestration des clusters. Durabilité des données et cyber-résilience Les jeux de données d’entraînement et les artefacts de modèles représentent souvent une propriété intellectuelle précieuse. Les environnements d’infrastructure doivent offrir de solides capacités de protection des données, notamment la durabilité et la protection contre les cybermenaces comme les ransomwares. La rentabilité de l’infrastructure Les ressources GPU coûtent cher, et des pipelines de données inefficaces peuvent laisser des ressources de calcul inactives. Optimiser le stockage et les schémas d’accès aux données peut améliorer l’efficacité globale de l’infrastructure. Pourquoi les plateformes neocloud prennent de l’importance pour l’infrastructure d’entreprise Les fournisseurs neocloud représentent une catégorie émergente de plateformes d’infrastructure conçues pour l’IA et le traitement de données à grande échelle. À mesure que les organisations développent leur usage du machine learning et de l’IA, la demande d’environnements d’infrastructure optimisés pour ces charges devrait continuer de croître. Les plateformes neocloud répondent à plusieurs besoins liés à l’infrastructure d’IA, notamment : l’accès à de grands clusters de GPU des environnements d’infrastructure optimisés pour les charges d’IA distribuées des environnements de stockage de données évolutifs un réseau hautes performances entre les nœuds de calcul Pour de nombreuses entreprises, ces environnements complètent des stratégies d’infrastructure existantes qui incluent déjà des datacenters traditionnels et des plateformes cloud hyperscale. En résumé Un neocloud est un fournisseur d’infrastructure cloud spécialisé, conçu pour prendre en charge les charges d’IA, le calcul GPU et les environnements de données hautes performances. En se concentrant sur les clusters de GPU, le stockage à haut débit et une infrastructure conçue pour les charges distribuées, les plateformes neocloud permettent aux organisations d’entraîner de grands modèles, d’exploiter des plateformes d’IA et de gérer des environnements de données à grande échelle. À mesure que l’adoption de l’IA se généralise dans tous les secteurs (services financiers, institutions de recherche, sciences de la vie, fournisseurs d’infrastructure), les plateformes d’infrastructure spécialisées devraient occuper une place croissante dans l’architecture des entreprises.
