5 Scality annonce aujourd’hui RING XP (en anglais) — une configuration spéciale de notre logiciel de stockage objet RING (en anglais), optimisée pour les exigences de performances extrêmes de l’entraînement et du fine-tuning des modèles d’IA. Dans ce domaine, les applications doivent accéder à des millions, voire des milliards (ou plus) de petits objets de quelques kilooctets (Ko) ou moins, tandis que le système prend aussi en charge très efficacement, et à haut débit, de gros objets (plusieurs Go). L’objectif clé de performance est ici d’obtenir des latences d’accès extrêmement faibles. Pour les charges de petits objets (4 Ko et moins), RING XP atteint des latences de lecture et d’écriture de quelques centaines de microsecondes — un niveau de performance jamais atteint jusqu’ici par aucune solution de stockage objet du marché, sur site comme dans le cloud. RING XP — la solution eXtreme Performance pour l’entraînement et le fine-tuning des modèles d’IA avec les applications d’IA. Comment nous avons obtenu ces résultats : le contexte des performances extrêmes de RING Pour situer ces résultats, les latences de l’ordre de la microseconde de RING XP peuvent être comparées à : Stockage objet cloud AWS S3 standard : Amazon S3 offre des latences comprises entre 10 et 50 millisecondes, non déterministes ni encadrées par un SLA, et souvent plus élevées. Amazon S3 Express One Zone (en anglais) : fin 2023, AWS a lancé une interface objet simplifiée (moins fonctionnelle et non compatible avec l’API S3). En échange de fonctionnalités réduites (modèle de bucket modifié, données dans une seule région/zone), elle promet des latences « de quelques millisecondes ». Systèmes de fichiers 100 % flash (pas du stockage objet) : les systèmes de fichiers 100 % flash sous forme d’appliances — souvent uniquement sur des serveurs propriétaires — peuvent offrir des latences de quelques centaines de microsecondes via des protocoles fichier (NFS). Si certains proposent des interfaces de stockage objet S3, ils ne publient pas de données de performances en mode objet et ajoutent presque certainement plus de latence via les protocoles objet que via les interfaces de système de fichiers. Seul RING XP peut évoluer jusqu’à l’exaoctet tout en offrant une latence de l’ordre de la microseconde. Les tests de performances de RING XP ont été réalisés dans l’environnement suivant : Version logicielle : RING/RING XP 9.3.0.8 Plateforme : Dell PowerEdge R7615, AMD EPYC™ 9124 3,0 GHz, disques PCI/NVMe mixed-use de 3,2 To Système d’exploitation : Rocky Linux 8.6 (version du noyau 4.18.0-372) Réseau : 1 x 100 GbE Générateur de test : client sur serveur Dell PowerEdge R7615 écrivant et lisant des objets de 4 Ko via l’API de stockage objet RING XP (requêtes PUT/GET) Les latences mesurées côté client incluent le temps d’envoi/réception de l’objet de 4 Ko Répartition des performances des requêtes objet RING XP Performances obtenues : dans cet environnement, RING XP a offert des latences d’accès constantes inférieures à 511 microsecondes (GET) et à 741 microsecondes (PUT) pour la majorité des requêtes API. Ce niveau de latence rend RING XP 10 à 20 fois plus rapide qu’Amazon S3 Express One Zone et 50 à 100 fois plus rapide qu’Amazon S3 standard, au niveau des systèmes de fichiers 100 % flash centrés sur le matériel (non software-defined), souvent plus coûteux. Nous affirmons donc que RING XP est la solution de stockage objet la plus rapide au monde, parfaitement adaptée aux besoins des applications d’IA pour l’entraînement et le fine-tuning des modèles. Détails techniques de RING XP RING XP repose sur la pile logicielle distribuée RING éprouvée de Scality. Il offre toutes les capacités de RING standard en matière d’évolutivité (sur plusieurs dimensions), de durabilité des données, de haute disponibilité, d’autoréparation et de gestion simplifiée des systèmes à grande échelle. Les briques de RING XP sont : Une API de stockage objet hautes performances Cible idéale pour les applications, outils et systèmes de fichiers d’IA via des API objet simples Espace de noms plat quasi illimité = simplification majeure par rapport aux systèmes de fichiers + adaptation naturelle aux applications d’IA conçues selon les principes cloud native La pile de stockage RING Système distribué scale-out sans point de défaillance unique, pour la haute disponibilité et la capacité à évoluer sur plusieurs dimensions Tous les avantages de RING pour une durabilité élevée des données (erasure coding, réplication, autoréparation, etc.) En option : des politiques de durabilité réduite pour des performances maximales sur les petits objets (idéal pour le stockage temporaire) Le logiciel RING déployé sur des plateformes serveur AMD EPYC™ 100 % flash NVMe Plateformes de référence de HPE (en anglais), Supermicro, Dell et Lenovo (en anglais) dès le lancement Sacrifier des fonctionnalités d’API au profit de performances extrêmes Les clients de Scality qui investissent dans des projets d’IA nous disent qu’ils sont engagés dans une course aux performances extrêmes — comme Amazon l’a montré au marché avec S3 Express One Zone — et que le bon compromis pour ces applications consiste à supprimer les fonctionnalités d’API superflues et la lourdeur au profit d’une faible latence et d’un débit élevé. Cela dit, nous pensons qu’Amazon n’est pas allé assez loin avec S3 Express One Zone, laissant ses utilisateurs face à un compromis insuffisant qui n’apporte pas assez de gains de performances. Avec RING XP, nous allons encore plus loin en simplifiant la pile objet et en supprimant les fonctionnalités généralement assurées à un niveau supérieur de la pile. Par exemple, tout système de gestion de data lake (ou data lakehouse) maintient une vue indexée de toutes les données du jeu de données. C’est pourquoi nous avons décidé de supprimer le listing des objets de RING XP, qui ferait double emploi. On peut voir RING XP comme un système de stockage de données distribué et infiniment évolutif, adressable via un réseau TCP/IP entièrement routé, flexible et efficace pour des objets allant de quelques centaines d’octets à plusieurs gigaoctets et au-delà. L’API de stockage objet RING XP est un connecteur REST simple et rapide, optimisé pour les charges d’IA exigeantes sur petits objets. Sans état, légère et très évolutive, elle offre une API flexible pour interagir avec RING XP via les commandes GET, PUT, HEAD et DELETE. Parce qu’elle est très légère et consomme peu de ressources, elle peut être déployée sur les serveurs d’applications, sur les nœuds de stockage eux-mêmes, voire sur des serveurs proxy dédiés dans un déploiement désagrégé. Le connecteur propose deux façons de stocker et de récupérer les données (par clé et par chemin), pour laisser aux développeurs le choix selon leurs modèles de conception. Pour les applications qui ont besoin de toute la richesse fonctionnelle de l’API Amazon S3 complète, RING en propose une implémentation complète. Pour des performances extrêmes, l’API de stockage objet RING XP est la bonne réponse aux exigences des applications d’IA. Une architecture brevetée Au cœur de RING XP, plusieurs innovations clés permettent des latences d’accès de l’ordre de la microseconde, toutes couvertes par le brevet fondamental de Scality (en anglais) : DHT à faible latence : notre architecture construit une table de hachage distribuée sur les nœuds de stockage, ce qui garantit des temps d’accès bornés sans base de données centrale et supprime les goulets d’étranglement typiques des architectures centralisées. Accès en O(1) : en fonctionnement normal (sans perturbation), les nœuds d’accès mettent en cache toute la topologie, ce qui permet un accès en O(1) à n’importe quel objet du système et contribue à la faible latence. Architecture shared-nothing : le système utilise une architecture sans ressources partagées tout en répartissant les données sur plusieurs serveurs et disques, ce qui maximise les performances en distribuant la charge et en évitant les points de défaillance uniques. Matérialisation tardive : cette technique permet aux opérations réseau de solliciter d’abord la mémoire ou le flash rapide des métadonnées pour les requêtes d’E/S, ce qui optimise la latence en épargnant aux disques de données toutes les opérations qui ne concernent pas les données. Avec du flash NVMe au niveau du stockage, l’accès aux données est encore accéléré, pour des temps de réponse de l’ordre de la microseconde sur toute la pile d’E/S. L’architecture atteint des latences de l’ordre de la microseconde de la pile logicielle jusqu’au support de stockage physique, comme le montre ce schéma : Des politiques de durabilité des données flexibles Comme indiqué plus haut, la pile RING est la base de RING XP : les utilisateurs de RING XP profitent donc de tous les atouts de RING en matière de durabilité et d’intégrité des données. Des niveaux de durabilité très élevés sont obtenus grâce à des politiques mettant en œuvre l’erasure coding (optimal pour les gros objets), la réplication (optimale pour les petits objets), des sommes de contrôle stockées avec chaque objet (avec détection active de la dégradation des bits) pour garantir l’intégrité, et l’autoréparation après des pannes de composants (disques ou serveurs de stockage entiers). Grâce à ces mécanismes, RING peut atteindre une durabilité des données de 14 neuf. Dans le calcul haute performance (HPC) classique, le stockage temporaire (scratch) désigne un stockage rapide destiné aux fichiers fréquemment écrasés ou supprimés (et qui peuvent parfois être recalculés rapidement si besoin). C’est aussi le cas dans les applications d’IA, par exemple pour les données intermédiaires lors de l’entraînement des modèles. Pour les petits objets d’IA, certaines applications peuvent sacrifier une durabilité très élevée au profit des meilleures performances possibles, c’est-à-dire des latences les plus faibles. RING XP peut donc être configuré selon différents modes, en fonction des exigences métier et de performances : Pour des exigences de durabilité (redondance) élevées : RING XP peut être configuré avec un schéma de protection dédié aux petits objets, fondé sur la réplication au niveau de l’objet. Il crée efficacement des répliques des données plutôt que de recourir à l’erasure coding, généralement mieux adapté aux gros objets. En option, pour le stockage temporaire : RING XP peut être configuré sans aucune redondance des données, afin de maximiser les performances sur les petits fichiers avec une latence minimale absolue. Licences et plateformes prises en charge pour RING XP L’objectif de Scality est de permettre à ses clients de tirer le meilleur parti de RING XP pour leurs applications d’IA hautes performances. C’est pourquoi nous avons conservé le même modèle de licence (en anglais) que pour RING. Les licences restent facturées au To utile, sous forme d’abonnement d’un, trois ou cinq ans, au même prix que les configurations RING standard. Il n’y a donc aucune différence de prix entre RING standard et RING XP. Les clients Scality RING ont un accès immédiat à RING XP et peuvent profiter pleinement de ses performances extrêmes en déployant le logiciel sur l’une des plateformes de référence AMD™ prises en charge de Lenovo, Supermicro (en anglais), Dell et HPE. Contactez Scality (en anglais) pour tous les détails sur les tarifs et les plateformes prises en charge.
