2 L’architecture de stockage de la messagerie est l’un des plus anciens problèmes de stockage à grande échelle en informatique, et l’un des moins discutés. Opérateurs télécoms, fournisseurs d’accès à Internet, hébergeurs et plateformes de webmail stockent les boîtes aux lettres de millions d’utilisateurs, souvent pendant des décennies. Chaque boîte mêle de minuscules mises à jour de métadonnées et de nombreux petits messages immuables, avec une longue traîne de pièces jointes. La plupart des messages sont écrits une fois et rarement relus, et pourtant les utilisateurs s’attendent à ce qu’un message vieux de plusieurs années s’ouvre instantanément sur leur téléphone. Cet article explique comment les grandes plateformes de messagerie sont généralement construites, comment les formats et les systèmes de stockage ont évolué des disques locaux au NAS puis au stockage objet, et ce que les architectes doivent prendre en compte lorsqu’ils repensent la couche de stockage. Il s’adresse aux architectes de plateformes et aux ingénieurs messagerie des fournisseurs, mais les mêmes idées s’appliquent aux grandes entreprises qui exploitent leur propre messagerie. Les composants d’une plateforme de messagerie Une grande plateforme de messagerie se divise généralement en couches : Des serveurs frontaux et proxy qui acceptent les connexions IMAP, POP3 et webmail et orientent chaque utilisateur vers le bon serveur. Des agents de transfert de courrier (MTA) qui reçoivent les messages entrants, appliquent le filtrage antispam et antimalware et transmettent les messages à la distribution. Des serveurs de distribution et d’accès qui écrivent les messages dans les boîtes aux lettres et les servent aux clients. Des index et métadonnées qui suivent les dossiers, les indicateurs, l’ordre des messages et les données de recherche de chaque boîte. Un stockage de messagerie qui contient les messages eux-mêmes. Des services d’annuaire et d’authentification qui associent les utilisateurs à leurs serveurs et à leurs identifiants. Les décisions d’architecture de stockage concernent surtout les trois dernières couches : la disposition des messages, l’emplacement des index et le système qui les héberge. Les formats de boîtes aux lettres La manière dont les messages sont écrits sur le stockage influe sur les performances, l’efficacité et la capacité de la plateforme à monter en charge. mbox Le format le plus ancien stocke un dossier entier dans un seul fichier, en y ajoutant chaque nouveau message. Il est simple mais peu performant à grande échelle, car supprimer ou modifier un message peut obliger à réécrire un gros fichier. Maildir Maildir stocke chaque message dans son propre fichier, les indicateurs étant encodés dans le nom du fichier. Robuste et facile à comprendre, il est devenu la norme de nombreuses grandes plateformes sur NAS. Son inconvénient : un très grand nombre de petits fichiers, qui sollicite fortement les métadonnées du système de fichiers et les outils de sauvegarde à mesure que les boîtes grossissent. Formats de boîtes propriétaires Certains serveurs de messagerie utilisent leurs propres formats de boîtes, avec des variantes simples (un message par fichier) et multiples (plusieurs messages par fichier) et des fichiers d’index séparés pour les métadonnées. Ils réduisent une partie de la charge liée à Maildir. Dispositions fondées sur les objets Les plugins de stockage objet stockent chaque message sous forme d’objet doté d’un identifiant unique et regroupent les données d’index en lots envoyés vers le stockage objet. Cela supprime la dépendance à un système de fichiers partagé. Les systèmes de stockage : du disque local au stockage objet Disques locaux et stockage en attachement direct Les premières grandes plateformes répartissaient les utilisateurs sur des serveurs individuels dotés d’un stockage local. C’est économique mais rigide : la panne d’un serveur met ses utilisateurs hors ligne, et rééquilibrer les utilisateurs implique de copier des boîtes d’un serveur à l’autre. NAS et systèmes de fichiers partagés La plupart des grandes plateformes de messagerie des deux dernières décennies sont passées au stockage en réseau (NAS) via NFS. N’importe quel serveur peut servir n’importe quel utilisateur, ce qui simplifie la bascule et la répartition de charge. Lorsque les plateformes ont atteint des milliards de fichiers, le NAS a apporté ses propres problèmes : limites de performance des métadonnées, difficultés de verrouillage de fichiers via NFS, baies scale-up coûteuses, sauvegardes volumineuses et lentes et migrations perturbantes à chaque renouvellement matériel. Stockage objet Le stockage objet évolue horizontalement sur de nombreux serveurs standard, gère des milliards d’objets et protège les données par codage à effacement ou réplication plutôt que par des baies RAID. Il convient bien à la messagerie : les messages sont immuables une fois délivrés, chacun peut constituer un seul objet et aucun verrouillage de système de fichiers partagé n’est nécessaire. L’activité liée aux index et aux métadonnées est prise en charge par les caches locaux et le regroupement en lots sur les serveurs de messagerie, le stockage objet conservant la copie durable. Les différences générales sont présentées dans stockage objet et stockage traditionnel. Index, cache et métadonnées Les clients de messagerie demandent en permanence des listes de dossiers, des indicateurs, des compteurs de messages non lus et des en-têtes. Les servir depuis le stockage à chaque requête serait lent. Les grandes plateformes s’appuient sur : Des index de boîtes aux lettres qui résument l’état de chaque dossier. Des caches locaux sur les serveurs de messagerie pour les index des utilisateurs actifs et les messages récemment consultés. Des bases de métadonnées qui associent utilisateurs, dossiers et objets, en particulier dans les architectures fondées sur les objets, où l’on évite de lister les objets pour des raisons de performance. Des index de recherche pour la recherche en texte intégral dans les boîtes. Le stockage doit gérer les petites écritures fréquentes liées aux mises à jour d’index autant que les lectures de messages plus volumineuses. Les architectures fondées sur les objets regroupent les mises à jour d’index en lots, ce qui transforme de nombreuses petites modifications en écritures moins nombreuses et plus grosses. Durabilité, disponibilité et multisite La messagerie est un service très visible. Les utilisateurs remarquent même les coupures brèves, et la perte de messages entraîne réclamations, résiliations et, pour les clients professionnels, litiges contractuels. Les architectures comprennent généralement : Une protection des données au sein de la plateforme de stockage, comme le codage à effacement (en anglais), qui résiste à plusieurs pannes de disques ou de nœuds. Plusieurs sites, avec des utilisateurs servis depuis un site et des données répliquées vers un autre, ou des architectures actif-actif où les utilisateurs peuvent être servis depuis l’un ou l’autre site. Des serveurs de messagerie sans état ou quasiment sans état, pour qu’un serveur en panne puisse être remplacé sans récupération de données. La sauvegarde et la restauration pour les suppressions faites par les utilisateurs et les incidents touchant toute la plateforme, sujet traité dans archivage ou sauvegarde des e-mails. Coût et efficacité Le stockage de messagerie croît régulièrement. Les utilisateurs suppriment rarement leurs messages, les quotas augmentent avec le temps et les pièces jointes grossissent. Les principaux facteurs de coût sont : La capacité brute et le surcoût de protection. Le nombre de fichiers ou d’objets, qui influe sur les performances des métadonnées et sur la sauvegarde. L’énergie, l’espace en baie et les cycles de renouvellement matériel. L’effort d’exploitation pour les rééquilibrages, les migrations et la sauvegarde. Déplacer les messages froids vers une capacité moins coûteuse, compresser les messages et dédupliquer les pièces jointes identiques permettent tous de réduire les coûts, mais chacun ajoute de la complexité. Les compromis entre niveaux sont abordés dans stockage chaud et stockage froid (en anglais). Monter en charge jusqu’à des millions de boîtes aux lettres C’est avec la croissance que les choix d’architecture sont mis à l’épreuve. Une plateforme bâtie sur du NAS scale-up se heurte à des plafonds de performance des métadonnées et de taille des baies, et chaque nouvelle baie crée un îlot de plus à gérer. Les architectures scale-out, où serveurs de messagerie et nœuds de stockage sont ajoutés progressivement, évitent ces plafonds. Notre article sur la montée en charge du stockage des boîtes aux lettres jusqu’à des millions d’utilisateurs détaille ces modèles. Sécurité et confidentialité La messagerie contient certaines des données personnelles les plus sensibles que détient un fournisseur. La conception du stockage doit couvrir le chiffrement au repos, le chiffrement en transit entre serveurs de messagerie et stockage, un accès administrateur strict avec journalisation d’audit et une localisation claire des données pour des raisons réglementaires comme le RGPD. De nombreux fournisseurs doivent aussi pouvoir supprimer entièrement les données d’un utilisateur à la fermeture de son compte, avec la preuve de cette suppression. Quand repenser la couche de stockage Les déclencheurs courants d’une refonte sont une plateforme NAS arrivant en fin de support, des fenêtres de sauvegarde devenues trop courtes, des problèmes de performance des métadonnées aux heures de pointe, le coût de la prochaine mise à niveau de baie ou une consolidation après des acquisitions. Déplacer une plateforme de messagerie en production est un projet important, mais il peut se faire progressivement, utilisateur par utilisateur. Check-list : évaluer l’architecture de stockage de la messagerie Quel format de boîte utilisez-vous, et combien de fichiers ou d’objets crée-t-il ? Tout serveur de messagerie peut-il servir tout utilisateur, ou les utilisateurs sont-ils rattachés à des îlots de stockage ? Où se trouvent les index et les caches, et comment sont-ils reconstruits après une panne ? Comment le stockage évolue-t-il : verticalement, par ajout de baies, ou horizontalement, par ajout de nœuds ? Comment les données sont-elles protégées au sein d’un site et entre sites ? Combien de temps prennent les sauvegardes et restaurations d’une grande population de boîtes ? Quel est le coût par téraoctet stocké, renouvellement et exploitation compris ? Les utilisateurs peuvent-ils être migrés progressivement vers un nouveau stockage sans interruption ? Le chiffrement, le contrôle d’accès et la suppression sont-ils vérifiables pour la conformité ? En résumé L’architecture de stockage de la messagerie est passée des disques locaux au NAS puis, de plus en plus, au stockage objet, sous l’effet de la croissance du nombre d’utilisateurs, de la taille des boîtes et du nombre de petits fichiers. La bonne conception garde les serveurs de messagerie aussi sans état que possible, s’appuie sur le cache local et les index regroupés pour la réactivité et place les données durables sur un stockage qui évolue horizontalement, se protège lui-même et peut être renouvelé sans déplacer chaque boîte. Pour les fournisseurs qui préparent leur prochaine plateforme, l’objectif est une conception capable de grandir encore une décennie sans nouvelle migration lourde. Questions fréquentes Quel stockage utilisent les grands fournisseurs de messagerie ? Historiquement, beaucoup de grandes plateformes utilisaient du NAS via NFS avec Maildir ou des formats similaires. De plus en plus, les fournisseurs utilisent le stockage objet avec des plugins de serveur de messagerie qui stockent les messages sous forme d’objets et mettent les index en cache localement. Maildir est-il encore utilisé ? Oui, il reste courant, surtout sur NAS. Son principe d’un fichier par message est robuste mais génère un très grand nombre de fichiers à grande échelle. Pourquoi passer la messagerie sur du stockage objet ? Le stockage objet évolue horizontalement jusqu’à des milliards d’objets, évite le verrouillage NFS et les limites de métadonnées, protège les données par codage à effacement et permet un renouvellement matériel progressif. Comment les plateformes gardent-elles IMAP réactif sur du stockage objet ? Elles mettent en cache localement les index et les messages récents sur les serveurs de messagerie, regroupent les mises à jour d’index en lots et utilisent des bases de métadonnées au lieu de lister les objets. De combien de stockage une grande plateforme de messagerie a-t-elle besoin ? Cela dépend du nombre d’utilisateurs, des quotas, de la taille moyenne des boîtes, de la conservation et du surcoût de protection. Les plateformes de plusieurs millions d’utilisateurs atteignent couramment l’échelle du pétaoctet. Pour aller plus loin Monter en charge le stockage des boîtes aux lettres Archivage ou sauvegarde des e-mails Migrer la messagerie du NAS vers le stockage objet Stockage des données télécoms (en anglais)
