5 Das Training von Foundation Models stellt den Speicher vor nie dagewesene Herausforderungen. Ein großes Modell benötigt Petabytes an unstrukturiertem Text, Code und Daten – Hunderte Milliarden oder Billionen von Tokens. Diese Daten müssen sicher gespeichert, zuverlässig abrufbar, für die Reproduktion versioniert, gesichert und verschlüsselt sein. Die Daten selbst sind ein kritischer Wert. Konkurrierende Modelle nutzen ähnliche Quellen, doch die Zusammensetzung und Kuratierung der Daten beeinflusst die Performance unmittelbar. Für Unternehmen, die Foundation Models entwickeln, ist die Datenspeicherung eine Kernkompetenz – keine nachrangige Infrastruktur. Dieser Beitrag behandelt Datensatzmanagement, Integritätsprüfung, Backup-Strategien und eine Speicherarchitektur für monatelange Trainingsläufe ohne Engpässe. Umfang und Komplexität der Daten für Foundation Models Datensätze für Foundation Models unterscheiden sich grundlegend von operativen Daten. Data Warehouses in Unternehmen umfassen Hunderte Terabytes. Foundation Models werden mit Petabytes trainiert – 1.000 Terabyte und mehr. Viele hochmoderne Modelle nutzen 10–100 Petabyte. Dieser Umfang schafft Herausforderungen, für die klassischer Speicher nicht ausgelegt ist. Die Daten stammen aus vielfältigen Quellen: Internettexte, Bücher, Archive, Fachartikel, Repositorys. Wer Tausende Quellen kombiniert, hat es mit uneinheitlichen Formaten, Kodierungen und Qualitäten zu tun. Manche Quellen sind hochwertig, andere verrauscht. Vieles enthält personenbezogene Informationen, urheberrechtlich geschütztes Material oder proprietäre Daten. Filterung und Kuratierung zur Qualitätsverbesserung bei gleichzeitiger Beachtung rechtlicher Aspekte sind heute Spezialarbeit. Hinzu kommt die Komplexität der Datenversionierung. Trainingsläufe werden nicht immer mit identischen Datensätzen wiederholt. Forschende entdecken Qualitätsprobleme oder stellen fest, dass alternative Quellen die Performance verbessern. Jeder Lauf nutzt andere Datensatzvarianten mit anderen Filtern oder anderer Deduplizierung. Ihr Speicher muss mehrere Versionen unterstützen, mit Metadaten dokumentiert und mit den trainierten Modellen verknüpft. Brauchen Forschende „Version 2.3 des Basiskorpus plus 50 Milliarden kuratierte Tokens“, muss Ihr skalierbarer Speicher für KI-Pipelines genau diese Kombination reproduzieren können. Garantien für Datenintegrität und Reproduzierbarkeit Foundation Models werden an ihrer Reproduzierbarkeit gemessen. Ein Modell, das ein Unternehmen trainiert hat, sollte sich von anderen mit identischen Daten und Hyperparametern reproduzieren lassen. Weicht die Performance ab, kann die Datenintegrität die Ursache sein: abweichende Prüfsummen, Beschädigungen oder Fehler beim Laden. Für Forschungsorganisationen zerstören Integritätsfehler die Glaubwürdigkeit. Das erfordert mehrere Prüfebenen. Erstens: Nutzen Sie kryptografische Prüfsummen für alle Daten. Berechnen Sie vor dem Training SHA-256-Hashes der Datensätze und speichern Sie sie zusammen mit den Daten. Berechnen Sie beim Start des Trainings die Hashes aller Daten neu, um die Integrität zu prüfen. Hat sich durch Beschädigung oder Fehler auch nur ein Byte verändert, werden Abweichungen sofort erkannt. Zweitens: Setzen Sie unveränderlichen Speicher ein. Ist eine Datensatzversion fertiggestellt, speichern Sie sie unveränderlich – ohne Änderungen oder Löschungen. Cloud-Anbieter unterstützen unveränderliche Snapshots und Object Locks. Das verhindert versehentliche oder absichtliche Änderungen nach Trainingsbeginn. Entdecken Forschende Qualitätsprobleme, legen sie neue Versionen an, statt die Originale zu ändern. Drittens: Führen Sie Audit-Trails, die alle Zugriffe und Änderungen dokumentieren. Halten Sie fest, wer wann auf Daten zugegriffen hat und welche Operationen stattfanden. Wirkt das Verhalten eines Modells auffällig oder prüfen Aufsichtsbehörden die Herkunft, zeigen Audit-Trails genau, was von der Erfassung bis zum Training geschehen ist. Datenbewegung im Petabyte-Maßstab managen Eine unterschätzte Herausforderung ist der Datenzugriff während des Trainings im großen Maßstab. Ein Trainingslauf mit 100 Petabyte über 90 Tage erfordert kontinuierlich 1,3 TB pro Stunde. Der Speicher muss das durchhalten, ohne die teure Rechenleistung auszubremsen (GPUs und TPUs, die Tausende Dollar pro Stunde kosten). Das erfordert ein Umdenken bei der Datenarchitektur. Klassischer zentraler Speicher wird im großen Maßstab zum Engpass. Eine Scale-out-Architektur ist unverzichtbar – Daten werden auf viele Knoten verteilt, Clients lesen parallel. Tausende GPUs müssen gleichzeitig von Hunderten Speicherknoten lesen. Zudem ist die Datenlokalität entscheidend. Beim verteilten Training profitiert jeder Rechenknoten von lokalem Speicherzugriff, was Latenz und Netzwerküberlastung verringert. Manche Unternehmen halten mehrere Replikate der Daten in verschiedenen Rechenzentren vor. Trainingsjobs lesen bevorzugt aus lokalen Kopien. Das schafft jedoch Komplexität: Kopien im Petabyte-Bereich müssen synchron bleiben, und Versionsänderungen müssen überall ankommen. Zudem ist die Netzwerkbandbreite oft der eigentliche Engpass. Stehen die Trainings-Cluster in Nordamerika und liegen die Daten in Europa, müssen alle Daten über interkontinentale Verbindungen. Unternehmen platzieren Trainingsdaten daher zunehmend direkt bei der Rechenleistung oder nutzen dedizierte Verbindungen mit hoher Bandbreite. Die Netzwerkkosten können mit den Speicherkosten gleichziehen. Sicherheit und Schutz geistigen Eigentums Trainingsdaten für Foundation Models sind wertvolles geistiges Eigentum. Kuratierung, Filterung und Quellen tragen zur Performance bei. Wettbewerber profitieren davon, Ihre Daten und Auswahlmethoden zu kennen. Zudem enthalten Trainingsdaten oft proprietäre Informationen oder sensibles Material. Der Schutz vor Diebstahl erfordert strenge Kontrollen. Verschlüsselung im Ruhezustand und bei der Übertragung ist unverzichtbar. Verschlüsseln Sie alle Daten mit AES-256. Speichern Sie die Schlüssel getrennt in sicheren Systemen. Nutzen Sie verschlüsselte Protokolle (TLS) zwischen Rechenleistung und Speicher. Protokollieren und beschränken Sie den Zugriff auf autorisierte Prozesse. In regulierten Branchen (Finanzwesen, Gesundheitswesen, Behörden) können Trainingsdaten personenbezogene oder regulierte Inhalte enthalten. Compliance-Frameworks verlangen Verschlüsselung und Zugriffskontrollen. Behördliche Auftragnehmer, die mit Verschlusssachen arbeiten, benötigen per Air Gap isolierten Speicher oder abgeschottete Netzwerke, in denen die Daten die gesicherten Einrichtungen nie verlassen. Führen Sie eine rollenbasierte Zugriffskontrolle ein. Forschende sehen Metadaten, nicht die Rohdaten (auf diese greifen nur Trainingsjobs zu). Administratoren verwalten den Speicher, greifen aber nicht auf die Daten zu. Diese Trennung verhindert versehentliche Offenlegung und senkt das Risiko durch Insider. Backup und Disaster Recovery für Trainingsdaten Im Petabyte-Maßstab ist ein Backup unverzichtbar, aber anspruchsvoll. Sie müssen sich vor Beschädigung, Diebstahl, Ransomware und Katastrophen schützen. Ein Backup von 100 Petabyte ist jedoch teuer und langsam. Klassische Ansätze – Daten an sekundäre Standorte kopieren – werden unbezahlbar. Ein abgestuftes Backup senkt die Kosten und erhält den Schutz. Aktuelle Trainingsdaten (die aktiven Petabytes) werden in geografische Replikate oder per Air Gap isolierten Speicher gesichert. Ältere Versionen werden seltener gesichert, mit längeren Wiederherstellungszeiten. Die ältesten Datensätze werden in Cold Storage archiviert (Band oder Cloud-Archiv) – mit langsamer Wiederherstellung, aber minimalen Kosten. Wichtig ist, auf Snapshot-basierte Wiederherstellung statt auf Vollbackups zu setzen. Erstellen Sie häufig Snapshots zu bestimmten Zeitpunkten. Tritt eine Beschädigung auf, stellen Sie den letzten sauberen Snapshot wieder her. Snapshots verbrauchen dank Copy-on-Write (nur geänderte Blöcke werden gespeichert) weit weniger Speicher als vollständige Kopien. Ein Datensatz mit 100 Petabyte kann tägliche Snapshots mit nur 10 % Overhead haben, was eine Wiederherstellung praktikabel macht. Für Unternehmen, die mit proprietären Daten trainieren, wird die Sicherheit der Backups entscheidend. Backups selbst werden zu wertvollen Zielen für Diebstahl oder Ransomware. Setzen Sie auf ein ransomwareresistentes Backup mit per Air Gap isolierten, unveränderlichen Offline-Kopien, die nur über kontrollierte Verfahren zugänglich sind. Alternativ halten Sie Kopien in getrennten Regionen oder bei anderen Anbietern vor, was das Risiko einer Kompromittierung senkt. Infrastruktur für Versionierung und Reproduzierbarkeit Die Verwaltung mehrerer Datensatzversionen erfordert eine eigene Infrastruktur. Führen Sie Versionsmetadaten zusammen mit den Daten: genaue Quellen, Filterung, Deduplizierung, Erstellungsdatum, Hash-Prüfsummen und trainierte Modelle. Diese Metadaten helfen Forschenden zu verstehen, warum ähnliche Trainingsläufe unterschiedliche Modelle hervorbringen. Manche Unternehmen setzen Git-ähnliche Systeme zur Versionierung von Datensätzen ein. Diese verfolgen Änderungen, ermöglichen Rollbacks auf frühere Versionen und Verzweigungen für Experimente. Echte Versionskontrolle im Petabyte-Maßstab ist jedoch anspruchsvoll. Klassisches Git speichert vollständige Kopien (unbezahlbar). Spezialisierte Systeme wie DVC (Data Version Control) arbeiten effizienter: nur Metadaten und Verweise, mit Copy-on-Write für Änderungen. Zudem ist Dokumentation entscheidend. Jede Version sollte Datenquellen, Filterung, Qualitätsprüfungen und Anzahl der Tokens dokumentieren. Diese Dokumentation hilft künftigen Forschenden und ist bei regulatorischen Audits zur Zusammensetzung der Daten unverzichtbar. Praxisnahe Architektur: mehrstufiger Speicher für das Training von Foundation Models Eine realistische Infrastruktur sieht so aus: Hot-Ebene: Aktive Trainingsdaten auf schnellem, verteiltem Objektspeicher – als KI-Speicher mit hoher Kapazitätdirekt bei der Rechenleistung. Die Daten sind verschlüsselt, Zugriffe werden protokolliert, und Snapshots sichern den Bestand ab. Warm-Ebene: Aktuelle Datensatzversionen, die nicht im aktiven Training sind, auf kostenoptimiertem Speicher in derselben Region, verschlüsselt und mit Snapshots. Cold-Ebene: Alte Datensatzversionen, archiviert in Langzeitspeicher (Cloud oder Band) zu minimalen Kosten. Recovery-Ebene: Automatisierte Snapshots der Hot- und Warm-Ebene ermöglichen eine Point-in-Time-Recovery mit Aufbewahrungsrichtlinien, die Schutz und Kosten ausbalancieren. Backup-Ebene: Die aktuellsten Trainingsdatensätze werden in geografisch entfernten oder per Air Gap isolierten Speicher gesichert, als Schutz vor regionalen Katastrophen oder Ransomware. Diese Architektur bringt Performance, Zuverlässigkeit und Kosten in Einklang. Fazit: Daten für Foundation Models als kritische Infrastruktur Trainingsdaten für Foundation Models sind heute strategische Infrastruktur. Unternehmen, die den Speicher als Nebensache behandeln, kämpfen mit fehlender Reproduzierbarkeit, Sicherheitsrisiken und Kostenüberschreitungen. Wer eine speziell entwickelte Infrastruktur aufbaut, erreicht schnellere Zyklen, bessere Reproduzierbarkeit und stärkere Sicherheit. Bewerten Sie zunächst Ihre aktuelle Infrastruktur. Halten Sie den nötigen Durchsatz durch? Können Sie die Integrität prüfen? Unterstützen Sie Versionierung? Können Sie schnell wiederherstellen? Falls nicht, hat die Speicherinfrastruktur Priorität. Ihre nächste Initiative für ein Foundation Model sollte vom ersten Tag an dedizierten Speicher umfassen. Die Kosten sind im Vergleich zur Rechenleistung und zum Wert des Modells gering. Investieren Sie jetzt, um die Zyklen zu beschleunigen und Ihre KI-Werte zu schützen. Weiterführende Artikel Hybrid-Cloud-Datenstrategie für KI-Workloads KI-Datenpipelines: Architektur, Phasen und Best Practices Ransomware-Schutz für Backups: So bauen Sie unveränderliche, wiederherstellbare Backups auf Datenverschlüsselung: Leitfaden für Compliance- und IT-Verantwortliche Best Practices für die Datenarchivierung KI-Speicher mit hoher Kapazität
