9 Einleitung KI-Workloads verändern, wie Infrastruktur konzipiert und bereitgestellt wird. Das Training großer Modelle, der Betrieb großer Inferenz-Pipelines und die Verwaltung datenintensiver Umgebungen erfordern eine Infrastruktur, die riesige Datensätze verarbeiten und zugleich Hochleistungs-Computing unterstützen kann. Diese Anforderungen haben zu einer neuen Kategorie von Infrastrukturanbietern geführt, der sogenannten Neocloud. Neocloud bezeichnet Anbieter, die sich auf Infrastrukturumgebungen konzentrieren, die für KI-Workloads optimiert sind. Ihre Plattformen sind typischerweise um große GPU-Cluster, Datenpipelines mit hohem Durchsatz und Speichersysteme herum aufgebaut, die große Datensätze und verteilte Rechenumgebungen unterstützen. Für Unternehmen, die große Datenumgebungen betreiben oder KI-gestützte Plattformen aufbauen, wird es zunehmend wichtig zu verstehen, was eine Neocloud ist – und wie sie sich in das übergeordnete Infrastruktur-Ökosystem einfügt. Was ist eine Neocloud? Eine Neocloud ist ein Cloud-Infrastrukturanbieter, der speziell ausgelegt ist auf KI-Workloads, GPU-Computing und Hochleistungs-Datenumgebungen. Anders als universelle Cloud-Anbieter, die eine große Vielfalt an Unternehmensanwendungen unterstützen, konzentrieren sich Neocloud-Anbieter auf Infrastruktur, die optimiert ist für: GPU-beschleunigtes Computing Training von KI-Modellen im großen Maßstab Speicher mit hohem Durchsatz für große Datensätze Netzwerke mit hoher Bandbreite zwischen Rechenknoten Verteilte Machine-Learning-Pipelines Das prägende Merkmal einer Neocloud-Plattform ist ihr KI-orientiertes Infrastrukturdesign. Rechen-, Speicher- und Netzwerkebenen sind auf Datenverarbeitung im großen Maßstab und GPU-intensive Workloads ausgelegt. Typische Neocloud-Plattformen bieten: Große GPU-Cluster für das Modelltraining Verteilte Hochleistungs-Speicherumgebungen Für große Datensätze optimierte Infrastruktur Rechenumgebungen in mehreren Regionen, ausgelegt für KI-Workloads Viele Neocloud-Anbieter stellen zudem große Pools an GPU-Kapazität bereit und helfen Unternehmen so, Zugang zu den Rechenressourcen zu erhalten, die moderne Machine-Learning-Umgebungen benötigen. Warum Neocloud-Anbieter entstehen Klassische Cloud-Plattformen wurden für allgemeine Unternehmens-Workloads entwickelt, etwa: Webanwendungen Virtuelle Maschinen Unternehmenssoftware Datenbanken Microservices KI-Workloads bringen andere Anforderungen mit sich. Das Training großer Machine-Learning-Modelle erfordert: Tausende parallel arbeitende GPUs Kontinuierliche Datenbewegung zwischen Speicher- und Rechenumgebungen Extrem schnelle Netzwerke zwischen den Knoten Speichersysteme mit hohem Durchsatz, die große Datensätze in GPU-Cluster einspeisen können Diese Workloads können Infrastrukturumgebungen überlasten, die ursprünglich für allgemeines Anwendungs-Hosting konzipiert wurden. Neocloud-Anbieter sind entstanden, um diese Lücke zu schließen – mit Infrastrukturumgebungen, die speziell für KI- und HPC-Workloads konzipiert sind. Mehrere Trends haben die Entwicklung von Neocloud-Plattformen beschleunigt. Wachsende Nachfrage nach KI-Infrastruktur Die rasche Verbreitung generativer KI und großer Sprachmodelle hat die Nachfrage nach GPU-Infrastruktur deutlich erhöht. Unternehmen, die KI-Plattformen aufbauen, benötigen oft große GPU-Cluster, wollen diese Umgebungen aber nicht unbedingt selbst betreiben. Neocloud-Anbieter bedienen diese Nachfrage mit Infrastruktur, die für KI-Workloads im großen Maßstab ausgelegt ist. Knappes GPU-Angebot Der Zugang zu GPUs ist für viele Unternehmen, die KI-Produkte entwickeln, zu einem strategischen Engpass geworden. Neocloud-Anbieter haben sich häufig darauf spezialisiert, sich große GPU-Bestände zu sichern und diese Ressourcen über Cloud-Infrastrukturplattformen bereitzustellen. Spezialisierte Infrastrukturanforderungen KI-Umgebungen profitieren von Infrastrukturdesigns, die sich von klassischen Cloud-Architekturen unterscheiden. Durch die ausschließliche Konzentration auf KI-Workloads können Neocloud-Anbieter ihren Infrastruktur-Stack gezielt auf diese Anforderungen optimieren. Wie sich Neoclouds von Hyperscale-Clouds unterscheiden Hyperscale-Cloud-Anbieter liefern ein breites Spektrum an Infrastrukturdiensten, darunter Rechenleistung, Speicher, Datenbanken, Analyseplattformen und Umgebungen für die Anwendungsentwicklung. Neocloud-Anbieter konzentrieren sich typischerweise auf ein engeres Spektrum an Infrastrukturfunktionen, das speziell auf KI-Workloads ausgerichtet ist. InfrastrukturbereichHyperscale-CloudNeocloudHauptfokusUniverselle Cloud-Dienste für UnternehmenKI-Infrastruktur und GPU-ComputingRechenleistungGroße Auswahl an VM-TypenFür das Training optimierte GPU-ClusterSpeicherBreites SpeicherportfolioFür große KI-Datensätze optimierter SpeicherNetzwerkStandard-Cloud-NetzwerkeGPU-Cluster-Netzwerke mit hoher BandbreiteZiel-WorkloadsVielfältige Unternehmens-WorkloadsKI, HPC und Datenverarbeitung im großen Maßstab Viele Unternehmen nutzen beide Modelle. Hyperscale-Umgebungen können Anwendungsplattformen und Unternehmensdienste beherbergen, während Neocloud-Infrastruktur die Entwicklung von KI-Modellen oder Trainingsumgebungen im großen Maßstab unterstützt. Zentrale Infrastrukturkomponenten in Neocloud-Umgebungen Neocloud-Plattformen kombinieren typischerweise mehrere Infrastrukturelemente, die auf Datenverarbeitung im großen Maßstab und GPU-Computing ausgelegt sind. GPU-Rechencluster GPU-Cluster sind die Grundlage der meisten Neocloud-Plattformen. Sie ermöglichen verteilte Trainingsumgebungen, in denen große Machine-Learning-Modelle auf Tausenden von GPUs trainiert werden können. Typische Infrastrukturkomponenten sind: Große GPU-Pools, etwa mit NVIDIA A100 oder H100 Schnelle GPU-Interconnects Große Rechencluster für parallele Workloads Eine effiziente Kommunikation zwischen GPU-Knoten ist entscheidend für skalierbares Modelltraining. Hochleistungsspeicher für KI-Datensätze KI-Umgebungen erzeugen und verarbeiten extrem große Datensätze. Speichersysteme müssen einen hohen Durchsatz bieten und zugleich parallelen Zugriff aus großen Rechenclustern ermöglichen. Typische Anforderungen sind: Hoher Lese- und Schreibdurchsatz Paralleler Datenzugriff für verteiltes Training Speicherung von Datensätzen im großen Maßstab Langlebiger Speicher für Trainingsartefakte und Modellausgaben Object-Storage-Plattformen werden häufig als persistente Speicherebene für KI-Umgebungen eingesetzt, weil sie so skalieren, dass sie große Data Lakes und verteilte Trainings-Workflows unterstützen. Netzwerke mit hoher Bandbreite KI-Workloads im großen Maßstab sind auf eine effiziente Kommunikation zwischen Rechenknoten angewiesen. Neocloud-Umgebungen setzen typischerweise Hochleistungs-Netzwerkarchitekturen ein, die ausgelegt sind auf: Kommunikation mit niedriger Latenz zwischen Knoten Hohe Bandbreite für verteilte Workloads Effiziente Skalierung von GPU-Clustern Diese Netzwerkfähigkeiten ermöglichen es, Trainings-Workloads über große Infrastrukturumgebungen hinweg zu skalieren. Infrastruktur in mehreren Regionen Viele Neocloud-Anbieter betreiben Infrastrukturumgebungen in mehreren Regionen. Bereitstellungen über mehrere Regionen ermöglichen es Unternehmen: Trainings-Workloads über größere Rechenpools zu skalieren Geografisch verteilte Entwicklungsteams zu unterstützen Resilienz über Infrastrukturumgebungen hinweg zu wahren Diese Fähigkeiten können für Unternehmen, die große KI-Plattformen aufbauen, besonders wichtig sein. Typische Anwendungsfälle für Neoclouds Neocloud-Plattformen werden häufig für Workloads eingesetzt, die GPU-Infrastruktur im großen Maßstab und Hochleistungs-Datenumgebungen erfordern. Training von Foundation Models Unternehmen, die große Sprachmodelle oder andere Foundation Models entwickeln, sind für das Training auf große GPU-Cluster angewiesen. Neocloud-Infrastruktur bietet Umgebungen, die verteiltes Training auf Tausenden von GPUs unterstützen. Entwicklung von KI-Produkten Unternehmen, die KI-gestützte Produkte entwickeln, sind für Training und Inferenz häufig auf GPU-Infrastruktur angewiesen. Neocloud-Plattformen ermöglichen es, Rechenumgebungen zu skalieren, während sich Modelle weiterentwickeln und Workloads wachsen. Umgebungen für Hochleistungsrechnen Viele HPC-Workloads profitieren von GPU-Beschleunigung. Branchen, die häufig auf HPC-Umgebungen setzen, sind unter anderem: Life Sciences Genomforschung Luft- und Raumfahrttechnik Wissenschaftliche Forschungseinrichtungen Diese Umgebungen erfordern oft Infrastruktur, die große Datensätze und komplexe Berechnungen verarbeiten kann. Datenintensive Analyseumgebungen Auch Analyseumgebungen im großen Maßstab können auf GPU-Infrastruktur setzen, um komplexe Datensätze zu verarbeiten. Neocloud-Plattformen können Datenpipelines unterstützen, die GPU-Rechenleistung mit Speichersystemen im großen Maßstab kombinieren. Die Bedeutung von Speicher in der KI-Infrastruktur Auch wenn GPU-Rechenressourcen in Diskussionen über KI-Infrastruktur oft die meiste Aufmerksamkeit erhalten, spielen Speichersysteme eine entscheidende Rolle für Machine-Learning-Workflows im großen Maßstab. Trainings-Pipelines sind auf effizienten Zugriff auf große Datensätze angewiesen. Diese Workflows umfassen typischerweise: Die Aufnahme großer Datenmengen Die Bereitstellung von Trainingsdaten für GPU-Cluster Die Speicherung von Zwischen-Checkpoints der Modelle Die Verwaltung von Modellartefakten und -ausgaben Speichersysteme müssen diese Prozesse unterstützen und dabei Langlebigkeit und Skalierbarkeit gewährleisten. Object-Storage-Umgebungen werden häufig als Grundlage für KI-Data-Lakes eingesetzt, weil sie die Speicherung großer Datensätze ermöglichen und zugleich verteilten Zugriff aus Rechenclustern unterstützen. Für Unternehmen, die große KI-Plattformen aufbauen, wird die Speicherarchitektur zu einem zentralen Bestandteil des gesamten Infrastrukturdesigns. Infrastrukturherausforderungen, die Neocloud-Anbieter bewältigen müssen Der Betrieb von KI-Infrastrukturumgebungen im großen Maßstab bringt mehrere technische Herausforderungen mit sich. Effiziente Datenbewegung KI-Trainings-Pipelines erfordern die ständige Bewegung großer Datensätze zwischen Speichersystemen und Rechenclustern. Ineffiziente Datenbewegung kann Trainingsprozesse verlangsamen und die Effizienz der gesamten Infrastruktur senken. Infrastrukturbetrieb im großen Maßstab Die Verwaltung großer GPU-Cluster erfordert ein sorgfältiges Infrastrukturdesign, einschließlich Stromversorgung, Kühlung, Netzwerk und Cluster-Orchestrierung. Datenhaltbarkeit und Cyber-Resilienz Trainingsdatensätze und Modellartefakte sind oft wertvolles geistiges Eigentum. Infrastrukturumgebungen müssen einen starken Datenschutz bieten, einschließlich Langlebigkeit und Schutz vor Cyberbedrohungen wie Ransomware. Kosteneffizienz der Infrastruktur GPU-Ressourcen sind teuer, und ineffiziente Datenpipelines können zu ungenutzten Rechenressourcen führen. Die Optimierung von Speicher und Datenzugriffsmustern kann die Effizienz der gesamten Infrastruktur verbessern. Warum Neocloud-Plattformen für die Unternehmensinfrastruktur wichtig werden Neocloud-Anbieter bilden eine neue Kategorie von Infrastrukturplattformen, die auf KI und Datenverarbeitung im großen Maßstab ausgelegt sind. Da Unternehmen den Einsatz von Machine Learning und KI-Technologien weiter ausbauen, dürfte die Nachfrage nach Infrastrukturumgebungen, die für diese Workloads optimiert sind, weiter steigen. Neocloud-Plattformen erfüllen mehrere Anforderungen der KI-Infrastruktur, darunter: Zugang zu großen GPU-Clustern Für verteilte KI-Workloads optimierte Infrastrukturumgebungen Skalierbare Speicherumgebungen für Daten Hochleistungs-Netzwerke zwischen Rechenknoten Für viele Unternehmen ergänzen diese Umgebungen bestehende Infrastrukturstrategien, die bereits klassische Rechenzentren und Hyperscale-Cloud-Plattformen umfassen können. Zusammenfassung Eine Neocloud ist ein spezialisierter Cloud-Infrastrukturanbieter, der auf KI-Workloads, GPU-Computing und Hochleistungs-Datenumgebungen ausgelegt ist. Durch die Konzentration auf GPU-Cluster, Speicher mit hohem Durchsatz und Infrastruktur für verteilte Workloads ermöglichen Neocloud-Plattformen Unternehmen, große Modelle zu trainieren, KI-Plattformen zu betreiben und Datenumgebungen im großen Maßstab zu verwalten. Da sich KI in immer mehr Branchen verbreitet – darunter Finanzdienstleistungen, Forschungseinrichtungen, Life Sciences und Infrastrukturanbieter –, dürften spezialisierte Infrastrukturplattformen in der Unternehmensarchitektur eine wachsende Rolle spielen.
