7 Die meisten Unternehmen sind nicht freiwillig bei privater KI im Unternehmen gelandet. Sie sind dort angekommen, weil Aufsichtsbehörde, Vorstand oder die Wirtschaftlichkeit von Training und Inferencing in der Public Cloud keine andere Wahl ließen. Der Trainingskorpus ist zu sensibel, um ihn in einen ausländischen Mandanten zu verlagern. Die Inferencing-Logs dürfen die Rechtsordnung nicht verlassen. Die Egress-Rechnung eines einzigen Retraining-Durchlaufs ist höher als ein Jahr On-Prem-Kapazität. Die Frage lautet also nicht mehr, ob KI privat bereitgestellt wird, sondern welches Modell zu welchem Workload passt – und wie sich zwei oder drei Modelle betreiben lassen, ohne für jedes eine eigene Plattform aufzubauen. Dieser Leitfaden richtet sich an CIOs, Chief Data und AI Officers sowie Infrastrukturverantwortliche, die für private KI verschiedene Bereitstellungsoptionen prüfen. Er stellt die drei Modelle vor, die am häufigsten vorkommen – vollständig On-Premises betriebene KI, KI in der Private Cloud und souveräne KI –, und erläutert die Designentscheidungen, die über die richtige Kombination bestimmen. Was ist private KI im Unternehmen? Private KI im Unternehmen ist die Disziplin, den KI-Lebenszyklus – Ingestion, Aufbereitung, Training, Fine-Tuning, Inferencing, Embeddings, Retrieval und Langzeitaufbewahrung – in einer vom Unternehmen kontrollierten Infrastruktur zu betreiben statt in einem öffentlichen, gemeinsam genutzten oder im Ausland betriebenen Mandanten. Das entscheidende Merkmal: Platzierung, Zugriff, Aufbewahrung und Prüfung regulierter Daten werden von der Plattform durchgesetzt, die das Unternehmen betreibt, nicht durch einen Vertrag mit einem Hyperscaler. Die Kategorie ist breiter als „On-Prem-KI“ und spezifischer als „Private Cloud“. Sie kann in eigenen Rechenzentren, in einer akkreditierten Sovereign-Cloud-Region oder in einer Air-Gap-Umgebung laufen. Was sie nicht darf: die regulierte Datenebene einem Betreiber außerhalb der rechtlichen und betrieblichen Kontrolle des Dateneigentümers überlassen. Einige Eigenschaften unterscheiden diesen Ansatz von generischer privater Infrastruktur: Bandbreite der Workloads. Sie muss GPU-Direct-Training, Inferencing mit hoher Parallelität, RAG- und Embedding-Pipelines, Modell-Checkpoints und jahrzehntelange Aufbewahrung über eine einzige Betriebsebene bedienen. Kontrolle auf der Datenebene. Datenresidenz, identitätsgebundener Zugriff, Mandantenisolation und Unveränderlichkeit sind Eigenschaften der Speicherplattform, keine Behauptungen in Richtliniendokumenten. Prüfbarkeit. Sicherheits-, Audit- und Akkreditierungsteams können nachvollziehen, was die Plattform tut. Geschlossene Blackboxes bestehen moderne Akkreditierungsverfahren nicht. Fehlt eine dieser Eigenschaften, beruht das Programm auf Vertrauen, wo es auf Kontrolle beruhen sollte. Die drei zentralen Bereitstellungsmodelle für private KI Bereitstellungen privater KI lassen sich drei erkennbaren Modellen zuordnen. Die meisten Produktivumgebungen kombinieren zwei davon. Modell Am besten geeignet für Stärken Zielkonflikte Vollständig On-Premises betriebene KI Training im Petabyte-Maßstab, regulierte Branchen, Air-Gap- oder eingestufte Umgebungen Strikte Datenresidenz, planbare Kosten im großen Maßstab, kein Egress, volle betriebliche Kontrolle Investitionskosten; Eigenbetrieb; Kapazitätsplanung KI in der Private Cloud Gemischte Workloads innerhalb der Unternehmensgrenzen; interne mandantenfähige Plattformen Nutzung wie in der Cloud bei voller Unternehmenskontrolle; schnellere Bereitstellung als bei vollständig manuellem On-Prem-Betrieb Erfordert eine echte Plattformebene, nicht nur Virtualisierung; betriebliche Reife nötig Souveräne KI Behörden, Verteidigung, Gesundheitswesen, regulierte Finanzbranche, multinationale Unternehmen mit Vorgaben zur Rechtsordnung Nachweisbare Datenresidenz, Schutz vor fremder Rechtsordnung, Prüfbarkeit Kleineres Anbieter- und Hardware-Ökosystem; längere Beschaffung Vollständig On-Premises betriebene KI Bei vollständig On-Premises betriebener KI liegen GPU-Cluster, Speicherebenen, Orchestrierungsebene, Identitätsschicht und Audit-Kette in den eigenen Einrichtungen des Unternehmens oder in einer akkreditierten Colocation. Es ist das Standardmodell, wenn die aktiven Trainingsdaten zwei bis drei Petabyte übersteigen, wenn Egress-Gebühren zu einer wesentlichen Kostenposition werden oder wenn Einstufung, Datenresidenz oder betriebliche Souveränität eine gemeinsame Mandantennutzung vollständig ausschließen. Air-Gap-Varianten verzichten für die sensibelsten Umgebungen auf externe Netzwerkerreichbarkeit. Dieses Modell profitiert am stärksten von disaggregiertem Speicher. Wenn Compute und Speicher unabhängig voneinander skalieren, kann das Team GPUs hinzufügen, ohne neuen Speicher zu kaufen, und den Speicher erweitern, ohne für ungenutzte GPU-Zyklen zu bezahlen. Wie diese Ebene typischerweise aufgebaut wird, zeigt der Beitrag zu den besten Ansätzen für On-Premises-Objektspeicher; der Beitrag On-Premise vs. Off-Premise liefert den übergreifenden Entscheidungsrahmen. KI in der Private Cloud KI in der Private Cloud übernimmt das Nutzungsmodell eines Hyperscalers – Self-Service-Bereitstellung, Mandantenisolation, API-gesteuerter Lebenszyklus –, betreibt es aber innerhalb der Kontrollgrenzen des Unternehmens. Sie ist das richtige Modell für Organisationen, die viele interne Teams (Data Science, Anwendungen, Analytics, regulierte Geschäftsbereiche) bedienen müssen, ohne für jedes einen eigenen KI-Stack aufzubauen. Die Plattformebene macht den Unterschied zwischen einem echten Private-Cloud-KI-Deployment und einer umbenannten Virtualisierungsfarm: gemeinsame Identität, gemeinsamer Objektspeicher, gemeinsame Lifecycle-Richtlinien, gemeinsames Audit. Die Speicherseite dieses Designs behandeln Speicherarchitektur für die Private Cloud und Datensouveränität und Private Cloud (auf Englisch) ausführlich. Souveräne KI Souveräne KI ist eine private KI-Bereitstellung, die unter einer einzigen Rechtsordnung betrieben wird – mit nachweisbarer Kontrolle darüber, wer auf die Daten zugreifen kann und welches Recht gilt. Sie kann vom Dateneigentümer On-Premises, in einer akkreditierten nationalen oder regionalen Sovereign Cloud oder in einem abgegrenzten Mandanten betrieben werden, der die rechtlichen und betrieblichen Prüfungen besteht. Der entscheidende Test ist der Schutz vor fremder Rechtsordnung: Ein im richtigen Land gespeicherter Datensatz ist dennoch über eine ausländische Offenlegungsanordnung erreichbar, wenn der Betreiber diesem ausländischen Recht unterliegt. Datensouveränität in der Cloud und souveräner Cloud-Speicher behandeln die rechtlichen und architektonischen Details. Souveräne KI ist heute das Standardmodell für KI-Projekte in Behörden, Verteidigung, Gesundheitswesen, Zentralbanken und regulierter Energiewirtschaft in Europa, im Vereinigten Königreich und in Teilen des asiatisch-pazifischen Raums. Sie überschneidet sich mit den beiden anderen Modellen – die meisten souveränen KI-Deployments werden zugleich vollständig On-Premises betrieben, und viele laufen als Private-Cloud-KI-Umgebungen für die Behörden innerhalb der Rechtsordnung. So wählen Sie zwischen den Modellen Die Wahl des Bereitstellungsmodells ist selten abstrakt. Fünf Rahmenbedingungen entscheiden darüber. Data Gravity. Daten im Petabyte-Maßstab lassen sich nicht einfach verschieben. Liegt der Trainingskorpus bereits im Unternehmen, ist die kosteneffiziente Bereitstellung On-Premises-geführt – nicht Cloud-geführt mit ständiger Datenmigration. Exposition gegenüber fremden Rechtsordnungen. Wo Daten rechtlich liegen dürfen, wer darauf zugreifen kann und welches Recht gilt, sind zentrale Designvorgaben. Der CLOUD Act, FISA Section 702 und vergleichbare extraterritoriale Regelungen anderer Rechtsordnungen sind es, die ein Programm von einer Private-Cloud-Lösung zu einer souveränen KI-Lösung bewegen. Vielfalt der Workloads. Ein einziges KI-Programm umfasst GPU-Direct-Training, Inferencing mit hohem Durchsatz, RAG-Retrieval, Embeddings, Checkpoints, Evaluierungsberichte und Langzeitaufbewahrung. Eine Plattform, die für ein Zugriffsmuster gebaut ist, erzeugt an anderer Stelle Reibung. Das gewählte Modell muss alle bewältigen, nicht nur den prominentesten Workload. Kosten bei dauerhaftem Betrieb im großen Maßstab. Stundenbasierte Public-Cloud-Preise wirken attraktiv, bis sich Egress, Premium-Speicher und Reserved-Instance-Verpflichtungen summieren. Viele regulierte Unternehmen erreichen den Wendepunkt lange bevor sie Datenmengen im Hyperscale-Bereich erreichen – die Wirtschaftlichkeit erläutert der Beitrag zur Strategie für die Cloud-Repatriierung im Detail. Betriebliche Komplexität. Jedes Bereitstellungsmodell, das einer privaten Architektur hinzugefügt wird, bringt eine weitere Steuerungsebene, ein weiteres Governance-Regime und weitere Fehlerbilder mit sich. Teams, deren Personal linear mit dem Footprint wächst, werden langsamer. Teams, die auf eine einheitliche Speicher- und Betriebsebene konsolidieren, bleiben in Bewegung. Warum das auf eine autonome Dateninfrastruktur hinausläuft Eine private KI-Bereitstellung beansprucht Speicher- und Betriebsebene in jedem der genannten Modelle im Maschinentempo. Drei Eigenschaften müssen gleichzeitig erfüllt sein: Leistung im großen Maßstab – schnell genug, um GPUs bei Training, Fine-Tuning und Inferencing mit hohem Durchsatz nicht auszubremsen, selbst wenn jedes Objekt gekennzeichnet, verschlüsselt und auditiert wird. Kontrolle auf der Datenebene – Platzierung, Zugriff, Aufbewahrung und Grenzen für Betreiber werden von der Plattform durchgesetzt, nicht in einem Runbook behauptet. Kontinuierliche, prüfbare Nachweise – Audit-Trails entstehen, während der Workload läuft, und überstehen betriebliche Belastungen, ohne Ereignisse zu verlieren. Klassische Architekturen beherrschen eine oder zwei dieser Eigenschaften und scheitern an der dritten. Eine stärker autonome Dateninfrastruktur – bei der die Speicherschicht selbst die Platzierung durchsetzt, betriebliche Erkenntnisse innerhalb von Richtlinien liefert und jedem Workload ohne Eingriff des Betreibers das richtige Medium zuordnet – macht alle drei zusammen möglich. Scality ADI (Autonomous Data Infrastructure) baut genau auf diesem Prinzip auf, mit Sovereign Control als zentraler Säule für private KI-Workloads. Wie Scality ADI private KI im Unternehmen unterstützt Scality ADI ist eine Dateninfrastruktur für Enterprise-KI, Cyber-Resilienz und souveräne Kontrolle, die autonom und nachhaltig die passenden Speichermedien im Maßstab von mehreren Petabyte bis Exabyte zuordnet. Die Plattform lässt sich On-Premises, in einer souveränen Region, in einer Private Cloud oder in einer Air-Gap-Umgebung bereitstellen – und bietet über alle hinweg einen einzigen Namespace. Konkret für die drei Bereitstellungsmodelle privater KI: Vollständig On-Premises betriebene KI. Scality ADI läuft auf der disaggregierten RING10-Architektur, die Kapazität, Durchsatz und Operationen unabhängig voneinander skaliert. Der Air-Gap-Betrieb wird für eingestufte und regulierte Umgebungen unterstützt. Dieselbe Architektur unterstützt einen einzigen Namespace von wenigen Knoten bis in den Exabyte-Bereich. KI in der Private Cloud. Scality ADI bietet Cloud-natives S3-Verhalten über mandantenfähige Datenumgebungen hinweg – für KI-fähige Daten, Analytics und agentische Workflows, bei voller Kontrolle über Bereitstellung, Datenresidenz und Souveränität. Interne Teams nutzen Speicher wie bei einem Hyperscaler, während das Unternehmen die Governance auf der Datenebene behält. Souveräne KI. Scality ADI wird als Open-Code-Software mit langen Supportzeiträumen und geregelten Beiträgen ausgeliefert. Sicherheitsteams von Behörden, Akkreditierungsstellen und Red Teams können prüfen, was die Plattform tut, statt sich auf Herstellerbestätigungen zu verlassen. CORE5 sorgt mit Cyber-Resilienz – Unveränderlichkeit, Ausfallsicherheit durch Erasure Coding, Metadatenschutz, standortübergreifender Schutz und Richtliniendurchsetzung – dafür, dass Aufbewahrung und Audit einer genauen Prüfung standhalten. Scality ADI berücksichtigt auch die Vielfalt der Workloads, die ein privates KI-Programm bewältigen muss. Die Plattform umfasst vier Speicherebenen – GPU-Direct-Flash mit S3 over RDMA, heiß mit QLC und NL-SSD, warm mit HDD sowie kalt mit Band und Cloud-naher Archivierung – in einem einzigen Betriebsmodell. Training, Fine-Tuning, Inferencing-Cache, Embeddings, Checkpoints und Langzeitaufbewahrung erhalten jeweils die Ebene, die sie brauchen, ohne dass das Team vier getrennte Speichersysteme betreiben muss. Scality bietet Unternehmen und souveränen Organisationen einen Weg zu KI-Leistung im großen Maßstab, ohne auf Kontrolle, Resilienz oder langfristige wirtschaftliche Disziplin zu verzichten. Für Infrastrukturverantwortliche, die ein privates KI-Programm planen, das den nächsten Refresh-Zyklus überstehen muss, ist eine einheitliche Datenebene der Teil, der nicht alle zwei Jahre neu aufgesetzt werden muss. So liefert Scality ADI private KI im Unternehmen im großen Maßstab Häufig gestellte Fragen Was ist private KI im Unternehmen? Private KI im Unternehmen ist die Praxis, den KI-Lebenszyklus – Ingestion, Training, Fine-Tuning, Inferencing, Embeddings, Retrieval und Langzeitaufbewahrung – in einer vom Unternehmen kontrollierten Infrastruktur zu betreiben statt in einem öffentlichen, gemeinsam genutzten oder im Ausland betriebenen Mandanten. Sie setzt Datenresidenz, identitätsgebundenen Zugriff, Aufbewahrung und Prüfung auf der Datenebene durch – auch bei den Datenmengen von KI-Workloads. Worin unterscheidet sich KI in der Private Cloud von souveräner KI? KI in der Private Cloud ist ein Nutzungsmodell – mandantenfähig, Self-Service, API-gesteuert –, das innerhalb der Kontrollgrenzen des Unternehmens betrieben wird. Souveräne KI ist eine Kontrolleigenschaft: Der Betreiber unterliegt ausschließlich dem Recht des Dateneigentümers, und die Plattform belegt diese Eigenschaft im Code, statt sie in einem Vertrag zuzusichern. Viele souveräne KI-Deployments sind zugleich Private-Cloud-KI, doch die beiden Begriffe beantworten unterschiedliche Fragen. Wann ist vollständig On-Premises betriebene KI sinnvoller als ein Cloud-Modell? Vollständig On-Premises betriebene KI setzt sich typischerweise durch, wenn die aktiven Trainingsdaten zwei bis drei Petabyte übersteigen, wenn Egress-Gebühren zu einer wesentlichen Kostenposition werden, wenn Einstufungs- oder Souveränitätsanforderungen eine gemeinsame Mandantennutzung ausschließen oder wenn der Workload so kontinuierlich läuft, dass reservierte Kapazität die Stundenpreise schlägt. Air-Gap-Varianten kommen für die sensibelsten eingestuften oder regulierten Umgebungen infrage. Kann eine einzige Plattform alle drei Bereitstellungsmodelle für private KI bedienen? Ja – wenn die Speicher- und Betriebsebene in On-Premises-, Private-Cloud-, souveränen und Air-Gap-Umgebungen denselben Datenvertrag einhält: S3-Semantik, identitätsgebundener Zugriff, Lifecycle-Richtlinien, Audit-Kette. Genau dieser Designpunkt ermöglicht es, Training, Inferencing und gesetzliche Aufbewahrung in einem Betriebsmodell statt in dreien zu betreiben. Wie passt Scality ADI zu privaten KI-Bereitstellungen? Scality ADI liefert die Datenebene für das Programm: klassifizierungsbewusste Platzierung, identitätsgebundenen Zugriff, kryptografische Mandantenisolation, CORE5-Unveränderlichkeit, einen temperaturübergreifenden Lebenszyklus über Flash, Festplatte, Band und Cloud-nahe Medien sowie kontinuierliche, manipulationssichere Audits bei den Datenmengen von KI-Workloads. Die Plattform wird als Open-Code-Software bereitgestellt – als Software-Appliance oder als Managed Service – und fügt sich über Standard-S3- und Richtlinienschnittstellen in On-Premises-, Private-Cloud-, souveräne und Air-Gap-Bereitstellungen ein. Weiterführende Artikel KI-Bereitstellungsarchitektur: Modelle und Muster (auf Englisch) Souveräne KI-Dateninfrastruktur und Kontrolle (auf Englisch) Speicherarchitektur für die Private Cloud Souveräner Cloud-Speicher Datensouveränität und Private Cloud (auf Englisch) Datensouveränität in der Cloud Die besten On-Premises-Objektspeicher On-Premise vs. Off-Premise Strategie für die Cloud-Repatriierung Air-Gap-Backup-Speicher Hybrid-Cloud-Datenstrategie für KI-Workloads Datensouveränität vs. Public Cloud
