1 Dieser Beitrag ist eine Schritt-für-Schritt-Anleitung zum Aufbau eines intelligenten Chatbots. Ob Sie einen Chatbot für den Kundensupport, für Rechercheunterstützung oder für Enterprise Intelligence einführen möchten – die Architektur von Scality RING stellt sicher, dass Sie über eine Lösung verfügen, die skalierbar, zuverlässig und KI-bereit ist. Beim S3-kompatiblen Objektspeicher Scality RING geht es nicht nur um das Speichern von Daten – er ist auch das Rückgrat für KI-gestützte Anwendungen. Durch die Integration von RING mit Vektordatenbanken wie Milvus, KI-Frameworks wie LangChain und feinabgestimmten Modellen wie GPT-3.5 können Sie das volle Potenzial von RAG-Workflows für intelligente Chatbots ausschöpfen. Was ist RAG und warum ist es wichtig? Retrieval-Augmented Generation (RAG) ist eine Technik, die bessere Ergebnisse generativer KI liefert, indem Unternehmen einem bestehenden LLM automatisch die aktuellsten und relevantesten eigenen Daten bereitstellen. Bei herkömmlichen Chatbots beruhen Antworten stark auf statischen, vortrainierten LLM-Modellen oder auf Stichwortsuchen – oft mit veralteten, vagen oder irrelevanten Antworten als Folge. RAG ändert das durch eine dynamische Abrufebene, die aktuelle, relevante Daten in die Konversation einbringt. Das sorgt für hochwertigere Ergebnisse und bessere Kundenerlebnisse, weil KI-Modelle auf die relevantesten und vertrauenswürdigsten verfügbaren Daten zugreifen. Wie RAG funktioniert und warum es so viel verändert RAG und Objektspeicher machen Chatbots deutlich intelligenter. Eine Objektspeicher-Architektur lässt sich mit RAG integrieren und bildet so einen KI-Architektur-Workflow, der Echtzeit-Datenabruf mit generativer KI kombiniert , um präzise, relevante und kontextbezogene Antworten zu liefern. Die Grafik zeigt, wie ein RAG-Workflow Echtzeitdaten mit dem Objektspeicher Scality RING verarbeitet, um das intelligenteste Chatbot-Erlebnis zu bieten. So funktioniert es: Abruf in Echtzeit: Der RAG-Workflow nutzt LangChain AI, um die neuesten und relevantesten Daten aus Speichersystemen wie dem S3-kompatiblen Scality RING abzurufen, Embeddings zu erstellen und sie in Vektordatenbanken wie Milvus zu speichern. So arbeitet der Chatbot stets mit aktuellen, domänenspezifischen Informationen. Kontextbezogene Anreicherung: RAG kombiniert die Anfrage des Nutzers über das Framework von LangChain AI mit den abgerufenen Daten und übergibt diesen angereicherten Kontext an ein generatives KI-Modell wie GPT-3.5, das daraus präzise, personalisierte Antworten erstellt. Warum RAG so viel verändert: Aktuelles Wissen: Chatbots mit RAG sind nicht mehr auf statisches, vortrainiertes Wissen angewiesen. Sie liefern Antworten in Echtzeit, indem sie aktuelle Daten abrufen. Echtes Verständnis: RAG ermöglicht semantischen Abruf, sodass Antworten der Absicht der Anfrage entsprechen – nicht nur ihren Stichworten. Warum ist Objektspeicher ideal für KI-Workflows? Keine andere Speicherlösung erfüllt die komplexen Anforderungen anspruchsvoller KI-Workflows so gut wie Objektspeicher. Er bietet massive Skalierbarkeit, bewältigt mühelos alles von Terabytes bis zu Petabytes und unterstützt die vielfältige Datenlandschaft der KI – strukturierte, semistrukturierte und unstrukturierte Daten wie Bilder, Videos, Audiodateien, Dokumente, Texte und Logdateien – alles in einem einzigen, einheitlichen System. Objektspeicher gewährleistet zudem Datenintegrität und Sicherheit durch Unveränderlichkeit und Schutz vor Beschädigung oder unbefugtem Zugriff. Als Grundlage für Data Lakes ermöglicht Objektspeicher die effiziente Speicherung, Verwaltung und den Abruf umfangreicher Datensätze, die für KI-Modelltraining und Analysen unerlässlich sind. Auf hohe Performance optimiert, beschleunigt er Datenzugriff und -abruf – entscheidend für Training und Inferenz von KI-Modellen. Tatsächlich loben Analysten Objektspeicher in letzter Zeit als Kraftpaket für KI-Workloads. So erklärt etwa ein Principal Analyst von ESG bei TechTarget (auf Englisch):„… dies ist ein guter Zeitpunkt für viele Unternehmen, neu zu prüfen, wo Objektspeicher eine Rolle spielen könnte – insbesondere, wenn sie ihre gesamte Daten- und Speicherarchitektur für große Data Lakes, Analytics oder KI-Initiativen modernisieren wollen“. Die zentralen Technologiekomponenten im RAG-Workflow mit Scality RING Um einen hochintelligenten Chatbot mit RAG und Scality RING zu bauen, empfehlen wir diesen leistungsstarken KI-Technologie-Stack. Durch die Nutzung domänenspezifischer Echtzeitdaten sorgt diese Kombination für informativere, aufschlussreichere und relevantere Chatbot-Interaktionen. Gemeinsam verwandeln diese Komponenten Rohdaten in verwertbares Wissen: Milvus (auf Englisch) Vektordatenbank LangChain (auf Englisch) KI-Framework *GPT-3.5 (auf Englisch) feinabgestimmtes Sprachmodell *Hinweis: GPT-3.5 wurde gewählt, weil es komplex genug ist, um Anfragen auf Basis der Testdaten zu beantworten. Sie können jedoch auch neuere Modelle wie GPT-4o, o1, o1-mini, LLaMA oder jedes andere Modell verwenden, das zu Ihrem Workload passt. Vektordatenbank Milvus: warum sie unverzichtbar ist und wie sie Scality RING ergänzt In RAG-Workflows sind Vektordatenbanken unverzichtbar für den semantischen Abruf. Anders als herkömmliche Datenbanken speichern und durchsuchen Vektordatenbanken wie Milvus hochdimensionale Datenrepräsentationen (Embeddings), die die Bedeutung hinter Texten erfassen und so einen intelligenten, kontextbezogenen Abruf ermöglichen. Die wichtigsten Stärken von Vektordatenbanken: Semantische Suche: Vektor-Embeddings stellen Daten so dar, dass ihre Bedeutung erfasst wird – nicht nur ihr Wortlaut. So kann das System Inhalte abrufen, die semantisch zur Nutzeranfrage passen. Beispiel: Anfrage: „Wie behandle ich Typ-2-Diabetes?“ Ergebnis: Findet Dokumente zu „Insulinsensitivität“ oder „Ernährung mit niedrigem glykämischem Index“, auch wenn die Formulierung „Typ-2-Diabetes behandeln“ darin nicht vorkommt. Performance in Echtzeit: Mit fortschrittlichen Indexierungsverfahren wie Approximate Nearest Neighbors (ANN) führen Vektordatenbanken Ähnlichkeitssuchen über Milliarden von Embeddings in Millisekunden durch und ermöglichen so Antworten in Echtzeit. Skalierbarkeit für Wachstum: Vektordatenbanken bewältigen riesige Datensätze ohne Leistungseinbußen und eignen sich daher ideal für dynamische, stetig wachsende Wissensbasen. Das Diagramm zeigt, wie ein RAG-Workflow eine Nutzeranfrage verarbeitet: Er erstellt Embeddings, durchsucht eine Vektordatenbank, ruft relevante Informationen aus RING ab und nutzt GPT, um eine passgenaue Antwort zu generieren. Vorteile der Vektordatenbank Milvus: Bei der Bewertung von Vektordatenbanken für unsere RAG-Architektur überzeugte Milvus durch außergewöhnliche Performance und nahtlose Integration mit den anderen Komponenten der Pipeline. Abfragen im Millisekundenbereich: Schneller, präziser Datenabruf in Echtzeit – auch unter hoher Last Präzision über vielfältige Daten hinweg: Kontextrelevante Ergebnisse und semantische Suche für unterschiedlichste Datensätze Skalierbare Architektur: Verarbeitet Millionen von Embeddings und ist damit eine zukunftssichere Lösung für Anwendungen, deren Wissensbasis ständig wächst Nahtlose Integration ins Ökosystem: Direkte Integration mit LangChain, die die Anbindung von Embeddings an die RAG-Pipeline vereinfacht, und Kompatibilität mit dem S3-kompatiblen Speicher Scality RING Die Stärke der Kombination aus Milvus und dem S3-kompatiblen Objektspeicher Scality RING Durch die Kombination von Milvus und Scality RING schließen Sie die Lücke zwischen der Speicherung von Rohdaten und intelligentem Abruf. Jede Komponente ergänzt die andere: S3-kompatibler RING: Dient als Rückgrat für die Speicherung von Rohdaten und sorgt für Zuverlässigkeit, Skalierbarkeit und effizienten Zugriff auf Dokumente, Forschungsarbeiten oder strukturierte Dateien Milvus: Bringt intelligente Abruffunktionen durch semantische Suche und ermöglicht es dem System, verwertbare Erkenntnisse aus den in RING gespeicherten Rohdaten zu gewinnen Gemeinsam vereinen sie die Stärken von skalierbarer Datenspeicherung und hochperformantem Abruf und machen RAG-Workflows dynamisch und effizient. LangChain: der Orchestrator intelligenter Workflows mit Scality RING Während S3 und Milvus für Speicherung und Abruf sorgen, fungiert LangChain als KI-Orchestrator und steuert den Datenfluss zwischen den Komponenten nahtlos. Sein modularer Aufbau vereinfacht die Erstellung von RAG-Pipelines und erleichtert die Integration von Speicher, Abruf und generativer KI. Die zentralen Aufgaben von LangChain: Erstellung von Abfrage-Embeddings: Wandelt Nutzeranfragen mit vortrainierten Modellen wie GPT von OpenAI in Vektor-Embeddings um Steuerung des Abrufs: Sendet Embeddings zur Ähnlichkeitssuche an Milvus und ruft anhand der Dokument-IDs die Rohdokumente aus RING ab Kontextuelle Anreicherung: Kombiniert Nutzeranfragen mit abgerufenen Inhalten zu einer angereicherten Eingabe für generative KI-Modelle wie GPT-3.5 Generierung der Antwort: Übernimmt den letzten Schritt und liefert präzise, kontextbezogene Antworten an den Nutzer zurück LangChain vereinfacht komplexe Interaktionen und sorgt dafür, dass alle Komponenten harmonisch zusammenarbeiten. Warum die Feinabstimmung von GPT-3.5 unverzichtbar war GPT-3.5 bietet zwar eine solide Grundlage, doch sein allgemeines Wissen reicht für domänenspezifische Anwendungen nicht aus. Die Feinabstimmung schließt diese Lücke, indem sie das Modell auf domänenspezifische Daten ausrichtet und so Genauigkeit und Relevanz verbessert. Vorteile der Feinabstimmung: Fachwissen: Auf spezifische Datensätze zugeschnitten, versteht das Modell nuancierte Begriffe und liefert verwertbare Erkenntnisse. Beispiel: Dank Feinabstimmung kann GPT-3.5 auf Fragen wie „Was ist Insulinresistenz?“ strukturierte Antworten geben statt vager Allgemeinplätze. Bessere Trefferquote und Präzision: Feinabgestimmte Modelle verarbeiten abgerufene Daten effektiver, sodass der Chatbot fokussierte und kontextrelevante Antworten liefert. Höhere Nutzerzufriedenheit: Antworten sind schärfer, klarer und besser auf die Erwartungen der Nutzer abgestimmt. So greift alles ineinander: der RAG-Chatbot-Workflow Mit Scality RING, Milvus, LangChain und feinabgestimmtem GPT-3.5 haben wir eine nahtlose, leistungsstarke Pipeline für intelligente Chatbots aufgebaut. So funktioniert sie: Übermittlung der Anfrage: Ein Nutzer stellt eine Frage (z. B. „Was sind die Symptome von Diabetes?“). Erstellung des Abfrage-Embeddings: LangChain erzeugt ein Vektor-Embedding für die Anfrage. Abruf der Dokumente: Milvus ermittelt relevante Dokument-IDs, und RING ruft die zugehörigen Rohinhalte ab. Anreicherung: LangChain kombiniert die Nutzeranfrage mit den abgerufenen Inhalten, um zusätzlichen Kontext zu liefern. Generierung der Antwort: Das feinabgestimmte GPT-3.5 erzeugt eine präzise, menschenähnliche Antwort. Ausgabe der Antwort: Der Chatbot gibt die Antwort an den Nutzer zurück. Codebeispiel zur Integration der Technologiekomponenten mit RING Der folgende Beispielcode zeigt die Integration von RING, Milvus und GPT-3.5. Fazit: die Möglichkeiten von RAG mit Scality nutzen Noch einmal: Ein intelligenter Chatbot erfordert mehr als nur KI-Modelle – er braucht eine skalierbare, zuverlässige und KI-bereite Grundlage. Mit dem S3-kompatiblen Objektspeicher Scality RING erhalten Sie das Rückgrat für fortschrittliche RAG-Workflows. Durch die Integration mit Milvus, LangChain und GPT-3.5 ermöglicht RING Chatbots, die intelligentere, kontextbezogenere Antworten liefern. Ob für Kundensupport, Forschung oder Enterprise Intelligence – dieser Technologie-Stack sorgt dafür, dass Ihr Chatbot den Anforderungen der Praxis gewachsen ist und neue Möglichkeiten erschließt. Weitere Ressourcen Mehr erfahren: KI-Data-Lakes mit Scality RING KI-Data-Lake von Sequoia Genomics Intelligenter Data Lake für den Kundensupport von HPE mit Scality RING
