Wie kann ich Large Language Modelle für die Qsirch RAG-Suche verwenden?
Betreffende Produkte
Qsirch 5.6.0 (oder höher) auf allen Plattformen
Qsirch RAG-Suche mit Cloud LLMs
Qsirch unterstützt die Verwendung von Retrieval-Augmented Generation (RAG) mit cloudbasierten Large Language Modellen (LLMs), um präzise und kontextbewusste Antworten zu liefern. Wenn Sie eine Anfrage eingeben, ruft Qsirch relevante Dokumente von Ihrem NAS ab und verwendet diese als Kontext für das Sprachmodell. Diese Kombination aus Suche und generativer KI ermöglicht es Qsirch, präzise und informierte Antworten basierend auf Ihren eigenen Daten zu generieren.
RAG mit cloudbasierten KI-Diensten integrieren
Zur Integration der RAG-Suche müssen Sie zunächst einen API-Schlüssel von einem KI-Dienst Ihrer Wahl erhalten.
ChatGPT (OpenAI API)
ChatGPT (OpenAI API) bietet leistungsstarke GPT Modelle sowohl für RAG Embeddings als auch für generative Antworten. Befolgen Sie die nachstehenden Schritte, um einen API-Schlüssel zu beantragen:
- Registrieren Sie ein Konto bei OpenAI: https://auth.openai.com/create-account
- Erstellen Sie einen API-Schlüssel in den Kontoeinstellungen.
Weitere Informationen finden Sie in der OpenAI API Dokumentation.
Azure OpenAI
Azure OpenAI bietet Zugriff auf OpenAI Modelle (wie GPT-4) über die Azure Infrastruktur, die ideal für Unternehmenslösungen ist. Befolgen Sie die nachstehenden Schritte, um einen API-Schlüssel zu beantragen:
- Melden Sie sich im Azure Portal an.
- Wählen Sie Ihre OpenAI Ressource aus (oder erstellen Sie eine, wenn Sie noch keine haben).
- Klicken Sie im linken Menü auf Keys and Endpoint (Schlüssel und Endpunkte).
- Kopieren Sie einen API-Schlüssel und kopieren Sie den Endpunkt (Basis-URL) für API Anfragen.
Weitere Informationen finden Sie in der Azure OpenAI Dokumentation.
Gemini (Google Cloud AI)
Gemini (Google Cloud AI) bietet eine Reihe von Modellen, die für leistungsstarke Argumentation und RAG entwickelt wurden. Befolgen Sie die nachstehenden Schritte, um einen API-Schlüssel zu beantragen:
- Besuchen Sie die Google Gemini API Dokumentation.
- Holen Sie sich einen Gemini API-Schlüssel in Google AI Studio.
- Melden Sie sich bei Ihrem Google Konto an.
- Klicken Sie auf Create API key (API-Schlüssel erstellen).
Weitere Informationen finden Sie in der Google Cloud AI Dokumentation.
OpenAI-kompatible API
Die OpenAI-kompatible API ermöglicht es Benutzern, auf verschiedene KI-Modelle zuzugreifen, die über die eigenen Angebote von OpenAI hinausgehen, darunter Modelle wie DeepSeek und Grok. Sie verwendet dasselbe API Format. Dies ermöglicht eine nahtlose Integration mit bestehenden Anwendungen, die für die OpenAI API entwickelt wurden. Befolgen Sie die nachstehenden Schritte, um einen API-Schlüssel zu beantragen:
- Wählen Sie einen Anbieter, der die OpenAI-kompatible API unterstützt (zum Beispiel DeepSeek oder Grok).
- Registrieren Sie sich auf der Plattform des Anbieters.
- Generieren Sie einen API-Schlüssel in den Kontoeinstellungen.
- Aktualisieren Sie ggf. Ihre API Endpunkt- und Modelleinstellungen.
Weitere Informationen finden Sie in der offiziellen API Dokumentation des Anbieters.
RAG-Suche in Qsirch verwenden
- Gehen Sie zu Einstellungen > Administrator Einstellung > RAG-Suche.
- Vervollständigen Sie die LLM-Einstellungen.
- (Optional) Verifizieren Sie Ihren API-Schlüssel. Dies hilft zu überprüfen, ob ein API-Schlüssel gültig ist.
- Fügen Sie weitere KI-Modelle hinzu, die mit der OpenAI API kompatibel sind, darunter der GPT Serie, DeepSeek Modelle und Grok Modelle.
- Fügen Sie in den RAG-Ordnern die Ordner hinzu, die Sie für die RAG-Suche verwenden möchten.
- Wählen Sie die Dateiformate für Ihre RAG-Suche aus.
- Übernehmen Sie die Einstellungen.
- Gehen Sie zu Qsirch und klicken Sie auf die Schaltfläche RAG-Suche.
- Geben Sie Stichwörter ein, um die RAG-Suche zu starten.
