如何使用大型語言模型進行 Qsirch RAG 搜尋？
最後修訂日期:
2025-09-03
適用產品
在所有平台 Qsirch 5.6.0 以上的版本
透過雲端 LLM 執行 Qsirch RAG 搜尋
Qsirch 支援使用檢索增強生成 (RAG) 與基於雲端的大型語言模型 (LLM)，提供準確且上下文感知的回應。當您輸入字詞時，Qsirch 會從 NAS 檢索相關文件，並將其用作語言模型的上下文。這樣的搜尋與生成式 AI 的結合使 Qsirch 能夠根據自身的數據產出精確且明智的答案。
使用雲端式 AI 服務整合 RAG
若要整合 RAG 搜尋，您必須先從您選擇的 AI 服務取得 API 金鑰。
ChatGPT (OpenAI API)
ChatGPT (OpenAI API) 為 RAG 嵌入與生成的回應提供強大的 GPT 模型。請依照下列步驟套用 API 金鑰：
- 在 OpenAI 註冊帳戶：https://auth.openai.com/create-account
- 在帳戶設定建立 API 金鑰。
如需詳細資訊，請參閱：OpenAI API 文件。
Azure OpenAI
Azure OpenAI 透過 Azure 基礎架構提供對 OpenAI 模型 (如 GPT-4) 的存取，對於企業解決方案來說是理想的選擇。請依照下列步驟套用 API 金鑰：
- 登入Azure 入口網站。
- 選擇您的 OpenAI 資源 (如果您尚未擁有，請建立一個)。
- 按一下左側功能表的［Keys and Endpoint (金鑰與端點)］。
- 複製 API 金鑰並複製 API 請求的端點 (基礎 URL)。
如需詳細資訊，請參閱：Azure OpenAI 文件。
Gemini (Google Cloud AI)
Gemini (Google Cloud AI) 提供一組專為高效能推理與 RAG 設計的模式。請依照下列步驟套用 API 金鑰：
- 請造訪：Google Gemini API 文件。
- 在 Google AI Studio 取得 Gemini API 金鑰。
- 登入 Google 帳戶。
- 按一下［Create API key (建立 API 金鑰)］。
如需詳細資訊，請參閱：Google Cloud AI 文件。
OpenAI 相容 API
OpenAI 相容 API 允許使用者透過相同的 API 格式存取 OpenAI 自身產品以外的各種 AI 模型，包括 DeepSeek 與 Grok 等模型。如此能為 OpenAI API 建置的現有應用程式實現無縫整合。請依照下列步驟套用 API 金鑰：
- 選擇支援 OpenAI 相容 API 的供應商 (例如，DeepSeek 或 Grok)。
- 在供應商的平台註冊。
- 在帳戶設定產生 API 金鑰。
- 根據需要更新 API 端點與模型設定。
如需更多資訊，請參閱供應商的官方 API 文件。
在 Qsirch 使用 RAG 搜尋
- 前往［設定］>［管理員設定］>［RAG 搜尋］。
- 完成 LLM 設定。
- (選擇性步驟) 驗證 API 金鑰，有助於檢查 API 金鑰是否有效。
- 新增更多與 OpenAI API 相容的 AI 模型，包括 GPT 系列、DeepSeek 模型與 Grok 模型。
- 在 RAG 資料夾新增想要使用於 RAG 搜尋的資料夾。
- 為您的 RAG 搜尋選擇檔案格式。
- 套用設定。
- 前往 Qsirch 並按一下 RAG 搜尋按鈕。
- 輸入關鍵字可開始使用 RAG 搜尋。
