此頁面為機器翻譯版本，請參閱機器翻譯免責聲明。

How to Set up On-Prem Qsirch RAG

如何設定內部部署 Qsirch RAG

最後修訂日期: 2025-10-28

適用產品

Qsirch 6.0.0（或更新版本）在 QuTS hero 平台上

針對需要完整資料隱私或離線 AI 的進階使用者和企業，Qsirch 在本地託管的 LLM 上執行 RAG。所有操作均在您的 NAS 或連線的硬體上進行，沒有資料離開您的環境。

硬體建議

- GPUs：RTX 6000 Ada 和 RTX 4000 Ada

- QuTS hero 5.2.1 或更新版本

- 已安裝並啟用 LLM Core

- 前往 控制台 > 硬體 > 硬體資源 > 資源使用 > Container Station 模式

LLM Core 將大型語言模型直接帶到您的 NAS，讓 Qsirch 可以在不使用雲端服務的情況下私密且高效地執行 RAG。透過內建的模型管理，您可以下載、組織和切換本地模型，然後在 Qsirch 中使用它們進行生成。所有操作均在您的硬體上進行，讓您完全掌控效能和隱私。

目前支援的本地模型（清單會隨時間更新；請在應用程式中檢視最新模型）：

前往設定 > 系統管理員設定 > RAG 搜尋 > 內部部署服務。
如果尚未安裝 / 啟用 LLM Core，請按一下立即啟用以前往 App Center 並安裝 / 啟用 LLM Core。
如果 GPU 卡未設定為 Container Station 模式，請按一下立即啟用以前往控制台並將 GPU 設定為 Container Station 模式。

這篇文章有幫助嗎？

是否

請告訴我們如何改進這篇文章：

如果您想提供其他意見，請於下方輸入。