Este contenido se ha traducido de manera automática. Consulte el Descargo de responsabilidad por la traducción automática.

How to use large language models for Qsirch RAG search?

¿Cómo utilizar modelos de lenguaje grande para la búsqueda RAG de Qsirch?

Última fecha de modificación: 2025-09-24

Applicable Products

Qsirch 6.0.0 (or later) on all platforms

Qsirch RAG Search with Cloud and On-Premise LLMs

Qsirch supports using Retrieval-Augmented Generation (RAG) with cloud-based large language models (LLMs) to deliver accurate and context-aware responses. When you enter a query, Qsirch retrieves relevant documents from your NAS and uses them as context for the language model. This combination of search and generative AI enables Qsirch to generate precise and informed answers based on your own data.

Qsirch also supports multi-turn conversation, enabling natural and context-aware interactions. Users can ask follow-up questions without repeating prior context, and context is preserved across turns for coherent answers. Multi-turn conversation support works with both cloud and on-premise RAG modes.

Integrate RAG with Cloud-based AI Services

To integrate RAG search, you must first obtain an API key from an AI service of your choice.

ChatGPT (OpenAI API)

ChatGPT (OpenAI API) provides powerful GPT models for both RAG embeddings and generative responses. Follow the steps below to apply for an API key:

Sign up for an account on OpenAI: https://auth.openai.com/create-account
Create an API key in the account settings.

For more information, see OpenAI API Documentation.

Azure OpenAI

Azure OpenAI provides access to OpenAI models (like GPT-4.1) via Azure infrastructure, which is ideal for enterprise solutions. Follow the steps below to apply for an API key:

Sign in to the Azure Portal.
Select your OpenAI resource (or create one if you do not already have one).
On the left menu, click Keys and Endpoint.
Copy an API key and copy the endpoint (base URL) for API requests.

For more information, see Azure OpenAI Documentation.

Gemini (Google Cloud AI)

Gemini (Google Cloud AI) provides a set of models designed for high-performance reasoning and RAG. Follow the steps below to apply for an API key:

Visit the Google Gemini API Documentation.
Get a Gemini API key in Google AI Studio.
Sign in to your Google account.
Click Create API key.

For more information, see Google Cloud AI Documentation.

OpenAI-Compatible API

OpenAI Compatible API allows users to access various AI models beyond OpenAI’s own offerings, including models like DeepSeek and Grok, using the same API format. This enables seamless integration with existing applications built for OpenAI API. Follow the steps below to apply for an API key:

Choose a provider that supports OpenAI-compatible API (for example, DeepSeek or Grok).
Sign up on the provider's platform.
Generate an API key in the account settings.
Update your API endpoint and model settings as required.

For more information, refer to the provider's official API documentation.

On-Premise RAG Search

For advanced users and enterprises who require full data privacy or offline AI capabilities, Qsirch offers on-premise RAG search powered by locally hosted LLMs. This mode runs entirely on your NAS or connected hardware, without sending data to external services.

Note

This feature is only available on specific NAS models. For details, see the introduction to RAG search on the QNAP website.

To enable on-premise RAG:

Ensure that the LLM Core is ready.
Set the GPU to Container Station mode (Go to Control Panel > Hardware > Hardware Resources > Resource Use > Container Station mode).

How to Use RAG Search in Qsirch

Go to Settings > Administrative setting > RAG Search.
Add one or more cloud services to use RAG search.
(Optional) Verify your API key. This helps check whether an API key is valid.
Download one or more edge models from the on-premise services. This feature can only be used on the specific NAS models.
Add more AI models that are compatible with OpenAI API, including the GPT series, DeepSeek models, and Grok models.
Choose file formats for your RAG search.
Go to Qsirch home page and click the RAG search button.
Qsirch RAG search will only use the files included in "Source" for data retrieval.
Check the model you want to use and then start using RAG search.

Productos aplicables

Qsirch 6.0.0 (o posterior) en todas las plataformas

Búsqueda RAG de Qsirch con la nubey LLMs en las instalaciones

Qsirch admite el uso de Generación aumentada por recuperación (RAG) con modelos de lenguaje grandes (LLM) basados en la nube para ofrecer respuestas precisas y conscientes del contexto. Cuando introduces una consulta, Qsirch recupera documentos relevantes de tu NAS y los utiliza como contexto para el modelo de lenguaje. Esta combinación de búsqueda e IA generativa permite a Qsirch generar respuestas precisas e informadas basadas en tus propios datos.

Qsirch también admite conversaciones de múltiples turnos, lo que permite interacciones naturales y conscientes del contexto. Los usuarios pueden hacer preguntas de seguimiento sin repetir el contexto anterior, y el contexto se conserva a lo largo de los turnos para respuestas coherentes. El soporte para conversaciones de múltiples turnos funciona tanto con modos RAG en la nube como en las instalaciones.

Integrar RAG con servicios de IA basados en la nube

Para integrar la búsqueda RAG, primero debes obtener una clave API de un servicio de IA de tu elección.

ChatGPT (API de OpenAI)

ChatGPT (API de OpenAI) proporciona potentes modelos GPT tanto para incrustaciones RAG como para respuestas generativas. Sigue los pasos a continuación para solicitar una clave API:

Regístrate para obtener una cuenta en OpenAI: https://auth.openai.com/create-account
Crea una clave API en la configuración de la cuenta.

Para obtener más información, consulta Documentación de la API de OpenAI.

Azure OpenAI

Azure OpenAI proporciona acceso a modelos de OpenAI (como GPT-4.1) a través de la infraestructura de Azure, lo cual es ideal para soluciones empresariales. Sigue los pasos a continuación para solicitar una clave API:

Inicia sesión en el Portal de Azure .
Selecciona tu recurso de OpenAI (o crea uno si aún no tienes uno).
En el menú de la izquierda, haz clic en Claves y punto final.
Copia una clave API y copia el punto final (URL base) para solicitudes de API.

Para obtener más información, consulta Documentación de Azure OpenAI.

Gemini (Google Cloud AI)

Gemini (Google Cloud AI) proporciona un conjunto de modelos diseñados para razonamiento de alto rendimiento y RAG. Sigue los pasos a continuación para solicitar una clave API:

Visita el Documentación de la API de Google Gemini.
Obtén una clave API de Gemini en Google AI Studio.
Inicia sesión en tu cuenta de Google.
Haz clic en Crear clave API.

Para obtener más información, consulta Documentación de Google Cloud AI.

API Compatible con OpenAI

La API compatible con OpenAI permite a los usuarios acceder a varios modelos de IA más allá de las ofertas propias de OpenAI, incluidos modelos como DeepSeek y Grok, utilizando el mismo formato de API. Esto permite una integración sin problemas con aplicaciones existentes construidas para la API de OpenAI. Siga los pasos a continuación para solicitar una clave API:

Elija un proveedor que admita la API compatible con OpenAI (por ejemplo, DeepSeek o Grok).
Regístrese en la plataforma del proveedor.
Genere una clave API en la configuración de la cuenta.
Actualice su punto final de API y la configuración del modelo según sea necesario.

Para más información, consulte la documentación oficial de la API del proveedor.

Búsqueda RAG en las instalaciones

Para usuarios avanzados y empresas que requieren privacidad total de los datos o capacidades de IA sin conexión, Qsirch ofrece búsqueda RAG en las instalaciones impulsada por LLM alojados localmente. Este modo se ejecuta completamente en su NAS o hardware conectado, sin enviar datos a servicios externos.

Nota

Esta función solo está disponible en modelos específicos de NAS. Para más detalles, consulte el introducción a la búsqueda RAG en el sitio web de QNAP.

Para habilitar la búsqueda RAG en las instalaciones:

Asegúrese de que el núcleo LLM esté listo.
Configure la GPU en modo Container Station (Vaya a Panel de control > Hardware > Recursos de hardware > Uso de recursos > modo Container Station ).

Cómo usar la búsqueda RAG en Qsirch

Vaya a Configuración > Configuración administrativa > Búsqueda RAG.
Agregue uno o más servicios en la nube para usar la búsqueda RAG.
(Opcional) Verifique su clave API. Esto ayuda a comprobar si una clave API es válida.
Descargue uno o más modelos de Edge de los servicios en las instalaciones. Esta función solo se puede usar en modelos específicos de NAS.
Agregue más modelos de IA que sean compatibles con la API de OpenAI, incluidos los modelos de la serie GPT, modelos de DeepSeek y modelos de Grok.
Elija formatos de archivo para su búsqueda RAG.
Vaya a la página de inicio de Qsirch y haga clic en el botón de búsqueda RAG.
La búsqueda RAG de Qsirch solo utilizará los archivos incluidos en "Fuente" para la recuperación de datos.
Verifique el modelo que desea usar y luego comience a usar la búsqueda RAG.

¿Le ha resultado útil este artículo?

Sí. No.

El 92% de las personas piensa que ayuda.

Díganos cómo podemos mejorar este artículo:

Al artículo le falta información importante
Las soluciones del artículo no funcionan
El artículo es demasiado complicado
El artículo contiene información incorrecta
El artículo está desactualizado

Si desea enviarnos más comentarios, inclúyalos a continuación.

Almacenamiento

Redes

Accesorios de expansión

Videovigilancia

NAS

Redes

Vigilancia

Applicable Products

Qsirch RAG Search with Cloud and On-Premise LLMs

Integrate RAG with Cloud-based AI Services

ChatGPT (OpenAI API)

Azure OpenAI

Gemini (Google Cloud AI)

OpenAI-Compatible API

On-Premise RAG Search

How to Use RAG Search in Qsirch

Productos aplicables

Búsqueda RAG de Qsirch con la nubey LLMs en las instalaciones

Integrar RAG con servicios de IA basados en la nube

ChatGPT (API de OpenAI)

Azure OpenAI

Gemini (Google Cloud AI)