Este conteúdo foi traduzido automaticamente. Consulte a Limitação de Responsabilidade da tradução automática.

How to use large language models for Qsirch RAG search?

Como usar modelos de linguagem grandes para pesquisa RAG no Qsirch?

Data da última modificação: 2025-09-24

Applicable Products

Qsirch 6.0.0 (or later) on all platforms

Qsirch RAG Search with Cloud and On-Premise LLMs

Qsirch supports using Retrieval-Augmented Generation (RAG) with cloud-based large language models (LLMs) to deliver accurate and context-aware responses. When you enter a query, Qsirch retrieves relevant documents from your NAS and uses them as context for the language model. This combination of search and generative AI enables Qsirch to generate precise and informed answers based on your own data.

Qsirch also supports multi-turn conversation, enabling natural and context-aware interactions. Users can ask follow-up questions without repeating prior context, and context is preserved across turns for coherent answers. Multi-turn conversation support works with both cloud and on-premise RAG modes.

Integrate RAG with Cloud-based AI Services

To integrate RAG search, you must first obtain an API key from an AI service of your choice.

ChatGPT (OpenAI API)

ChatGPT (OpenAI API) provides powerful GPT models for both RAG embeddings and generative responses. Follow the steps below to apply for an API key:

Sign up for an account on OpenAI: https://auth.openai.com/create-account
Create an API key in the account settings.

For more information, see OpenAI API Documentation.

Azure OpenAI

Azure OpenAI provides access to OpenAI models (like GPT-4.1) via Azure infrastructure, which is ideal for enterprise solutions. Follow the steps below to apply for an API key:

Sign in to the Azure Portal.
Select your OpenAI resource (or create one if you do not already have one).
On the left menu, click Keys and Endpoint.
Copy an API key and copy the endpoint (base URL) for API requests.

For more information, see Azure OpenAI Documentation.

Gemini (Google Cloud AI)

Gemini (Google Cloud AI) provides a set of models designed for high-performance reasoning and RAG. Follow the steps below to apply for an API key:

Visit the Google Gemini API Documentation.
Get a Gemini API key in Google AI Studio.
Sign in to your Google account.
Click Create API key.

For more information, see Google Cloud AI Documentation.

OpenAI-Compatible API

OpenAI Compatible API allows users to access various AI models beyond OpenAI’s own offerings, including models like DeepSeek and Grok, using the same API format. This enables seamless integration with existing applications built for OpenAI API. Follow the steps below to apply for an API key:

Choose a provider that supports OpenAI-compatible API (for example, DeepSeek or Grok).
Sign up on the provider's platform.
Generate an API key in the account settings.
Update your API endpoint and model settings as required.

For more information, refer to the provider's official API documentation.

On-Premise RAG Search

For advanced users and enterprises who require full data privacy or offline AI capabilities, Qsirch offers on-premise RAG search powered by locally hosted LLMs. This mode runs entirely on your NAS or connected hardware, without sending data to external services.

Note

This feature is only available on specific NAS models. For details, see the introduction to RAG search on the QNAP website.

To enable on-premise RAG:

Ensure that the LLM Core is ready.
Set the GPU to Container Station mode (Go to Control Panel > Hardware > Hardware Resources > Resource Use > Container Station mode).

How to Use RAG Search in Qsirch

Go to Settings > Administrative setting > RAG Search.
Add one or more cloud services to use RAG search.
(Optional) Verify your API key. This helps check whether an API key is valid.
Download one or more edge models from the on-premise services. This feature can only be used on the specific NAS models.
Add more AI models that are compatible with OpenAI API, including the GPT series, DeepSeek models, and Grok models.
Choose file formats for your RAG search.
Go to Qsirch home page and click the RAG search button.
Qsirch RAG search will only use the files included in "Source" for data retrieval.
Check the model you want to use and then start using RAG search.

Produtos Aplicáveis

Qsirch 6.0.0 (ou posterior) em todas as plataformas

Pesquisa RAG do Qsirch com Cloude LLMs no Local

O Qsirch suporta a utilização de Geração Aumentada por Recuperação (RAG) com grandes modelos de linguagem (LLMs) baseados na nuvem para fornecer respostas precisas e com consciência de contexto. Quando insere uma consulta, o Qsirch recupera documentos relevantes do seu NAS e utiliza-os como contexto para o modelo de linguagem. Esta combinação de pesquisa e IA generativa permite ao Qsirch gerar respostas precisas e informadas com base nos seus próprios dados.

O Qsirch também suporta conversação multi-turn, permitindo interações naturais e com consciência de contexto. Os utilizadores podem fazer perguntas de seguimento sem repetir o contexto anterior, e o contexto é preservado ao longo das interações para respostas coerentes. O suporte para conversação multi-turn funciona tanto com modos RAG na nuvem como no local.

Integrar RAG com Serviços de IA Baseados na Nuvem

Para integrar a pesquisa RAG, deve primeiro obter uma chave API de um serviço de IA à sua escolha.

ChatGPT (API OpenAI)

O ChatGPT (API OpenAI) fornece modelos GPT poderosos tanto para embeddings RAG como para respostas generativas. Siga os passos abaixo para solicitar uma chave API:

Registe-se para uma conta na OpenAI: https://auth.openai.com/create-account
Crie uma chave API nas definições da conta.

Para mais informações, consulte Documentação da API OpenAI.

Azure OpenAI

O Azure OpenAI fornece acesso a modelos OpenAI (como o GPT-4.1) através da infraestrutura Azure, ideal para soluções empresariais. Siga os passos abaixo para solicitar uma chave API:

Inicie sessão no Portal Azure .
Selecione o seu recurso OpenAI (ou crie um se ainda não tiver um).
No menu à esquerda, clique em Chaves e Endpoint.
Copie uma chave API e copie o endpoint (URL base) para pedidos de API.

Para mais informações, consulte Documentação do Azure OpenAI.

Gemini (Google Cloud AI)

O Gemini (Google Cloud AI) fornece um conjunto de modelos concebidos para raciocínio de alto desempenho e RAG. Siga os passos abaixo para solicitar uma chave API:

Visite o Documentação da API Google Gemini.
Obtenha uma chave API Gemini no Google AI Studio.
Inicie sessão na sua conta Google.
Clique em Criar chave API.

Para mais informações, consulte Documentação da Google Cloud AI.

API Compatível com OpenAI

A API Compatível com OpenAI permite aos utilizadores aceder a vários modelos de IA além das ofertas próprias da OpenAI, incluindo modelos como DeepSeek e Grok, utilizando o mesmo formato de API. Isto permite uma integração perfeita com aplicações existentes construídas para a API OpenAI. Siga os passos abaixo para solicitar uma chave de API:

Escolha um fornecedor que suporte a API compatível com OpenAI (por exemplo, DeepSeek ou Grok).
Registe-se na plataforma do fornecedor.
Gere uma chave de API nas definições da conta.
Atualize o seu endpoint de API e as definições do modelo conforme necessário.

Para mais informações, consulte a documentação oficial da API do fornecedor.

Pesquisa RAG On-Premise

Para utilizadores avançados e empresas que necessitam de total privacidade de dados ou capacidades de IA offline, o Qsirch oferece pesquisa RAG on-premise alimentada por LLMs alojados localmente. Este modo funciona inteiramente no seu NAS ou hardware conectado, sem enviar dados para serviços externos.

Nota

Esta funcionalidade está disponível apenas em modelos específicos de NAS. Para mais detalhes, consulte o introdução à pesquisa RAG no site da QNAP.

Para ativar a RAG on-premise:

Certifique-se de que o LLM Core está pronto.
Defina a GPU para o modo Container Station (Vá para Painel de Controlo > Hardware > Recursos de hardware > Utilização de Recursos > modo Container Station ).

Como Usar a Pesquisa RAG no Qsirch

Vá para Definições > Definições Administrativas > Pesquisa RAG.
Adicione um ou mais serviços de nuvem para usar a pesquisa RAG.
(Opcional) Verifique a sua chave de API. Isto ajuda a verificar se uma chave de API é válida.
Descarregue um ou mais modelos Edge dos serviços on-premise. Esta funcionalidade só pode ser utilizada nos modelos específicos de NAS.
Adicione mais modelos de IA que sejam compatíveis com a API OpenAI, incluindo a série GPT, modelos DeepSeek e modelos Grok.
Escolha formatos de ficheiro para a sua pesquisa RAG.
Vá para a página inicial do Qsirch e clique no botão de pesquisa RAG.
A pesquisa RAG do Qsirch só utilizará os ficheiros incluídos em "Fonte" para a recuperação de dados.
Verifique o modelo que deseja usar e depois comece a usar a pesquisa RAG.

Este artigo foi útil?

Sim. Não.

92% das pessoas acham que foi útil.

Conte-nos como podemos melhorar este artigo:

Informações importantes estão faltando no artigo
As soluções do artigo não funcionam
O artigo é muito complicado
O artigo contém informações incorretas
O artigo está desatualizado

Se quiser enviar outros comentários, escreva-os abaixo.

Armazenamento

Funcionamento em rede

Acessórios de expansão

Vigilância

NAS

Funcionamento em rede

Vigilância

Applicable Products

Qsirch RAG Search with Cloud and On-Premise LLMs

Integrate RAG with Cloud-based AI Services

ChatGPT (OpenAI API)

Azure OpenAI

Gemini (Google Cloud AI)

OpenAI-Compatible API

On-Premise RAG Search

How to Use RAG Search in Qsirch

Produtos Aplicáveis

Pesquisa RAG do Qsirch com Cloude LLMs no Local

Integrar RAG com Serviços de IA Baseados na Nuvem

ChatGPT (API OpenAI)

Azure OpenAI