Cómo configurar Qsirch RAG en las instalaciones
Productos aplicables
Qsirch 6.0.0 (o posterior) en la plataforma QuTS hero
Búsqueda RAG local
Para usuarios avanzados y empresas que requieren privacidad total de datos o IA sin conexión, Qsirch ejecuta RAG en LLMs alojados localmente. Todo se realiza en su NAS o hardware conectado: ningún dato sale de su entorno.
Hardware y configuración
Recomendaciones de hardware
- NAS: TS-h1290FX ( https://www.qnap.com/zh-tw/product/ts-h1290fx )
- GPUs: RTX 6000 Ada y RTX 4000 Ada
- QuTS hero 5.2.1 o versiones posteriores
- LLM Core está instalado y habilitado
- Vaya a Panel de control > Hardware > Recursos de hardware > Uso de recursos > modo Container Station
LLM Core (app) - Modelos compatibles con RAG local
LLM Core lleva modelos de lenguaje grandes directamente a su NAS, permitiendo que Qsirch ejecute RAG de manera privada y eficiente sin servicios en la nube. Con la gestión de modelos integrada, puede descargar, organizar y cambiar entre modelos locales, y luego usarlos en Qsirch para generación. Todo se ejecuta en su hardware para un control total sobre el rendimiento y la privacidad.
Modelos locales actualmente compatibles (la lista se actualiza con el tiempo; consulte en la aplicación para los modelos más recientes):
| Nombre de visualización | Parámetros | Cuantización | Tamaño |
|---|---|---|---|
| DeepSeek R1 7B | 7.628B | Q4_K_M | 4.70 GB |
| DeepSeek R1 14B | 14.8B | Q4_K_M | 9.00 GB |
| Gemma3 12B | 12.2B | Q4_K_M | 8.10 GB |
| DeepSeek R1 8B | 8.03B | Q4_K_M | 4.90 GB |
| DeepSeek R1 32B | 32.8B | Q4_K_M | 20.00 GB |
| Gemma3 1B | 1.0B | Q4_K_M | 0.815 GB |
| Gemma3 4B | 4.38B | Q4_K_M | 3.30 GB |
| Gemma3 27B | 27.4B | Q4_K_M | 18.00 GB |
| gpt-oss 20B | 20.98B | MXFP4 | 14.00 GB |
| Mistral 7B | 7.25B | Q4_K_M | 4.10 GB |
| Microsoft Phi-4 14B | 14.7B | Q4_K_M | 9.10 GB |
Cómo configurar el servicio local en Qsirch
- Ir a Configuración > configuración de administrador > Búsqueda RAG > Servicio local.
- Si el núcleo LLM no está instalado/habilitado, haga clic en Habilitar ahora para ir a App Center e instalar/habilitar el núcleo LLM.
Si la tarjeta GPU no está configurada en modo Container Station, haga clic en Habilitar ahora para ir a Panel de control y configurar la GPU en modo Container Station.
