Comment configurer Qsirch RAG sur site
Produits applicables
Qsirch 6.0.0 (ou version ultérieure) sur la plateforme QuTS hero
Recherche RAG sur site
Pour les utilisateurs avancés et les entreprises qui nécessitent une confidentialité totale des données ou une IA hors ligne, Qsirch exécute RAG sur des LLM hébergés localement. Tout est effectué sur votre NAS ou matériel connecté - aucune donnée ne quitte votre environnement.
Matériel et configuration
Recommandations matérielles
- NAS : TS-h1290FX ( https://www.qnap.com/zh-tw/product/ts-h1290fx )
- GPUs : RTX 6000 Ada et RTX 4000 Ada
- QuTS hero 5.2.1 ou versions ultérieures
- Le noyau LLM est installé et activé
- Aller à Panneau de configuration > Matériel > Ressources matérielles > Utilisation des ressources > mode Container Station
Noyau LLM (app) - modèles pris en charge par RAG sur site
Le noyau LLM apporte des modèles de langage étendus directement à votre NAS, permettant à Qsirch d'exécuter RAG de manière privée et efficace sans services cloud. Avec la gestion intégrée des modèles, vous pouvez télécharger, organiser et basculer entre les modèles locaux, puis les utiliser dans Qsirch pour la génération. Tout fonctionne sur votre matériel pour un contrôle total sur la performance et la confidentialité.
Modèles locaux actuellement pris en charge (la liste est mise à jour au fil du temps ; vérifiez dans l'application pour les derniers modèles) :
| Nom d'affichage | Paramètres | Quantification | Taille |
|---|---|---|---|
| DeepSeek R1 7B | 7.628B | Q4_K_M | 4.70 Go |
| DeepSeek R1 14B | 14.8B | Q4_K_M | 9.00 Go |
| Gemma3 12B | 12.2B | Q4_K_M | 8.10 Go |
| DeepSeek R1 8B | 8.03B | Q4_K_M | 4.90 Go |
| DeepSeek R1 32B | 32,8B | Q4_K_M | 20,00 Go |
| Gemma3 1B | 1,0B | Q4_K_M | 0,815 Go |
| Gemma3 4B | 4,38B | Q4_K_M | 3,30 Go |
| Gemma3 27B | 27,4B | Q4_K_M | 18,00 Go |
| gpt-oss 20B | 20,98B | MXFP4 | 14,00 Go |
| Mistral 7B | 7,25B | Q4_K_M | 4,10 Go |
| Microsoft Phi-4 14B | 14,7B | Q4_K_M | 9,10 Go |
Comment configurer le service sur site dans Qsirch
- Aller à Paramètres > administrateur setting > RAG Search > Service sur site.
- Si le LLM Core n'est pas installé/activé, cliquez sur Activer maintenant pour aller à App Center et installer/activer LLM Core.
Si la carte GPU n'est pas réglée sur le mode Container Station, cliquez sur Activer maintenant pour aller à Panneau de configuration et régler le GPU sur le mode Container Station.
