Qsirch RAG 검색용 대형 언어 모델은 어떻게 사용하나요?
적용되는 제품
모든 플랫폼에서 Qsirch 5.6.0 (이상)
클라우드 LLM이 지원되는 Qsirch RAG 검색
Qsirch는 클라우드 기반 대용량 언어 모델(LLM)과 함께 검색 증강 생성(RAG)을 사용하여 정확하고 상황을 인식하는 응답을 제공하는 것을 지원합니다. 쿼리를 입력하면 Qsirch가 NAS에서 관련 문서를 검색한 다음 이를 언어 모델용 콘텍스트로 사용합니다. Qsirch는 이러한 검색과 생성 AI의 조합을 통해 자신의 데이터를 기반으로 정확하고 정보에 입각한 답변을 생성할 수 있습니다.
RAG와 클라우드 기반 AI 서비스 통합
RAG 검색를 통합하려면 먼저 원하는 AI 서비스에서 API 키를 얻어야 합니다.
ChatGPT (OpenAI API)
ChatGPT (OpenAI API)는 RAG 임베딩 및 생성용 응답 모두를 위해 강력한 GPT 모델을 제공합니다. 아래 단계에 따라 API 키를 신청합니다.
- OpenAI 계정에 가입합니다: https://auth.openai.com/create-account
- 계정 설정에서 API 키를 만듭니다.
자세한 내용은 OpenAI API 문서을 참조하십시오.
Azure OpenAI
Azure OpenAI는 엔터프라이즈 솔루션에 이상적인 Azure 인프라를 통해 OpenAI 모델(예: GPT-4)에 대한 액세스를 제공합니다. 아래 단계에 따라 API 키를 신청합니다.
- Azure Portal(Azure 포털)에 로그인합니다.
- OpenAI 리소스를 선택합니다(또는 리소스가 없는 경우 만듭니다).
- 왼쪽 메뉴에서 Keys and Endpoint(키 및 엔드포인트)를 클릭합니다.
- API 키를 복사하고 API 요청을 위한 엔드포인트(기본 URL)을 복사합니다.
자세한 내용은 Azure OpenAI 문서을 참조하십시오.
Gemini (Google Cloud AI)
Gemini (Google Cloud AI)는 고성능 추론과 RAG를 위해 설계된 일련의 모델을 제공합니다. 아래 단계에 따라 API 키를 신청합니다.
- Google Gemini API 문서을 방문합니다.
- Google AI Studio에서 Gemini API 키를 얻습니다.
- Google 계정에 로그인합니다.
- Create API key(API 키 만들기)를 클릭합니다.
자세한 내용은 Google Cloud AI 문서을 참조하십시오.
OpenAI 호환 가능 API
OpenAI 호환 가능 API를 사용하는 사용자는 동일한 API 형식을 사용하여 DeepSeek 및 Grok과 같은 모델을 비롯한 OpenAI 자체 제품 외에도 다양한 AI 모델에 액세스할 수 있습니다. 이를 통해 OpenAI API용으로 구축된 기존 애플리케이션과 원활하게 통합할 수 있습니다. 아래 단계에 따라 API 키를 신청합니다.
- OpenAI 호환 가능 API를 지원하는 공급자를 선택합니다(예: DeepSeek 또는 Grok).
- 공급자의 플랫폼에 가입합니다.
- 계정 설정에서 API 키를 생성합니다.
- 필요에 따라 자신의 API 엔드포인트 및 모델 설정을 업데이트합니다.
자세한 내용은 공급자의 공식 API 문서를 참조하십시오.
Qsirch에서 RAG 검색 사용
- 설정 > 관리자 설정 > RAG 검색으로 이동합니다.
- LLM 설정을 완료합니다.
- (선택 사항) API 키를 확인합니다. 이를 통해 API 키가 유효한지 확인할 수 있습니다.
- GPT 시리즈, DeepSeek 모델 및 Grok 모델을 비롯한 OpenAI API와 호환되는 더 많은 AI 모델을 추가합니다.
- RAG 폴더에서 RAG 검색를 위해 사용할 폴더를 추가합니다.
- RAG 검색용 파일 형식을 선택합니다.
- 설정을 적용합니다.
- Qsirch로 이동한 후 RAG 검색 버튼을 클릭합니다.
- 키워드를 입력하여 RAG 검색 사용을 시작합니다.
