AI Service Center가 필요한 이유
-
단일 콘솔
로컬 및 클라우드 AI 서비스를 함께 관리
-
한 번 구성
모든 앱이 동일한 모델 세트를 공유함
-
사용량 제어 가능
토큰 사용량과 지출 모두에 한도 설정
한 번 구성. 모든 앱에서 AI 사용 가능
공유 인터페이스 하나
로컬 모델
CPU · GPU · iGPU · NPU
클라우드 서비스
OpenAI · Azure OpenAI · Gemini · Claude · OpenAI 호환
모델, 비용, 라우팅, 감사 등 네 가지 관리 페이지 제공
왼쪽에서 원하는 페이지를 선택하면 설명과 실제 제품 화면을 볼 수 있습니다.
명령줄 없이 모델 배포
AI Service Center는 QNAP 인증 모델 목록을 제공합니다. 배포는 두 단계로 진행됩니다.
목록에서 모델 선택
각 모델은 파일 크기, 메모리 요구사항, 하드웨어 호환성, 현재 상태 및 사용 중인 앱을 표시합니다.
컴퓨트 장치 선택
CPU, GPU, iGPU 또는 NPU. 다운로드 및 로딩은 백그라운드에서 자동으로 완료되며, 다른 작업을 방해하지 않습니다.
GPU 환경별로 설치됨
NVIDIA 환경에는 NVIDIA AI Runtime 및 LLM Core가 필요하며, Intel 환경에는 Intel AI Runtime 및 LLM Core(Intel)가 필요합니다.
클라우드 AI 지출, 실시간으로 확인 가능
클라우드 AI 지출은 일반적으로 청구서가 도착해야 명확해집니다. 이 페이지에서는 관리자가 각 공급자의 상태와 지출을 한눈에 볼 수 있습니다. 어떤 공급자가 활성화되어 있는지, 이번 달에 얼마나 지출했는지, 어떤 공급자가 예산 한도에 가까워지고 있는지 확인할 수 있습니다.
예산 한도 및 알림
각 공급자를 추가할 때 월별 예산과 경고 임계값을 설정하세요. 한도에 도달하면 서비스가 자동으로 중지됩니다.
키는 절대 NAS를 벗어나지 않습니다
API 키는 로컬 NAS에만 저장되며 QNAP 서버로 전송되지 않습니다.
활성화된 모델만 호출 가능
관리자가 활성화하지 않은 모델은 어떤 앱에서도 호출할 수 없습니다.
모든 앱-모델 매핑 한눈에 보기
관리자는 한 페이지에서 각 기능에 로컬 모델을 할당하고, 클라우드 액세스 허용 여부를 결정하며, 사용할 수 있는 클라우드 모델을 선택할 수 있습니다. 앱은 설치 시 자동으로 필요한 기능을 등록하고 선언합니다.
한 번 변경하면 전체에 적용
모델을 전환하려면 한 번만 수정하면 되고, 모든 앱이 이를 반영합니다.
앱별 클라우드 액세스
특정 앱만 클라우드 서비스를 사용하도록 허용하고 나머지는 로컬로 유지하세요.
활성화된 모델만 목록에 표시
목록에는 공급자 설정에서 활성화된 모델만 표시되어 잘못 선택하는 것을 방지합니다.
프로그램 전환 없이 감사
AI Service Center와 관련된 시스템 이벤트가 이제 하나의 콘솔에서 확인 가능하며, QuLog Center를 별도로 열고 두 인터페이스를 전환할 필요가 없습니다.
모든 호출이 기록됨
액세스 로그에는 시간, 앱, 모델, 기능, 토큰 수, 비용 및 레이턴시가 기록됩니다.
필터 및 내보내기
앱, 기능 또는 상태별로 필터링 및 정렬하고 CSV로 내보낼 수 있습니다.
모델별 비용 산정
비용은 설정한 가격을 기준으로 추정되며 개별 모델에 할당할 수 있습니다.
한 번만 구성하면 모든 앱에서 AI 사용 가능
앱은 AI Service Center에 등록되고 설치 시 필요한 기능을 선언하므로 이 목록은 계속 확장됩니다. 이후 출시되는 AI 앱은 이미 설정된 모델 및 정책을 자동으로 상속받습니다.
시스템 요구 사항 및 하드웨어 제한
사용 가능한 AI Service Center 기능은 NAS 프로세서 아키텍처에 따라 다릅니다. Cloud Providers는 모든 지원 모델에서 작동하며, Local Models는 검증된 GPU가 장착된 x86 모델이 필요합니다.
