Úložný server QNAP Edge AI

Komplexní platforma Edge AI computing integruje úložiště, virtualizaci a výpočetní výkon, aby pomohla podnikům efektivně, bezpečně a s cenovou dostupností nasadit lokální aplikace AI – a urychlit tak chytrou transformaci v různých odvětvích.

Výzvy, kterým podniky čelí v éře umělé inteligence

S rostoucími nároky na GenAI, LLM a edge computing narážejí tradiční IT infrastruktury na různé problematické oblasti:

  • Vysoká bezpečnostní rizika ve spojení s cloudem

    Více než 90 % podniků uvádí bezpečnost dat jako hlavní problém při zavádění umělé inteligence. Nasazení v cloudu vystavuje data potenciálním únikům a rizikům souvisejícím s dodržováním předpisů.

  • Prudce rostoucí náklady na nasazení

    Souhrn licenčních poplatků za cloudové modely, používání tokenů, přístup ke GPU, úložiště a virtualizační platformy výrazně zvyšují celkové náklady na vlastnictví (TCO).

  • Roztříštěná infrastruktura

    Oddělené výpočetní a úložné systémy vedou k časově náročné integraci a složité údržbě.

  • Nestabilní výkon

    Kvůli sdílené infrastruktuře soupeří modely umělé inteligence a virtualizační aplikace o systémové prostředky, což vede k latenci a nepředvídatelnému výkonu.

  • Explozivní objemy dat

    Umělá inteligence a aplikace náročné na data generují obrovské množství dat, což zatěžuje tradiční škálovatelnost úložišť a možnosti správy dat.

Proč si vybrat úložný server QNAP Edge AI?

Úložný server QNAP Edge AI poskytuje jednotnou platformu pro edge computing, která integruje ukládání dat, virtualizaci, zrychlení pomocí GPU a I/O a správu zdrojů CPU. Umožňuje podnikům efektivně nasadit lokálně aplikace AI a periferní zařízení. Podniky mohou na QAI nainstalovat hypervizorovou aplikaci Virtualization Station nebo platformu pro správu kontejnerů Container Station od společnosti QNAP a flexibilně tak vytvářet vlastní servery s umělou inteligencí a okrajové úložné servery přizpůsobené konkrétním případům použití, které poskytují vysoký výkon a nízkou latenci.

Podporuje různé periferní aplikace umělé inteligence:

  • ️Inference modelu SLM (Small Language Model)
  • Inference modelu LLM (Large Language Models)
  • Generativní umělá inteligence
  • Inference a ladění modelů umělé inteligence
  • Chytrá výroba a průmyslová automatizace
  • Chytrý maloobchod a analýza zákazníků
  • Chytré dozorování a analýza videí
Podporuje různé periferní aplikace umělé inteligence

Větší kontrola nad daty

Veškerá data a aplikace jsou hostovány lokálně, což eliminuje rizika spojená s přenosem do veřejného cloudu a zajišťuje shodu s předpisy.

Zjednodušené nasazení a správa

Provozujte úložiště, virtuální počítače, pracovní zátěže na GPU a aplikace na jediném zařízení QAI, abyste minimalizovali nároky spojené s používáním různých zařízení.

Okamžitá připravenost k výkonu

Dynamické přidělování prostředků a hardwarová akcelerace zajišťují plynulé a efektivní operace virtuálních počítačů a umělé inteligence.

Cenová dostupnost

Bezlicenční virtualizační platforma společnosti QNAP výrazně snižuje dlouhodobé TCO.

Technické výhody oproti tradiční architektuře

Úložný server QNAP Edge AI nabízí flexibilní přidělování systémových prostředků, pokročilou hardwarovou akceleraci a ochranu dat na podnikové úrovni – což z něj činí ideální platformu pro edge computing.

Vyhrazené přidělování zdrojů

Pomocí aplikace Virtualization Station můžete přiřadit procesor, paměť a šířku pásma sítě konkrétním virtuálním počítačům a zabránit tak konfliktům prostředků.

Zrychlení pomocí GPU pro pracovní zátěže AI

Povolte průchod GPU pro přidělování fyzických GPU virtuálním počítačům pro rychlejší inferenci AI a zpracování grafiky.

SR-IOV pro optimalizované sítě

Poskytuje virtuálním počítačům přímé kanály NIC, čímž snižuje latenci sítě a režii šířky pásma.

Vysoce výkonný průchod PCIe

Přiřaďte grafické karty, síťové karty nebo řadiče úložiště přímo virtuálním počítačům a dosáhněte téměř nativního hardwarového výkonu.

Škálovatelné rozšiřování úložiště

Podporuje rozšiřující úložnou jednotku SAS / FC, která splňuje rostoucí požadavky na úložiště pro umělou inteligenci a virtualizaci.

Ochrana podnikových dat

Postaven na systému ZFS, podporuje RAID, snímky, neměnnost dat (WORM), deduplikaci dat a optimalizaci SSD.

Uvolněte výkon virtuálních počítačů pomocí přesného přidělování prostředků

  • Pokročilá technologie akcelerace
    Passthrough Technology

    Přímé přiřazení fyzických prostředků GPU, NIC nebo jiných zařízení PCIe určeným virtuálním počítačům, čímž se minimalizuje režie hypervizoru a dosáhne se stabilnějšího výkonu a nižší latence.

    • Průchod GPU
    • Průchod PCIe
  • Optimalizované přidělování zdrojů
    Správa prostředků CPU

    Pomocí správy prostředků CPU (bude podporována brzy) můžete konkrétním virtuálním počítačům přiřadit vyhrazená vlákna CPU (izolace CPU), čímž zajistíte stabilní a nezávislý provoz virtuálních počítačů a zároveň výrazně omezíte soupeření o prostředky a kolísání výkonu mezi virtuálními počítači a ostatními aplikacemi.

Bezproblémové provozování lokálních LLM na QNAP QAI

Integruje virtualizaci, model LLM (Large Language Models) a intuitivní uživatelské rozhraní v jednom zařízení:

  • 1Nasazení kontejnerů aplikací

    Flexibilní nasazení různých typů aplikací a služeb pomocí QNAP Container Station, která podporuje několik kontejnerových běhových prostředí, jako jsou Docker, Kata a LXD.

  • 2Výpočetní výkon se zrychlením pomocí GPU

    Konfigurace oprávnění pro přístup ke GPU v kontejnerovém prostředí, aby kontejnery mohly přímo využívat GPU QAI pro odvozování umělé inteligence nebo akceleraci zpracování videa.

  • 3Nasazení více modulů LLM

    Pomocí nástroje Ollama můžete snadno nasadit různé modely LLM (Large Language Models) s otevřeným zdrojovým kódem, jako jsou LLaMA, DeepSeek, Qwen a Gemma, s možností flexibilně přepínat nebo aktualizovat modely podle potřeby.

  • 4 Integrace s webovými rozhraními

    Nainstalujte si webová rozhraní s otevřeným zdrojovým kódem, jako je Anything LLM nebo Open WebUI, a proveďte propojení s jazykovými modely bez nutnosti psát kód, abyste mohli vytvořit vlastní asistenty s umělou inteligencí, chytré roboty pro zákaznický servis nebo interní vyhledávací nástroje.

Přeměňte zařízení QAI na server pro zálohování virtuálních počítačů

Jedno zařízení QNAP QAI může sloužit zároveň jako virtualizační hostitel a centrální zálohovací server.

  • 1Běh vícero virtuálních počítačů (VM)

    Virtualization Station je aplikace hypervizoru QNAP QuTS hero, která umožňuje nasadit vícero virtuálních počítačů se systémem Windows® nebo Linux® na jednom QAI.

  • 2Podpora zálohování virtuálních počítačů

    Nainstalujte zálohovací software Veeam® do nezávislého virtuálního počítače spuštěného na QAI a nakonfigurujte QAI jako cíl zálohování. To umožňuje centralizované ukládání a správu záložních dat z různých pracovních úloh, včetně virtuálních počítačů, fyzických serverů, jiných zařízení NAS a cloudových služeb.

  • 3Správa prostředků CPU

    Úlohy zálohování virtuálních počítačů vyžadují intenzivní výpočetní prostředky procesoru. Prostřednictvím aplikace Virtualization Station můžete efektivně alokovat prostředky procesoru a zajistit tak stabilní a nepřerušované zálohování.

Všestranné aplikace pro různé obchodní potřeby

  • Podnikové centrum znalostí na bázi AI

    Podnikové centrum znalostí na bázi AI

    Kombinujte NAS, LLM a RAG a vytvořte interní vyhledávací systém využívající umělou inteligenci – zlepšete vyhledávání, analýzu a produktivitu dat.

  • Chatboti na bázi AI

    Chatboti na bázi AI

    Využijte LLM k podpoře inteligentních chatbotů, kteří reagují rychleji, přesněji a zlepšují zapojení zákazníků.

  • Virtualizační server

    Virtualizační server

    Provozujte více virtuálních počítačů pro interní vývoj a testování AI modelů.

  • Zálohování a ochrana dat virtuálních počítačů

    Zálohování a ochrana dat virtuálních počítačů

    Integrujte zálohovací řešení Veeam® pro zvýšení bezpečnosti dat virtuálních počítačů.

  • Ukládání a zálohování dat na bází AI

    Ukládání a zálohování dat založených na AI

    Ukládejte surové soubory dat pomocí AI nebo je používejte jako vysokorychlostní úložiště pro častý datový přístup v pracovních postupech založených na RAG s využitím AI.

Doporučený model

Řada QNAP NAS s podporou AI je speciálně navržena pro edge nasazení umělé inteligence a ve spojení s grafickou kartou NVIDIA RTX 6000 nebo RTX 4000 Ada Generation poskytuje výjimečný výkon pro inferenci umělé inteligence, zpracování médií ve vysokém rozlišení a virtualizaci.

QAI-h1290FX

  • 12pozicový U.2 NVMe / SATA all-flash NAS
  • Procesor AMD EPYC™ 7302P 16 jader / 32 vláken
  • 128GB paměti DDR4 ECC RDIMM
  • Předinstalováno šest 3,84TB disků SSD U.2 NVMe
  • K dispozici s předinstalovanou grafickou kartou NVIDIA RTX 6000 Ada nebo RTX 4000 Ada
  • Obsahuje exkluzivní funkce QAI, jako je například Container Station s předpřipravenými šablonami AI aplikací s otevřeným zdrojovým kódem pro rychlé nasazení
QAI-h1290FX

Potřebujete pomoc?

Odborníci společnosti QNAP jsou připraveni vám pomoci navrhnout ideální úložný server Edge AI pro vaši firmu.

Zvolte specifikaci

      Zobrazit více Zobrazit méně

      Tato stránka v jiných zemích / oblastech:

      open menu
      back to top