Máy chủ lưu trữ QNAP Edge AI

Nền tảng điện toán biên tất cả trong một (all-in-one), tích hợp khả năng lưu trữ, ảo hóa và sức mạnh tính toán, hỗ trợ doanh nghiệp triển khai ứng dụng AI tại chỗ một cách hiệu quả, an toàn và tiết kiệm — thúc đẩy quá trình chuyển đổi số thông minh trong nhiều lĩnh vực.

Những thách thức mà doanh nghiệp đối mặt trong kỷ nguyên AI

Khi nhu cầu về GenAI, LLM và điện toán biên tăng mạnh, cơ sở hạ tầng CNTT truyền thống đang gặp phải một số điểm nghẽn:

  • Rủi ro bảo mật khi dùng đám mây

    Hơn 90% doanh nghiệp coi bảo mật dữ liệu là mối quan tâm hàng đầu khi triển khai AI. Triển khai trên đám mây có thể khiến dữ liệu bị rò rỉ và vi phạm quy định tuân thủ.

  • Chi phí triển khai tăng cao

    Phí cấp phép chồng chất cho các mô hình đám mây, sử dụng token, truy cập GPU, lưu trữ và nền tảng ảo hóa làm tăng đáng kể tổng chi phí sở hữu (TCO).

  • Hạ tầng rời rạc, khó vận hành

    Hệ thống tính toán và lưu trữ tách rời dẫn đến tích hợp tốn thời gian và bảo trì phức tạp.

  • Hiệu suất không ổn định

    Hạ tầng dùng chung khiến các mô hình AI và ứng dụng ảo hóa phải cạnh tranh tài nguyên, dẫn đến độ trễ cao và hiệu suất khó kiểm soát.

  • Khối lượng dữ liệu bùng nổ

    Các ứng dụng AI và xử lý dữ liệu chuyên sâu tạo ra khối lượng dữ liệu khổng lồ, gây áp lực lên khả năng mở rộng và quản lý dữ liệu của các hệ thống lưu trữ truyền thống.

Tại sao chọn máy chủ lưu trữ QNAP Edge AI?

Máy chủ lưu trữ QNAP Edge AI cung cấp một nền tảng điện toán biên hợp nhất tích hợp lưu trữ dữ liệu, ảo hóa, tăng tốc GPU và I/O, và quản lý tài nguyên CPU. Giải pháp này giúp doanh nghiệp triển khai hiệu quả các ứng dụng AI và thiết bị edge ngay tại chỗ (on-premises).Doanh nghiệp có thể cài đặt ứng dụng ảo hóa Virtualization Station hoặc nền tảng quản lý container Container Station trên QAI để linh hoạt xây dựng các máy chủ suy luận AI tại chỗ và máy chủ lưu trữ edge phù hợp với các trường hợp sử dụng cụ thể, mang lại hiệu suất cao và độ trễ thấp.

Hỗ trợ các ứng dụng edge AI đa dạng:

  • ️Suy luận mô hình ngôn ngữ nhỏ (SLM)
  • Suy luận mô hình ngôn ngữ lớn (LLM)
  • AI tạo sinh
  • Suy luận và tinh chỉnh mô hình AI
  • Sản xuất thông minh & tự động hóa công nghiệp
  • Bán lẻ thông minh & phân tích hành vi khách hàng
  • Giám sát thông minh & phân tích video
Hỗ trợ các ứng dụng edge AI đa dạng

Kiểm soát dữ liệu nâng cao

Tất cả dữ liệu và ứng dụng được lưu trữ tại chỗ, loại bỏ rủi ro liên quan đến việc truyền tải qua đám mây công cộng và đảm bảo tuân thủ quy định.

Triển khai & quản lý đơn giản

Chạy lưu trữ, máy ảo, khối lượng công việc GPU và ứng dụng trên một QAI duy nhất để giảm thiểu sự phức tạp giữa các thiết bị.

Sẵn sàng làm việc ngay khi khởi động

Phân bổ tài nguyên động và tăng tốc phần cứng đảm bảo hoạt động của máy ảo và ứng dụng AI mượt mà, hiệu quả.

Hiệu quả chi phí

Nền tảng ảo hóa không cần giấy phép của QNAP giảm đáng kể TCO dài hạn.

Ưu điểm kỹ thuật so với kiến trúc truyền thống

Máy chủ lưu trữ QNAP Edge AI cung cấp khả năng phân bổ tài nguyên hệ thống linh hoạt, tăng tốc phần cứng tiên tiến và bảo vệ dữ liệu chuẩn doanh nghiệp — là nền tảng lý tưởng cho các ứng dụng điện toán biên.

Phân bổ tài nguyên chuyên dụng

Sử dụng Virtualization Station để phân bổ CPU, bộ nhớ và băng thông mạng cho các máy ảo (VM) cụ thể, ngăn ngừa xung đột tài nguyên.

Tăng tốc GPU cho khối lượng công việc AI

Kích hoạt GPU passthrough để phân bổ GPU vật lý cho các VM nhằm tăng tốc độ suy luận AI và xử lý đồ họa.

SR-IOV cho mạng tối ưu

Cung cấp cho máy ảo các kênh NIC trực tiếp, giảm độ trễ mạng và chi phí băng thông.

Truyền qua PCIe hiệu suất cao

Gán thẻ đồ họa, thẻ mạng hoặc bộ điều khiển lưu trữ trực tiếp cho máy ảo, đạt hiệu suất phần cứng gần như nguyên bản.

Mở rộng lưu trữ linh hoạt

Hỗ trợ mở rộng lưu trữ SAS / FC để đáp ứng nhu cầu lưu trữ AI và ảo hóa ngày càng tăng.

Bảo vệ dữ liệu doanh nghiệp

Được xây dựng trên ZFS, hỗ trợ RAID, snapshot, tính bất biến của dữ liệu (WORM), khử trùng lặp dữ liệu và tối ưu hóa SSD.

Tăng cường hiệu suất VM với phân bổ tài nguyên chính xác

  • Công nghệ tăng tốc tiên tiến
    Công nghệ Passthrough

    Gán trực tiếp tài nguyên GPU vật lý, NIC hoặc thiết bị PCIe khác cho các máy ảo được chỉ định, giảm thiểu chi phí của hypervisor để có hiệu suất ổn định hơn và độ trễ thấp hơn.

    • GPU passthrough
    • PCIe passthrough
  • Phân bổ tài nguyên tối ưu
    Quản lý tài nguyên CPU

    Với tính năng quản lý tài nguyên CPU (sẽ sớm được hỗ trợ), bạn có thể chỉ định các luồng CPU chuyên dụng cho các máy ảo cụ thể (CPU Isolation), đảm bảo hoạt động VM ổn định và độc lập đồng thời giảm đáng kể tình trạng tranh chấp tài nguyên và biến động hiệu suất giữa các VM và các ứng dụng khác.

Vận hành LLM ngay trên QAI tại chỗ

Tích hợp ảo hóa, mô hình ngôn ngữ lớn (LLM), và giao diện người dùng trực quan trên một thiết bị:

  • 1Triển khai các ứng dụng dạng container

    Triển khai linh hoạt các loại ứng dụng và dịch vụ khác nhau bằng cách sử dụng QNAP Container Station, hỗ trợ nhiều môi trường runtime container hóa như Docker, Kata và LXD.

  • 2Tăng tốc AI bằng GPU

    Cấu hình quyền truy cập GPU trong môi trường container để tăng tốc suy luận AI và xử lý video ngay trên QAI.

  • 3Dễ dàng chạy nhiều mô hình LLM

    Sử dụng Ollama, bạn có thể dễ dàng triển khai nhiều mô hình ngôn ngữ lớn mã nguồn mở (LLM), như LLaMA, DeepSeek, Qwen và Gemma, với sự linh hoạt để chuyển đổi hoặc cập nhật mô hình khi cần thiết.

  • 4Tích hợp với giao diện web

    Cài đặt các giao diện web mã nguồn mở như Anything LLM hoặc Open WebUI để kết nối với các mô hình ngôn ngữ mà không cần viết mã để tạo trợ lý AI tùy chỉnh, bot dịch vụ khách hàng thông minh hoặc công cụ tìm kiếm nội bộ.

Biến QAI của bạn thành máy chủ sao lưu VM

Một QAI QNAP duy nhất có thể phục vụ cả như một máy chủ ảo hóa và máy chủ sao lưu trung tâm.

  • 1Chạy nhiều máy ảo (VM)

    Virtualization Station là ứng dụng hypervisor của QuTS hero QNAP và cho phép bạn triển khai nhiều máy ảo Windows® hoặc Linux® trên một QAI duy nhất.

  • 2Hỗ trợ sao lưu VM

    Cài đặt phần mềm sao lưu Veeam® trên một máy ảo độc lập chạy trên QAI và cấu hình QAI làm thiết bị lưu trữ đích. Cách này giúp tập trung lưu trữ và quản lý dữ liệu sao lưu từ nhiều loại hệ thống khác nhau như máy ảo (VM), máy chủ vật lý, thiết bị NAS khác và các dịch vụ đám mây.

  • 3Quản lý tài nguyên CPU

    Các tác vụ sao lưu máy ảo yêu cầu tài nguyên tính toán CPU mạnh mẽ. Thông qua Virtualization Station, bạn có thể phân bổ tài nguyên CPU một cách hiệu quả để đảm bảo hoạt động sao lưu ổn định và không bị gián đoạn.

Ứng dụng đa dạng cho nhu cầu kinh doanh phong phú

  • Trung tâm kiến thức AI doanh nghiệp

    Trung tâm kiến thức AI doanh nghiệp

    Kết hợp NAS, LLMs và RAG để xây dựng hệ thống tìm kiếm nội bộ dựa trên AI — nâng cao khả năng truy xuất dữ liệu, phân tích và năng suất.

  • Chatbot AI

    Chatbot AI

    Sử dụng LLMs để cung cấp năng lượng cho các chatbot thông minh phản hồi nhanh hơn, chính xác hơn và cải thiện sự tương tác với khách hàng.

  • Máy chủ ảo hóa

    Máy chủ ảo hóa

    Chạy nhiều máy ảo để phát triển và thử nghiệm mô hình AI nội bộ.

  • Sao lưu & bảo vệ dữ liệu VM

    Sao lưu & bảo vệ dữ liệu VM

    Tích hợp giải pháp sao lưu Veeam® để tăng cường bảo mật dữ liệu máy ảo.

  • Lưu trữ & sao lưu dữ liệu AI

    Lưu trữ & sao lưu dữ liệu AI

    Lưu trữ các tập dữ liệu AI thô hoặc phục vụ như lưu trữ tốc độ cao cho truy cập dữ liệu thường xuyên trong quy trình làm việc AI dựa trên RAG.

Mẫu được đề xuất

Được thiết kế đặc biệt cho triển khai edge AI, NAS QNAP AI Series, kết hợp với card đồ họa NVIDIA RTX 6000 hoặc RTX 4000 Ada Generation, mang lại hiệu suất vượt trội cho các tác vụ suy luận AI, xử lý nội dung đa phương tiện độ phân giải cao và ảo hóa.

QAI-h1290FX

  • NAS all-flash 12-bay U.2 NVMe / SATA
  • Được trang bị bộ xử lý AMD EPYC™ 7302P 16 nhân / 32 luồng
  • Bộ nhớ DDR4 ECC RDIMM 128GB
  • Được cài đặt sẵn sáu ổ SSD U.2 NVMe 3.84TB
  • Được trang bị sẵn GPU NVIDIA RTX 6000 Ada hoặc RTX 4000 Ada tùy chọn theo cấu hình.
  • Bao gồm các tính năng độc quyền của QAI, như Container Station với các mẫu ứng dụng AI mã nguồn mở được chọn lọc để triển khai nhanh chóng
QAI-h1290FX

Cần hỗ trợ?

Các chuyên gia QNAP sẵn sàng giúp bạn thiết kế máy chủ lưu trữ Edge AI lý tưởng cho doanh nghiệp của bạn.

Chọn thông số kỹ thuật

      Xem thêm Thu gọn

      Choose Your Country or Region

      open menu
      back to top