Viettel Cloud NPU (vCNPU)

Giải pháp hạ tầng độc đáo và tối ưu cho AI thời đại mới.

Nhận tư vấn
Thông tin

Viettel Cloud NPU (vCNPU) là dịch vụ cung cấp các Máy chủ ảo gắn một hoặc nhiều card NPU Qualcomm Cloud AI 100 trên nền tảng Public Cloud, hướng tới các doanh nghiệp, tổ chức có nhu cầu triển khai, cung cấp các ứng dụng Trí tuệ nhân tạo (AI) về Thị giác máy tính (CV), Xử lý ngôn ngữ tự nhiên (NLP), AI Tạo sinh (GenAI), v.v. Viettel Cloud NPU giúp giải quyết bài toán cân bằng giữa chi phí và hiệu năng (P/P) của doanh nghiệp, tổ chức cần triển khai các ứng dụng AI.

NPU viết tắt của Neural Processing Unit (Bộ xử lý thần kinh), là một sản phẩm vi mạch chuyên dụng (ASIC - Application-Specific Integrated Circuit), được thiết kế để phục vụ riêng cho việc tính toán xử lý AI.

Viettel IDC hiện là đối tác độc quyền của Qualcomm trong việc cung cấp các sản phẩm, dịch vụ về NPU Qualcomm tại thị trường Việt Nam.

Hỗ trợ nhiều mô hình triển khai hệ thống quy mô nhỏ đến lớn

Hỗ trợ nhiều mô hình triển khai hệ thống quy mô nhỏ đến lớn

Viettel Cloud NPU hỗ trợ gắn tối đa tới 06 cards NPU Qualcomm Cloud AI 100 trên mỗi VM, dễ dàng kết nối riêng tư và bảo mật nhiều VM gắn NPU với nhau thông qua Switch ảo.

Tổ chức & quản lý linh hoạt các nhân xử lý AI (AI core)

Tổ chức & quản lý linh hoạt các nhân xử lý AI (AI core)

Trên mỗi thiết bị NPU Qualcomm có nhiều nhân xử lý AI (AI core). Người dùng có thể gắn đích danh một hoặc nhiều AI core cho từng AI model chạy song song trên NPU, cũng như sử dụng tính năng lập lịch (Scheduler) để tự động hoá việc phân bổ, điều phối các AI core đang trống cho từng AI model.

Hỗ trợ đầy đủ các AI Framework & Model phổ biến

Hỗ trợ đầy đủ các AI Framework & Model phổ biến

NPU Qualcomm hỗ trợ đầy đủ các AI Frameworks phổ biến như TensorFlow, PyTorch, ONNX, các AI Model thông dụng như ResNet, YOLO, BERT, GPT, v.v.

Bộ SDK mạnh mẽ, dễ dàng chuyển đổi code

Bộ SDK mạnh mẽ, dễ dàng chuyển đổi code

NPU Qualcomm đi kèm hai bộ SDK mạnh mẽ là Cloud AI Apps SDK và Cloud AI Platform SDK, được cập nhật thường xuyên, hỗ trợ các Nhà phát triển AI thực hiện tối ưu, biên dịch và triển khai AI Model một cách dễ dàng, nhanh chóng.

Bộ công cụ quản trị mạnh mẽ, trực quan

Bộ công cụ quản trị mạnh mẽ, trực quan

Qualcomm cung cấp miễn phí các bộ công cụ quản trị cả dưới dạng giao diện dòng lệnh (Command line) và giao diện đồ hoạ người dùng (GUI), hỗ trợ theo dõi các thông số của NPU trong khi hoạt động, tinh chỉnh các tham số, luồng hoạt động cũng như biên dịch AI model.

Dễ dàng kết hợp với Kubernetes & Container

Dễ dàng kết hợp với Kubernetes & Container

Qualcomm cung cấp device plug-in cho Kubernetes để sử dụng kết hợp với NPU, không mất thêm chi phí license như nhiều hãng khác, hỗ trợ mapping tài nguyên tới mức từng Container với từng AI core trên card.

Đáp ứng tốt nhiều loại ứng dụng AI, vượt trội về hiệu năng xử lý Computer Vision AI

Đáp ứng tốt nhiều loại ứng dụng AI, vượt trội về hiệu năng xử lý Computer Vision AI

NPU Qualcomm đáp ứng đa dạng loại hình AI từ Thị giác máy tính (CV), Xử lý ngôn ngữ tự nhiên (NLP) đến các loại hình mới như AI Tạo sinh (GenAI). NPU thể hiện hiệu suất xử lý Performance/Watt vượt trội so với nhiều dòng thiết bị GPU tương đương của các hãng khác trong nhiều trường hợp sử dụng.

Tối ưu chi phí & hiệu suất

Tối ưu chi phí & hiệu suất

Sử dụng NPU Qualcomm triển khai ứng dụng AI mang lại nhiều lợi ích cho khách hàng về chi phí: các tính năng, công cụ đi kèm đều miễn phí; chi phí thuê dịch vụ Cloud NPU tiết kiệm hơn nhờ tính tối ưu Tổng chi phí sở hữu (Total Cost of Ownership – TCO) của Qualcomm NPU.

Chuyển đổi dễ dàng

Chuyển đổi dễ dàng

Quá trình chuyển đổi code đang chạy trên thiết bị GPU của các Nhà cung cấp khác sang Qualcomm NPU đơn giản, nhanh chóng nhờ có bộ SDK, tài liệu hướng dẫn chuyển đổi, kết hợp với hỗ trợ kỹ thuật chuyên sâu từ đội ngũ chuyên gia Viettel IDC-Qualcomm. 

Xử lý hình ảnh, video

Các mô hình AI phổ biến về Nhận diện khuôn mặt, Phát hiện vật thể hay Xử lý hình ảnh đều hoạt động tốt, tối ưu trên Qualcomm NPU, phù hợp các doanh nghiệp, tổ chức cần triển khai các hệ thống, ứng dụng Chấm công, eKYC, Camera AI giám sát, v.v.

Trợ lý ảo, Chatbot

Qualcomm NPU hỗ trợ tốt các mô hình AI về ngôn ngữ phổ biến như BERT, GPT, CNN-Text, phù hợp với các ứng dụng AI về xử lý ngôn ngữ như Chuyển văn bản thành giọng nói, Chuyển giọng nói thành văn bản, Trợ lý ảo chăm sóc khách hàng, v.v.

AI Tạo sinh (GenAI)

Các mô hình, ứng dụng AI Tạo sinh về văn bản, hình ảnh, video, hay mã máy tính (code) đều có thể khai thác tốt sức mạnh của Qualcomm NPU. 

AI Rô-bốt và Thực tế ảo tăng cường

Qualcomm NPU đáp ứng tốt các bài toán về AI Rô-bốt như điều hướng và nhận thức môi trường, tương tác giữa con người và rô-bốt, học tập và thích ứng, cũng như về các ứng dụng AR trong đào tạo, mua sắm.

Qualcomm NPU Cloud AI 100 thuộc nhóm thiết bị ASIC (Application-Specific Integrated Circuit – Vi mạch chuyên dụng), khác với các dòng thiết bị GPGPU (General Purpose Graphics Processing Unit – Vi xử lý đồ hoạ phổ thông) của NVIDIA hay AMD. NPU được thiết kế phần cứng chỉ bao gồm các thành phần phục vụ xử lý 01 mục đích như AI Suy luận, trong khi một GPGPU gồm nhiều thành phần khác nhau (nhiều loại Nhân tính toán khác nhau) để xử lý nhiều loại workload từ giải mã video, xử lý hậu kỳ phim ảnh, khai thác tiền ảo, và tất nhiên bao gồm cả AI Training & Inference.

Viettel Cloud NPU cung cấp các máy chủ ảo gắn một hoặc nhiều card NPU Qualcomm Cloud AI 100 (tối đa 06 card). Khách hàng có thể truy cập sử dụng VM Cloud NPU đơn lẻ thông qua kết nối Internet (giao thức SSH/Remote Desktop), hoặc thông qua kết nối Private với các dịch vụ khác trong hệ sinh thái của Viettel IDC như Viettel Cloud Server, Viettel Virtual Private Cloud, Viettel Dedicated Private Cloud.

Viettel Cloud NPU hỗ trợ đầy đủ các hệ điều hành phổ biến như Windows Server, Ubuntu, v.v. các phiên bản mới, và liên tục được cập nhật thêm các OS mới.

Viettel Cloud NPU đáp ứng tốt nhiều loại hình ứng dụng AI phổ biến, từ Computer Vision, Natural Language Processing, Generative AI, và nhiều loại khác.

NPU Qualcomm Cloud AI 100 được thiết kế chuyên dụng và tối ưu nhất cho mục đích AI Inference, không phù hợp và tối ưu cho AI Training.

Khi sử dụng Viettel Cloud NPU, Viettel IDC cam kết Uptime của các VM Cloud NPU ≥ 99.5%, giúp giảm thiểu tối đa nỗi lo về gián đoạn dịch vụ ảnh hưởng tới trải nghiệm khách hàng cuối.

XEM THÊM

Bạn cần tư vấn thêm

Hãy liên hệ Viettel IDC ngay để được hỗ trợ và tư vấn giải pháp Viettel Cloud NPU (vCNPU) phù hợp nhất với nhu cầu của bạn!

Nhận tư vấn ngay