Viettel Cloud NPU (vCNPU) là dịch vụ cung cấp các Máy chủ ảo gắn một hoặc nhiều card NPU Qualcomm Cloud AI 100 trên nền tảng Public Cloud, hướng tới các doanh nghiệp, tổ chức có nhu cầu triển khai, cung cấp các ứng dụng Trí tuệ nhân tạo (AI) về Thị giác máy tính (CV), Xử lý ngôn ngữ tự nhiên (NLP), AI Tạo sinh (GenAI), v.v. Viettel Cloud NPU giúp giải quyết bài toán cân bằng giữa chi phí và hiệu năng (P/P) của doanh nghiệp, tổ chức cần triển khai các ứng dụng AI.
NPU viết tắt của Neural Processing Unit (Bộ xử lý thần kinh), là một sản phẩm vi mạch chuyên dụng (ASIC - Application-Specific Integrated Circuit), được thiết kế để phục vụ riêng cho việc tính toán xử lý AI.
Viettel IDC hiện là đối tác độc quyền của Qualcomm trong việc cung cấp các sản phẩm, dịch vụ về NPU Qualcomm tại thị trường Việt Nam.
Hỗ trợ nhiều mô hình triển khai hệ thống quy mô nhỏ đến lớn
Tổ chức & quản lý linh hoạt các nhân xử lý AI (AI core)
Hỗ trợ đầy đủ các AI Framework & Model phổ biến
Bộ SDK mạnh mẽ, dễ dàng chuyển đổi code
Bộ công cụ quản trị mạnh mẽ, trực quan
Dễ dàng kết hợp với Kubernetes & Container
Đáp ứng tốt nhiều loại ứng dụng AI, vượt trội về hiệu năng xử lý Computer Vision AI
Tối ưu chi phí & hiệu suất
Chuyển đổi dễ dàng
Xử lý hình ảnh, video
Trợ lý ảo, Chatbot
AI Tạo sinh (GenAI)
AI Rô-bốt và Thực tế ảo tăng cường
Qualcomm NPU Cloud AI 100 thuộc nhóm thiết bị ASIC (Application-Specific Integrated Circuit – Vi mạch chuyên dụng), khác với các dòng thiết bị GPGPU (General Purpose Graphics Processing Unit – Vi xử lý đồ hoạ phổ thông) của NVIDIA hay AMD. NPU được thiết kế phần cứng chỉ bao gồm các thành phần phục vụ xử lý 01 mục đích như AI Suy luận, trong khi một GPGPU gồm nhiều thành phần khác nhau (nhiều loại Nhân tính toán khác nhau) để xử lý nhiều loại workload từ giải mã video, xử lý hậu kỳ phim ảnh, khai thác tiền ảo, và tất nhiên bao gồm cả AI Training & Inference.
Viettel Cloud NPU cung cấp các máy chủ ảo gắn một hoặc nhiều card NPU Qualcomm Cloud AI 100 (tối đa 06 card). Khách hàng có thể truy cập sử dụng VM Cloud NPU đơn lẻ thông qua kết nối Internet (giao thức SSH/Remote Desktop), hoặc thông qua kết nối Private với các dịch vụ khác trong hệ sinh thái của Viettel IDC như Viettel Cloud Server, Viettel Virtual Private Cloud, Viettel Dedicated Private Cloud.
Viettel Cloud NPU hỗ trợ đầy đủ các hệ điều hành phổ biến như Windows Server, Ubuntu, v.v. các phiên bản mới, và liên tục được cập nhật thêm các OS mới.
Viettel Cloud NPU đáp ứng tốt nhiều loại hình ứng dụng AI phổ biến, từ Computer Vision, Natural Language Processing, Generative AI, và nhiều loại khác.
NPU Qualcomm Cloud AI 100 được thiết kế chuyên dụng và tối ưu nhất cho mục đích AI Inference, không phù hợp và tối ưu cho AI Training.
Khi sử dụng Viettel Cloud NPU, Viettel IDC cam kết Uptime của các VM Cloud NPU ≥ 99.5%, giúp giảm thiểu tối đa nỗi lo về gián đoạn dịch vụ ảnh hưởng tới trải nghiệm khách hàng cuối.
Bạn cần tư vấn thêm
Hãy liên hệ Viettel IDC ngay để được hỗ trợ và tư vấn giải pháp Viettel Cloud NPU (vCNPU) phù hợp nhất với nhu cầu của bạn!
