vMaaS cập nhật thêm mô hình AI mới - Một API, nhiều mô hình lựa chọn linh hoạt, chi phí không đổi

Khi doanh nghiệp triển khai AI cho nhiều nhu cầu khác nhau, việc lựa chọn đúng mô hình và cách sử dụng trở thành một bài toán quan trọng. Vậy một API, nhiều mô hình AI: lựa chọn thế nào cho đúng bài toán? Bài viết này Viettel IDC sẽ giúp doanh nghiệp hiểu rõ lợi ích của cách tiếp cận này và các tiêu chí cần cân nhắc trước khi thử nghiệm hoặc mở rộng. 

Đáng chú ý, vMaaS vừa cập nhật thêm 3 mô hình AI gồm google/gemma-3-27b-it, nvidia/Llama-3.1-Nemotron-Nano-8B-v1 và Qwen/Qwen3-VL-8B-Instruct. Bên cạnh danh mục mô hình AI hiện có, vMaaS cũng có thể hỗ trợ thêm hơn 40 mô hình theo nhu cầu thực tế của khách hàng, qua đó mở rộng lựa chọn cho các bài toán AI khác nhau.

Một API, nhiều mô hình AI là gì?

API là giao diện cho phép ứng dụng gửi yêu cầu đến một dịch vụ và nhận kết quả trả về. Trong khi đó, mô hình AI là thành phần thực hiện tác vụ như sinh văn bản, hiểu hình ảnh, tạo vector biểu diễn dữ liệu hoặc đánh giá mức độ liên quan giữa các nội dung.

Một API, nhiều mô hình AI là cách tiếp cận trong đó doanh nghiệp có thể truy cập nhiều nhóm model thông qua một giao diện API thay vì phải tích hợp riêng từng mô hình. Tùy bài toán, đội ngũ phát triển lựa chọn model phù hợp và gửi yêu cầu thông qua API để ứng dụng nhận kết quả. Cách tiếp cận này đặc biệt hữu ích khi doanh nghiệp đang thử nghiệm nhiều bài toán AI hoặc chưa xác định được model nào phù hợp nhất. Thay vì đầu tư ngay vào một phương án cố định, doanh nghiệp có thể thử nghiệm, đánh giá và điều chỉnh dựa trên kết quả thực tế.
Với vMaaS, khả năng này không chỉ giới hạn ở danh mục mô hình AI đang có sẵn. Khi phát sinh bài toán cần một mô hình khác, khách hàng có thể trao đổi nhu cầu để Viettel IDC đánh giá khả năng onboarding thêm mô hình lên nền tảng.

Lợi ích khi khai thác nhiều mô hình AI qua một API

Một số lợi ích doanh nghiệp có thể nhận được khi khai thác nhiều mô hình AI qua một AP như: 

- Đơn giản hóa quá trình tích hợp: Đội ngũ phát triển không phải xây dựng cách kết nối riêng cho từng mô hình, từ đó giảm thời gian chuẩn bị khi bắt đầu thử nghiệm AI.

- Linh hoạt chuyển đổi mô hình mà không làm thay đổi chi phí: vMaaS áp dụng cơ chế đồng giá giữa các mô hình trên nền tảng. Vì vậy, khi bài toán thay đổi hoặc một mô hình chưa đáp ứng yêu cầu về chất lượng, tốc độ hay khả năng xử lý, doanh nghiệp có thể chuyển sang mô hình phù hợp hơn mà không ảnh hưởng đến chi phí gói dịch vụ đang sử dụng.

- Thuận lợi cho quá trình PoC: Doanh nghiệp có thể bắt đầu với phạm vi nhỏ, kiểm tra kết quả trên dữ liệu thực tế và chỉ mở rộng khi phương án được lựa chọn đáp ứng các tiêu chí đã đặt ra.

- Dễ kiểm soát mức tiêu thụ và chi phí trong từng giai đoạn: Đây là yếu tố quan trọng khi AI chuyển từ giai đoạn tìm hiểu sang phát triển và vận hành thực tế.
- Mở rộng lựa chọn mô hình AI theo nhu cầu: Bên cạnh các mô hình đã có sẵn trên vMaaS, Viettel IDC hiện hỗ trợ danh mục hơn 40 mô hình có thể onboarding theo nhu cầu khách hàng. Doanh nghiệp có thể tham khảo danh mục và liên hệ Viettel IDC để đặt hàng mô hình phù hợp; mô hình theo yêu cầu dự kiến được onboarding lên vMaaS trong vòng 5-7 ngày.

Danh mục mô hình AI vMaaS hỗ trợ onboarding theo nhu cầu khách hàng

vMaaS cập nhật thêm 3 mô hình AI mới

Nhằm mở rộng danh mục mô hình AI và đáp ứng đa dạng hơn nhu cầu triển khai của doanh nghiệp, vMaaS đã onboarding thêm 3 mô hình:

- google/gemma-3-27b-it: Bổ sung lựa chọn cho các bài toán xử lý ngôn ngữ cần chất lượng đầu ra tốt như hội thoại, tóm tắt và phân tích nội dung.

- nvidia/Llama-3.1-Nemotron-Nano-8B-v1: Hướng tới các bài toán cần mô hình gọn nhẹ, hỗ trợ hội thoại và suy luận nhưng vẫn tối ưu nguồn lực triển khai.

- Qwen/Qwen3-VL-8B-Instruct: Mở rộng khả năng xử lý đa phương thức, cho phép ứng dụng AI hiểu và phân tích đồng thời nội dung văn bản và hình ảnh.

Việc bổ sung các mô hình AI mới giúp doanh nghiệp có thêm lựa chọn để thử nghiệm và so sánh theo từng yêu cầu về tác vụ, chất lượng đầu ra, tốc độ xử lý và quy mô sử dụng. Đặc biệt, Qwen/Qwen3-VL-8B-Instruct mở rộng thêm lựa chọn cho các bài toán cần xử lý kết hợp giữa ngôn ngữ và hình ảnh.

Ngoài 3 mô hình AI vừa được cập nhật, vMaaS hiện có thể hỗ trợ thêm hơn 40 mô hình theo nhu cầu của khách hàng. Điều này phù hợp với các doanh nghiệp, ISV hoặc đội ngũ phát triển đã có mô hình mục tiêu cần thử nghiệm, hoặc phát sinh bài toán chưa được đáp ứng bởi danh mục mô hình hiện có.

Việc có thêm nhiều lựa chọn mô hình giúp doanh nghiệp linh hoạt hơn khi thử nghiệm AI. Tuy nhiên, mô hình phù hợp không nên được lựa chọn chỉ dựa trên tên, quy mô hay mức độ phổ biến, mà cần bắt đầu từ chính bài toán thực tế.

Tiêu chí lựa chọn mô hình AI theo bài toán

Lựa chọn model nên bắt đầu từ bài toán cần giải quyết, không phải từ việc tìm model có tên hoặc thông số nổi bật. Trước tiên, doanh nghiệp cần xác định AI sẽ thực hiện công việc gì, dữ liệu đầu vào là gì và kết quả đầu ra cần đạt được như thế nào. Ví dụ, chatbot và trợ lý AI sẽ có yêu cầu khác với bài toán tìm kiếm tài liệu hoặc RAG.

Tiếp theo là khả năng xử lý của model. Cần đánh giá model có phù hợp với loại dữ liệu, ngôn ngữ và tác vụ thực tế hay không. Với những bài toán có yêu cầu cao về độ chính xác, nên kiểm tra trực tiếp trên dữ liệu gần với môi trường triển khai thay vì chỉ dựa vào thông số được công bố.

Độ trễ cũng cần được xem xét nếu AI được tích hợp trực tiếp vào website, ứng dụng hoặc quy trình cần phản hồi nhanh. Một model cho kết quả tốt nhưng thời gian phản hồi không phù hợp vẫn có thể ảnh hưởng đến trải nghiệm người dùng.

Yếu tố cuối cùng là chi phí cần đặt cạnh chất lượng và hiệu năng. Model có khả năng cao hơn không đồng nghĩa luôn phù hợp hơn nếu bài toán chỉ cần một mức xử lý cơ bản. Doanh nghiệp nên tìm điểm cân bằng giữa chất lượng đầu ra, tốc độ và chi phí dựa trên nhu cầu thực tế.
Trong trường hợp danh mục mô hình AI hiện có chưa đáp ứng bài toán, doanh nghiệp cũng có thể trao đổi nhu cầu mô hình cụ thể để Viettel IDC đánh giá khả năng onboarding lên vMaaS.

Lựa chọn gói sử dụng AI như thế nào?

Sau khi xác định được nhóm model và nhu cầu sử dụng, doanh nghiệp cần lựa chọn gói theo quy mô thử nghiệm hoặc triển khai. Việc này giúp kiểm soát mức sử dụng và tránh lựa chọn gói quá lớn ngay từ đầu khi nhu cầu chưa được xác định rõ.

Gói cho nhu cầu thử nghiệm

Ở giai đoạn nghiên cứu hoặc PoC, doanh nghiệp thường chưa biết chính xác lượng token cần sử dụng. Vì vậy, nên bắt đầu với gói có quy mô phù hợp để kiểm tra model, chất lượng đầu ra và khả năng tích hợp. Mục tiêu của giai đoạn này không phải tối đa hóa lượng token mà là trả lời được những câu hỏi quan trọng: model có giải quyết đúng bài toán không, kết quả có đạt yêu cầu không và mức sử dụng thực tế như thế nào.

Gói cho nhu cầu triển khai

Khi model đã được kiểm chứng và bắt đầu đưa vào ứng dụng, nhu cầu sử dụng thường ổn định hơn. Doanh nghiệp cần tính đến số lượng người dùng, tần suất gọi API, loại tác vụ và lượng token dự kiến để lựa chọn gói phù hợp. Ở giai đoạn này, việc lựa chọn gói nên dựa trên dữ liệu sử dụng thực tế từ quá trình thử nghiệm thay vì ước lượng hoàn toàn theo lý thuyết.

Quy mô và nhu cầu sử dụng

Quy mô gói nên đi cùng với mức độ sử dụng thực tế. Doanh nghiệp có nhu cầu thử nghiệm ngắn hạn sẽ có cách lựa chọn khác với đội ngũ phát triển sản phẩm hoặc ISV cần tích hợp AI thường xuyên. Nếu chưa có dữ liệu sử dụng, có thể bắt đầu ở quy mô nhỏ, theo dõi lượng token và tần suất sử dụng, sau đó điều chỉnh gói khi nhu cầu tăng. Cách này giúp doanh nghiệp hạn chế chi phí phát sinh trong giai đoạn chưa chắc chắn về quy mô.

Thử nghiệm trước khi mở rộng quy mô

Trước khi đưa AI vào vận hành trên diện rộng, doanh nghiệp nên thực hiện PoC với một phạm vi đủ nhỏ nhưng phản ánh được bài toán thực tế. Quy trình có thể bắt đầu bằng việc xác định rõ use case, phạm vi thử nghiệm và tiêu chí đánh giá. Sau đó, doanh nghiệp lựa chọn nhóm model phù hợp, tích hợp thông qua API và chạy thử trên dữ liệu thực tế hoặc dữ liệu có đặc điểm tương đương môi trường vận hành.

Kết quả PoC cần được đánh giá dựa trên những tiêu chí đã xác định từ đầu. Khi PoC đáp ứng yêu cầu, doanh nghiệp mới nên tính đến việc mở rộng người dùng, tăng quy mô sử dụng và lựa chọn gói phù hợp hơn. Cách làm này giúp hạn chế việc đầu tư lớn trước khi chứng minh được hiệu quả của bài toán.

Kết luận

Khai thác nhiều nhóm mô hình AI qua một API giúp doanh nghiệp linh hoạt hơn khi triển khai các bài toán AI khác nhau. Thay vì lựa chọn model theo xu hướng hoặc thông số riêng lẻ, doanh nghiệp nên bắt đầu từ bài toán, dữ liệu, yêu cầu đầu ra, tốc độ và chi phí. Với việc vừa cập nhật thêm 3 mô hình AI mới gồm google/gemma-3-27b-it, nvidia/Llama-3.1-Nemotron-Nano-8B-v1 và Qwen/Qwen3-VL-8B-Instruct, đồng thời có thể hỗ trợ thêm khoảng 40 mô hình theo nhu cầu khách hàng, vMaaS tiếp tục mở rộng lựa chọn để doanh nghiệp thử nghiệm và triển khai AI phù hợp hơn với từng bài toán cụ thể.

Tìm hiểu các lựa chọn trên vMaaS và đăng ký tư vấn dịch vụ tại đây: https://viettelidc.com.vn/model-as-a-service