Một API, nhiều mô hình AI: lựa chọn thế nào cho đúng bài toán?

Khi doanh nghiệp triển khai AI cho nhiều nhu cầu khác nhau, việc lựa chọn đúng mô hình và cách sử dụng trở thành một bài toán quan trọng. Vậy một API, nhiều mô hình AI: lựa chọn thế nào cho đúng bài toán? Bài viết này Viettel IDC sẽ giúp doanh nghiệp hiểu rõ lợi ích của cách tiếp cận này và các tiêu chí cần cân nhắc trước khi thử nghiệm hoặc mở rộng. 

Một API, nhiều mô hình AI là gì?

API là giao diện cho phép ứng dụng gửi yêu cầu đến một dịch vụ và nhận kết quả trả về. Trong khi đó, mô hình AI là thành phần thực hiện tác vụ như sinh văn bản, hiểu hình ảnh, tạo vector biểu diễn dữ liệu hoặc đánh giá mức độ liên quan giữa các nội dung.

Một API, nhiều mô hình AI là cách tiếp cận trong đó doanh nghiệp có thể truy cập nhiều nhóm model thông qua một giao diện API thay vì phải tích hợp riêng từng mô hình. Tùy bài toán, đội ngũ phát triển lựa chọn model phù hợp và gửi yêu cầu thông qua API để ứng dụng nhận kết quả. Cách tiếp cận này đặc biệt hữu ích khi doanh nghiệp đang thử nghiệm nhiều bài toán AI hoặc chưa xác định được model nào phù hợp nhất. Thay vì đầu tư ngay vào một phương án cố định, doanh nghiệp có thể thử nghiệm, đánh giá và điều chỉnh dựa trên kết quả thực tế.

Lợi ích khi khai thác nhiều mô hình AI qua một API

Một số lợi ích doanh nghiệp có thể nhận được khi khai thác nhiều mô hình AI qua một AP như: 

- Đơn giản hóa quá trình tích hợp: Đội ngũ phát triển không phải xây dựng cách kết nối riêng cho từng mô hình, từ đó giảm thời gian chuẩn bị khi bắt đầu thử nghiệm AI.

- Doanh nghiệp có thêm sự linh hoạt khi lựa chọn model: Khi bài toán thay đổi hoặc một model không đáp ứng yêu cầu về chất lượng, tốc độ hay chi phí, đội ngũ có thể cân nhắc model khác phù hợp hơn mà không phải thay đổi toàn bộ cách tiếp cận.

- Thuận lợi cho quá trình PoC: Doanh nghiệp có thể bắt đầu với phạm vi nhỏ, kiểm tra kết quả trên dữ liệu thực tế và chỉ mở rộng khi phương án được lựa chọn đáp ứng các tiêu chí đã đặt ra.

- Dễ kiểm soát mức tiêu thụ và chi phí trong từng giai đoạn: Đây là yếu tố quan trọng khi AI chuyển từ giai đoạn tìm hiểu sang phát triển và vận hành thực tế.

Các nhóm mô hình AI và bài toán phù hợp

Không phải mô hình AI nào cũng phù hợp với mọi tác vụ. Việc phân loại theo nhóm giúp doanh nghiệp xác định nhanh loại model cần tìm trước khi đi sâu vào từng phiên bản cụ thể.zx

LLM

LLM (Large Language Model) là nhóm mô hình xử lý các tác vụ liên quan đến ngôn ngữ. Doanh nghiệp có thể sử dụng LLM cho chatbot, trợ lý AI, hỏi đáp, tóm tắt, xử lý nội dung hoặc hỗ trợ một số tác vụ liên quan đến lập trình. Khi lựa chọn LLM, cần quan tâm đến khả năng xử lý tác vụ, chất lượng đầu ra, khả năng hiểu ngôn ngữ cần sử dụng, độ dài ngữ cảnh, tốc độ phản hồi và chi phí. Không nên chỉ dựa vào tên hoặc kích thước model để quyết định.

Mô hình xử lý hình ảnh và tài liệu

Nhóm mô hình này phù hợp với những bài toán cần AI hiểu hình ảnh hoặc kết hợp thông tin từ hình ảnh, tài liệu và văn bản. Đây có thể là các nhu cầu như phân tích tài liệu, nhận diện thông tin trong hình ảnh hoặc xử lý nội dung có cả văn bản và hình ảnh. Với nhóm này, doanh nghiệp cần xác định rõ loại dữ liệu đầu vào và kết quả mong muốn. Chẳng hạn, nếu bài toán yêu cầu hiểu nội dung tài liệu có hình ảnh, bảng biểu hoặc nhiều dạng thông tin khác nhau thì cần lựa chọn model có khả năng xử lý phù hợp.

Embedding

Embedding chuyển đổi nội dung như văn bản hoặc dữ liệu thành các vector số để máy tính có thể so sánh mức độ tương đồng giữa các nội dung. Nhóm model này thường được sử dụng trong các bài toán tìm kiếm ngữ nghĩa, truy xuất thông tin hoặc xây dựng hệ thống RAG. Khi lựa chọn Embedding, cần quan tâm đến loại dữ liệu, ngôn ngữ, chất lượng biểu diễn và khả năng đáp ứng dữ liệu thực tế của doanh nghiệp.

Reranker

Reranker được sử dụng để đánh giá và sắp xếp lại các kết quả đã được truy xuất theo mức độ liên quan với yêu cầu đầu vào. Trong hệ thống RAG, Embedding có thể giúp tìm ra các nội dung có khả năng liên quan, sau đó Reranker tiếp tục đánh giá để đưa những kết quả phù hợp hơn lên phía trước. Vì vậy, khi xây dựng bài toán hỏi đáp trên kho tri thức, doanh nghiệp có thể cần kết hợp nhiều nhóm model thay vì chỉ sử dụng một LLM.

Tiêu chí lựa chọn mô hình AI theo bài toán

Lựa chọn model nên bắt đầu từ bài toán cần giải quyết, không phải từ việc tìm model có tên hoặc thông số nổi bật. Trước tiên, doanh nghiệp cần xác định AI sẽ thực hiện công việc gì, dữ liệu đầu vào là gì và kết quả đầu ra cần đạt được như thế nào. Ví dụ, chatbot và trợ lý AI sẽ có yêu cầu khác với bài toán tìm kiếm tài liệu hoặc RAG.

Tiếp theo là khả năng xử lý của model. Cần đánh giá model có phù hợp với loại dữ liệu, ngôn ngữ và tác vụ thực tế hay không. Với những bài toán có yêu cầu cao về độ chính xác, nên kiểm tra trực tiếp trên dữ liệu gần với môi trường triển khai thay vì chỉ dựa vào thông số được công bố.

Độ trễ cũng cần được xem xét nếu AI được tích hợp trực tiếp vào website, ứng dụng hoặc quy trình cần phản hồi nhanh. Một model cho kết quả tốt nhưng thời gian phản hồi không phù hợp vẫn có thể ảnh hưởng đến trải nghiệm người dùng.

Yếu tố cuối cùng là chi phí cần đặt cạnh chất lượng và hiệu năng. Model có khả năng cao hơn không đồng nghĩa luôn phù hợp hơn nếu bài toán chỉ cần một mức xử lý cơ bản. Doanh nghiệp nên tìm điểm cân bằng giữa chất lượng đầu ra, tốc độ và chi phí dựa trên nhu cầu thực tế.

Lựa chọn gói sử dụng AI như thế nào?

Sau khi xác định được nhóm model và nhu cầu sử dụng, doanh nghiệp cần lựa chọn gói theo quy mô thử nghiệm hoặc triển khai. Việc này giúp kiểm soát mức sử dụng và tránh lựa chọn gói quá lớn ngay từ đầu khi nhu cầu chưa được xác định rõ.

Gói cho nhu cầu thử nghiệm

Ở giai đoạn nghiên cứu hoặc PoC, doanh nghiệp thường chưa biết chính xác lượng token cần sử dụng. Vì vậy, nên bắt đầu với gói có quy mô phù hợp để kiểm tra model, chất lượng đầu ra và khả năng tích hợp. Mục tiêu của giai đoạn này không phải tối đa hóa lượng token mà là trả lời được những câu hỏi quan trọng: model có giải quyết đúng bài toán không, kết quả có đạt yêu cầu không và mức sử dụng thực tế như thế nào.

Gói cho nhu cầu triển khai

Khi model đã được kiểm chứng và bắt đầu đưa vào ứng dụng, nhu cầu sử dụng thường ổn định hơn. Doanh nghiệp cần tính đến số lượng người dùng, tần suất gọi API, loại tác vụ và lượng token dự kiến để lựa chọn gói phù hợp. Ở giai đoạn này, việc lựa chọn gói nên dựa trên dữ liệu sử dụng thực tế từ quá trình thử nghiệm thay vì ước lượng hoàn toàn theo lý thuyết.

Quy mô và nhu cầu sử dụng

Quy mô gói nên đi cùng với mức độ sử dụng thực tế. Doanh nghiệp có nhu cầu thử nghiệm ngắn hạn sẽ có cách lựa chọn khác với đội ngũ phát triển sản phẩm hoặc ISV cần tích hợp AI thường xuyên. Nếu chưa có dữ liệu sử dụng, có thể bắt đầu ở quy mô nhỏ, theo dõi lượng token và tần suất sử dụng, sau đó điều chỉnh gói khi nhu cầu tăng. Cách này giúp doanh nghiệp hạn chế chi phí phát sinh trong giai đoạn chưa chắc chắn về quy mô.

Thử nghiệm trước khi mở rộng quy mô

Trước khi đưa AI vào vận hành trên diện rộng, doanh nghiệp nên thực hiện PoC với một phạm vi đủ nhỏ nhưng phản ánh được bài toán thực tế. Quy trình có thể bắt đầu bằng việc xác định rõ use case, phạm vi thử nghiệm và tiêu chí đánh giá. Sau đó, doanh nghiệp lựa chọn nhóm model phù hợp, tích hợp thông qua API và chạy thử trên dữ liệu thực tế hoặc dữ liệu có đặc điểm tương đương môi trường vận hành.

Kết quả PoC cần được đánh giá dựa trên những tiêu chí đã xác định từ đầu. Khi PoC đáp ứng yêu cầu, doanh nghiệp mới nên tính đến việc mở rộng người dùng, tăng quy mô sử dụng và lựa chọn gói phù hợp hơn. Cách làm này giúp hạn chế việc đầu tư lớn trước khi chứng minh được hiệu quả của bài toán.

Kết luận

Khai thác nhiều nhóm mô hình AI qua một API giúp doanh nghiệp linh hoạt hơn khi triển khai các bài toán AI khác nhau. Thay vì lựa chọn model theo xu hướng hoặc thông số riêng lẻ, doanh nghiệp nên bắt đầu từ bài toán, dữ liệu, yêu cầu đầu ra, tốc độ và chi phí. Với nhu cầu tiếp cận nhiều nhóm model AI qua API, doanh nghiệp có thể tìm hiểu thêm các lựa chọn trên vMaaS và đăng ký tư vấn để được hỗ trợ xác định model, gói sử dụng và phương án thử nghiệm phù hợp.

Tìm hiểu các lựa chọn trên vMaaS và đăng ký tư vấn dịch vụ tại đây: https://viettelidc.com.vn/model-as-a-service