Thách thức và cơ hội Gen AI mang đến cho các trung tâm dữ liệu

Generative AI đã trở thành tâm điểm chú ý kể từ khi ChatGPT ra mắt vào năm 2022, mở ra tiềm năng chuyển đổi trong nhiều ngành công nghiệp. Tuy nhiên điều gì làm nên sự khác biệt của Gen AI và ý nghĩa của Gen AI đối với data center là gì? Hãy cùng Viettel IDC tìm hiểu qua bài viết dưới đây.

Thực trạng sự tác động của Gen AI lên các trung tâm dữ liệu

Sự phát triển nhanh chóng của AI đang đặt ra những yêu cầu mới đối với cơ sở hạ tầng CNTT. Theo Khảo sát Xu hướng Công nghệ Toàn cầu 2023 (GTTS) của Equinix, 42% lãnh đạo của các trung tâm dữ liệu cho biết họ chưa tự tin vào khả năng của hệ thống hiện tại trong việc đáp ứng các yêu cầu ngày càng cao từ AI.

Trong đó, Generative AI không chỉ thay đổi cách thức hoạt động của các cụm AI mà còn đòi hỏi mạng lưới thần kinh lớn hơn, phần cứng mạnh mẽ hơn với các tập dữ liệu khổng lồ tại data center. Điều này dẫn đến việc trung tâm dữ liệu cần tiêu thụ năng lượng nhiều hơn, dẫn đến cần giải pháp cải thiện cơ sở hạ tầng mạng và làm mát hiệu quả hơn.

Xem thêm: So sánh Generative AI và AI truyền thống

Điểm khác biệt giữa Gen AI và AI truyền thống - Tại sao Gen AI có ý nghĩa mạnh mẽ hơn với các Data Center?

Generative AI mang đến nhiều thay đổi quan trọng so với AI truyền thống, cụ thể: 

- Kích thước mô hình: Các mô hình Generative AI thường được xây dựng dựa trên mạng lưới thần kinh rất lớn, chứa hàng tỷ hoặc thậm chí hàng nghìn tỷ tham số, giúp chúng xử lý dữ liệu phức tạp và tạo nội dung chi tiết hơn so với AI truyền thống (với số lượng tham số dao động từ vài ngàn đến vài triệu tham số).

- Khả năng xử lý yêu cầu đầu vào (prompt): khả năng xử lý và phản hồi của Generative AI linh hoạt và sáng tạo hơn rất nhiều so với AI truyền thống.

Khi được cung cấp một prompt rõ ràng và chi tiết, Generative AI có thể tạo ra các kết quả đa dạng như văn bản, hình ảnh, hoặc video, mà không bị giới hạn vào các câu trả lời có sẵn trong bộ dữ liệu. 

Ví dụ: Một prompt như "Viết một câu chuyện cổ tích với một chú mèo làm nhân vật chính" có thể dẫn đến hàng nghìn kết quả khác nhau tùy vào cách AI được hướng dẫn.

Ngược lại, AI truyền thống không có khả năng sáng tạo hoặc tự tạo nội dung mà chỉ trả lời dựa trên dữ liệu đã được huấn luyện. Do đó, chúng thường xử lý đầu vào như một câu hỏi yêu cầu kết quả cụ thể, chẳng hạn như: "Con mèo trong hình là giống gì?".

- Thời gian phản hồi: Do cần xử lý dữ liệu lớn và phức tạp hơn, Generative AI thường có thời gian phản hồi lâu hơn (vài giây) so với AI truyền thống, vốn có thể trả lời trong tích tắc (dưới một giây).

- Hạ tầng và năng lượng tiêu thụ: Generative AI đòi hỏi hạ tầng mạnh hơn, tiêu thụ năng lượng cao hơn, khiến các trung tâm dữ liệu cần triển khai server dày đặc hơn và sử dụng hệ thống làm mát hiện đại hơn.

- Tương tác với chuyên gia: Trong nhiều trường hợp, các chuyên gia chuyên môn có thể làm việc trực tiếp với hệ thống Generative AI mà không cần thông qua các nhà khoa học dữ liệu. Tuy nhiên, các nhà khoa học dữ liệu vẫn cần thiết để tùy chỉnh các mô hình cơ bản. 

Qua đây chúng ta có thể nhận thấy, ý nghĩa của Gen AI đối với Data Center là rất lớn bởi nó đặt ra các yêu cầu hoàn toàn khác biệt so với AI truyền thống, từ khả năng xử lý dữ liệu, hạ tầng mạng, đến tiêu thụ năng lượng. Điều này thúc đẩy các Data Center phải đổi mới không chỉ ở khía cạnh phần cứng (như GPU hay TPU), mà còn cả cách thiết kế và quản lý (từ việc tối ưu năng lượng đến triển khai các mô hình tính toán phân tán). Hơn nữa, khả năng tự động hóa và nâng cao hiệu suất mà Generative AI mang lại càng nhấn mạnh vai trò trung tâm của Data Center trong việc thúc đẩy sự phát triển công nghệ, vượt xa vai trò hỗ trợ của các trung tâm dữ liệu truyền thống. Chính sự chuyển đổi này khiến Gen AI và Data Center trở thành “trái tim” của cách mạng công nghệ mới, nơi lưu trữ, xử lý và sáng tạo dữ liệu diễn ra đồng bộ và mạnh mẽ hơn bao giờ hết.

Xem thêm:

- [Cẩm nang AI] Lịch sử của trí tuệ nhân tạo - Quá khứ, hiện tại và tương lai của AI

- [Cẩm nang AI] Tìm hiểu về bộ tứ Artificial intelligence (AI), Machine Learning (ML), Deep Learning (DL) và Data Science (DS)

Những thách thức mà Gen AI mang lại cho các trung tâm dữ liệu

Generative AI đang mở ra nhiều tiềm năng mới, nhưng đi cùng với đó là không ít thách thức, đặc biệt đối với các trung tâm dữ liệu. Những thách thức này tập trung vào ba khía cạnh chính:

Thách thức về dữ liệu

Generative AI yêu cầu lượng dữ liệu khổng lồ để hoạt động hiệu quả, bao gồm dữ liệu công khai, dữ liệu cá nhân, và dữ liệu từ bên thứ ba. Trong đó, việc truy cập, quản lý và bảo vệ nguồn dữ liệu này đối mặt với hàng loạt vấn đề như:

- Quyền riêng tư và pháp lý: Generative AI quét và thu thập dữ liệu từ internet, điều này có thể dẫn đến vi phạm quyền riêng tư hoặc không tuân thủ các quy định địa phương. Do vậy, quản trị dữ liệu tốt là điều tối quan trọng để đảm bảo tính minh bạch và tuân thủ trong toàn bộ vòng đời AI.

- Khả năng tiếp cận và độ chính xác: Các tổ chức không chỉ gặp khó khăn trong việc tiếp cận dữ liệu phù hợp mà còn cần đảm bảo dữ liệu được sử dụng phải chính xác, tránh ảnh hưởng tiêu cực đến kết quả mà mô hình đưa ra.

- Nguồn gốc: Hầu hết các tổ chức không đủ nguồn lực để tự xây dựng mô hình Generative AI mà thường sử dụng các mô hình nền tảng (foundational models) từ các cơ quan chính phủ, nhà cung cấp AI hoặc nền tảng mã nguồn mở. Tuy nhiên, việc kiểm tra nguồn gốc mô hình để đảm bảo không có thiên kiến dữ liệu và đáp ứng các yêu cầu pháp lý là điều cần thiết.

- Tích hợp trên cơ sở hạ tầng riêng: Một số doanh nghiệp không muốn tải dữ liệu cá nhân lên đám mây mà muốn triển khai mô hình AI trên cơ sở hạ tầng nội bộ. Điều này yêu cầu các giải pháp tùy chỉnh phức tạp hơn.

Thách thức về hiệu suất

Generative AI đòi hỏi hệ thống tính toán hiệu năng cao (HPC) để xử lý các tác vụ nặng, bao gồm:

- Phần cứng mạnh mẽ: Các mô hình này yêu cầu vi xử lý, bộ nhớ, GPU và các chip chuyên dụng hiện đại nhất, kết hợp với hệ thống mạng vật lý tốc độ cao.

- Yêu cầu đặc thù cho phát triển và sản xuất:

+ Phát triển (training): Công việc huấn luyện mô hình Generative AI tiêu thụ lượng lớn tài nguyên như GPU, bộ nhớ và dung lượng lưu trữ. Tuy nhiên, kết cấu kết nối GPU và khả năng chia sẻ tài nguyên có thể ảnh hưởng trực tiếp đến thời gian huấn luyện. Do vậy, việc chọn đúng mô hình nền tảng để tùy chỉnh cũng quyết định đáng kể đến tài nguyên cần thiết.

+ Sản xuất (inference): Mô hình cần xử lý hàng triệu yêu cầu đồng thời từ người dùng. Để đáp ứng, các nhà cung cấp thường triển khai mô hình tại nhiều khu vực để phân phối lưu lượng truy cập và tăng hiệu suất. Ngoài ra, độ trễ với các nguồn dữ liệu bên ngoài như dữ liệu thời tiết hay giao thông cũng cần được tối ưu hóa để cải thiện hiệu quả.

- Sử dụng hạ tầng chung: Do chi phí cao, nhiều tổ chức sử dụng chung một hạ tầng cho cả huấn luyện và sản xuất, dẫn đến nguy cơ tắc nghẽn lưu lượng và ảnh hưởng đến hiệu suất.

Thách thức về tính bền vững

Generative AI tiêu tốn năng lượng nhiều hơn AI truyền thống, dẫn đến mức phát thải carbon cao hơn. Điều này đòi hỏi các doanh nghiệp và ngành trung tâm dữ liệu phải cân nhắc về 2 yếu tố:

- Tiết kiệm năng lượng: Triển khai các công nghệ làm mát hiện đại và sử dụng năng lượng tái tạo.

- Tối ưu hóa tài nguyên: Giảm thiểu lãng phí thông qua việc tối ưu hóa quy trình xử lý AI.

Cơ hội mà Gen AI mang lại cho các trung tâm dữ liệu

Generative AI đang mang lại những thay đổi đột phá cho việc quản lý hạ tầng trung tâm dữ liệu (DCIM), giúp trung tâm dữ liệu hoạt động thông minh và hiệu quả hơn:

Tối ưu hoá hạ tầng và mạng lưới
GenAI sử dụng phân tích thông minh và tự động hóa để quản lý lưu lượng mạng, phát hiện sự cố, và tự động hóa các nhiệm vụ thường xuyên. Điều này đảm bảo các cấu hình được tối ưu, giảm thiểu thời gian gián đoạn và cải thiện hiệu suất tổng thể, đồng thời tiết kiệm chi phí vận hành.

An ninh thông minh
Trong các ứng dụng quan trọng, an ninh là yếu tố không thể thiếu. Trong đó, GenAI giúp cải thiện các biện pháp bảo mật bằng cách phân tích dữ liệu lớn theo thời gian thực để phát hiện bất thường và xử lý mối đe dọa. Ngoài ra, khả năng học hỏi và thích nghi của GenAI còn giúp đối phó với các kiểu tấn công mới, bảo vệ an toàn cho dữ liệu nhạy cảm và hạ tầng quan trọng.

Khả năng mở rộng
GenAI hỗ trợ trung tâm dữ liệu trở nên linh hoạt và dễ dàng mở rộng. Nhờ khả năng điều phối tự động, các trung tâm dữ liệu có thể nhanh chóng đáp ứng các yêu cầu thay đổi từ những công nghệ mới như Internet vạn vật (IoT), đảm bảo hoạt động ổn định và hiệu quả.

Phân tích dự đoán và bảo trì chủ động
GenAI sử dụng dữ liệu lịch sử và xu hướng hành vi để dự đoán nhu cầu tài nguyên trong tương lai. Phương pháp chủ động này giúp trung tâm dữ liệu phân bổ tài nguyên hợp lý, tránh gián đoạn dịch vụ và đảm bảo dịch vụ luôn sẵn sàng, ngay cả khi khối lượng công việc tăng đột biến.

Cải thiện  trải nghiệm khách hàng
Hoạt động trung tâm dữ liệu do Gen AI hỗ trợ giúp lưu trữ nội dung tốt hơn, cân bằng tải nhanh hơn và tăng độ tin cậy. Những cải tiến này mang đến trải nghiệm người dùng vượt trội, nâng cao sự hài lòng và lòng tin của khách hàng đối với dịch vụ.

Như vậy, GenAI không chỉ đáp ứng các yêu cầu ngày càng cao của trung tâm dữ liệu mà còn mở ra hướng đi mới cho hoạt động thông minh, bảo mật và tập trung vào khách hàng hơn. Việc tích hợp GenAI vào DCIM đánh dấu bước tiến quan trọng trong việc nâng cao hiệu quả và khả năng phục hồi của hạ tầng số.

Những tác động của Gen AI đối với các trung tâm dữ liệu

Generative AI không chỉ đòi hỏi sự thay đổi trong cách thiết kế và vận hành trung tâm dữ liệu mà còn tạo ra những yêu cầu mới về vị trí, cấu trúc xây dựng, kết nối và hơn thế nữa. Dưới đây là 5 tác động chính của Gen AI với trung tâm dữ liệu:

Vị trí trung tâm dữ liệu

- Công việc phục vụ phát triển (Development workloads):
Việc huấn luyện mô hình Generative AI tiêu tốn lượng điện năng lớn, do đó trung tâm dữ liệu nên được đặt tại các khu vực có chi phí điện năng thấp. Vì không yêu cầu độ trễ thấp, các trung tâm này có thể được đặt xa khu dân cư và sử dụng công nghệ làm mát tự nhiên từ không khí bên ngoài để tiết kiệm chi phí.

- Công việc phục vụ sản xuất (Production workloads):
Mặt khác, các tác vụ suy luận AI (inference) nên được triển khai tại các trung tâm dữ liệu cận biên (edge locations), gần nguồn dữ liệu để giảm chi phí truyền tải. Khi nhu cầu truy cập cao, trung tâm cần hỗ trợ các cụm suy luận AI lớn với nguồn điện cao.

- Tuân thủ quy định quốc gia:
Các tổ chức thường phải triển khai hệ thống AI tại nhiều quốc gia để đáp ứng quy định lưu trữ dữ liệu địa phương. Doanh nghiệp có thể đơn giản hóa và hợp lý hóa quy trình triển khai trung tâm dữ liệu của mình bằng cách làm việc với nhà cung cấp trung tâm dữ liệu toàn cầu có trụ sở trên khắp thế giới.

Xây dựng và vận hành trung tâm dữ liệu

Generative AI yêu cầu các trung tâm dữ liệu có cấu hình đặc biệt:

- Nguồn điện:
Việc huấn luyện mô hình đòi hỏi các cụm GPU tiêu thụ hàng megawatt điện. Điều này yêu cầu hạ tầng điện năng mạnh mẽ, thậm chí chuyển sang thanh dẫn điện (bus bars) thay vì cáp để nâng cao hiệu suất.

- Làm mát bằng chất lỏng:
GPU của Generative AI tiêu thụ trên 30KW điện mỗi rack, khiến hệ thống làm mát bằng không khí truyền thống không đủ hiệu quả. Do đó, trung tâm dữ liệu cần triển khai các giải pháp làm mát tiên tiến như làm mát bằng chất lỏng.

Kết nối trung tâm dữ liệu

- Kết nối tốc độ cao: Phát triển và vận hành Generative AI đòi hỏi kết nối nhanh với nhiều nguồn dữ liệu bên ngoài. Trong quá trình sản xuất, việc xử lý dữ liệu đa phương tiện yêu cầu trung tâm dữ liệu có băng thông lớn và độ trễ thấp.

- Tối ưu chi phí truyền dữ liệu: Trung tâm dữ liệu nên hỗ trợ kết nối riêng tư với các đám mây thay vì sử dụng kết nối qua Internet công cộng để giảm chi phí truyền dữ liệu.

Tính bền vững của trung tâm dữ liệu

Do nhu cầu năng lượng lớn, các trung tâm dữ liệu cần sử dụng nguồn năng lượng tái tạo, và có chỉ số hiệu suất sử dụng điện (PUE) thấp. Trong đó, AI có thể được sử dụng để tối ưu hóa việc vận hành các hệ thống làm mát và quạt trong trung tâm dữ liệu, từ đó giảm lượng năng lượng tiêu thụ. Tuy nhiên, nhà cung cấp cần công khai các báo cáo định kỳ để khách hàng có thể tối ưu hóa việc sử dụng tài nguyên.

Bảo mật và quyền riêng tư tại trung tâm dữ liệu

Nhiều tổ chức muốn giữ toàn quyền kiểm soát dữ liệu để đảm bảo quyền riêng tư và lợi thế cạnh tranh. Do vậy, trung tâm dữ liệu cần cung cấp không gian riêng tư, giám sát 24/7 và tuân thủ các quy định bảo mật của chính phủ để đáp ứng yêu cầu của khách hàng.

Xem thêm: Top 5 Data Center lớn, uy tín tại Việt Nam

Tổng kết

Gen AI đang mở ra một chương mới cho các trung tâm dữ liệu, với những thách thức về hạ tầng, hiệu suất và tính bền vững. Tuy nhiên, nếu được ứng dụng đúng cách, Gen AI sẽ mang lại nhiều cơ hội quý giá, từ tối ưu hóa vận hành đến đổi mới công nghệ. Trong đó, Viettel IDC với hệ sinh thái dịch vụ điện toán đám mây hiện đại và đội ngũ chuyên gia giàu kinh nghiệm, sẵn sàng đồng hành cùng doanh nghiệp khai thác tối đa tiềm năng mà Gen AI mang lại.

Liên hệ với Viettel IDC để được tư vấn chi tiết hơn về các dịch vụ điện toán đám mây hàng đầu dành cho doanh nghiệp!

- Hotline: 1800 8088 (miễn phí cước gọi)

- Fanpage: https://www.facebook.com/viettelidc

- Website: https://viettelidc.com.vn