Giải pháp lưu trữ cấp doanh nghiệp cho hạ tầng AI từ Infortrend

Việc ứng dụng trí tuệ nhân tạo (AI) đang phát triển mạnh mẽ hơn bao giờ hết, nhưng thách thức lớn nhất mà các doanh nghiệp gặp phải chính là làm thế nào để biến khối lượng dữ liệu khổng lồ thành giá trị thực tiễn. Để giải quyết bài toán này, Infortrend đã mang đến dòng hệ thống lưu trữ EonStor GS 5000U — một giải pháp được thiết kế chuyên biệt cho hạ tầng AI, kết hợp hiệu suất vượt trội cùng mức chi phí đầu tư ban đầu tối ưu.

Giải phóng sức mạnh tính toán AI và tối ưu hóa GPU

Khả năng xử lý của GPU phụ thuộc rất lớn vào tốc độ được cung cấp dữ liệu. Dòng sản phẩm GS 5000U mang đến băng thông đọc lên đến 125GB/s và 2.4 triệu IOPS để tăng tốc các khối lượng công việc (workload) AI. Với giao tiếp mạng 200GbE, hệ thống cung cấp nguồn băng thông dồi dào, loại bỏ hoàn toàn tình trạng thiếu hụt dữ liệu ở GPU (GPU starvation) và đẩy nhanh quá trình đào tạo mô hình AI đa điểm (multi-node) cũng như các tác vụ inference.

Bằng cách tận dụng công nghệ NVMe-oF và GPUDirect Storage (GDS), giải pháp lưu trữ này đạt được độ trễ cực thấp, chỉ ở mức 0.3 mili-giây (ms). Tốc độ truy xuất chớp nhoáng này giúp loại bỏ tình trạng đình trệ khi ghi các tệp checkpoint, qua đó tối đa hóa hiệu suất sử dụng GPU trong các tác vụ đòi hỏi khả năng xử lý nặng như đào tạo mô hình, suy luận và xử lý siêu dữ liệu.

Đảm bảo tính sẵn sàng cao và khả năng mở rộng không giới hạn

Dữ liệu AI thường xuyên tăng trưởng theo cấp số nhân. Bằng kiến trúc phần cứng được thiết kế dự phòng hoàn toàn (bao gồm controller, quạt và bộ nguồn), hệ thống giúp giảm thiểu tối đa rủi ro gián đoạn dịch vụ. Kết hợp với kiến trúc tính sẵn sàng cao (HA), GS 5000U cung cấp khả năng chuyển dự phòng (failover) tự động ở cấp độ data center, đảm bảo không mất dữ liệu, thời gian downtime gần như bằng không và có thể khôi phục chỉ trong vài giây.

Về lâu dài, thiết kế của hệ thống đảm bảo vòng đời lưu trữ liền mạch thông qua các tùy chọn mở rộng linh hoạt, từ các tủ đĩa JBOD mật độ cao đến các JBOF NVMe hiệu năng cao. Quản trị viên có thể phân bổ tài nguyên lưu trữ tương ứng với các luồng dữ liệu đào tạo nóng (hot-tier) hoặc lưu trữ nguội (cold-tier) trong mọi giai đoạn triển khai AI.

Nền tảng lưu trữ AI NVMe-oF tốc độ cao

Để xây dựng một nền tảng lưu trữ AI tốc độ cao, thông minh và an toàn, kiến trúc của Infortrend mang đến những thành phần cốt lõi:

• Hệ thống mạng băng thông rộng: Sự kết hợp giữa chuẩn NVMe-oF và 200GbE cung cấp mức băng thông 125GB/s và độ trễ 0.3 ms, đảm bảo luồng dữ liệu khổng lồ được cấp liên tục cho hệ thống tính toán.
• Tăng tốc GPU trực tiếp: Tính năng GPUDirect Storage (GDS) cho phép dữ liệu bỏ qua CPU để đi thẳng tới bộ nhớ của GPU. Con đường tắt này đặc biệt quan trọng để loại bỏ các điểm nghẽn tại CPU, giảm độ trễ và tận dụng toàn bộ năng lực tính toán của GPU.
• Tủ đĩa mở rộng chuyên dụng: Sự kết hợp giữa chuẩn lưu trữ NVMe SSD tốc độ cao và JBOD dung lượng lớn tạo ra một vòng đời quản lý dữ liệu hoàn hảo.

Phần mềm được thiết kế tối ưu cho lưu trữ AI

Ngoài thiết kế phần cứng mạnh mẽ, Infortrend còn tích hợp các giải pháp phần mềm chuyên dụng để bảo vệ và tự động hóa dữ liệu:

• Tương thích hệ thống tập tin HPC: Hệ thống tập tin GS tuân thủ tiêu chuẩn POSIX, cho phép tích hợp liền mạch với các hệ thống tập tin song song hiệu năng cao như Lustre.
• Thiết kế chịu lỗi đa lớp: Tích hợp tính năng bảo vệ RAID, snapshot cục bộ và các thuật toán thông minh để ngăn ngừa rủi ro hỏng SSD đồng loạt.
• Chiến lược phục hồi liên cơ sở: Hỗ trợ nhân bản dữ liệu đồng bộ và không đồng bộ, cùng khả năng kết nối cổng đám mây (EonCloud Gateway) để bảo vệ dữ liệu ở các site khác nhau.
• Quản lý vòng đời dữ liệu thông minh: Tính năng tự động phân tầng (automated storage tiering) lên tới 4 lớp cho phép dữ liệu tự động di chuyển linh hoạt từ phân tầng hiệu năng cao sang các lớp lưu trữ chi phí thấp, tối ưu hóa mức độ hiệu quả của hệ thống.

Các kịch bản sử dụng tiêu biểu

Các bài toán AI khác nhau yêu cầu các mô hình truy xuất dữ liệu hoàn toàn khác biệt:

• Inference trong sản xuất: Một nhà máy tích hợp hệ thống AI để kiểm tra lỗi ngoại quan thông qua camera trên dây chuyền tốc độ cao. Giải pháp của Infortrend giúp xử lý 30 khung hình/giây mà không bị rớt khung hình, duy trì độ trễ ở mức mili-giây để đưa ra quyết định phân loại cho các cánh tay robot, đồng thời lưu trữ lượng hình ảnh khổng lồ (quy mô Petabyte) về các sản phẩm lỗi cho mục đích đào tạo lại mô hình.
• Retrieval-Augmented Generation (RAG): Tại hệ thống chăm sóc khách hàng của một nhà mạng với hơn 400 AI agent và nhân viên trực tổng đài, việc truy vấn vào hệ thống cơ sở tri thức dung lượng 15TB cần phải diễn ra ngay lập tức. Khả năng hỗ trợ 2.4 triệu IOPS cùng độ trễ siêu thấp dưới một mili-giây giúp giải quyết mượt mà số lượng yêu cầu khổng lồ gửi đến cùng lúc.
• Fine-tuning (Tinh chỉnh mô hình chuyên ngành): Một tổ chức tài chính dùng cụm 16 GPU H100 để fine-tuning một mô hình ngôn ngữ 8 tỷ tham số. Hệ thống lưu trữ đáp ứng băng thông 120GB/s để tải dữ liệu, đồng thời ghi lại các bản checkpoint mỗi 15 phút trong thời gian tính bằng giây, giúp giảm thiểu tuyệt đối thời gian nhàn rỗi của GPU.

Nhất Tiến Chung – Đối tác cung cấp giải pháp hạ tầng AI từ Infortrend

Là một trong những nhà cung cấp giải pháp hạ tầng CNTT hàng đầu tại Việt Nam, Nhất Tiến Chung tự hào là đối tác chính thức của Infortrend cũng như các hãng công nghệ lớn như NVIDIA, Supermicro, QNAP, ASUS, ASRock…

Với bề dày kinh nghiệm triển khai máy chủ, lưu trữ và hệ thống data center, đội ngũ chuyên gia tại Nhất Tiến Chung luôn sẵn sàng đồng hành, tư vấn thiết kế và triển khai trọn gói các giải pháp hạ tầng AI và AI factory tối ưu nhất. Sự kết hợp giữa giải pháp lưu trữ mạnh mẽ từ Infortrend và dịch vụ chuyên nghiệp của Nhất Tiến Chung sẽ tạo ra bệ phóng vững chắc để các doanh nghiệp hiện thực hóa các chiến lược chuyển đổi số và khai thác sức mạnh của trí tuệ nhân tạo.