NVIDIA Spectrum Ethernet Switch – Khi Ethernet trở thành nền tảng cho AI Factory
Trong nhiều năm, Ethernet được xem là một phần hạ tầng mạng quen thuộc của Data Center. Nhưng khi quy mô AI ngày càng lớn, đặc biệt với các hệ thống sử dụng hàng nghìn đến hàng trăm nghìn GPU, vai trò của network đã thay đổi đáng kể.
NVIDIA đang định vị Spectrum Ethernet không đơn thuần là một dòng switch Ethernet, mà là một nền tảng Ethernet end-to-end dành cho Data Center, Cloud, AI và các hệ thống tính toán phân tán.
Theo NVIDIA, nền tảng này kết hợp Spectrum Ethernet Switches, ConnectX SuperNICs, BlueField DPUs, LinkX cables và networking software thành một hệ sinh thái Ethernet hoàn chỉnh. Trọng tâm đặc biệt của nền tảng là khả năng xây dựng các AI fabric sử dụng Ethernet, trong đó Spectrum Ethernet Switch đóng vai trò kết nối các thành phần trong hạ tầng AI.
Ad
Vậy NVIDIA Spectrum Ethernet Switch thực sự bao gồm những gì? Và tại sao NVIDIA lại đặt Ethernet vào vị trí quan trọng như vậy trong kiến trúc AI Factory?
1. NVIDIA Spectrum Ethernet là gì?
NVIDIA mô tả Spectrum Ethernet là một standards-based, end-to-end Ethernet platform.
Điểm đáng chú ý ở đây là NVIDIA không chỉ nói về một thiết bị switch độc lập. Mà còn là một nền tảng Ethernet toàn diện và thống nhất cho thế hệ hạ tầng AI mới.
Nền tảng Spectrum Ethernet bao gồm:
- NVIDIA Spectrum Ethernet Switches
- NVIDIA ConnectX SuperNICs
- NVIDIA BlueField DPUs
- NVIDIA LinkX cables và transceivers
- Networking software
Các thành phần này được NVIDIA thiết kế để hoạt động trong một hệ sinh thái Ethernet thống nhất, phục vụ nhiều loại workload như cloud computing, data storage và AI.
Trong đó, Spectrum Ethernet Switch là thành phần nằm ở lớp switching của nền tảng.
NVIDIA cho biết dòng Spectrum Ethernet Switch có portfolio trải từ 1GbE đến 800GbE, hướng tới việc xây dựng các AI fabric kết nối các NVIDIA AI Factory. Các switch hỗ trợ cả kết nối quang dạng pluggable truyền thống và kiến trúc switch sử dụng co-packaged silicon photonics.
Nói cách khác, Spectrum Ethernet không chỉ là câu chuyện “một con switch có bao nhiêu port”.
Đó là cách NVIDIA xây dựng một nền tảng Ethernet từ host → network → software → visibility → simulation.
2. Spectrum Ethernet Switch – trung tâm của Ethernet Fabric
Nếu nhìn vào kiến trúc tổng thể, Spectrum Ethernet Switch là lớp kết nối mạng của nền tảng.
NVIDIA hiện giới thiệu nhiều thế hệ và dòng switch Spectrum Ethernet, phục vụ từ các hệ thống Ethernet thông thường cho đến những hạ tầng AI có quy mô rất lớn.
Portfolio được NVIDIA công bố bao gồm các dòng Spectrum-6, Spectrum-4 và những dòng switch ở các tốc độ khác nhau.
Spectrum-6 SN6000 Series
NVIDIA giới thiệu Spectrum-6 SN6000 Series như thế hệ switch Ethernet mới dành cho việc mở rộng AI Factory.
Theo NVIDIA, dòng SN6000 sử dụng co-packaged optics, tăng gấp đôi bandwidth trên mỗi lane so với thế hệ trước và cải thiện khả năng phục hồi của network.
Đây cũng là nền tảng được NVIDIA định vị cho các AI Factory dựa trên kiến trúc NVIDIA Rubin.
NVIDIA cho biết các hệ thống Spectrum-X Ethernet Photonics mới có thể cải thiện power efficiency và uptime lên 5x.
3. Spectrum-4 SN5000 – Ethernet ở tốc độ lên tới 800GbE
Một trong những dòng đáng chú ý trong portfolio Spectrum Ethernet là Spectrum-4 SN5000 Series.
NVIDIA mô tả SN5000 là dòng Ethernet switch được thiết kế cho AI và là portfolio switch Ethernet dành cho deep learning workloads, hỗ trợ tốc độ lên tới 800Gb/s.
Một số model được NVIDIA liệt kê gồm:
| Model | Kết nối chính | Throughput tối đa |
|---|---|---|
| SN5600 | 64 × OSFP 800GbE + 1 × SFP28 25GbE | 51.2 Tb/s |
| SN5600D | 64 × OSFP 800GbE + 1 × SFP28 25GbE | 51.2 Tb/s |
| SN5400 | 64 × QSFP-DD 400GbE + 2 × SFP28 25GbE | 25.6 Tb/s |
| SN4600C | 64 × QSFP28 100GbE | 6.4 Tb/s |
| SN4700 | 32 × QSFP-DD 400GbE | 12.8 Tb/s |
| SN3420 | 12 × QSFP28 100GbE + 48 × SFP28 25GbE | 2.4 Tb/s |
| SN2201 | 48 × RJ45 + 4 × QSFP28 100GbE | 448 Gb/s |
Các thông số trên là các giá trị NVIDIA đang công bố trên trang Spectrum Ethernet của hãng.
Điều này cho thấy portfolio Spectrum không chỉ tập trung vào một mức tốc độ duy nhất.
Nó trải rộng từ các kết nối 1GbE cho tới 800GbE, với nhiều form factor và cấu hình port khác nhau.
4. Spectrum Ethernet Switch: Ethernet tối ưu cho AI
Một điểm xuyên suốt trong cách NVIDIA giới thiệu Spectrum Ethernet là AI networking.
NVIDIA cho biết Spectrum Ethernet Switches, NICs, SuperNICs và DPUs cung cấp khả năng tăng tốc RDMA over Converged Ethernet – RoCE, hướng tới throughput cao và kết nối độ trễ thấp cho các ứng dụng scale-out và distributed applications.
Đây là một phần quan trọng trong cách NVIDIA xây dựng Ethernet fabric cho AI.
Trong hệ thống AI phân tán, các GPU không hoạt động hoàn toàn độc lập. Hạ tầng mạng trở thành thành phần kết nối các hệ thống tính toán, và NVIDIA đang phát triển Spectrum Ethernet theo hướng phục vụ các workload có yêu cầu networking cao.
NVIDIA kết hợp Spectrum Ethernet Switch với các thành phần như ConnectX SuperNIC và BlueField DPU để tạo thành một hệ sinh thái Ethernet cho AI.
5. Spectrum Ethernet và Spectrum-X – Hai khái niệm cần phân biệt
Spectrum Ethernet là nền tảng Ethernet của NVIDIA, trong đó có Spectrum Ethernet Switch.
Trong khi đó, Spectrum-X Ethernet là nền tảng được NVIDIA xây dựng chuyên biệt cho các AI infrastructure quy mô lớn.
NVIDIA mô tả Spectrum-X là nền tảng Ethernet được thiết kế cho generative AI ở quy mô lớn. Theo công bố của NVIDIA, Spectrum-X có thể tăng network performance 1.6x và duy trì 95% efficiency ở quy mô triển khai trên 100.000 GPU.
Spectrum-X kết hợp các thành phần như:
- Spectrum-X Ethernet Switch
- Spectrum-X Ethernet SuperNIC
- Networking software
- Các công nghệ quản lý, visibility và simulation của NVIDIA
Mục tiêu là tạo ra một Ethernet platform được tối ưu và kiểm chứng xuyên suốt hardware và software stack cho AI infrastructure.
Vì vậy, có thể hiểu đơn giản:
Spectrum Ethernet là nền tảng Ethernet rộng hơn; Spectrum-X là nền tảng Ethernet được NVIDIA tối ưu riêng cho AI ở quy mô lớn.
6. Không chỉ có phần cứng: NVIDIA đưa software vào cùng nền tảng
.jpg)
Một điểm đáng chú ý trong kiến trúc Spectrum Ethernet là NVIDIA không tách networking hardware khỏi software.
NVIDIA hiện đưa vào hệ sinh thái Spectrum các thành phần:
NVIDIA Cumulus Linux
Cumulus Linux là network operating system của NVIDIA dành cho open networking.
NVIDIA cho biết Spectrum switches có thể kết hợp với Cumulus Linux để xây dựng hệ thống mạng Data Center.
NVIDIA Pure SONiC
NVIDIA cũng cung cấp Pure SONiC, một network operating system dựa trên Linux và open source, chạy trên switch của nhiều vendor.
Điều này cho thấy Spectrum Ethernet không bị giới hạn trong một lựa chọn NOS duy nhất.
NVIDIA NetQ
NVIDIA NetQ cung cấp khả năng visibility và troubleshooting cho network.
Theo NVIDIA, NetQ có thể cung cấp visibility ở mức flow, theo dõi hiệu năng từ GPU tới SuperNIC và ánh xạ hành vi theo từng hop qua switch port và RoCE queue.
NVIDIA DSX Air
Nếu NetQ tập trung vào visibility và vận hành, thì DSX Air lại nằm ở phía simulation.
NVIDIA mô tả DSX Air là nền tảng cho phép mô phỏng toàn bộ Data Center infrastructure trước khi phần cứng thực tế được triển khai.
Simulation có thể bao gồm compute, networking, storage, orchestration và security.
Với Spectrum Ethernet, NVIDIA vì vậy đang xây dựng một chuỗi tương đối hoàn chỉnh:
Switch → NOS → Visibility → Simulation thay vì chỉ cung cấp phần cứng switching.
7. RoCE – một phần quan trọng trong Spectrum Ethernet
Trong các hệ thống AI hiện đại, RDMA over Converged Ethernet – hay RoCE – là một trong những công nghệ networking được NVIDIA nhấn mạnh.
NVIDIA cho biết Spectrum Ethernet switches cùng với NICs, SuperNICs và DPUs cung cấp RoCE acceleration cho các ứng dụng scale-out và distributed applications.
Đây cũng là lý do Spectrum Ethernet được đặt trong cùng hệ sinh thái với ConnectX và BlueField.
ConnectX cung cấp network adapter capabilities, BlueField cung cấp DPU capabilities, còn Spectrum cung cấp lớp Ethernet switching.
Ba thành phần này nằm trong cùng câu chuyện về accelerated networking của NVIDIA.
8. Từ pluggable optics đến Silicon Photonics
Một hướng phát triển đáng chú ý trong portfolio mới của NVIDIA là silicon photonics.
Các Spectrum Ethernet switch hiện hỗ trợ cả:
Traditional pluggable optics
và
Co-packaged silicon photonics
Theo NVIDIA, co-packaged silicon photonics đưa phần quang học vào cùng package với switch ASIC. NVIDIA định vị công nghệ này nhằm cải thiện power efficiency, reliability và AI workload resiliency.
Trong công bố về Spectrum-X Ethernet Photonics, NVIDIA cho biết kiến trúc này có thể mang lại:
- 5x network power efficiency
- 5x longer sustained AI application runtime
- Higher network resiliency
so với mạng sử dụng traditional pluggable transceiver-based architecture.
Đây là một trong những hướng NVIDIA đang phát triển để giải quyết bài toán networking ở quy mô AI Factory ngày càng lớn.
9. Spectrum Ethernet không chỉ dành cho AI Compute
Dù AI là trọng tâm nổi bật trong các công bố hiện tại của NVIDIA, Spectrum Ethernet không được giới hạn chỉ cho GPU compute.
Trang sản phẩm của NVIDIA liệt kê các ứng dụng bao gồm:
- Cloud computing
- Data storage
- AI
- Scale-out distributed applications
NVIDIA cũng định vị Spectrum Ethernet như nền tảng để xây dựng AI fabrics và kết nối các thành phần trong NVIDIA AI Factory.
Trong hệ sinh thái Spectrum-X, NVIDIA tiếp tục đề cập đến các ứng dụng như AI Compute Fabrics và AI Storage.
Điều này cho thấy Ethernet trong kiến trúc NVIDIA không chỉ được nhìn như lớp kết nối server thông thường, mà là một thành phần của toàn bộ hạ tầng dữ liệu và AI.
10. Nhìn toàn cảnh: NVIDIA đang xây dựng một Ethernet Stack như thế nào?
Nếu đặt các thành phần cạnh nhau, có thể hình dung hệ sinh thái NVIDIA Spectrum Ethernet theo cách đơn giản:
Compute / GPU
↓
ConnectX / SuperNIC
↓
Spectrum Ethernet Switch
↓
Cumulus Linux / Pure SONiC
↓
NetQ – Network Visibility
↓
DSX Air – Simulation
Và bên dưới toàn bộ hệ thống là hệ sinh thái kết nối LinkX cables và transceivers.
Đây là cách NVIDIA đang tiếp cận Ethernet: không chỉ tập trung vào forwarding capacity của switch, mà xây dựng một nền tảng gồm hardware, networking software, visibility và simulation.
11. Spectrum Ethernet đang hướng tới đâu?
Nhìn vào portfolio hiện tại của NVIDIA, có thể thấy ba hướng phát triển được hãng nhấn mạnh.
Thứ nhất: tốc độ Ethernet tiếp tục tăng.
Portfolio Spectrum hiện trải từ 1GbE tới 800GbE, trong đó các dòng Spectrum-4 SN5000 đã hướng tới 800GbE và Spectrum-6 tiếp tục mở rộng khả năng scale cho AI Factory.
Thứ hai: Ethernet được tối ưu cho AI workloads.
NVIDIA tập trung vào RoCE, high effective bandwidth, low latency và performance isolation thông qua Spectrum-X Ethernet.
Thứ ba: optical networking đang trở thành một hướng phát triển quan trọng.
NVIDIA đang đưa co-packaged silicon photonics vào các thế hệ Spectrum mới, với mục tiêu cải thiện power efficiency, uptime và resiliency khi mạng AI mở rộng.
Kết luận
NVIDIA Spectrum Ethernet Switch không nên được nhìn đơn giản như một dòng Ethernet switch có tốc độ cao.
Theo cách NVIDIA công bố, Spectrum Ethernet là một end-to-end Ethernet platform, trong đó switch là một thành phần trung tâm cùng với ConnectX, BlueField, LinkX và networking software.
Từ portfolio 1GbE đến 800GbE, từ Spectrum-4 SN5000 đến Spectrum-6 SN6000, từ traditional pluggable optics đến co-packaged silicon photonics, NVIDIA đang mở rộng Spectrum Ethernet theo hướng phục vụ các hạ tầng Data Center và đặc biệt là AI Factory ở quy mô ngày càng lớn.
Và ở phía trên lớp switch, NVIDIA tiếp tục xây dựng Spectrum-X Ethernet – nền tảng được thiết kế riêng cho AI networking – cùng Cumulus Linux, Pure SONiC, NetQ và DSX Air.
Điểm đáng chú ý nhất không nằm ở một con số throughput đơn lẻ.
Nó nằm ở cách NVIDIA đang ghép switching, network adapter, DPU, software, visibility, simulation và optical technology thành một nền tảng Ethernet thống nhất cho thế hệ hạ tầng AI mới.
Đó chính là bức tranh tổng quan của NVIDIA Spectrum Ethernet. Với tư cách là đối tác cấp Elite thuộc mạng lưới NVIDIA Partner Network, Nhất Tiến Chung sở hữu đội ngũ chuyên gia giàu kinh nghiệm trong lĩnh vực máy chủ, hệ thống mạng và tản nhiệt tiên tiến. Chúng tôi luôn sẵn sàng cung cấp các giải pháp tư vấn, thiết kế và triển khai hạ tầng AI toàn diện, giúp doanh nghiệp tối ưu hóa chi phí đầu tư, đảm bảo hiệu năng và vững bước dẫn đầu trong kỷ nguyên trí tuệ nhân tạo thế hệ mới.