Nvidia prezentuje przełączniki fotoniczne do skalowania sieci AI z milionami GPU

Nvidia chce zrewolucjonizować łączność w centrach danych poprzez wykorzystanie światła https://www.tomshardware.com/networking/nvidia-outlines-plans-for-using-light-for-communication-between-ai-gpus-by-2026-silicon-photonics-and-co-packaged-optics-may-become-mandatory-for-next-gen-ai-data-centers. W marcu 2025 r. firma wprowadziła na rynek przełączniki Spectrum-X Photonics Ethernet i Quantum-X Photonics InfiniBand. Zostały one zaprojektowane do łączenia dużych "fabryk sztucznej inteligencji" w różnych lokalizacjach i obsługi milionów procesorów graficznych, przy jednoczesnym zmniejszeniu zużycia energii i kosztów. Głównym celem jest integracja silników optycznych z chipami przełączników, eliminując w ten sposób niepotrzebne komponenty elektryczne.

Głównym wyzwaniem jest skalowanie. Gdy prędkość osiąga 800 gigabitów na sekundę lub więcej, miedziane połączenia między serwerami i przełącznikami spowalniają pracę. Sygnały tracą na sile, gdy przechodzą przez płyty i złącza. Dzieje się to zanim sygnał dotrze do modułu optycznego. Nvidia twierdzi, że strata ta wynosi około 22 decybeli na kanałach 200-gigabitowych. Oznacza to, że potrzeba więcej mocy, a każdy port zużywa około 30 watów. Dodatkowe komponenty zwiększają również ryzyko awarii.

Co-packaged optics (CPO) zmienia tę konfigurację. Dzięki umieszczeniu silnika optycznego obok chipu przełącznika, sygnały są przesyłane do światłowodu niemal natychmiast. Zmniejsza to straty elektryczne do około czterech decybeli i zmniejsza zużycie energii na port do około dziewięciu watów. Nvidia twierdzi, że na większą skalę podejście to pozwala osiągnąć około 3,5-krotnie lepszą wydajność energetyczną, ponad 60-krotnie lepszą jakość sygnału, 10-krotnie większą odporność, ponieważ jest mniej aktywnych części, oraz około 30% szybszą konfigurację, ponieważ jest mniej do zbudowania i utrzymania.

W przypadku sieci Ethernet, Spectrum-X Photonics jest przeznaczony dla dużych, wielodostępnych sieci. Nvidia twierdzi, że oferuje około 1,6 razy większą przepustowość na obszar niż zwykły Ethernet. Dostępne opcje obejmują 128 portów o przepustowości 800 Gb/s lub 512 portów o przepustowości 200 Gb/s. Łącznie osiąga to 100 Tb/s. Większe konfiguracje mogą mieć do 512 portów przy 800 Gb/s lub 2048 portów przy 200 Gb/s. Zapewnia to łącznie 400 Tb/s.

W przypadku InfiniBand, Quantum-X Photonics koncentruje się na połączeniach 800 Gb/s (gigabitów na sekundę) i wykorzystuje chłodzenie cieczą, system wykorzystujący płyn chłodzący do usuwania ciepła. Jego topowy przełącznik ma 144 porty i może obsłużyć 115 Tb/s danych. Obejmuje on również obliczenia w sieci, które przetwarzają dane w samej sieci, oceniane na 14,4 biliona operacji zmiennoprzecinkowych na sekundę. System wykorzystuje najnowszą technologię SHARP (Scalable Hierarchical Aggregation and Reduction Protocol) firmy Nvidia w celu przyspieszenia zadań grupowych w całej sieci.

Nvidia twierdzi, że ta generacja jest dwa razy szybsza i pięć razy bardziej skalowalna dla sieci AI niż poprzednia. Plan poprawy skalowalności jest ściśle powiązany z platformą COUPE firmy TSMC i zaawansowanymi metodami pakowania. W pierwszej fazie silniki optyczne w modułach OSFP osiągną 1,6 Tb/s. Druga faza będzie wykorzystywać współopakowane układy optyczne na płycie głównej, zdolne do osiągnięcia 6,4 Tb/s. Trzecia faza ma na celu osiągnięcie 12,8 Tb/s w pakietach procesorów, co jeszcze bardziej zmniejszy opóźnienia i zużycie energii. Nvidia spodziewa się wprowadzić na rynek przełączniki Quantum-X oparte na CPO na początku 2026 roku, a Spectrum-X Photonics jeszcze w tym samym roku, z których oba będą wyposażone w chłodzenie cieczą.

Nvidia współpracuje z takimi firmami jak TSMC, Coherent, Corning, Fabrinet, Foxconn, Lumentum, SENKO, SPIL, Sumitomo Electric, TFC i innymi, aby zapewnić produkcję, optykę i montaż. Celem jest wyeliminowanie tysięcy oddzielnych części z dużych klastrów, przyspieszenie konfiguracji i umożliwienie tworzenia sieci z milionem procesorów graficznych bez nadmiernego zużycia energii.