Platforma Nvidia Rubin AI dziesięciokrotnie obniża koszty tokenów w porównaniu do Blackwell, a Elon Musk chwali ją jako "silnik rakietowy dla sztucznej inteligencji"

Nvidia ogłosiła swoją architekturę obliczeniową Rubin AI nowej generacji, która w końcu będzie pasować do chińskiej strategii AI w zakresie przeprowadzania wnioskowania AI przy znacznie niższych kosztach niż obecna edycja Blackwell.

Podobnie jak Nvidia Rubin AI, platforma zbudowana jest wokół sześciu współpracujących ze sobą podsystemów przetwarzania: procesora Vera, nowego układu graficznego Nvidia Rubin, przełącznika NVLink 6 trzeciej generacji, ConnectX-9 SuperNIC, BlueField-4 DPU i przełącznika Ethernet Spectrum-6. Chipy zostały zbudowane na zaawansowanych węzłach odlewniczych TSMC i wprowadzają optymalizacje interfejsu mające na celu drastyczne obniżenie kosztów tokenów i czasu szkolenia.

W rzeczywistości, "codesign" Nvidii w sześciu nowych chipach umożliwia szkolenie modeli przy użyciu jednej czwartej procesorów graficznych potrzebnych w obecnej platformie Nvidia Blackwell i dziesięciokrotnie obniża koszty na token. Dziesięciokrotny spadek kosztów tokenów jest tym, co Elon Musk obiecuje dla nowej generacji Tesli AI5 tylko, że nie wejdzie on do masowej produkcji przed przyszłym rokiem. Elon Musk pochwalił Nvidia Rubin jako "silnik rakietowy dla sztucznej inteligencji", który umożliwi wdrażanie modeli brzegowych na dużą skalę.

Chiny również szczycą się niską Ceną tokenów AI, którą osiągają dzięki modelom open source, takim jak DeepSeek i łącząc wiele procesorów graficznych AI średniej klasy, takich jak Huawei 910C tak więc architektura Nvidia Rubin w końcu robi coś, aby zająć się nie tylko wydajnością, ale także kosztami uruchamiania modeli AI.

Być może najciekawszą częścią platformy Rubin jest nowy procesor Nvidia Vera,"zaprojektowany do przepływu danych i wnioskowania agentowego w akcelerowanych systemach, z pełną obsługą obliczeń poufnych" Może on być sparowany z układem GPU Nvidia lub pracować jako samodzielny procesor obsługujący"analitykę, chmurę, orkiestrację, pamięć masową i wysokowydajne obciążenia obliczeniowe (HPC)" z pełną kompatybilnością z Arm.

Specyfikacja procesora Vera obejmuje 88 niestandardowych rdzeni i 1,2 TB/s przepustowości pamięci LPDDR5X oraz charakteryzuje się bardzo oszczędnym poborem mocy. Integracja interfejsu łączności NVLink-C2C uruchamia zsynchronizowany dostęp do pamięci CPU-GPU jako część funkcji optymalizacyjnych, które sprawiają, że platforma Rubin jest o rząd wielkości bardziej wydajna niż jej poprzednik oparty na Blackwell.

Proszę nabyć osobisty superkomputer AI Nvidia DGX Spark na Amazon