Nvidia Jetson Thor zapewnia 2,070 TFLOPS dla robotów z generatywną sztuczną inteligencją na urządzeniu

Seria układów Nvidia Jetson Thor ukierunkowana jest na "fizyczną sztuczną inteligencję" z modułami wielkości laptopa, które wykonują do 2 070 tera-operacji FP4 na sekundę i 128 gigabajtów pamięci w obudowie o mocy od 40 do 130 W. Nvidia pozycjonuje Thor jako znaczący krok naprzód w stosunku do AGX Orin, oferując około 7,5 razy więcej obliczeń AI i 3,5 razy lepszą wydajność energetyczną, umożliwiając robotom uruchamianie ciężkich modeli na urządzeniu zamiast polegania na chmurze.

Wewnątrz, Jetson AGX Thor łączy procesor graficzny Blackwell z 14-rdzeniowym procesorem Arm, zapewniając wysoką przepustowość pamięci i szybkość zegara. Specyfikacje te umożliwiają robotom jednoczesne uruchamianie wielu potoków AI dla języka, wizji i sterowania bez spowalniania.

Thor zachowuje kompaktowy rozmiar ostatnich modułów Jetson, jednocześnie podwajając zakres mocy Orina, aby osiągnąć swoje cele wydajnościowe. Celem Nvidii jest uruchomienie przepływów pracy z wieloma sztucznymi inteligencjami w czasie rzeczywistym, umożliwiając maszynom bezpieczną interakcję z ludźmi.

Nvidia twierdzi, że dostępne są moduły produkcyjne i zestawy deweloperskie dla platformy Jetson nowej generacji, a wśród pierwszych użytkowników są Amazon, Meta, John Deere, OpenAI i Boston Dynamics. Agility Robotics planuje zintegrować Thora ze swoim humanoidem Digit szóstej generacji do pracy w magazynie, a Boston Dynamics przygotowuje nowy wariant Atlas, który uzupełni Thora. Ceny kształtują się na poziomie 2 999 USD za moduł Jetson Thor T5000 w ilości 1000 sztuk i 3 499 USD za zestawy deweloperskie AGX Thor.

Nvidia nazywa ten układ "mózgiem robota", a nazwa ta pasuje do niego: modele generatywne klasy brzegowej, duże modele językowe i wysokowydajna wizja działające razem w jednym module. Taka mieszanka odblokowuje przypadki użycia, które wymagają niskiego opóźnienia, takie jak humanoidy, automatyzacja rolnictwa, a nawet pomoc chirurgiczna, gdzie ułamek sekundy ma znaczenie, a upuszczona klatka może spowodować błąd.

Podstawowa korzyść jest oczywista: zespoły mogą szybko przejść od etapu rozwoju do produkcji, wykorzystując to samo oprogramowanie do percepcji i planowania. Istnieją jednak poważne zagrożenia. Zwiększona moc Thora może wzmocnić autonomiczne systemy zarówno w pozytywnych, jak i negatywnych zastosowaniach, jak w przypadku Jetson Orin w strefach konfliktu. Jego wpływ na miejsca pracy jest niepewny; podczas gdy niektóre role mogą pozostać, praca może stać się bardziej powtarzalna. Silne zabezpieczenia, staranny nadzór i jasna odpowiedzialność pozostają niezbędne w miarę rozwoju tych technologii.