Recenzja HP ZGX Nano G1n AI Station: Kompaktowa moc serwera z Nvidia DGX Spark

HP ZGX Nano G1n AI Station przede wszystkim udowadnia swoje mocne strony w sferze profesjonalnych, specjalistycznych zastosowań. Jej największym atutem jest bez wątpienia architektura Blackwell. Dzięki obsłudze nowego formatu danych FP4 oraz modeli NVFP4 i NVFP8 zoptymalizowanych przez Nvidię, aplikacje AI mogą być wykonywane szybciej i zajmować znacznie mniej pamięci VRAM. Jest to przewaga technologiczna, którą obecnie można znaleźć tylko u Nvidii. Co więcej, gadżet ten zapewnia dostęp do ekosystemu DGX firmy Nvidia, co ułatwia skalowanie małych eksperymentów do ogromnych klastrów serwerów. Deweloperzy z solidnym zrozumieniem stosu oprogramowania Nvidii uznają ten "most do centrum danych" za nieoceniony. Imponujące jest to, jak wiele możliwości sztucznej inteligencji jest możliwe na tak małej przestrzeni.

Jednak wysoka cena wynosząca około 4000 euro budzi oczekiwania, których urządzenie nie jest w stanie spełnić pod względem haptyki i ergonomii. Plastikowa obudowa wydaje się zbyt prosta jak na ten przedział cenowy, a stale słyszalny wentylator oraz wysoki pobór mocy do 50 watów w trybie bezczynności psują wrażenie w codziennym użytkowaniu. Życzylibyśmy sobie tutaj więcej wyrafinowania, zwłaszcza że urządzenie często będzie siedzieć bezpośrednio na biurku. W końcu to urządzenie jest przeznaczone dla tych, którzy naprawdę chcą pracować ze sztuczną inteligencją.

Z drugiej strony, Team Red jest silnym konkurentem, jeśli wszystko, czego potrzebujesz, to dużo pamięci lokalnej do uruchamiania dużych modeli sztucznej inteligencji i nie potrzebujesz funkcji oferowanych przez Nvidię. Systemy oparte na platformie AMD Strix Halo, takie jak Bosgame M5 AI Mini Desktopczy Framework Desktoplub GMKtec EVO-X2 z procesorem Ryzen AI Max+ 395, oferują bogate konfiguracje pamięci i wysoką wydajność w wielu standardowych aplikacjach AI - w znacznie bardziej atrakcyjnej cenie. Niemniej jednak stacja HP pozostaje pierwszym wyborem dla specjalistów Nvidii.

Istnieją ogromne różnice w cenie stacji HP ZGX Nano G1n AI Station. Model o pojemności 4 TB jest obecnie dostępny na Amazon w cenie 4 759 USD, podczas gdy w sklepie HP Store kosztuje on znacznie więcej, bo 7 399,00 USD.

HP ZGX Nano G1n AI Station to dość długa nazwa tego, co tak naprawdę jest referencyjną platformą Nvidii DGX Spark. Konkurenci tacy jak Gigabyte, Asus, Acer i Dell oferują zestawy deweloperskie AI, więc HP nie jest jedyną firmą stosującą tę strategię. Różnice zazwyczaj tkwią w szczegółach, takich jak drobne poprawki w stosie oprogramowania lub konstrukcji obudowy. Sama koncepcja okazuje się niezwykle elastyczna: Kompaktowe pudełko może być obsługiwane zarówno jako dedykowany serwer "bez głowy" w sieci, jak i - dzięki dostępnym portom - jako pełnoprawna stacja robocza z myszą, klawiaturą i monitorem bezpośrednio na biurku. Użyliśmy Crowview Note wygodnie do tego celu w naszym teście. Szczególną uwagę zwrócono na łatwą konfigurację. Nvidia i HP chcą, aby wejście w lokalny rozwój sztucznej inteligencji było jak najbardziej płynne i zawierają gotowe projekty, tak zwane Blueprints, zaraz po wyjęciu z pudełka.

Stacja HP ZGX Nano G1n AI Station ma niezwykle kompaktową obudowę o wymiarach około 15 × 15 × 5,5 cm i wadze zaledwie 1,25 kg. Dzięki temu z łatwością zmieści się na każdym biurku. Przednia część przyciąga wzrok, składając się niemal w całości z charakterystycznej siatki zapewniającej optymalny przepływ powietrza dla wydajnych komponentów wewnętrznych. Logo HP i dyskretne logo "AI" są tutaj zintegrowane.

HP kładzie w tym modelu nacisk na zrównoważony rozwój. AI Station zawiera do 40% plastiku z recyklingu, do 75% aluminium z recyklingu i co najmniej 20% stali z recyklingu. Dodatkowo, opakowanie zewnętrzne jest wykonane w 100% z materiałów ekologicznych i nadających się do recyklingu. Cała obudowa AI Station wykonana jest z czarnego plastiku.

Wybór portów jest dostosowany do wymagań profesjonalistów. Z tyłu znajduje się szybki port Ethernet 10 Gbit, a także dwa porty QSFP dla szybkiego połączenia Nvidii, umożliwiające skalowanie poprzez połączenie wielu jednostek razem. Trzy porty USB-C są dostępne dla urządzeń peryferyjnych. Wyjście HDMI 2.1 umożliwia podłączenie monitora do konsoli, mimo że urządzenie będzie prawdopodobnie często używane w trybie "headless". System komunikuje się bezprzewodowo za pośrednictwem Wi-Fi 7 i Bluetooth 5.4.

Centralnym elementem ZGX Nano G1n jest układ Nvidia GB10, którego profil wydajnościowy jest z grubsza oparty na układzie Nvidia GeForce RTX 5070, aczkolwiek ze znacznie innym ukierunkowaniem. Nvidia konsekwentnie optymalizuje tutaj architekturę pod kątem obciążeń związanych ze sztuczną inteligencją, co jest zauważalne w zmienionej dystrybucji jednostek TMU i rdzeni Tensor kosztem klasycznych ROP. W praktyce jednak specyfikacja pamięci spowalnia ten potężny układ. Podczas gdy RTX 5070 może polegać na 12 GB VRAM z przepustowością pamięci 672,0 GB/s, GB10 musi zadowolić się 273,2 GB/s.

Zainstalowane 128 GB pamięci LPDDR5X jest więc niezwykle pojemne, umożliwiając ładowanie i przetwarzanie ogromnych modeli LLM i AI, które nie znalazłyby miejsca na konwencjonalnych kartach konsumenckich, ale okazuje się stosunkowo wolne. W zależności od rozmiaru załadowanego modelu lub złożoności kontekstu, to wąskie gardło zauważalnie ogranicza wydajność sztucznej inteligencji. To samo staje się widoczne w przypadku modeli zamiany tekstu na obraz, takich jak SDXL. W różnych testach z ComfyUI lub JupyterLab osiągamy około trzech iteracji na sekundę (it/s) podczas generowania obrazu. Zgodnie z naszym doświadczeniem, dobrze wyposażone komputery PC z RTX 5070 osiągają 4,5 it/s.

Rdzenie ARM modułu Grace zapewniają doskonałą wydajność wielordzeniową, która idealnie nadaje się do zrównoleglonych zadań. Jednak w aplikacjach, które w dużym stopniu zależą od wydajności pojedynczego rdzenia, niższa surowa wydajność poszczególnych rdzeni w porównaniu z obecnymi procesorami x86 klasy high-end staje się zauważalna.

HP dołącza do AI Station potężny 240-watowy zasilacz USB-C, który wydaje się niezbędny, biorąc pod uwagę apetyt urządzenia na energię. Przy pełnym wykorzystaniu GPU, zużycie energii wzrasta do 206 watów w naszych pomiarach. W przypadku typowych, długotrwałych obciążeń, takich jak wnioskowanie LLM, zużycie energii spada do około 160 watów. Uważamy jednak, że zapotrzebowanie na energię w trybie bezczynności jest punktem krytyki. Niezwykłe jest to, że system stale pobiera od 30 do 50 watów z gniazdka bez żadnego obciążenia obliczeniowego - poziom zużycia energii, którego nawet wiele wysokiej klasy laptopów do gier nie osiąga na biegu jałowym.

Obecność urządzenia jest słyszalna, ale mieści się w akceptowalnych parametrach. Zmierzyliśmy ciągły poziom hałasu wentylatora wynoszący 30 dB(A), gdy urządzenie było bezczynne i 40 dB(A), gdy obciążenie wynosiło 100% podczas naszego testu warunków skrajnych. Pod względem termicznym HP ma rozpraszanie ciepła pod kontrolą, chociaż mała obudowa robi się zauważalnie ciepła. Zmierzyliśmy temperaturę powierzchni wynoszącą około 50 °C. W tym miejscu wybór materiałów okazuje się korzystny, ponieważ plastikowa obudowa może być nadal obsługiwana bez problemu nawet w tych temperaturach i nie jest nieprzyjemnie gorąca w dotyku.