Mini PC RTX Spark ma przezwyciężyć ograniczenia pamięci dzięki nietypowemu dyskowi SSD AI firmy Mechrevo

Chiński producent komputerów Mechrevo przygotowuje się do wprowadzenia na rynek nowego minikomputera o nazwie Master Road X10. W przeciwieństwie do konwencjonalnych minikomputerów Master Road X10 został zaprojektowany przede wszystkim z myślą o lokalnym uruchamianiu dużych modeli AI i oferuje kilka ciekawych rozwiązań, które mogą rzeczywiście w tym pomóc. Master Road X10 wykorzystuje platformę Nvidia RTX Spark , która łączy 20-rdzeniowy procesor Grace z układem graficznym Blackwell wyposażonym w maksymalnie 6144 rdzenie CUDA. Obsługuje do 128 GB zunifikowanej pamięci LPDDR5X.

Są to maksymalne parametry platformy, a Mechrevo nie potwierdziło jeszcze dokładnej konfiguracji swojego minikomputera. Najciekawszą funkcją jest jednak autorski dysk AI SSD firmy Mechrevo. Zamiast polegać wyłącznie na pamięci systemowej, technologia ta pozwala przenosić części dużych modeli AI z pamięci DRAM do pamięci flash NAND. Może również zachowywać i ponownie wykorzystywać wcześniej przetworzony kontekst, co teoretycznie ogranicza zbędne obliczenia i narzut związany z ładowaniem modeli. Mechrevo twierdzi, że dzięki temu Master Road X10 może uruchamiać modele o 80 miliardach, 120 miliardach, a nawet 122 miliardach parametrów, zachowując płynność działania. Niestety nie podano dokładnej pojemności dysku SSD.

To nie pierwszy raz, gdy Mechrevo omawia tę technologię. Podczas wrześniowej prezentacji firma twierdziła, że jej dysk AI SSD może zwiększyć obsługiwane obciążenia związane z modelami nawet 5,7-krotnie i przyspieszyć etap wstępnego przetwarzania danych wejściowych nawet o 95%. Testy laboratoryjne na laptopie Mechrevo Yaoshi 15 Air miały wykazać niemal dwukrotny wzrost szybkości wnioskowania. Dysk SSD ma również obsługiwać trwałą pamięć AI, zachowując preferencje użytkownika i informacje kontekstowe między sesjami. Istnieją jednak pewne istotne zastrzeżenia.

Mechrevo nie opublikowało szczegółowych wyników testów wydajności, ustawień kwantyzacji modeli ani warunków testowych, które potwierdzałyby te deklaracje. Ponadto pamięć flash NAND jest znacznie wolniejsza od pamięci DRAM, co oznacza, że dysk SSD zdolny pomieścić większy model niekoniecznie zapewni szybsze wnioskowanie. Na razie konfiguracje pamięci Master Road X10, pojemność dysku AI SSD, opcje łączności, cena i data premiery pozostają nieznane. Ciekawie będzie zobaczyć, czy Mechrevo zdoła przełożyć swoje ambitne deklaracje o wynikach laboratoryjnych na wymierną poprawę wydajności w rzeczywistych zastosowaniach.