Hexagon NPU 6 w Snapdragon X2 Elite Extreme: wydajność 80 TOPS, która jest do 95% szybsza niż Apple M4 i 122% szybsza niż Intel Lunar Lake
Qualcomm niedawno zaprezentował swoją następną generację Snapdragon X2 Elite Extreme i X2 Elite SoC dla laptopów. Nowe układy X2 Elite oferują nie tylko ogólne ulepszenia CPU, GPU i pamięci, ale także znaczące ulepszenia Hexagon NPU.
Firma twierdzi, że najnowszy Hexagon NPU jest najszybszym NPU w laptopach z mocą przetwarzania AI do 80 TOPS. To prawie 78% wzrost w porównaniu z 45 TOPS, które widzieliśmy w przypadku Snapdragon X skład.
X2 Elite Extreme został stworzony z myślą o agentowych przepływach pracy
Qualcomm podkreślił, że pojedynczy agent LLM o długości kontekstu 1024 i 14 miliardach parametrów (14B) wymagałby do 143 TOPS mocy obliczeniowej AI, podczas gdy przypadki użycia agentów z dwoma (3B) lub czterema agentami (7B), z których każdy działa jednocześnie LLM i LVM, mogą wymagać do 72 TOPS.
Wiąże się to również z wyzwaniem optymalizacji pod kątem wydajności na wat i niskich opóźnień.
Qualcomm twierdzi, że wnioskowanie Snapdragon AI współpracuje ze stosem oprogramowania Windows AI, aby umożliwić agentowe obciążenia nowej generacji. Obsługiwane otwarte frameworki ML obejmują PyTorch i TensorFlow.
Wraz z ONNX Runtime oferowanym przez Windows ML, wnioskowanie Snapdragon AI może angażować CPU, GPU i NPU w celu przyspieszenia przetwarzania AI na urządzeniu.
Laptopowe procesory SoC z serii Snapdragon X obsługują obecnie ponad 1000 modeli i ponad 300 doświadczeń obejmujących audio, wideo, zdjęcia, generatywną sztuczną inteligencję, agentową sztuczną inteligencję i wnioskowanie.
Doświadczenia oparte na NPU mogą być wykorzystywane w popularnych aplikacjach, takich jak Adobe Premiere, Blender, VS Code, Affinity Photo i innych.
Dwie dekady ewolucji firmy Hexagon: 143% wzrost przepustowości skalarnej i wektorowej
Qualcomm szczegółowo opisał, w jaki sposób Hexagon pierwotnie zaczynał jako cyfrowy procesor sygnałowy, który obejmował głównie przetwarzanie skalarne do obecnej formy NPU 6, która obsługuje również wektor, liczbę całkowitą i akcelerację macierzy FP16.
Przetwarzanie skalarne obejmuje teraz 12 wątków z 4-wątkowym bardzo długim słowem instrukcji (VLIW) na wątek, co skutkuje 143% wzrostem przepustowości przy zmniejszonym opóźnieniu.
NPU 6 posiada również 127% szybszą magistralę i osiem równoległych wątków dla 143% szybszego przetwarzania wektorowego z obsługą FP8 i BF16.
Jednostka macierzy posiada niezależną szynę zasilania i jest teraz do 78% szybsza z 2-bitową wagą i obsługą FP8+BF16.
Hexagon NPU 6: Do 4x wyższa wydajność przy zasilaniu izoenergetycznym
Według Qualcomm, procesor Hexagon NPU w X2 Elite Extreme może zaoferować do 1,6x wyższą wydajność w porównaniu do tego w X Elite przy mocy 5 W izo podczas przepływu pracy Enhanced Deep Super-Resolution (EDSR).
Hexagon NPU 6: Najszybszy na świecie procesor NPU do laptopów
Qualcomm reklamuje Hexagon NPU 6 w Snapdragon X2 Elite Extreme jako najszybszy na świecie, z nawet 5,7-krotnie wyższą wydajnością i 3,8-krotnie wyższą wydajnością w porównaniu do Core Ultra 9 285Hw Procyon AI Computer Vision.
Geekbench AI ocenia Hexagon NPU 6 jako prawie 70% szybszy niż NPU w Procyon AI Apple M4 jednocześnie wyprzedzając Core Ultra 9 288V o 82,4%.
Oczywiście są to dane producenta, więc wstrzymalibyśmy się z ostatecznymi wnioskami do czasu przetestowania laptopów opartych na SoC X2 Elite Extreme na początku przyszłego roku.
Proszę kupić Microsoft Surface Laptop z Snapdragon X Elite (12 rdzeni) na Amazon)
Źródło(a)
Komunikat prasowy Qualcomm
