Asus prezentuje "pierwszy na świecie akcelerator USB edge AI dla klasycznej i generatywnej sztucznej inteligencji"

Karty rozszerzeń do systemów PC nie są niczym nowym, a dedykowane karty graficzne są koniecznością dla wymagających graczy. Wcześniej informowaliśmy o kartach rozszerzeń do akceleracji modeli AI, choć prawdopodobnie nie są one już niezbędne w wielu nowoczesnych komputerach PC dzięki procesorom NPU zintegrowanym z APU. Niemniej jednak, takie karty rozszerzeń nadal mogą być przydatne do zwiększenia wydajności AI w istniejących systemach. Asus zapowiedział teraz jedną z takich kart, UGen300.

Jest to karta rozszerzeń USB, która komunikuje się przez USB 3.1 Gen 2, a więc nie wymaga instalacji w slocie PCI ani otwierania obudowy komputera. Urządzenie wyposażone jest w procesor NPU Hailo 10H, który podobno osiąga wydajność 40 TOPS (INT4), a jego typowy pobór mocy określono na 2,5 W, co czyni go bardzo niskim lub praktycznie pomijalnym. na pokładzie znajduje się 8 GB pamięci RAM LPDDR4, co raczej nie będzie wystarczające dla entuzjastów hardkorowej sztucznej inteligencji, ponieważ dedykowane kompilacje AI zwykle mają znacznie ponad 100 GB pamięci RAM.

Jest on podobno kompatybilny zarówno z platformami x86, jak i ARM, urządzeniami z systemami Windows, Linux i Android, a także różnymi frameworkami, takimi jak TensorFlow, PyTorch i ONNX. Według Asusa, do użytku dostępnych jest ponad 100 wstępnie wytrenowanych modeli. Typowym zastosowaniem może być zaawansowane rozpoznawanie i interpretacja obrazów lub wzorców. W chwili obecnej nie są dostępne żadne informacje na temat ceny lub dostępności