Przepustowość vs. IOPS vs. efektywność: Samsung opracowuje trzy nowe rodzaje pamięci masowej NAND do zastosowań AI

Ten rodzaj pamięci został zaprojektowany specjalnie z myślą o lokalnych zastosowaniach AI. Aby skrócić ścieżki przesyłu danych oraz poprawić szybkość i efektywność energetyczną, układy NAND są ułożone w czterech lub ośmiu warstwach i połączone za pomocą przelotek TSV (through-silicon via). W tym przypadku wydajność jest nieco mniej istotna niż efektywność energetyczna, ponieważ aplikacje AI mają działać lokalnie, zużywając jak najmniej energii.

Ten wariant jest przeznaczony przede wszystkim dla wysokowydajnych centrów danych AI, dlatego pamięć flash została zaprojektowana tak, aby obsługiwać szczególnie duże ilości danych w jednostce czasu. Kluczowym terminem jest tutaj High Bandwidth Flash (HBF). Ostatecznie celem jest przesyłanie dużych ilości danych tak szybko, jak to możliwe.

Ten wariant koncentruje się na szczególnie wysokich wartościach IOPS, czyli liczbie operacji wejścia/wyjścia na sekundę. Jest to szczególnie ważne w przypadku inferencji AI, gdzie duża liczba operacji dostępu do niewielkich porcji danych musi być przetwarzana szybko.

Jak dotąd publicznie zaprezentowano jedynie zNAND-O. Pozostałe dwa systemy nie zostały oficjalnie potwierdzone i nadal znajdują się na wczesnym etapie rozwoju.

Tym posunięciem Samsung podąża za strategią swojego konkurenta SK Hynix, który również rozwija trzy wyspecjalizowane rodzaje pamięci NAND. W dłuższej perspektywie podejście to może zaostrzyć konkurencję na rynku pamięci masowej dla AI i rozszerzyć rolę pamięci flash NAND poza tradycyjne zastosowania w dyskach SSD.