Chip AI Microsoft Maia 300 debiutuje z gigantyczną pamięcią HBM4 o pojemności 288 GB i przepustowością 18 TB/s

Microsoft oficjalnie zaprezentował Maia 300, swój najnowszy akcelerator AI zaprojektowany na zamówienie, który ma zmniejszyć zależność firmy od sprzętu Nvidii i AMD. Jego premiera następuje krótko po tym, jak OpenAI zaprezentowało własny układ scalony, Jalapeno.  Układ jest następcą Maia 200, który zadebiutował na początku tego roku. Pierwszy układ Maia, Maia 100, pojawił się w 2023 roku. 

Maia 300 wykorzystuje konstrukcję wielochipletową obejmującą główną sekcję obliczeniową wytwarzaną w zaawansowanym procesie technologicznym N2P (2 nm) firmy TSMC. Obudowa zawiera również osobne chiplety pamięci i wejścia/wyjścia, dzięki czemu Microsoft może produkować poszczególne komponenty w procesach dostosowanych do ich wymagań. Według Reuters część pomocniczych układów scalonych jest wytwarzana w tańszym procesie technologicznym 3 nm.

Akcelerator zapewnia wydajność obliczeniową do 13,8 PFLOPS w formacie FP4 i 6,9 PFLOPS przy precyzji FP8. Znamionowa moc jego SoC wynosi 950 W, czyli znacznie więcej niż 750 W w przypadku Maia 200. Microsoft wyposażył Maia 300 w osiem stosów HBM4, oferujących łącznie 288 GB pamięci i przepustowość 18 TB/s. Każdy stos zapewnia 36 GB pojemności, a pamięć HBM4 działa z szybkością 9 Gb/s na pin. Dla porównania Maia 200 oferuje 216 GB pamięci HBM3E o przepustowości 7 TB/s, dzięki czemu nowy akcelerator jest przydatny do zadań wnioskowania intensywnie wykorzystujących pamięć.

Microsoft ulepszył również możliwości połączeń między akceleratorami. Maia 300 zapewnia dwukierunkową przepustowość połączeń scale-up na poziomie 3,2 TB/s i wykorzystuje dwupoziomową sieć opartą na Ethernecie z autorskim protokołem transportowym AI. Pojedyncza szafa mieści 96 akceleratorów Maia 300, a architektura scale-up obsługuje klastry zawierające około 12 000 akceleratorów.

Poza samymi parametrami technicznymi Microsoft twierdzi, że Maia 300 może generować o 40% więcej tokenów na megawat niż czołowe systemy AI oparte na GPU. Według doniesień w pełni obsadzona konfiguracja z 96 akceleratorami zapewnia nawet siedmiokrotnie większą przepustowość generowania tokenów w skali szafy niż Maia 200. Firma nie podała jednak wystarczających szczegółów dotyczących konkurencyjnych konfiguracji GPU, aby można było niezależnie ustalić skalę jej przewagi pod względem efektywności.

Microsoft zamierza rozpocząć wdrażanie Maia 300 w środowiskach produkcyjnych w 2027 roku, a docelowo planuje rozbudować infrastrukturę do mocy wielu gigawatów. Reuters donosi, że w przyszłym roku firma może wdrożyć ponad milion układów Maia 300, co podkreśla jej ambicje zmniejszenia zależności od akceleratorów AI innych producentów.