Huawei z sukcesami, ale pobór mocy x4 większy niż inni
Chińczycy kolejny raz udowadniają, że gdy brak im wiedzy i umiejętności, na pomoc przychodzi opcja "dużo więcej gorszego sprzętu".
Firma Huawei ogłosiła sukces swojego klastra AI CloudMatrix 384, który przewyższa w wybranych scenariuszach wydajność rozwiązań opartych na układach NVIDII. Mowa konkretnie o pracy z dużym modelem językowym R1 od DeepSeek, posiadającym aż 671 miliardów parametrów. W teście tym klaster oparty na akceleratorach Ascend 910C osiągnął lepsze wyniki niż konkurencyjny układ NVIDIA H800, a nawet pełnoprawny H100.
Chociaż nie jest idealnie, to Chiny nie mają innego wyboru
CloudMatrix 384 to konstrukcja serwerowa składająca się z 384 układów Ascend 910C oraz 192 CPU rozmieszczonych w 16 szafach rackowych. Komunikacja odbywa się całkowicie za pomocą połączeń optycznych, co zapewnia szybki przesył danych. Całość stanowi bezkompromisowe podejście do AI, szczególnie że Huawei ma obecnie ograniczony dostęp do najnowocześniejszych technologii produkcji chipów z powodu sankcji.
Celem chińczyków było "przedefiniowanie fundamentów infrastruktury AI". Jeden z inżynierów firmy stwierdził, że badania miały zbudować zaufanie do chińskich układów NPU jako realnej alternatywy dla NVIDII. CloudMatrix 384 oferuje podobno moc obliczeniową rzędu 300 PFLOPS (dla precyzji BF16), podczas gdy NVIDIA GB200 NVL72 osiąga około 180 PFLOPS (BF15).
Nie wszystko jednak wygląda tak różowo - głównym problemem CloudMatrix 384 jest jego energożerność. Całość pobiera aż 559 kW, co stanowi niemal czterokrotność zapotrzebowania energetycznego NVL72 od NVIDII (145 kW). W przeliczeniu na efektywność energetyczną oznacza to, że rozwiązanie Huawei jest średnio 2,3 razy mniej wydajne.
Pomimo tej wady, dla chińskich klientów klaster Huawei może okazać się atrakcyjną alternatywą, zwłaszcza że obowiązujące regulacje uniemożliwiają im dostęp do zestawów opartych na technologii NVIDII. Dodatkowo spadające w ostatnich latach ceny energii elektrycznej w Chinach (nawet o 40%) sprawiają, że koszt eksploatacji nie jest barierą nie do przejścia.
Jensen Huang, CEO w NVIDII, podczas wydarzenia VivaTech we Francji przyznał, że technologia jego firmy jest "o generację do przodu" względem Huawei, ale jednocześnie zaznaczył, że sztuczna inteligencja to problem równoległy - a więc można go rozwiązać przez zwiększanie liczby maszyn. I właśnie tym Huawei zdaje się odpowiadać - większym, potężniejszym, choć mniej efektywnym klastrem obliczeniowym.
