DeepSeek potwierdza. Chińskie karty oferują świetną wydajność w AI
Wygląda na to, że Państwo Środka powoli uniezależnia się na rynku sztucznej inteligencji. Mowa już nie tylko o rozwiązaniach software, ale i hardware.
Jedną z zalet modeli sztucznej inteligencji firmy DeepSeek jest możliwość uruchamiania ich lokalnie przy użyciu stosunkowo niedrogich podzespołów, takich jak Raspberry Pi. Okazuje się jednak, że LLM w postaci DeepSeek V3 i R1 mogą działać także na chińskich kartach graficznych firmy Moore Threads. Jeśli te informacje się potwierdzą, byłby to duży sukces Chińczyków, pozwalający na zmniejszenie zależności od NVIDII.
Chińczycy nie podają konkretnych liczb ani porównań
Według serwisu IT Home, Moore Threads zdołało uruchomić zoptymalizowany model DeepSeek-R1-Distill-Qwen-7B na swoich kartach graficznych MTT S80 (klasa konsumencka) i MTT S4000 (klasa enterprise). Firma wykorzystała lekkie środowisko uruchomieniowe Ollama, które umożliwia lokalne działanie dużych modeli językowych zarówno na komputerach z systemem macOS, jak i Linux oraz Windows.
Warto jednak zaznaczyć, że choć doniesienia opisują wydajność kart MTT S80 i MTT S4000 jako "znakomitą" i "wysoką", to brak konkretnych wyników oraz porównań z innymi układami. Trudno więc weryfikować te deklaracje. Dodatkowo model MTT S80 nie jest oficjalnie dostępny poza Chinami, co uniemożliwia niezależne testy.
Czy to więc zwykłe kłamstwa? Niekoniecznie. Układy tej marki są zdolne do wykonywania kodu skompilowanego z myślą o architekturze CUDA, stosowanej przez NVIDIĘ. Dodając do tego odpowiednią optymalizację obliczeń i zarządzania pamięcią, wydajność kart MTT może być faktycznie całkiem niezła, ale zdecydowanie gorsza niż zachodnie akceleratory AI.
Największą zaletą jest jednak możliwość produkcji tych układów w Chinach, z wykorzystaniem zakładów SMIC, bez obawy o sankcje nakładane przez USA. To wystarczy do zasilenia instytucji państwowych oraz mniejszych firm, dla których liczy się przede wszystkim niska cena. Daje też pewność, że brak tutaj tylnych furtek (tzw. backdoor) dla zachodnich wywiadów.
