Chińczycy oszukali branżę niskimi kosztami. Prawda wyszła na jaw
Chiński model sztucznej inteligencji, DeepSeek, szybko stał się sensacją, ale okazuje się, że jego koszty treningu były bardzo mocno zaniżone, o czym dowiadujemy się teraz z najnowszego raportu.

Sukces DeepSeek wymagał ogromnych finansów. Firma skłamała
Firma analityczna SemiAnalysis w gruntowny sposób prześwietliła, co kryje się za kwotą 5 milionów dolarów, jakie podała chińska firma DeepSeek jako koszty treningu własnego modelu AI, czyli R1. Chińczycy reklamowali swój produkt, przy okazji twierdząc, że zasoby obliczeniowe Nvidii i innych są zupełnie niepotrzebne. Prawda jest jednak zgoła odmienna.
Pierwotnie DeepSeek ogłosił koszt wdrożenia swojego modelu R1 wynoszący 5 milionów dolarów - co plasowałoby dokładnie tam, gdzie model OpenAI GPT o1. To spowodowało panikę na giełdzie, ale po analizie SemiAnalysis okazuje się, że firma DeepSeek (projekt chińskiego funduszu hedgingowego High-Flyer) od dawna korzystała z zasobów Nvidii. W roku 2021 kupili 10 000 sztuk serwerów Nvidia A100 wykonywanych do obliczeń AI - wtedy Chiny nie były objęte zbyt restrykcyjnymi ograniczeniami eksportu. Oprócz tego, DeepSeek wszedł w posiadanie jednostek Nvidia H800 i 10 000 H100 AI - wszystko to są dedykowane serwery do obliczeń sztucznej inteligencji i udostępniania mocy obliczeniowej w chmurze.



Ta pula jest współdzielona między DeepSeek i High-Flyer do różnych celów, w tym działań giełdowych, treningu, badań i rozwoju. Kapitałowe koszty wydatków na serwery to 1,6 miliarda dolarów, a koszty operacyjne to 944 mln dolarów. To aż 400x więcej niż oryginalnie szacowano!
Co ciekawe, najwyżej postawione osoby w tworzeniu projektu DeepSeek otrzymywały honorarium rzędu 1,3 mln dolarów, ale według raportu SemiAnalysis faktycznie DeepSeek R1 to model, który jest w stanie efektywnie rywalizować z OpenAI, aczkolwiek przedstawione przez chińską firmę koszty operacyjne i kapitałowe były mocno zaniżone.
Właśnie z powodu tej niewiedzy, a raczej kreatywnie korzystnego przedstawienia własnego produktu, rynek zareagował tak dużym tąpnięciem, a Nvidia straciła z wartości rynkowej aż 553 miliardy dolarów.