Chiny stworzyły własne GPT-4. Wystarczyła do tego garstka GPU
Każdy marzy o pozycji lidera na rynku AI oraz miliardowych dochodach. I chociaż wiele firm obiecuje złote góry, to chińskiemu 01.ai udało się osiągnąć spory progres.
Obecnie w świecie sztucznej inteligencji mamy dwóch niekwestionowanych liderów - NVIDIA oraz OpenAI. Pierwsza z firm przoduje pod względem hardware, oferując najwydajniejsze akceleratory AI. Druga zaś jest królem jeśli chodzi o software, a świetnym dowodem na to są ich modele językowe z rodziny GPT.
Yi-Lightning goni GPT-4o oraz Gemini 1.5 Pro
Oczywiście rynek ten wart jest setki miliardów dolarów, a tym samym każdy chce zagarnąć dla siebie nawet mały kawałek tego dochodowego tortu. Jak grzyby po deszczu wyrastają kolejne firmy, a jedna z nich pochwaliła się nie lada osiągnięciem. I to mimo sankcji nałożonych na Chiny przez Stany Zjednoczone.
Kai-Fu Lee, założyciel i szef 01.ai, powiedział w tym tygodniu, że jego firma wytrenowała jeden ze swoich najbardziej zaawansowanych modeli sztucznej inteligencji przy użyciu zaledwie 2000 układów o wartości "jedynie" 3 milionów dolarów. Dla porównania OpenAI przeznaczyło na wytrenowanie GPT-4 około 80 - 100 milionów dolarów, a w przypadku GPT-5 doniesienia mówią o kwocie nawet 1 miliarda dolarów.
A jakie są efekty Chińczyków? Według wykresu na stronie internetowej firmy, Yi-Lightning zajmuje 6. pozycję pod względem ogólnej wydajności mierzonej przez LMSIS na UC Berkeley. Innymi słowy jest dobrze, ale amerykańskie rozwiązania jak GPT-4o, Gemini czy Grok nie są zagrożone.
Tak dobry wynik uzyskano za sprawą szeregu optymalizacji i ograniczenia wąskich gardeł. Zbudowano m.in. wielowarstwowy system buforowania i zaprojektowano wyspecjalizowane silniki wnioskowania w celu lepszej alokacji zasobów. Zmniejszyło to koszty do około 10 centów za milion tokenów, czyli zaledwie 1/30 typowej stawki porównywalnych modeli.
Osiągnięcie 01.ai robi wrażenie, ale była to konieczność. Chiny nie mają dostępu do najwydajniejszych akceleratorów od NVIDII. Co prawda sporo obiecywał Huawei, ale pojawił się problem z produkcją tych układów. Zwłaszcza, gdy na światło dzienne wyszło używanie pośredników do korzystania z usług TSMC.
