China Telecom, jeden z państwowych gigantów telekomunikacyjnych, stworzył dwa duże modele językowe (LLM), które zostały wytrenowane wyłącznie na chipach wyprodukowanych w Chinach.
To przełomowe osiągnięcie stanowi istotny krok w dążeniu Chin do samowystarczalności w dziedzinie technologii AI, zwłaszcza w obliczu zaostrzających się ograniczeń ze strony USA, które dotyczą dostępu do zaawansowanych półprzewodników dla konkurentów.
Zgodnie z informacjami Instytutu AI firmy, jeden z modeli nosi nazwę TeleChat2-115B, a drugi pozostał nienazwany. Oba zostały przeszkolone na dziesiątkach tysięcy chipów wyprodukowanych w Chinach. To osiągnięcie jest szczególnie godne uwagi, biorąc pod uwagę surowsze przepisy eksportowe USA, które ograniczyły zdolność Chin do zakupu zaawansowanych procesorów od firm takich jak Nvidia. W oświadczeniu opublikowanym na WeChat, Instytut AI podkreślił, że ten sukces pokazuje, że Chiny są w stanie samodzielnie trenować modele LLM i otwiera to nową erę innowacji oraz samodzielności w technologii AI.
Skala tych modeli robi wrażenie. China Telecom poinformował, że nienazwany model LLM ma bilion parametrów. W terminologii AI, parametry to zmienne, które pomagają modelowi uczyć się podczas treningu. Im więcej parametrów, tym bardziej złożony i potężny staje się model AI.
Chińskie firmy starają się nadążyć za globalnymi liderami AI spoza kraju. Amerykańskie ograniczenia eksportowe, dotyczące najnowszych chipów AI od Nvidii, takich jak A100 i H100, zmusiły Chiny do szukania alternatyw. W rezultacie, chińskie przedsiębiorstwa opracowują własne procesory, aby zmniejszyć zależność od technologii zachodnich. Na przykład model TeleChat2-115B ma około 100 miliardów parametrów i jest w stanie dorównać wydajnością popularnym platformom.
China Telecom nie ujawnił, która firma dostarczyła chipy zaprojektowane lokalnie do trenowania tych modeli. Jednak, jak już wcześniej wspominaliśmy, chipy Ascend firmy Huawei odgrywają kluczową rolę w planach AI tego kraju.
Huawei, które w ostatnich latach zmagało się z sankcjami ze strony USA, także zwiększa swoje wysiłki w dziedzinie sztucznej inteligencji. Firma niedawno rozpoczęła testy swojego najnowszego procesora AI, Ascend 910C, z potencjalnymi klientami w kraju. Duże chińskie firmy serwerowe, jak i internetowe giganty, które wcześniej używały chipów Nvidii, testują wydajność nowego procesora. Procesory Ascend firmy Huawei, jako jedna z niewielu dostępnych alternatyw dla sprzętu Nvidii, są postrzegane jako kluczowy element strategii Chin, mający na celu zmniejszenie zależności od zagranicznych technologii.
Oprócz współpracy z Huawei, China Telecom współpracuje także z innymi krajowymi producentami chipów, takimi jak Cambricon – chińskim start-upem specjalizującym się w procesorach AI. Te partnerstwa odzwierciedlają szerszy trend w chińskim przemyśle technologicznym, który zmierza w kierunku budowania rodzimego ekosystemu rozwiązań AI, chroniąc kraj przed skutkami amerykańskich kontroli eksportowych.
Dzięki opracowywaniu własnych chipów AI i technologii, Chiny stopniowo zmniejszają swoją zależność od sprzętu produkowanego za granicą, zwłaszcza od poszukiwanych i drogich GPU Nvidii. Choć amerykańskie sankcje utrudniają chińskim firmom zakup najnowszego sprzętu Nvidii, na rynku pojawił się czarny rynek chipów zagranicznych. Zamiast ryzykować działalność w szarej strefie, wiele chińskich firm woli kupować alternatywy o niższej mocy, takie jak modele poprzednich generacji, aby zachować dostęp do oficjalnego wsparcia i usług Nvidii.
Osiągnięcie Chin odzwierciedla szerszą zmianę w podejściu do technologii AI i półprzewodników, kładąc nacisk na samowystarczalność i odporność w coraz bardziej konkurencyjnej globalnej gospodarce, zwłaszcza w obliczu amerykańskich polityk protekcjonistycznych.