Jeśli kiedykolwiek marzyłeś o własnym superkomputerze do sztucznej inteligencji, Nvidia właśnie spełnia te marzenia. Na targach CES firma zapowiedziała premierę Project Digits – osobistego superkomputera AI, który trafi na rynek w maju.
W centrum tego cuda technologii znajdziemy nowy chip GB10 Grace Blackwell Superchip, który łączy ogromną moc obliczeniową z kompaktowym designem. System jest na tyle niewielki, że zmieści się na biurku i działa na zwykłym gniazdku elektrycznym. Jeszcze niedawno taki sprzęt wymagałby wielkich, energożernych maszyn, a dziś? Jest mniejszy od tostera! Project Digits obsłuży modele AI o wielkości do 200 miliardów parametrów, a cena wyjściowa wynosi „zaledwie” 3000 dolarów. Wizualnie sprzęt przypomina Mac Mini, co może sugerować, że Nvidia celuje w elegancję i prostotę.
„Sztuczna inteligencja stanie się standardem w każdej branży. Dzięki Project Digits superchip Grace Blackwell trafia do rąk milionów deweloperów” – podkreśla Jensen Huang, CEO Nvidii. „Postawienie AI na biurku każdego naukowca, badacza i studenta to krok ku nowej erze technologii”.
Moc w kieszonkowym rozmiarze
Każdy system Project Digits jest wyposażony w 128 GB zintegrowanej pamięci (dla porównania, przeciętny laptop ma od 16 do 32 GB RAM-u) oraz nawet 4 TB superszybkiej pamięci NVMe. Dla bardziej wymagających zastosowań można połączyć dwa takie urządzenia, co pozwoli obsłużyć modele aż do 405 miliardów parametrów. Dla porównania, jeden z modeli Meta – Llama 3.1 – właśnie tyle parametrów zawiera.
Chip GB10 zapewnia wydajność na poziomie 1 petaflopa (to trylion operacji AI na sekundę!) przy precyzji FP4. Wykorzystuje najnowsze rdzenie CUDA i Tensor piątej generacji, połączone z procesorem Grace opartym na 20 energooszczędnych rdzeniach ARM. Nvidia współpracowała z MediaTekiem, aby zoptymalizować wydajność i oszczędność energii tego rozwiązania. Krótko mówiąc – to jak wyciskanie soku z pomarańczy, ale z najmniejszej kropli uzyskujesz maksimum smaku.
AI w zasięgu ręki
Użytkownicy otrzymają dostęp do szerokiej gamy oprogramowania od Nvidii, w tym bibliotek, zestawów narzędzi i gotowych modeli AI. System działa na systemie operacyjnym Nvidia DGX OS, opartym na Linuksie, i obsługuje popularne frameworki takie jak PyTorch czy Jupyter notebooks. Co więcej, deweloperzy mogą dopasowywać modele AI za pomocą narzędzia Nvidia NeMo i przyspieszać swoje projekty dzięki bibliotekom RAPIDS.
Warto dodać, że Project Digits pozwala na rozwijanie i testowanie modeli lokalnie, co eliminuje konieczność ciągłego łączenia się z chmurą. Jednak w razie potrzeby, gotowe projekty można przenosić do centrów danych lub usług chmurowych, dzięki wspólnej architekturze Grace Blackwell i platformie Nvidia AI Enterprise.
Nvidia z misją na każdą kieszeń
Dla tych, którzy szukają prostszych rozwiązań, Nvidia ma już w ofercie tańsze urządzenia. W grudniu firma wprowadziła na rynek Jetson Orin Nano Super za 249 dolarów, który obsługuje modele AI o wielkości do 8 miliardów parametrów. To propozycja dla hobbystów i startupów, którzy chcą zacząć swoją przygodę z AI bez wielkich inwestycji.
Podsumowując: Project Digits to nie tylko kolejny sprzęt, ale wizja demokratyzacji sztucznej inteligencji. Możliwość posiadania superkomputera na własnym biurku to coś, co jeszcze dekadę temu wydawało się science fiction. Teraz? To po prostu kolejny krok w stronę przyszłości. Gotowy?