Podczas tegorocznego Computex 2024, CEO NVIDIA, Jensen Huang, zaprezentował najnowszy chip przyspieszający AI – Blackwell. NVIDIA, wyceniana na ponad 3 biliony dolarów, nie zwalnia tempa, dążąc do dominacji na rynku sprzętu AI. Huang jest pewien, że firma nadal będzie zaskakiwać analityków.
Blackwell, nazwany „superchipem”, składa się z dwóch połączonych rdzeni GPU i zawiera 208 miliardów tranzystorów – prawie trzykrotnie więcej niż poprzedni chip Hopper. NVIDIA twierdzi, że dzięki temu, Blackwell jest 30 razy szybszy w wykonywaniu zadań AI. Model językowy o wielkości 100 miliardów parametrów, który na chipach A100 byłby szkolony przez miesiąc, teraz może być przeszkolony w nieco ponad tydzień na 256 chipach Blackwell – to czterokrotnie krótszy czas.
NVIDIA deklaruje, że Blackwell może obniżyć koszty i zużycie energii nawet 25-krotnie w porównaniu z Hopperem dla niektórych zadań AI. Przykładowo, szkolenie modelu z 1,8 biliona parametrów, które wcześniej wymagało 8000 GPU Hoppera zużywających 15 megawatów energii, teraz wymaga tylko 2000 GPU Blackwell, zużywających 4 megawaty.
Jednak powszechne przyjęcie Blackwell może znacząco zwiększyć ogólne zużycie energii przez systemy AI. Jeśli Blackwell umożliwi 10-krotny wzrost adopcji AI, może to oznaczać użycie miliona GPU Blackwell, zużywających 1,875 gigawata energii – równowartość dwóch elektrowni jądrowych. Bez odnawialnych źródeł energii, emisje CO2 i zużycie wody przez AI napędzane Blackwell będą ogromne.
Era Blackwell oznacza możliwość szkolenia modeli językowych 10 razy większych niż GPT-3 w podobnym czasie i przy użyciu podobnych zasobów, co znacząco zwiększy zdolności AI w przetwarzaniu języka naturalnego. Podczas prezentacji wspomniano, że cyfrowi asystenci o ludzkich możliwościach mogą stać się opłacalni w szerokim wdrożeniu.
Jednak Blackwell to nie tylko technologia, to także wyzwanie dla społeczeństwa, aby sprostać jego implikacjom. Konieczne jest staranne rozważenie wpływu na środowisko i działania mające na celu jego ograniczenie.