W piątek Dario Amodei, CEO firmy Anthropic, w swoim blogu, który liczy ponad 14 000 słów opisał nieziemskie sposoby, w jakie sztuczna inteligencja ogólna (AGI, choć on woli określenie „potężna AI”) zmieni nasze życie. W wpisie zatytułowanym „Machines of Loving Grace” snuje wizję przyszłości, gdzie AI mogłaby skompresować 100 lat postępu medycznego w dekadę, wyleczyć choroby psychiczne, takie jak PTSD i depresja, przesłać twój umysł do chmury oraz zlikwidować ubóstwo. Jednocześnie firma Anthropic podobno planuje pozyskanie nowych funduszy, celując w wycenę na poziomie 40 miliardów dolarów.
Obecne AI nie jest w stanie zrealizować żadnej z tych wizji. Jak sam Amodei przyznaje, potrzeba setek miliardów dolarów na moce obliczeniowe, by wytrenować modele AGI, które będą działały na centrach danych wartych biliony, zużywających energię porównywalną z ilością potrzebną do zasilania milionów domów. Nie wspominając o tym, że nikt nie jest pewien, czy jest to w ogóle możliwe. Amodei sam mówi: „Oczywiście nikt nie może z całą pewnością przewidzieć przyszłości, a efekty potężnej AI będą jeszcze bardziej nieprzewidywalne niż wcześniejsze zmiany technologiczne, więc to wszystko nieuchronnie opiera się na przypuszczeniach.”
Szefowie firm AI opanowali sztukę składania wielkich obietnic przed ogromnymi rundami finansowania. Weźmy na przykład Sama Altmana z OpenAI, którego blog „The Intelligence Age” poprzedził oszałamiającą rundę finansowania w wysokości 6,6 miliarda dolarów. W swoim wpisie stwierdził, że świat osiągnie superinteligencję „za kilka tysięcy dni”, co przyniesie „ogromny dobrobyt”. To przekonujący spektakl: naszkicuj utopijną przyszłość, wspomnij o rozwiązaniach dla największych lęków ludzkości – śmierci, głodu, ubóstwa – a następnie przekonaj, że jedynym sposobem na osiągnięcie tego techno-raju jest usunięcie pewnych przeszkód i wpompowanie bezprecedensowego kapitału. To genialny marketing, wykorzystujący nasze największe nadzieje i obawy, jednocześnie omijając konieczność dostarczenia konkretnych dowodów.
Czas publikacji tego wpisu pokazuje również, jak zażarta jest konkurencja. Jak zauważa Amodei, 14 000 słów utopijnego manifestu to coś nietypowego dla firmy Anthropic, która zbudowała swoją reputację na rozsądnych ocenach ryzyka, a nie na gwiezdnych wizjach. Nawet w swoim najnowszym wpisie Amodei podkreśla, że Anthropic stawia na otwarte rozmowy o ryzyku związanym z AI, a nie na uwodzicielskie wizje techno-utopii.
Ale mówienie o bezpieczeństwie nie jest porywającym tematem prezentacji inwestorskiej, a nowi konkurenci pojawiają się codziennie. Współzałożyciel OpenAI Ilya Sutskever otworzył swoje laboratorium AI, a była CTO OpenAI, Mira Murati, podobno zaczyna własny projekt. Blog Amodei’ego nie tylko sprzedaje jego wizję – to także walka o utrzymanie konkurencyjności.
Pomimo deklarowanego unikania wielkich obietnic, Amodei poświęca tysiące słów na malowanie przyszłości, w której AI może przekształcić losy ludzkości (zdając się dorównywać Altmanowi, którego uwodzicielskie przemowy są już legendą w świecie technologii). Wpis tylko raz wspomina o „alignment” – czyli zapewnieniu, że systemy AI będą działać zgodnie z ludzkimi wartościami, a o bezpieczeństwie nie mówi nic. Ta sprzeczność ujawnia brutalną prawdę: w świecie rozwoju AI, nawet ci, którzy boją się nadmiernych obietnic, są zmuszeni grać w grę wielkich wizji, aby zdobyć niezbędne fundusze.
Na chwilę obecną istnieje olbrzymia przepaść między tym, co technologia jest w stanie zrobić, a utopią, jaką wyobrażają sobie liderzy AI. Doprowadziło to do wielu zasłużonych krytyk – jak AI ma zmienić świat w kilka lat, skoro nie potrafi nawet niezawodnie policzyć, ile liter „R” znajduje się w słowie „strawberry”? AI teraz naprawdę wyróżnia się automatyzacją rutynowych zadań i analizą ogromnych zbiorów danych, identyfikując wzorce z coraz większą precyzją. Ta umiejętność już wspiera takie dziedziny jak finanse, medycyna czy pojazdy autonomiczne. Ale choć te postępy są imponujące, twierdzenia, takie jak Amodei’ego, że AI mogłaby „strukturalnie wspierać demokrację”, wydają się przedwczesne i zbyt optymistyczne. Warto zauważyć, że niektórzy zwolennicy AGI uważają wpis Amodei’ego za zbyt łagodny (co przewidział, pisząc w przypisach, że powinni „wyjść na dwór i przewietrzyć się”).
Wpis Amodei’ego nie jest dla przeciętnego ciekawskiego AI, ani nie jest przekonującą mapą drogową przyszłości AGI – zresztą, AGI nie istnieje i może nigdy nie istnieć w formie, jaką wyobraża sobie przemysł AI. To oferta dla inwestorów: wspierając Anthropic, nie tylko finansujesz firmę; kupujesz udział w promiennej przyszłości ludzkości.