OpenAI od jakiegoś czasu próbuje utrzymać się na fali sukcesów, jednak ich najnowszy model sztucznej inteligencji – Orion – przynosi coraz mniejsze korzyści. Według raportów, choć Orion osiągnął poziom wydajności GPT-4 już po zaledwie 20% treningu, dalszy rozwój nie daje takich spektakularnych wyników jak przejście z GPT-3 na GPT-4.
Pracownicy OpenAI donoszą, że Orion, choć lepszy w zadaniach językowych, ma problem z przeskoczeniem GPT-4 w bardziej złożonych zadaniach, jak na przykład kodowanie. „Orion nie zawsze radzi sobie lepiej od swojego poprzednika”, zauważył jeden z pracowników. To może być spory cios, biorąc pod uwagę ogromne oczekiwania związane z kolejnymi generacjami AI.
W początkowych fazach treningu AI zazwyczaj można liczyć na duże postępy, ale później, gdy model staje się coraz bardziej zaawansowany, każde kolejne procenty poprawy przychodzą z trudem. Dalsze 80% treningu Oriona prawdopodobnie nie przyniesie już takich przełomów jak wcześniej, co stawia OpenAI przed wyzwaniem: jak uzasadnić gigantyczne nakłady inwestorów?
Po rundzie finansowania, w której firma pozyskała 6,6 miliarda dolarów, oczekiwania rosną. Jednak presja finansowa to tylko jeden z problemów – kolejnym są wyzwania technologiczne, które zmieniają dotychczasowe strategie rozwoju sztucznej inteligencji. Jeśli Orion nie sprosta nadziejom, OpenAI może mieć trudności w przyciągnięciu nowych inwestorów w przyszłości.
Nie tylko OpenAI boryka się z problemem wyczerpujących się zasobów danych. W raporcie The Information wspomniano, że globalnie dostępne dane tekstowe generowane przez ludzi mogą się skończyć między 2026 a 2032 rokiem. Firmy AI „wycisnęły już wszystko, co możliwe” z dostępnych informacji, a bez nowych, świeżych danych trudno o kolejne wielkie przełomy.
Dlatego OpenAI – podobnie jak reszta branży – szuka alternatyw. Zamiast kontynuować zwiększanie mocy obliczeniowej modeli, zaczynają skupiać się na optymalizowaniu modeli po ich początkowym treningu. To fundamentalna zmiana podejścia, która może pozwolić na dalszy rozwój, choć na nieco innych zasadach.
Wygląda jednak na to, że OpenAI ma jeszcze jeden problem – odpływ kluczowych pracowników. Wydaje się, że nawet najlepsze plany mogą niewiele pomóc, jeśli firmie zabraknie rąk do pracy i głów do rozwiązywania przyszłych problemów.
Pracownicy OpenAI donoszą, że Orion, choć lepszy w zadaniach językowych, ma problem z przeskoczeniem GPT-4 w bardziej złożonych zadaniach, jak na przykład kodowanie. „Orion nie zawsze radzi sobie lepiej od swojego poprzednika”, zauważył jeden z pracowników. To może być spory cios, biorąc pod uwagę ogromne oczekiwania związane z kolejnymi generacjami AI.
W początkowych fazach treningu AI zazwyczaj można liczyć na duże postępy, ale później, gdy model staje się coraz bardziej zaawansowany, każde kolejne procenty poprawy przychodzą z trudem. Dalsze 80% treningu Oriona prawdopodobnie nie przyniesie już takich przełomów jak wcześniej, co stawia OpenAI przed wyzwaniem: jak uzasadnić gigantyczne nakłady inwestorów?
Po rundzie finansowania, w której firma pozyskała 6,6 miliarda dolarów, oczekiwania rosną. Jednak presja finansowa to tylko jeden z problemów – kolejnym są wyzwania technologiczne, które zmieniają dotychczasowe strategie rozwoju sztucznej inteligencji. Jeśli Orion nie sprosta nadziejom, OpenAI może mieć trudności w przyciągnięciu nowych inwestorów w przyszłości.
Nie tylko OpenAI boryka się z problemem wyczerpujących się zasobów danych. W raporcie The Information wspomniano, że globalnie dostępne dane tekstowe generowane przez ludzi mogą się skończyć między 2026 a 2032 rokiem. Firmy AI „wycisnęły już wszystko, co możliwe” z dostępnych informacji, a bez nowych, świeżych danych trudno o kolejne wielkie przełomy.
Dlatego OpenAI – podobnie jak reszta branży – szuka alternatyw. Zamiast kontynuować zwiększanie mocy obliczeniowej modeli, zaczynają skupiać się na optymalizowaniu modeli po ich początkowym treningu. To fundamentalna zmiana podejścia, która może pozwolić na dalszy rozwój, choć na nieco innych zasadach.
Wygląda jednak na to, że OpenAI ma jeszcze jeden problem – odpływ kluczowych pracowników. Wydaje się, że nawet najlepsze plany mogą niewiele pomóc, jeśli firmie zabraknie rąk do pracy i głów do rozwiązywania przyszłych problemów.