W świecie technologii, gdzie innowacje przeplatają się z kontrowersjami, najnowsze działania OpenAI rzucają nowe światło na debatę dotyczącą bezpieczeństwa sztucznej inteligencji.
OpenAI, znane z rozwijania systemu GPT-4, które stanowi podstawę ich chatbota ChatGPT, ogłosiło niedawno, że tworzy komitet ds. bezpieczeństwa. Zadaniem tego gremium będzie doradzanie zarządowi w kwestiach „kluczowych decyzji dotyczących bezpieczeństwa i ochrony” związanych z projektami i operacjami firmy. Wygląda na to, że OpenAI bierze na poważnie zarzuty dotyczące bezpieczeństwa, które nasiliły się po głośnej rezygnacji badacza Jana Leike, który oskarżył firmę o stawianie „błyszczących produktów” ponad bezpieczeństwo.
Co ciekawe, w tym samym czasie firma rozpoczęła szkolenie swojego nowego modelu AI, który ma zastąpić GPT-4. Oznacza to, że możemy spodziewać się kolejnej generacji zaawansowanych systemów AI, które, jak twierdzi OpenAI, będą liderami branży pod względem możliwości i bezpieczeństwa. Jednakże, firma nie wspomniała nic o kontrowersjach, które ostatnio ją otaczały. Czyżby temat był zbyt gorący, nawet jak na ich nowy komitet?
Skład komitetu może rzucić nieco światła na kierunek, w którym podąża firma. Przewodniczącym jest Sam Altman, CEO OpenAI, a w składzie znajdują się również Bret Taylor, przewodniczący zarządu, oraz czterech ekspertów technicznych i politycznych z OpenAI. Dołączają do nich Adam D’Angelo, CEO Quory, i Nicole Seligman, była radca generalna Sony. To zespół gwiazd, ale czy będą w stanie sprostać wyzwaniom, które na nich czekają?
Pierwszym zadaniem komitetu będzie ocena i dalszy rozwój procesów i zabezpieczeń OpenAI. Mają na to 90 dni, po czym firma ma zamiar publicznie udostępnić przyjęte zalecenia, oczywiście „w sposób zgodny z bezpieczeństwem i ochroną”. Brzmi to trochę jak zapowiedź kolejnego sezonu ulubionego serialu – czekamy na kolejne odcinki, mając nadzieję, że będą równie emocjonujące, co edukacyjne.
Debata na temat bezpieczeństwa AI jest daleka od zakończenia, ale kroki, które podejmuje OpenAI, mogą być kluczowe dla przyszłości tej technologii. Czy nowy komitet ds. bezpieczeństwa okaże się bohaterem, na którego czekaliśmy, czy też kolejnym czarnym charakterem w dramacie technologicznym? Tego dowiemy się niebawem. Tymczasem, pozostaje nam obserwować i, oczywiście, trzymać za nich kciuki.