Zaczęło się niewinnie – piątkowe popołudnie, środek lipca, a na biurko Phillipa Misnera z zespołu Microsoft AI Incident Detection and Response wpada zgłoszenie o dziwnym przypadku. Ktoś ukradł klucz API do generatora obrazów i obchodził zabezpieczenia, tworząc seksualizowane wizerunki celebrytów. Misner, choć nie pierwszy raz w akcji, wiedział, że to nie będzie kolejny spokojny weekend.
To, co początkowo wyglądało na jednostkowy incydent, szybko rozrosło się do rozmiarów poważnego ataku. Skradzione dane logowania użytkowników zaczęły pojawiać się na forach znanych z mowy nienawiści. Sprawa trafiła do centrali, a Microsoft uruchomił pierwsze w swojej historii działania prawne mające na celu walkę z nadużyciami sztucznej inteligencji.
„Traktujemy nadużycia AI bardzo poważnie. Tego typu obrazy potrafią wyrządzić realną krzywdę,” mówi Misner.
Storm-2139 – „usługa hakowania na abonament”
Według dokumentów sądowych, Microsoft rozpracował sieć o nazwie Storm-2139 – grupę składającą się z sześciu osób, które zbudowały narzędzia do włamywania się na platformy AI, w tym Azure OpenAI Service. Czterej z nich – z Iranu, Wielkiej Brytanii, Hongkongu i Wietnamu – zostali wskazani z imienia i nazwiska w pozwie cywilnym złożonym w sądzie federalnym w Wirginii. Kolejnych dziesięciu użytkowników miało używać tych narzędzi, by omijać zabezpieczenia i łamać regulaminy platformy.
„To jasny sygnał – nie będziemy tolerować nadużywania naszych narzędzi,” podkreśla Richard Boscovich z Digital Crimes Unit Microsoftu.
Tysiące promptów, jeden cel – obejść filtry
Osoby korzystające z nielegalnych narzędzi celowo manipulowały promptami (poleceniami), by oszukać filtry treści. Jeśli prompt z nazwiskiem celebryty był blokowany – używano opisów wyglądu. Jeśli system nie akceptował wyrażeń uznanych za szkodliwe – wpisywano je z użyciem indeksów, symboli lub notacji technicznych. Microsoft, na szczęście, szybko zareagował i wzmocnił swoje zabezpieczenia.
„Było widać czarno na białym – ich celem było złamanie barier i tworzenie obrazów, które były po prostu zakazane,” mówi Michael McDonald, analityk danych w DCU.
Rozpad grupy i informacje z wnętrza
Zaraz po złożeniu pierwszego pozwu, Microsoft przejął stronę internetową grupy i rozpoczął dalsze działania śledcze. I tu wchodzi element niemal filmowy – członkowie Storm-2139 zaczęli donosić na siebie nawzajem. Wymieniali e-maile prawników, podsuwali anonimowe tipy, zrzucali winę jeden na drugiego.
„Presja była tak duża, że zaczęli pękać,” komentuje Maurice Mason z DCU.
AI pod kontrolą – a przynajmniej próbujemy
Microsoft nie ograniczył się do pościgu. Pomógł też ofiarom odzyskać kontrolę nad swoimi kontami i wzmocnić zabezpieczenia. Do identyfikacji źródeł obrazów użyto m.in. metadanych Content Credentials – technologii, która potwierdza, skąd pochodzi dany plik. Ta funkcja jest dziś jedną z kluczowych broni w walce z deepfake’ami.
„To, co się wydarzyło, przypomina nam, że AI to nie tylko technologia. To odpowiedzialność,” mówi Sarah Bird, dyrektorka ds. odpowiedzialnego rozwoju AI w Microsoft.
Walka, która trwa od lat
Dla Microsoftu to nie pierwszy raz, kiedy staje w obronie ofiar nadużyć w internecie. Już w 2015 roku firma rozpoczęła usuwanie nieautoryzowanych, intymnych zdjęć z wyszukiwarki Bing. Od tego czasu powstał 42-stronicowy raport, który pomaga ustawodawcom w lepszym przeciwdziałaniu zjawisku nadużyć związanych z obrazami generowanymi przez AI. Firma udostępniła też bezpłatnie narzędzie PhotoDNA wspierające identyfikację i usuwanie takich materiałów z internetu.
Courtney Gregoire, wiceprezeska i szefowa ds. bezpieczeństwa cyfrowego w Microsoft, nie ma złudzeń: „Ofiary – niezależnie od tego, czy są nastoletnimi dziewczynami czy znanymi kobietami – często muszą poświęcić całe życie, by odzyskać kontrolę nad swoją tożsamością. To trauma, która zostaje.”
Microsoft przekonuje, że potrzebujemy zmian systemowych – lepszego prawa, nowych zabezpieczeń i edukacji, zwłaszcza wśród młodych. A przede wszystkim – podejścia, które na pierwszym miejscu stawia człowieka, nie technologię.