Ostatnie badania z Anglia Ruskin University w Wielkiej Brytanii ujawniły niepokojące trendy w ciemnych zakątkach internetu.
W najnowszym raporcie, który mógłby być scenariuszem do niezłego cyberpunkowego thrillera, naukowcy z Anglia Ruskin University odkryli rosnące zapotrzebowanie na materiały CSAM generowane przez sztuczną inteligencję na forach dark webu. Dr Deanna Davy i profesor Sam Lundrigan przeprowadzili analizę rozmów na tych forach z ostatniego roku, odkrywając niepokojący wzór, w którym użytkownicy aktywnie uczą się i dzielą technikami tworzenia takiego materiału przy użyciu narzędzi AI.
„Odkryliśmy, że wielu przestępców pozyskuje zdjęcia dzieci, aby manipulować nimi, a pragnienie 'hardcore’ obrazów eskalujące od 'softcore’ jest regularnie dyskutowane,” wyjaśnia Dr Davy w swoim blogu. To obala mit, że obrazy generowane przez AI są 'bez ofiar’, ponieważ często używane są do nich rzeczywiste zdjęcia dzieci.
Co więcej, członkowie forum nazywają twórców AI-generowanych CSAM „artystami”, z niektórymi wyrażającymi nadzieję, że technologia rozwinie się na tyle, by proces ten był łatwiejszy. Taka normalizacja tego kryminalnego zachowania w tych społecznościach online jest zatrważająca.
Profesor Lundrigan dodał: „Rozmowy, które analizowaliśmy, pokazują, że poprzez rozprzestrzenianie się porad i wskazówek, jak używać AI w ten sposób, tego typu materiały nadużywające dzieci są eskalowane, a przestępczość rośnie. To dodaje do rosnącego globalnego zagrożenia nadużyciami wobec dzieci online we wszystkich formach i musi być postrzegane jako kluczowy obszar do adresowania w naszej odpowiedzi na ten typ przestępstwa.”
W związku z tym, w innym doniesieniu BBC z tego samego dnia, policja w Greater Manchester (GMP) ogłosiła, co opisują jako „przełomową sprawę” związaną z użyciem AI do tworzenia nieprzyzwoitych obrazów dzieci. Hugh Nelson, 27-latek z Bolton, przyznał się do 11 przestępstw, w tym dystrybucji i tworzenia nieprzyzwoitych obrazów, i ma zostać skazany 25 września.
Detective Constable Carly Baines z GMP opisała sprawę jako „szczególnie unikalną i głęboko przerażającą”, zauważając, że Nelson przekształcił „normalne codzienne fotografie” rzeczywistych dzieci w nieprzyzwoite obrazy za pomocą technologii AI. „To pierwsza taka sprawa w naszym regionie i jest przełomowa na skalę krajową,” dodała.
W obliczu tych wydarzeń, eksperci wzywają do wielowymiarowego podejścia w celu zwalczania tego rosnącego zagrożenia, w tym aktualizacji przepisów prawnych, aby wyraźnie adresować CSAM generowane przez AI, rozwijania bardziej zaawansowanych narzędzi AI do wykrywania i usuwania takich materiałów, a także zwiększenia świadomości publicznej o szkodliwości wszystkich form CSAM, w tym treści generowanych przez AI.
Wygląda na to, że wirtualny świat potrzebuje realnych rozwiązań, i to szybko. Czy jesteśmy gotowi na kolejny rozdział w walce z cyfrową przestępczością?