W nowoczesnym świecie technologii, gdzie granice między rzeczywistością a fikcją stają się coraz bardziej rozmyte, pojawiają się nowe wyzwania prawne i etyczne.
W Badajoz w Hiszpanii, sąd dla nieletnich skazał 15 uczniów na roczny nadzór kuratorski za tworzenie i rozpowszechnianie sztucznie wygenerowanych nagich zdjęć swoich koleżanek z klasy. Młodzież w wieku od 13 do 15 lat została uznana za winną stworzenia 20 obrazów dziecięcej pornografii oraz 20 przestępstw przeciwko moralności.
Jako część wyroku, oskarżeni będą musieli uczestniczyć w zajęciach z równości płci i odpowiedzialnego korzystania z technologii. Sąd stwierdził, że nieletni używali aplikacji AI do manipulowania oryginalnymi zdjęciami dziewcząt pobranymi z mediów społecznościowych, nakładając ich twarze na nagie ciała kobiet.
Sprawa wyszła na jaw we wrześniu ubiegłego roku w Almendralejo, małym mieście na południowym zachodzie Hiszpanii, kiedy rodzice zgłosili, że zdjęcia ich córek krążą na WhatsAppie. Manipulowane zdjęcia realistycznie przedstawiały dziewczyny nago, co wywołało ogromny stres i niepokój wśród ofiar, niektóre z nich miały zaledwie 11 lat.
„To szok, gdy to widzisz,” powiedziała matka jednej z ofiar. „Obraz jest całkowicie realistyczny… Gdybym nie znała ciała mojej córki, pomyślałabym, że to zdjęcie jest prawdziwe.”
Matka innej ofiary, Miriam Al Adib, wyraziła swoje oburzenie na Instagramie, mówiąc: „Montaże są super realistyczne, to bardzo niepokojące i prawdziwy skandal.” Opowiedziała, jak jej córka przyszła do niej zdegustowana, mówiąc: „Mamo, zobacz, co mi zrobili.” Al Adib wyraziła również obawy, że fałszywe nagie zdjęcia mogą trafić na strony dla dorosłych.
Inna matka, Fátima Gómez, powiedziała lokalnym mediom, że jej córka była szantażowana przez kolegę z klasy z powodu fałszywych fotek. Chłopiec zażądał od niej pieniędzy, a gdy odmówiła, wysłał jej manipulowane nagie zdjęcie siebie.
Śledztwo policyjne ujawniło, że do generowania obrazów z zdjęć w mediach społecznościowych użyto aplikacji o nazwie „ClothOff AI”. Aplikacja ta ma niepokojące hasło „Rozbierz kogokolwiek, rozbierz dziewczyny za darmo” i podobno pobiera 10 euro za wygenerowanie 25 nagich zdjęć.
Ten przełomowy przypadek podkreśla pilną potrzebę aktualizacji przepisów i polityk w celu rozwiązania rosnącego zagrożenia związanego z AI-generowanymi deepfake’ami, szczególnie tych, które dotyczą nieletnich. Eksperci twierdzą, że istniejące ustawodawstwo jest niewystarczające do ścigania tych nowych przestępstw, pozostawiając ofiary bez ochrony.
„Poza tym konkretnym procesem, te fakty powinny skłonić nas do refleksji nad potrzebą edukacji na temat równości między mężczyznami a kobietami,” powiedziała Malvaluna, która reprezentowała dotknięte rodziny. Podkreśliła potrzebę kompleksowej edukacji seksualnej w szkołach, aby zwalczyć szkodliwe skutki pornografii i deepfake’ów.
W miarę szybkiego rozwoju technologii AI rosną obawy o jej potencjalne nadużycia i wykorzystanie, przy czym kobiety i dzieci są niewspółmiernie często celem ataków. Światowe Forum Ekonomiczne (WEF) oraz amerykańscy ustawodawcy niedawno zwrócili uwagę na brak polityk chroniących nieletnich przed ryzykiem związanym z AI.
Współpraca między decydentami, firmami technologicznymi, edukatorami i rodzicami jest niezbędna, aby stawić czoła tym wyzwaniom i stworzyć bezpieczniejszą cyfrową przyszłość dla wszystkich, zwłaszcza dla dzieci.