Zmiany nadchodzą: nowe regulacje UE w zakresie AI i ich wpływ na cyberbezpieczeństwo.
1 sierpnia 2024 roku w życie wejdzie nowe Rozporządzenie UE dotyczące sztucznej inteligencji, które ma na celu zbudowanie zaufania do systemów AI, zapewniając jednocześnie ich bezpieczeństwo i przejrzystość. Si West, Dyrektor ds. Zaangażowania Klientów w firmie Resilience, podkreśla, jak ważne jest przygotowanie firm do zgodności z przepisami i optymalizacja odporności cybernetycznej.
AI i bezpieczeństwo: związek na zawsze
Technologie sztucznej inteligencji i uczenia maszynowego mają potencjał do rewolucji w cyberbezpieczeństwie – zarówno na dobre, jak i na złe. AI umożliwia hakerom prowadzenie nielegalnych działań, w tym usprawnienie i automatyzację tradycyjnych technik, narzędzi i procedur, takich jak malware polimorficzne, które zmienia swój kod, aby unikać wykrycia, a także zaawansowane phishingi i deepfakes, które są skuteczniejsze w oszukiwaniu ludzi.
Jednakże AI może również zwalczać te zagrożenia poprzez wykrywanie anomalii, wykrywanie oszustw i analizę zachowań, identyfikując poziom narażenia organizacji na ryzyko. Te technologie analizują ogromne ilości danych, umożliwiając firmom bardziej proaktywne zarządzanie ryzykiem cybernetycznym.
Innowacje napędzane przez ludzkie pętle
Wdrażanie Rozporządzenia UE ma na celu rozwiązanie problemów związanych z przejrzystością i odpowiedzialnością, wymagając, aby użytkownicy byli informowani podczas interakcji z systemami AI i aby mechanizmy interwencji ludzkiej były zawsze dostępne.
Z ludźmi w pętli, modelowanie i symulacje kwantyfikacji ryzyka cybernetycznego często opierają się na AI, ale kluczową rolę odgrywają ludzie, jeśli chodzi o proaktywne zarządzanie cyberzagrożeniami. Kontrole wymagają ciągłego monitorowania i aktualizacji, aby nadążać za ewoluującymi zagrożeniami, a ludzie pozostają niezbędną częścią umożliwiającą skuteczną pętlę informacji zwrotnej. Tego rodzaju legislacja zwiększa zaufanie i wzmacnia uprawnienia jednostek.
Wyzwania implementacyjne
Firmy muszą być świadome wyzwań, jakie przyniesie Rozporządzenie UE. Będzie kluczowe, aby zapewnić, że firmy mogą stosować się do przepisów bez nadmiernego obciążenia. Przedsiębiorstwa muszą być informowane, w co inwestować, aby przestrzegać regulacji. MŚP z ograniczonymi finansami są tutaj najbardziej zagrożone, ponieważ ich głównym celem jest zazwyczaj wzrost i przetrwanie, a zarządzanie ryzykiem cybernetycznym może być postrzegane jako 'dodatek’.
Ostatecznie samo Rozporządzenie będzie musiało znaleźć równowagę między regulacją a innowacją oraz utrzymać środowisko wspierające dla firm, nie tylko aby utrzymać globalną konkurencyjność UE w zakresie ich zdolności AI, ale także z powodu kluczowej roli AI w odporności cybernetycznej.
Si West, Dyrektor ds. Zaangażowania Klientów w Resilience, podsumowuje: „Rozporządzenie to wprowadzi rygorystyczne standardy zarządzania ryzykiem, zarządzania danymi, przejrzystości i ciągłego monitorowania. Z rozporządzeniem, które prawdopodobnie stanie się globalnym ramem dla zarządzania AI, firmy na całym świecie będą musiały dostosować się do tych regulacji, aby być zgodne z przepisami i odporne na bardzo realne zagrożenia dzisiejszych czasów.”