Od lat cyberbezpieczeństwo podąża według znajomego schematu.
Atakujący opracowują nowe rodzaje złośliwego oprogramowania lub techniki, obrońcy analizują aktywność, ulepszają logikę wykrywania, a narzędzia bezpieczeństwa uczą się rozpoznawać kolejne warianty. Tradycyjne modele bezpieczeństwa w dużej mierze opierały się na tym, że atakujący zachowują się w wystarczająco przewidywalny sposób, aby systemy wykrywania mogły z czasem ich dogonić.
Ataki oparte na AI całkowicie to zmieniają.
Badacze bezpieczeństwa coraz częściej używają terminów takich jak „hakowanie na wyczucie” do opisywania ataków napędzanych przez duże modele językowe (LLM), w których atakujący określa cel, a AI zajmuje się znaczną częścią wykonania technicznego. Zamiast ręcznie pisać ładunki lub nieustannie modyfikować skrypty, atakujący mogą teraz automatyzować te procesy na ogromną skalę.
Rezultatem są szybsze i bardziej adaptacyjne ataki, które ujawniają coraz większe ograniczenia strategii bezpieczeństwa opartych przede wszystkim na wykrywaniu.
Ataki generowane przez AI stają się znacznie trudniejsze do przewidzenia
Tradycyjne rodziny złośliwego oprogramowania często pozostawiają po sobie rozpoznawalne wzorce.
Ataki generowane przez AI nie muszą ich pozostawiać.
Jeśli jeden ładunek wywoła wykrycie, atakujący mogą po prostu polecić modelowi przepisanie go z wykorzystaniem innych metod wykonania, interfejsów API, sposobów tworzenia skryptów lub struktur poleceń. Każdy wariant może działać na tyle inaczej, aby ominąć wcześniejszą logikę wykrywania.
Szczególnie niebezpieczna jest szybkość tego procesu.
Atakujący nie muszą już poświęcać dni ani tygodni na ręczne przebudowywanie narzędzi. AI znacząco przyspiesza proces dostosowywania złośliwego oprogramowania, tworzenia kampanii phishingowych, automatyzowania rozpoznania i modyfikowania technik ataku.
Już teraz obserwujemy rzeczywiste przykłady tej zmiany.
Badacze wykazali, że atakujący wykorzystują asystentów AI do automatyzowania rozpoznania, generowania dopasowanych ładunków, kompresowania skradzionych danych, a nawet tworzenia spersonalizowanych żądań okupu. W innych przypadkach złośliwe oprogramowanie miało integrować funkcje LLM działające na żywo bezpośrednio z łańcuchem ataku, dynamicznie żądając nowych instrukcji w zależności od napotkanego środowiska.
Zamiast opierać się na statycznym kodzie, ataki mogą teraz ewoluować w czasie rzeczywistym.
Tradycyjne modele wykrywania mają trudności z dotrzymaniem kroku
Większość platform wykrywania zagrożeń i reagowania na nie na punktach końcowych (EDR) w dużym stopniu opiera się na powtarzalności.
Wyszukują podejrzane pliki binarne, wzorce zachowań, znane wskaźniki lub aktywność powiązaną z wcześniejszymi atakami.
Problem polega na tym, że ataki generowane przez AI znacznie osłabiają ten model.
Jeśli jedna ścieżka wykonania zostanie wykryta, atakujący generują kolejną. Jeśli obrońcy zidentyfikują jeden wariant skryptu, AI przepisuje go w inny sposób. Systemy wykrywania są zmuszone do ciągłego reagowania, podczas gdy atakujący nieustannie się dostosowują.
Systemy AI w naturalny sposób skłaniają się również ku korzystaniu z legalnych narzędzi administracyjnych, które już znajdują się w środowiskach firmowych, w tym PowerShell, WMI, Python, interfejsów API chmury i narzędzi do zdalnego zarządzania.
Narzędzia te już istnieją w większości organizacji i często bezpośrednio wtapiają się w normalne działania.
To sprawia, że ataki oparte na AI są znacznie trudniejsze do odróżnienia od legalnej aktywności.
To wyzwanie jest jednym z powodów, dla których organizacje coraz częściej wdrażają platformy stawiające na zapobieganie, takie jak ThreatLocker®. Zamiast próbować ustalić, czy każde działanie jest złośliwe, ThreatLocker stosuje mechanizmy kontroli modelu zerowego zaufania, które od samego początku ograniczają to, jakie aplikacje, skrypty i komunikacja mogą być uruchamiane.
Want to learn more about ThreatLocker?
AI przyspiesza przejście na model zerowego zaufania
Właśnie dlatego ataki oparte na AI wzmacniają potrzebę stosowania modeli bezpieczeństwa zerowego zaufania.
Model zerowego zaufania zakłada, że żadna aplikacja, użytkownik, urządzenie ani komunikacja nie powinny być automatycznie uznawane za zaufane, nawet jeśli już znajdują się w środowisku.
Zamiast całkowicie polegać na identyfikowaniu złośliwych zachowań po fakcie, model zerowego zaufania koncentruje się na kontrolowaniu tego, co systemy mogą robić od samego początku.
Takie podejście staje się niezwykle cenne, gdy ataki są zaprojektowane tak, aby nieustannie się zmieniać.
Jeśli niezatwierdzone aplikacje nie mogą zostać uruchomione, nie ma znaczenia, jak często AI przepisuje ładunek.
Jeśli dostęp do PowerShell jest ściśle kontrolowany za pomocą funkcji zezwalania na aplikacje i odgradzania ThreatLocker™, napastnicy tracą jedno ze swoich najskuteczniejszych narzędzi do rozpoznania, eskalacji uprawnień i ruchu bocznego. Jeśli komunikacja wychodząca jest ograniczona, eksfiltracja skradzionych danych staje się znacznie trudniejsza.
Zamiast próbować przewidzieć każdą nową odmianę ataku, organizacje zmniejszają narażenie, eliminując zbędne zaufanie, ograniczając uprawnienia i całkowicie ograniczając ścieżki wykonywania.
Ograniczanie staje się skuteczniejsze niż rozpoznawanie
Tradycyjne strategie cyberbezpieczeństwa w dużej mierze koncentrowały się na rozpoznawaniu złośliwej aktywności po jej pojawieniu się.
Ataki generowane przez AI sprawiają, że staje się to coraz trudniejsze.
Organizacje przechodzą obecnie na modele bezpieczeństwa, które przedkładają ograniczanie nad rozpoznawanie. Zamiast próbować identyfikować każde możliwe zagrożenie, obrońcy określają, co jest wyraźnie dozwolone, a wszystko inne domyślnie blokują.
Oznacza to kontrolowanie wykonywania aplikacji, ograniczanie narzędzi administracyjnych, ograniczanie komunikacji, egzekwowanie zasady najmniejszych uprawnień oraz zmniejszanie możliwości ruchu bocznego.
W ThreatLocker zdecydowanie wierzymy, że zapobieganie musi być najważniejsze.
Szybka reakcja nie jest wystarczająco szybka, gdy AI może błyskawicznie dostosowywać ataki szybciej, niż obrońcy są w stanie tworzyć mechanizmy wykrywania.
Rozwiązania ThreatLocker® pomagają organizacjom wdrażać to podejście poprzez zezwalanie na aplikacje, mechanizmy domyślnego blokowania, ograniczenia komunikacji oraz szczegółową kontrolę nad aktywnością punktów końcowych.
Era AI wymaga innego podejścia do bezpieczeństwa
AI zasadniczo zmienia szybkość, skalę i zdolność adaptacji cyberataków, jednocześnie ujawniając ograniczenia tradycyjnych reaktywnych modeli bezpieczeństwa.
Organizacje nie mogą już zakładać, że złośliwe oprogramowanie pozostanie niezmienne wystarczająco długo, aby sygnatury lub analityka behawioralna mogły niezawodnie za nim nadążyć.
Ataki generowane przez AI są projektowane tak, aby nieustannie ewoluować.
Dlatego Zero Trust zyskuje coraz większe znaczenie.
Poprzez egzekwowanie ścisłych granic operacyjnych i ciągłe sprawdzanie, co aplikacje, systemy, użytkownicy i urządzenia mogą robić, organizacje mogą znacząco ograniczyć możliwości skutecznego wykonania, rozprzestrzeniania się lub komunikowania ataków opartych na AI.
Ponieważ ataki mogą zmieniać się natychmiast, kontrolowanie środowiska jest znacznie skuteczniejsze niż próby rozpoznawania każdej odmiany po fakcie.
Zapoznaj się z magazynem ThreatLocker Cyber Hero , aby poznać więcej praktycznych wskazówek i spostrzeżeń dotyczących Zero Trust
oraz z poniższymi artykułami, aby dowiedzieć się więcej o korzystaniu z rozwiązań Zero Trust w celu ochrony środowiska przed AI:
Jak wdrożyć strukturę bezpieczeństwa Zero Trust
Czy cyberbezpieczeństwo oparte na AI może pokonać cyberataki oparte na AI?



