AI w cyberatakach: jak Microsoft Threat Intelligence ostrzega

Wprowadzenie: dlaczego to ma znaczenie teraz

Przedsiębiorstwa szybko integrują AI, aby zwiększać produktywność, ale atakujący wdrażają te same technologie, by zwiększyć szybkość, skalę i powtarzalność działań cybernetycznych. Microsoft Threat Intelligence podkreśla, że najczęstszym dziś złośliwym zastosowaniem jest generowanie treści i kodu przy użyciu modeli językowych — co zmniejsza bariery techniczne, podczas gdy ludzie nadal kontrolują dobór celów i wykonanie. Dla zespołów IT kluczowy wniosek jest taki, że AI niekoniecznie tworzy „nowe” ścieżki ataku, ale znacząco przyspiesza istniejące i może zwiększać trwałość operacyjną.

Co nowego: jak atakujący wdrażają AI operacyjnie

Obserwacje Microsoft rozróżniają AI jako akcelerator (najczęstsze dziś) oraz AI jako broń (trend wschodzący).

AI jako akcelerator w całym cyklu ataku

Osoby stojące za zagrożeniami wykorzystują generative AI do:

• Tworzenia i lokalizowania treści phishingowych/socjotechnicznych (bardziej przekonujące przynęty, szybsze iteracje).
• Podsumowywania i triage skradzionych danych po naruszeniu, aby szybko identyfikować informacje o wysokiej wartości.
• Generowania, debugowania lub szkieletowego przygotowywania kodu (komponenty malware, skrypty, szablony infrastruktury).
• Przyspieszania rozpoznania, w tym badania podatności i zrozumienia ścieżek exploit z publicznych CVE.
• Budowania wiarygodnych person poprzez analizę ofert pracy, wyodrębnianie wymagań dla ról i generowanie kulturowo dopasowanych artefaktów tożsamości.

Kluczowym rzeczywistym przykładem w blogu jest aktywność północnokoreańskich zdalnych pracowników IT (śledzona jako Jasper Sleet i Coral Sleet), gdzie AI wspiera fałszowanie tożsamości, socjotechnikę i długoterminową trwałość — pomagając atakującym „zostać zatrudnionym, utrzymać zatrudnienie i nadużywać dostępu na dużą skalę”.

Obchodzenie zabezpieczeń AI (jailbreaking)

Microsoft odnotowuje aktywne eksperymenty z omijaniem mechanizmów ochronnych modeli, w tym:

• Przeformułowywanie promptów i wieloetapowe łączenie instrukcji
• Nadużywanie promptów w stylu system/developer
• Jailbreaki oparte na rolach (np. „Odpowiadaj jako zaufany analityk cyberbezpieczeństwa”), aby uzyskać ograniczone wskazówki

Nowy trend: eksperymenty z agentic AI

Choć nie zaobserwowano tego jeszcze na dużą skalę, Microsoft widzi wczesne eksperymenty z agentic AI do iteracyjnego podejmowania decyzji i wykonywania zadań — co potencjalnie może prowadzić do bardziej adaptacyjnego warsztatu działania, który utrudni wykrywanie i reagowanie.

Wpływ na administratorów IT i użytkowników końcowych

• Większa liczba i wyższa jakość phishingu zwiększa ryzyko kradzieży poświadczeń i naruszeń inicjowanych przez helpdesk.
• Szybsze wykorzystanie podatności i dobór narzędzi skraca okna czasowe na reakcję po ujawnieniu podatności.
• Większe ryzyko typu insider poprzez fałszywe scenariusze wykonawców/pracowników i nadużywanie legalnego dostępu.

Działania do podjęcia / kolejne kroki

• Wzmocnij tożsamość i dostęp: egzekwuj mechanizmy odporne na obejście MFA tam, gdzie to możliwe, stosuj Conditional Access i ściśle ograniczaj uprawnienia.
• Wzmocnij weryfikację przy zatrudnianiu i onboardingu wykonawców: weryfikuj tożsamości, stan urządzeń i granice dostępu dla pracowników zdalnych.
• Zwiększ odporność na phishing: szkolenia użytkowników plus kontrole techniczne (bezpieczne linki/załączniki, ochrona przed podszywaniem się).
• Monitoruj anomalne wzorce dostępu zgodne z zachowaniem zewnętrznych/fałszywych pracowników (nietypowa geolokalizacja, impossible travel, nietypowe narzędzia).
• Wykorzystuj funkcje wykrywania i dochodzenia Microsoft Defender wskazane przez Microsoft do wykrywania, usuwania skutków i reagowania na aktywność wspieraną przez AI.

Microsoft podkreśla, że AI może również wzmacniać obrońców — gdy jest połączona z silnymi kontrolami, wykrywaniem opartym na analizie wywiadowczej i skoordynowanymi działaniami zakłócającymi.